AI nie zmyśla losowo. Zmyśla wtedy, gdy zabraknie mu danych

„Czy to nie zmyśla" jest najczęstszym pytaniem, jakie słyszymy od właścicieli firm. Zwykle pada w formie zarzutu, a jest dobrym pytaniem technicznym.

Odpowiedź brzmi: zmyśla, ale nie losowo i nie zawsze tak samo. Zmyślenie pojawia się w konkretnym miejscu i da się przewidzieć, gdzie.

Co pokazał test na 2 modelach?

Budujemy narzędzie, które na podstawie ankiety o firmie pisze raport o tym, gdzie zastosować AI. 29 lipca 2026 sprawdziliśmy, jak ten sam materiał zniosą 2 modele o różnej cenie.

Warunki były identyczne: te same odpowiedzi z ankiety, ten sam skopiowany materiał wejściowy, ta sama firma testowa. Firma testowa była zmyślona celowo: hurtownia elektryczna spod Radomia, 4–9 osób, bez własnej strony. Nie ma jej w internecie, więc materiał wejściowy nie zawierał o niej żadnych znalezisk.

I tu zaczyna się różnica.

Tańszy model napisał, że firma ma działającą bazę stałych klientów i dobrą reputację w sieci instalatorów, oraz że jest praktycznie niewidoczna w wyszukiwaniach. Dopisał też kanał kontaktu z klientami, którego w ankiecie nie było. Nic z tego nie pochodziło z materiału.

Droższy model napisał wprost, że nie miał dostępu do polskich wyników wyszukiwania i opiera się wyłącznie na tym, co firma podała w ankiecie.

Struktura obu raportów była podobna. Liczby i szacunki w obu trzymały się kupy. Różnica dotyczyła jednej rzeczy: co model robi, gdy nie ma danych.

Dlaczego AI zmyśla akurat w tym miejscu?

Model językowy nie sprawdza faktu. Dobiera treść najbardziej prawdopodobną w danym miejscu tekstu.

Kiedy pytacie o coś, co zostało opisane tysiące razy, „najbardziej prawdopodobne" i „prawdziwe" to zwykle to samo zdanie. Kiedy pytacie o firmę, o której nie ma nic, te dwie rzeczy się rozjeżdżają. Model dalej ma napisać akapit o reputacji tej firmy, więc pisze akapit, który brzmi jak akapit o reputacji.

Dlatego zmyślenie jest przewidywalne. Siada tam, gdzie polecenie wymaga konkretu, a materiału nie ma. Nazwy, liczby, daty, cytaty, referencje.

I dlatego jest groźne. Nie brzmi jak błąd. Brzmi jak zdanie, które pasuje do reszty tekstu.

Jak sprawdzić, czy AI zmyśliło?

1. Poproście o źródło i sprawdźcie, czy istnieje. Nie „podaj źródła" na końcu, tylko przy konkretnym zdaniu: skąd to wiesz. Jeżeli odpowiedzią jest ogólnik w rodzaju „z powszechnie dostępnych informacji", traktujcie to zdanie jak niepotwierdzone. Jeżeli pada adres strony, otwórzcie go. To zajmuje kilkanaście sekund i rozstrzyga sprawę.

2. Zadajcie to samo pytanie jeszcze raz, w nowej rozmowie. Nie w tej samej, bo tam model widzi swoją poprzednią odpowiedź i będzie jej bronił. W nowej rozmowie fakt prawdziwy zwykle wraca taki sam, a zmyślony potrafi wrócić inny. Rozbieżność między dwiema odpowiedziami to nie dowód, ale bardzo dobry sygnał, gdzie patrzeć.

3. Zapytajcie wprost, czego nie wie. „Czego w tym materiale brakuje, żeby odpowiedzieć pewnie" i „które zdania w Twojej odpowiedzi są niepewne". Model, który potrafi wskazać własne luki, jest wart więcej niż ten, który zawsze brzmi pewnie. W naszym teście to była cała różnica między dwoma raportami.

Gdzie zmyślenie kosztuje najwięcej?

Nie tam, gdzie się tego spodziewacie. Nie w wielkich tematach, tylko w drobiazgach, które idą do klienta bez czytania.

Oferta z parametrem produktu, którego ten produkt nie ma. Mail z terminem, którego nikt nie potwierdzał. Opis usługi z referencją, która brzmi wiarygodnie i nie istnieje. Podsumowanie spotkania z ustaleniem, którego na spotkaniu nie było.

Każda z tych rzeczy jest drobna. Każda kosztuje wiarygodność u konkretnej osoby, a nie „ryzyko reputacyjne" w ogóle.

Czy przepisy każą sprawdzać, co napisało AI?

Żaden przepis nie mówi wprost „sprawdzaj odpowiedzi modelu". Dwa schodzą się jednak w tym samym miejscu.

Artykuł 4 rozporządzenia (UE) 2024/1689 mówi o kompetencjach w zakresie AI i obowiązuje od 2 lutego 2025. Po zmianie wprowadzonej rozporządzeniem (UE) 2026/1744, które obowiązuje od 27 lipca 2026, jest to obowiązek starannego działania: dostawca i podmiot stosujący mają podejmować środki wspierające rozwój kompetencji personelu, bez gwarantowania konkretnego poziomu. Wiedza, że model uzupełnia luki, oraz nawyk sprawdzania konkretów są dokładnie tą kompetencją.

Artykuł 50 rozporządzenia 2024/1689 obowiązuje od 2 sierpnia 2026 i dotyczy przejrzystości: chatbot ma się przedstawiać, a treść wygenerowana przez AI ma być oznaczona. Wytyczne Komisji Europejskiej do tego artykułu są z 20 lipca 2026. Cały kalendarz rozpisaliśmy we wpisie Terminy AI Act po Digital Omnibus.

Krajowo pilnuje tego KRiBSI, na podstawie ustawy z 3 lipca 2026 o systemach sztucznej inteligencji. Przepisy o kontrolach i karach zaczynają obowiązywać 28 października 2026.

Ani artykuł 4, ani artykuł 50 nie każą Wam czytać każdej odpowiedzi modelu. Oba zakładają, że ktoś w firmie wie, co to narzędzie potrafi zmyślić.

Kto odpowiada za tekst, który napisało AI?

Nie oddawajcie oceny.

Wszystko, co wychodzi z firmy na zewnątrz, czyta człowiek i to on odpowiada za każdą liczbę w środku. AI skraca drogę do wersji roboczej i to jest jej realna wartość. Ostatni krok zostaje po Waszej stronie.

Druga rzecz, prostsza i niedoceniana: dajcie materiał zamiast liczyć na wiedzę ogólną. Model, który dostał Wasz cennik, Waszą ofertę i Waszego maila od klienta, ma z czego pisać. Model, który ma zgadywać z pamięci, będzie zgadywał, bo o to go poprosiliście.

To jest ta sama zasada, którą opisaliśmy przy zasadach korzystania z AI w firmie: narzędzie działa dobrze wtedy, gdy dostaje kontekst i ma jasne granice.

Jeżeli chcecie sprawdzić przy okazji, które terminy z ustawy o AI dotyczą Waszej firmy, mamy na to bezpłatną wstępną orientację: 7 pytań i wynik od razu na stronie, bez maila i bez zapisów.

---

Test opisany wyżej wykonaliśmy na własnym narzędziu, na fikcyjnej firmie przygotowanej specjalnie do tego porównania. Żadne dane rzeczywistej firmy nie były w nim użyte.