Dlaczego AI zmyśla odpowiedzi? Halucynacja AI

Choć chatboty często określa się mianem „sztucznej inteligencji”, termin ten może być mylący, ponieważ sugeruje, że maszyna rozumie i myśli jak człowiek. W rzeczywistości modele językowe (takie jak ChatGPT) nie posiadają świadomości ani zdolności rozumowania. Są to zaawansowane programy przetwarzające gigantyczne ilości danych. ChatGPT najpierw „czyta” miliardy zdań z internetu, książek i artykułów, a następnie koduje je w formie wewnętrznych wzorców. Nie rozumie języka tak jak człowiek, ale potrafi go naśladować, rozpoznając i dopasowując charakterystyczne ciągi słów.

Kiedy użytkownik zadaje pytanie, model generuje odpowiedź, obliczając prawdopodobieństwo wystąpienia kolejnych słów. Można to porównać do bardzo zaawansowanego autouzupełniania. Model nie „wie”, czy dane zdanie jest prawdziwe — po prostu ocenia, czy jest prawdopodobne na podstawie danych treningowych.

Czym jest halucynacja AI?

Halucynacja AI to sytuacja, w której model generuje odpowiedź niezgodną z faktami lub całkowicie zmyśloną — na przykład przypisuje cytat, który nigdy nie padł, albo wymyśla nieistniejącą książkę czy osobę. Dzieje się tak dlatego, że system nie „rozumie” informacji w ludzki sposób, lecz przewiduje najbardziej prawdopodobne ciągi słów na podstawie danych treningowych. W efekcie odpowiedź może brzmieć bardzo wiarygodnie, mimo że zawiera błędy, uproszczenia lub całkowicie fałszywe informacje.

Skąd biorą się halucynacje AI?

Wbudowana losowość (tzw. „temperatura”)

Jednym z głównych powodów halucynacji jest wbudowana w model losowość. To dlatego, zadając to samo pytanie kilka razy, możemy otrzymać różne odpowiedzi. Parametr „temperatura” wpływa na to, jak bardzo model skłonny jest wybierać mniej oczywiste lub bardziej kreatywne odpowiedzi. Przykładowo, jeśli prawdopodobieństwo użycia słowa „kot” wynosi 81%, a „pies” 68%, model może wybrać jedno z nich — w zależności od ustawień i kontekstu wypowiedzi. Wyższa temperatura zwiększa różnorodność i kreatywność generowanych treści, ale jednocześnie podnosi ryzyko pojawienia się błędów, nieścisłości lub informacji całkowicie zmyślonych. Niższa temperatura sprawia natomiast, że odpowiedzi są bardziej przewidywalne i spójne, choć czasem mniej naturalne lub mniej twórcze.

Jakość danych treningowych

Model ChatGPT-3 był trenowany na około 370 miliardach słów — to odpowiednik zawartości ponad 100 bibliotek miejskich. Oczywiste jest, że nie wszystkie dane zostały zweryfikowane przez ludzi. Wśród nich znajdują się informacje błędne, sprzeczne, niepełne lub przestarzałe, co bezpośrednio wpływa na jakość generowanych odpowiedzi. Model uczy się bowiem na podstawie ogromnych zbiorów tekstów pochodzących z internetu, książek i artykułów, dlatego może powielać istniejące błędy lub nieaktualne dane. Z tego powodu odpowiedzi AI warto traktować jako wsparcie i punkt wyjścia, a nie zawsze jako w pełni pewne źródło informacji.

Stronniczość danych

Zbiory treningowe mogą być nieobiektywne, zależnie od źródeł, z których pochodzą. Przykładowo, informacje o komunizmie zebrane wyłącznie z publikacji sprzed 1989 roku będą różnić się od współczesnych ocen. Postrzeganie wydarzeń historycznych również zmienia się w zależności od kraju, kultury czy kontekstu politycznego — działania armii sowieckiej w 1945 roku będą opisywane inaczej w rosyjskich, a inaczej w amerykańskich podręcznikach. Model AI uczy się na podstawie takich materiałów, dlatego może nieświadomie odtwarzać obecne w nich uprzedzenia, stereotypy lub jednostronne narracje. Z tego powodu odpowiedzi generowane przez sztuczną inteligencję nie zawsze są całkowicie neutralne i warto analizować je krytycznie, szczególnie w tematach społecznych, historycznych i politycznych.

Overfitting (Nadmierne dopasowanie / przeuczenie)

Jeżeli model zbyt dokładnie dopasuje się do danych treningowych, traci zdolność uogólniania — „pamięta” konkretne przykłady zamiast reguł, które za nimi stoją. To trochę jak uczeń, który uczy się odpowiedzi z zeszłorocznego testu: na identycznych pytaniach poradzi sobie świetnie, ale przy nowym zestawie może mieć problem. W przypadku sztucznej inteligencji oznacza to, że model działa dobrze w znanym kontekście, lecz popełnia błędy, gdy otrzyma dane różniące się od tych, na których był trenowany. Przeuczenie może prowadzić do mniej trafnych odpowiedzi, gorszego rozumienia nowych sytuacji oraz ograniczonej elastyczności modelu w praktycznym zastosowaniu.

Przestarzała wiedza

Modele AI nie są aktualizowane w czasie rzeczywistym. Trenowanie ich trwa długo, więc ich wiedza zawsze będzie opóźniona w stosunku do najnowszych wydarzeń. Aktualniejsze informacje bywają dostępne tylko w nowszych, często płatnych wersjach modeli, które korzystają z dostępu do internetu. Niestety w tym także kryją się problemy. Źle sformułowana fraza wyszukiwania prowadzi do nieadekwatnych wyników. W wynikach wyszukiwania model możne trafić na farmy treści, SEO‑spam, paywalle, czy nieoznaczone treści sponsorowane. Przy sprzecznych doniesieniach model bywa zmuszony „wybrać” jedną wersję lub wygenerować uśrednienie.

Nieprecyzyjne pytanie

Zbyt ogólne pytania zwiększają ryzyko halucynacji. Gdy zapytamy: „Kto urodził się w 1643 roku?”, model najczęściej wybierze najbardziej prawdopodobną lub najbardziej rozpoznawalną odpowiedź (np. Isaac Newton), mimo że w tym samym roku urodziło się wiele innych znanych postaci. Podobnie prośba o napisanie eseju „w stylu Stanisława Lema” jest bardzo szeroka, ponieważ autor tworzył zarówno poważne powieści filozoficzne, jak Solaris, humorystyczne teksty, jak Dzienniki gwiazdowe, czy baśniowe opowieści, takie jak Bajki robotów. Im bardziej precyzyjne i szczegółowe jest pytanie, tym większa szansa, że model wygeneruje trafną, spójną i zgodną z oczekiwaniami odpowiedź.

Jak ograniczać ryzyko halucynacji AI?

Aby zminimalizować ryzyko uzyskania nieprawidłowej odpowiedzi, warto zadawać precyzyjne i szczegółowe pytania oraz jasno określać kontekst i oczekiwany zakres informacji. Pomocne jest również proszenie modelu o podanie źródeł, cytatów lub wyjaśnienie procesu rozumowania krok po kroku, co ułatwia ocenę wiarygodności odpowiedzi. Dobrą praktyką jest także zadawanie pytań doprecyzowujących i sprawdzanie, czy model konsekwentnie podtrzymuje swoje stanowisko. Ostatecznie najważniejsze informacje warto porównać z zewnętrznymi, renomowanymi źródłami, takimi jak publikacje naukowe, oficjalne dokumenty czy uznane serwisy informacyjne.

Modele językowe są potężnymi narzędziami, lecz ich „wiedza” to wynik statystycznego przewidywania, a nie logicznego rozumowania. Halucynacje AI są naturalnym efektem tej mechaniki. AI należy traktować jako pomocnika, a nie jako źródło niepodważalnej prawdy.

Krótka historia znaków drogowych

Źródła:

• NY Times: AI Hallucinations and ChatGPT
• TechRadar: ChatGPT is getting smarter but its hallucinations are spiraling
• University of Arizona Library FAQ: AI Hallucinations
• IBM: AI Hallucinations Overview