Czy zdarzyło Ci się korzystać z chatbota, który podał Ci informację brzmiącą bardzo
przekonująco, choć później okazało się, że była zupełnie nieprawdziwa? To mogło Cię
zaskoczyć, bo przecież jego odpowiedź brzmiała zapewne logicznie i pewnie.
Dzieje się tak dlatego, że narzędzia oparte na sztucznej inteligencji nie wiedzą, czy to, co
mówią, jest prawdą. Zamiast tego przewidują najbardziej prawdopodobne słowa i zdania na
podstawie wzorców z wcześniejszych tekstów. Czasem więc tworzą wypowiedzi, które
brzmią wiarygodnie, ale nie mają oparcia w faktach. To właśnie zjawisko nazywane
potocznie „halucynacjami AI”.
Dlaczego sztuczna inteligencja potrafi się mylić
Choć określenie „halucynacja” może brzmieć tajemniczo, zjawisko jest proste do
zrozumienia. Chatbot nie posiada wiedzy ani świadomości. Nie sprawdza faktów, nie rozumie
znaczenia słów i nie rozróżnia prawdy od fałszu. Działa według zasad statystyki, wybiera
takie połączenia wyrazów, które najbardziej pasują do wzorca. Jeśli więc zapytamy o temat,
którego model nie zna wystarczająco dobrze, „dopowie” brakujące elementy tak, by
wypowiedź była spójna. W efekcie powstaje zdanie brzmiące wiarygodnie, ale całkowicie
wymyślone.
Dlaczego te błędy brzmią przekonująco
To, co sprawia, że halucynacje bywają trudne do zauważenia, to sposób, w jaki zostają
przedstawione. Sztuczna inteligencja wypowiada się pewnie, płynnie i w tonie, który
przypomina człowieka. Dla odbiorcy brzmi to naturalnie, jak odpowiedź kompetentnej osoby.
Z psychologicznego punktu widzenia, im bardziej coś brzmi spójnie i zdecydowanie, tym
chętniej uznajemy to za prawdziwe. Dlatego tak łatwo ulec złudzeniu, że chatbot „wie”, skoro
mówi, wydawałoby się, tak logicznie.
Chatbot chce nas usatysfakcjonować
Warto wiedzieć, że chatboty są projektowane tak, by rozmowa z nimi była przyjemna i
angażująca. Nie powiedzą więc: „Nie wiem” albo „Nie potrafię odpowiedzieć”. Zamiast tego
postarają się wygenerować coś, co jak najlepiej pasuje do naszych oczekiwań.
Ich celem jest sprawianie, by użytkownik czuł się zrozumiany i zadowolony. W praktyce
oznacza to, że narzędzie potrafi „dopracować” odpowiedź tak, by brzmiała idealnie, nawet
jeśli musi ją wymyślić. Nie robi tego ze “złej woli”, bo nie ma intencji. Działa tak, jak zostało
zaprojektowane: ma dopasować się do rozmówcy. I właśnie to powinno nas zatrzymać na
chwilę. Bo jeśli technologia zawsze dąży do tego, by nas zadowolić, może zacząć mówić to,
co chcemy usłyszeć, a nie to, co jest prawdziwe.
Jak korzystać z AI bez utraty czujności
Halucynacje AI nie powinny nas zniechęcać do korzystania z nowych technologii, wystarczy
zachować czujność.
Pomaga w tym kilka prostych zasad:
– proś o wskazanie źródeł lub nazw publikacji,
– porównuj odpowiedzi w różnych narzędziach,
– zadaj pytanie inaczej – jeśli wynik się zmienia, warto zachować ostrożność,
– traktuj odpowiedź jako pomocniczą, nie ostateczną.
Dzięki takim nawykom można w pełni korzystać z potencjału AI, nie tracąc kontroli nad
informacją.
Na zakończenie
„Halucynacje AI” pokazują, że nawet bardzo zaawansowane narzędzia mogą się mylić bo
działają na zasadzie prawdopodobieństwa, a nie zrozumienia. Dlatego to my musimy
pozostać czujni, sprawdzać informacje i źródła. Korzystajmy z AI śmiało, ale pamiętajmy, że
to człowiek potrafi ocenić, co jest prawdziwe, a co tylko brzmi przekonująco.
