DefinicjaHalucynacje AI to odpowiedzi modelu językowego, które brzmią wiarygodnie, ale zawierają nieprawdziwe lub zmyślone informacje, np. nieistniejący przepis, źródło, cenę albo termin. Wynikają z tego, że model przewiduje prawdopodobny tekst, a nie sprawdza faktów. Ryzyko zmniejsza podanie modelowi właściwych danych, prawo do odpowiedzi „nie wiem” i weryfikacja przez człowieka.
Dlaczego AI zmyśla?
Model językowy nie sprawdza faktów, tylko układa najbardziej prawdopodobną odpowiedź. Gdy nie ma potrzebnej informacji, często nie mówi „nie wiem”, lecz dopisuje coś, co pasuje do pytania. Dlatego zmyślenie wygląda tak samo jak prawdziwa odpowiedź: ten sam pewny ton, ta sama poprawna polszczyzna.
Najczęściej zdarza się to przy szczegółach: numerach artykułów prawa, nazwach źródeł, cenach, datach, danych konkretnej firmy, których model nigdy nie widział. Im bardziej szczegółowe pytanie o rzeczy spoza ogólnej wiedzy, tym większa szansa na zmyślenie.
Kiedy halucynacje są groźne dla firmy?
Wtedy, gdy odpowiedź AI trafia do klienta albo do decyzji bez sprawdzenia. Kilka przykładów:
- Chatbot na stronie obiecuje klientowi rabat albo termin dostawy, których firma nie oferuje.
- Oferta przygotowana z pomocą AI zawiera parametr produktu, którego nie ma w karcie technicznej.
- Pismo do urzędu powołuje się na przepis, który nie istnieje albo mówi co innego.
Szkic maila do kolegi z zespołu, w którym AI pomyli się w drobiazgu, to mały problem. Odpowiedź wysłana klientowi w imieniu firmy to już zobowiązanie.
Jak ograniczyć halucynacje?
- Daj modelowi dane. Odpowiedzi oparte na Twoich dokumentach (ofercie, regulaminie, cenniku) są dużo pewniejsze niż odpowiedzi z ogólnej wiedzy modelu.
- Pozwól mu powiedzieć „nie wiem”. W poleceniu zapisz wprost, że gdy brakuje informacji, ma to przyznać i przekazać sprawę człowiekowi.
- Wymagaj źródła. Niech odpowiedź wskazuje fragment dokumentu, na którym się opiera. Łatwiej wtedy sprawdzić, czy nie jest zmyślona.
- Sprawdzaj to, co ważne. Ceny, terminy, zobowiązania i sprawy prawne zawsze zatwierdza człowiek.
Te sposoby zmniejszają ryzyko, ale go nie usuwają. Co zawsze sprawdzać samemu, opisuje artykuł ChatGPT w codziennej pracy firmy.
Najczęstsze pytania
Czy nowsze modele AI już nie halucynują?
Nowsze modele mylą się rzadziej, ale żaden dostawca nie gwarantuje, że model nigdy nie poda nieprawdy. Dlatego ważne odpowiedzi nadal trzeba sprawdzać.
Jak rozpoznać, że AI zmyśla?
Po samym tonie się nie da. Sprawdzaj konkrety: liczby, nazwy, przepisy i źródła. Jeśli odpowiedź nie wskazuje, skąd pochodzi informacja, traktuj ją jak szkic do weryfikacji.
Zobacz też
Źródła