Czy AI zmyśla? Halucynacje w praktyce — i jak trzymać agenta przy faktach

To najczęstsza obawa, jaką słyszymy przed wdrożeniem agenta AI: „a co, jeśli on klientowi naopowiada bzdur?”. Obawa jest zasadna — AI potrafi zmyślać i robi to z pełnym przekonaniem. Zamiast ją bagatelizować, wyjaśnimy, skąd to się bierze, ile potrafi kosztować i co konkretnie robi się, żeby agent na stronie firmowej trzymał się faktów.

Skąd się biorą halucynacje

Model językowy nie „wie” rzeczy tak jak człowiek — przewiduje, jakie słowa najprawdopodobniej powinny paść dalej. Gdy pytanie dotyka obszaru, o którym model nie ma informacji, mechanizm przewidywania i tak wygeneruje płynną, wiarygodnie brzmiącą odpowiedź. Tak powstaje halucynacja: tekst gramatycznie perfekcyjny i merytorycznie fałszywy. Co ważne, model nie sygnalizuje niepewności tonem — zmyślona cena brzmi identycznie pewnie jak prawdziwa.

Ile to kosztuje naprawdę: dwa głośne przypadki

Air Canada, 2024. Chatbot linii lotniczej wymyślił pasażerowi zasadę zwrotu, której nie było w regulaminie. Sprawa trafiła przed kanadyjski trybunał, a ten orzekł: firma odpowiada za to, co mówi jej chatbot, tak samo jak za słowa pracownika. Linia musiała wypłacić odszkodowanie.

DPD, 2024. Klient w kilka minut namówił bota kurierskiego do przeklinania i pisania wierszyków o tym, jak beznadziejna jest firma, w której bot pracuje. Zrzuty ekranu obiegły świat, firma wyłączyła bota tego samego dnia.

Wniosek z obu historii nie brzmi „AI jest groźne, nie dotykać”. Brzmi: agent bez ogrodzenia to ryzyko prawne i wizerunkowe — a ogrodzenie się buduje.

Reguła 1: agent odpowiada wyłącznie z Twoich treści

Fundamentalna różnica między „podpiętym czatem AI” a porządnie wdrożonym agentem: ten drugi nie odpowiada „z głowy” modelu, tylko na podstawie dostarczonej wiedzy — w naszym przypadku treści Twojej strony: oferty, cennika, godzin, regulaminów. Pytanie spoza tego zakresu nie uruchamia improwizacji. Ceny i terminy agent podaje tak, jak stoją na stronie — a gdy zmieniasz treść w panelu, odpowiada po nowemu, bo wiedza budowana jest z aktualnych treści.

Reguła 2: „nie wiem” to poprawna odpowiedź

Agent ma twardo wpisane zachowanie na wypadek braku wiedzy: powiedzieć to wprost i skierować do kontaktu. To dokładne przeciwieństwo mechanizmu halucynacji — zamiast dopowiadać, agent przyznaje się do granic swojej wiedzy. Z perspektywy klienta to żadna wada: „nie znajdę tego w ofercie, ale zostaw numer, oddzwonimy” buduje więcej zaufania niż wymyślona odpowiedź.

Reguła 3: człowiek czyta rozmowy

Każda rozmowa agenta zapisuje się w panelu Twojej strony. To działa podwójnie. Po pierwsze — kontrola: widzisz, co agent odpowiada, i jeśli coś jest nieprecyzyjne, poprawiasz treść strony, a agent od tej chwili odpowiada lepiej. Po drugie — wiedza o klientach: powtarzające się pytania to gotowa lista braków w ofercie i pomysłów na nowe treści. Traktuj przegląd rozmów jak cotygodniowy rytuał na 10 minut.

Czego nikt uczciwie nie zagwarantuje

Stuprocentowej gwarancji braku pomyłki nie da żaden dostawca — kto obiecuje inaczej, ten kłamie. Dlatego dobre wdrożenie zakłada, że pojedynczy błąd może się zdarzyć, i minimalizuje jego skutki: agent nie składa obietnic w imieniu firmy, nie podaje kwot spoza cennika, sprawy sporne kieruje do człowieka, a dzienne limity rozmów ustawiasz w panelu, więc nawet złośliwe „przegadywanie” bota (jak w przypadku DPD) ma twardy sufit kosztowy. Osobny temat to dane osobowe w rozmowach — poświęciliśmy mu tekst Agent AI a RODO.

Jak to sprawdzić przed uruchomieniem

Przy każdym wdrożeniu testujemy agenta na prawdziwych pytaniach z branży klienta — także podchwytliwych: o konkurencję, o rabaty, których nie ma, o rzeczy spoza oferty. Dopiero gdy odpowiedzi są rzetelne, agent trafia na stronę. Chcesz zobaczyć, jak zachowa się na pytaniach Twoich klientów? Napisz — pokażemy na żywo. A jeśli dopiero porównujesz rozwiązania, zacznij od tekstu Agent AI czy chatbot.