Halucynacje: jakie są zagrożenia?

Wraz z rosnącą popularnością i wykorzystaniem sztucznej inteligencji (AI) rośnie również świadomość, że może ona przedstawiać nieprawdziwe informacje jako fakty. Te „halucynacje” – brzmiące wiarygodnie, ale fałszywe informacje – stanowią znane ryzyko związane z korzystaniem z AI, jednak wiele osób nie zdaje sobie sprawy z tego, jak poważne mogą one być. Gdy ludzie nie rozumieją zagrożeń związanych z halucynacjami, nie są w stanie ocenić ich konsekwencji.

W branży medialnej duże modele językowe (LLM) – rodzaj generatywnej sztucznej inteligencji wyszkolonej do rozumienia i generowania języka ludzkiego – staną się podstawowymi narzędziami zapewniającymi rozrywkę nowej generacji. Sukces w tej dziedzinie zależy jednak od wsparcia modeli LLM wiarygodnymi, zewnętrznymi źródłami danych, co pozwoli zagwarantować dostarczanie dokładnych, aktualnych i trafnych wyników. Proces ten nazywa się „groundingiem”.

Dlaczego modele LLM generują halucynacje

Co istotne, modele LLM nie są bazami danych i nie przechowują danych w tradycyjnym sensie. Są to macierze prawdopodobieństwa wytrenowane na wyczerpujących, ale skończonych zbiorach danych. W rezultacie generują one odpowiedzi, a nie wyszukują i przedstawiają fakty. W praktyce głównym zadaniem modeli LLM jest przewidywanie najbardziej prawdopodobnego fragmentu tekstu (np. tokenu) w ramach wzorca narzuconego statystycznie. Jeśli najbardziej prawdopodobne językowo kolejne słowo w sekwencji okaże się nieprawidłowe, model LLM i tak je poda, ponieważ pasuje do wzorca.

Zatem podstawowym źródłem halucynacji jest sama istota tej technologii, oparta na prawdopodobieństwie, jednak ta technologiczna słabość jest dodatkowo potęgowana przez dane, na których szkolono modele. Modele są szczególnie podatne na halucynacje, gdy są proszone o udzielenie odpowiedzi na pytania, w przypadku których w zbiorze danych szkoleniowych jest niewiele danych tematycznych lub nie ma ich wcale, albo gdy odpowiednie dane szkoleniowe są sprzeczne. Jest to szczególnie widoczne w zastosowaniach medialnych, gdzie zadaje się pytania dotyczące najnowszych premier, ostatnich wydarzeń (takich jak ostatnia ceremonia rozdania Oscarów) oraz mniej znanych lub niszowych tytułów.

W dużej mierze winę za to ponosi internet, który stanowi główne źródło danych do szkolenia modeli LLM. Oparcie modelu LLM na prawdziwych, zweryfikowanych danych stanowi podstawową ochronę przed halucynacjami. Metody tego typu różnią się między sobą, podobnie jak źródła danych, z których korzystają. W rezultacie wiarygodność każdego konkretnego modelu LLM zależy wyłącznie od jakości danych, do których ma on dostęp. W 2026 r. żaden model LLM nie jest wolny od halucynacji, a biorąc pod uwagę charakter tej technologii, sytuacja ta raczej nie ulegnie zmianie w najbliższym czasie. Ugruntowanie jest w rzeczywistości jedynym realnym podejściem do ograniczenia halucynacji.

Modele językowe wielkiego zasięgu w branży rozrywkowej

Wraz z coraz powszechniejszym wdrażaniem i wykorzystaniem sztucznej inteligencji dostawcy usług rozrywkowych dążą do podniesienia jakości treści oferowanych swoim klientom. W tym zakresie sztuczna inteligencja zapewnia znaczną przewagę nad tradycyjnymi technologiami baz danych i wyszukiwania. Zaawansowane funkcje rankingowania i sortowania, hiperpersonalizowane rekomendacje, ujednolicenie katalogów treści oraz wyszukiwanie konwersacyjne to tylko niektóre z kluczowych zalet, jakie oferują duże modele językowe (LLM).

Metadane stanowią podstawę sukcesu każdego modelu języka naturalnego (LLM), którego zadaniem jest zrewolucjonizowanie sposobu, w jaki użytkownicy odbierają treści. Chociaż konsument może widzieć jedynie 10 lub 20 atrybutów metadanych dotyczących konkretnego filmu lub serialu, serwisy streamingowe i studia często śledzą setki, a nawet tysiące punktów danych dla poszczególnych tytułów.

Co istotne, stopień ryzyka wystąpienia halucynacji nie jest jednakowy dla wszystkich atrybutów metadanych. Niektóre atrybuty, takie jak typ treści i gatunek, wiążą się z bardzo niskim ryzykiem halucynacji, ponieważ duże modele językowe (LLM) sprawdzają się najlepiej, gdy odpowiedzi oparte na prawdopodobieństwie skupiają się na logice strukturalnej i mapowaniu kategorycznym. 

Gdy jednak atrybuty metadanych są wyjątkowo specyficzne, ryzyko wystąpienia halucynacji znacznie wzrasta. Na przykład identyfikatory treści i atrybuty matematyczne wiążą się z bardzo wysokim ryzykiem halucynacji. W takich przypadkach modele LLM z przekonaniem „zgadują” liczbę, którą uważają za prawdopodobną, ale która w rzeczywistości jest błędna. Na przykład liczby są często dzielone na podtokeny. Tak więc model LLM może postrzegać liczbę 154 jako 15 i 4. Podczas konstruowania tych liczb „matematyka” często się psuje, co prowadzi do błędów typu „off-by-one”. 

Numery sezonów i odcinków stanowią szczególne wyzwanie ze względu na sposób działania modeli LLM. Na przykład, jeśli model LLM zapoznał się z 1000 odcinków serialu „Simpsonowie”, wie, że istnieje 10. sezon i 5. odcinek. Jeśli widz zapyta o niszowy serial, który liczy zaledwie sześć odcinków, model może mimo to podać wyższą liczbę, ponieważ większość seriali, na których został wyszkolony, ma dłuższe sezony.

Ocena ryzyka wystąpienia halucynacji na podstawie atrybutów metadanych

Biorąc pod uwagę szeroki zakres istniejących atrybutów metadanych, nie wszystkie z nich są w równym stopniu podatne na halucynacje. 

Ryzyko błędnego rozpoznania reżysera jest na przykład inne w przypadku dużych produkcji studyjnych niż w przypadku małych, niezależnych filmów. W tym przypadku pomyłka w przypisaniu zasług może sprawić, że model LLM błędnie uzna producenta lub znanego współczesnego twórcę filmowego za reżysera.

Przyjrzyjmy się ryzyku wystąpienia halucynacji w odniesieniu do poszczególnych typów treści i atrybutów metadanych.

Ogólne cechy

Atrybuty filmu

Cechy programu telewizyjnego

Atrybuty odcinków i sezonów seriali telewizyjnych

Matematyczna droga najmniejszego oporu

Modele językowe (LLM) są szkolone tak, aby zminimalizować „stratę”, co oznacza, że dążą do jak największej „poprawności” w oparciu o dane szkoleniowe. W ogromnych zbiorach danych niektóre wzorce pojawiają się częściej niż inne.

Jeśli chodzi o lata premiery: w zbiorze danych szkoleniowych po wyrażeniu „Star Wars” miliony razy pojawia się liczba „1977”. Prawdopodobieństwo, że po wyrażeniu „Star Wars” pojawi się liczba „1977”, wynosi niemal 100%.

Jeśli chodzi o sezony i odcinki, w danych szkoleniowych dla serialu o średniej popularności „sezon 1” pojawia się znacznie częściej niż „sezon 7”. Jeśli model LLM nie ma pewności co do faktów, domyślnie wybiera najczęściej występujący wzorzec w swoich danych szkoleniowych, który zazwyczaj zawiera niższe liczby (1, 2 lub 3).

Grawitacja semantyczna

„Prawdopodobne sekwencje” zależą również od stylu treści. Dlatego tytuły odcinków są tak podatne na błędy. Jeśli poprosisz model LLM o podanie tytułu odcinka serialu „Przyjaciele”, zna on ten schemat: „Ten z…”

• Prawda jest taka: nie ma odcinka zatytułowanego „Ten z zaćmieniem Słońca”.
• Złudzenie: Ponieważ przedrostek „The One With…” jest bardzo prawdopodobny, a „Solar Eclipse” to popularny motyw telewizyjny (sugerujący widzom, że „zrobi się dziwnie”), model LLM łączy je w „prawdopodobną sekwencję”. Odpowiedź brzmi w 100% autentycznie, ponieważ jest zgodna z regułami semantycznymi tytułów odcinków serialu „Przyjaciele”, nawet jeśli pod względem faktograficznym jest nieprawdziwa.

Problem liczb całkowitych: tokeny a liczby

Modele językowe LLM nie „liczą” tak jak ludzie. Postrzegają liczby jako fragmenty, więc liczba 154 może zostać przetworzona jako dwa tokeny: 15 i 4.

Kiedy model LLM bez uczenia się na danych historycznych przewiduje numer odcinka, nie korzysta z bazy danych. Zastanawia się raczej: „W sekwencji cyfr następującej po tytule tego serialu, jaka cyfra zazwyczaj pojawia się jako następna?”.

Jeśli dane szkoleniowe wskazują, że serial ma około 20 odcinków w sezonie, a model LLM wygenerował już „sezon 2”, statystycznie będzie on preferował dowolną liczbę z przedziału od 1 do 20. Konkretny wybór między „12” a „13” jest często kwestią przypadku wynikającą z „szumu” w modelu, przez co na to samo polecenie można otrzymać różne odpowiedzi.

Dlaczego halucynacje wydają się tak przekonujące

Model LLM nie rozpoznaje stanu „nie wiem”, chyba że został specjalnie do tego dostosowany. Najczęściej przechodzi on do „sekwencji prawdopodobnej” i generuje tokeny o wysokim poziomie pewności matematycznej, tworząc tzw. „mapę prawdopodobieństwa”. Oto przykładowa mapa prawdopodobieństwa dotycząca nazwisk reżyserów:

Pytanie: Reżyserem filmu „Titanic” (1997) jest…

Prawdopodobieństwa następnych tokenów:

• James: 99,2%
• Steven: 0,3%
• George: 0,1%

Oczekiwany efekt wynikający z ogromnej popularności nazwiska Jamesa Camerona w kontekście filmu „Titanic”.

Pytanie: Reżyserem odcinka serialu „Mucha” jest…

Prawdopodobieństwa następnych tokenów:

• Vince (producent wykonawczy serialu „Breaking Bad”): 45%
• Rian (reżyser odcinka „Breaking Bad”, sezon 3, odcinek 10): 30%
• Michelle (często występująca w rolach głównych): 20%

W tym drugim przykładzie model LLM wybierze Vince’a (Gilligana), ponieważ jest on ogólnie bardziej „prawdopodobnym” kandydatem w kontekście treści serialu, mimo że nie wyreżyserował on tego konkretnego odcinka. Ponieważ dostępnych jest mniej materiałów pisemnych dotyczących tego odcinka (w porównaniu z przykładem dotyczącym filmu „Titanic” ), stosunkowo niewielka ilość danych szkoleniowych sprawia, że mapa prawdopodobieństwa z większym prawdopodobieństwem wygeneruje błędną odpowiedź.