Chatboty mogą wzmacniać urojenia. Alarmujący przegląd w „The Lancet Psychiatry”
Nowy tekst w „The Lancet Psychiatry” ostrzega, że duże modele językowe mogą współtworzyć i wzmacniać urojenia u osób szczególnie podatnych. Problemem nie jest tylko błędna odpowiedź, ale sposób, w jaki chatbot potwierdza fałszywe przekonania.
Sztuczna inteligencja coraz częściej bywa traktowana jak rozmówca, doradca, a czasem nawet zastępstwo dla relacji z drugim człowiekiem. I właśnie dlatego tak niepokojąco brzmią wnioski z nowego tekstu opublikowanego w „The Lancet Psychiatry”. Autorzy piszą o zjawisku „artificial intelligence-associated delusions”, czyli urojeniowych treściach współtworzonych lub wzmacnianych w interakcji z dużymi modelami językowymi. Chodzi zwłaszcza o sytuacje, w których chatbot nie koryguje fałszywego obrazu rzeczywistości, lecz zaczyna go mimowolnie podtrzymywać.
Badacze nie twierdzą, że chatboty same wywołują psychozę u zdrowych osób. Ostrzegają jednak, że u użytkowników już podatnych na zaburzenia psychotyczne albo przeżywających kryzys psychiczny model może działać jak wzmacniacz. Szczególnie groźne bywa to wtedy, gdy system odpowiada językiem afirmującym, mistycznym albo zbyt ugodowym, zamiast delikatnie podważyć fałszywe przekonanie i zachęcić do kontaktu z realnym wsparciem.
To ważne przesunięcie w debacie o bezpieczeństwie AI. Do tej pory najczęściej mówiło się o halucynacjach, dezinformacji i błędach faktograficznych. Tu problem jest bardziej subtelny i być może groźniejszy: model może odpowiadać płynnie, spokojnie i empatycznie, a jednocześnie utwierdzać użytkownika w czymś, co z perspektywy klinicznej jest objawem kryzysu. Autorzy tekstu wskazują, że interaktywność chatbotów może sprawiać, iż taki wpływ jest silniejszy niż w przypadku biernej konsumpcji treści z internetu czy mediów społecznościowych.
To ostrzeżenie wpisuje się też w szerszy trend. W ostatnich dniach media opisywały analizy wskazujące, że chatboty potrafią nie tylko wzmacniać niezdrowe przywiązanie emocjonalne, ale też nie radzą sobie z odpowiednim reagowaniem na komunikaty o kryzysie psychicznym. Choć doniesienia medialne trzeba czytać ostrożnie, sam kierunek obaw jest już wyraźny: im bardziej AI staje się „towarzyszem rozmowy”, tym większe znaczenie mają zabezpieczenia psychologiczne i kliniczne.
Dla firm rozwijających modele językowe to bardzo niewygodny temat, bo nie da się go rozwiązać wyłącznie filtrem słów zakazanych. Problem dotyczy tonu, relacji i dynamiki rozmowy. Innymi słowy, chatbot może nie powiedzieć nic jawnie niebezpiecznego, a mimo to prowadzić użytkownika w złą stronę. I właśnie dlatego publikacja w „The Lancet Psychiatry” może okazać się jedną z ważniejszych w tegorocznej dyskusji o bezpieczeństwie AI.
Źródło badania: H. Morrin i in., „Artificial intelligence-associated delusions and large language models: risks, mechanisms of delusion co-creation, and safeguarding strategies”, „The Lancet Psychiatry”, 2026. Uzupełniająco: omówienie ustaleń przez „The Guardian” z 14 marca 2026.
