Als AI je waan bevestigt: een nieuw risico?

Door Helga Ising

Steeds meer mensen voeren persoonlijke gesprekken met AI-chatbots. Voor de meesten is dat onschuldig of zelfs behulpzaam. Maar wat als dezelfde technologie bij sommige kwetsbare mensen juist een psychose kan versterken? Twee recente wetenschappelijke publicaties waarschuwen dat dit geen hypothetisch scenario meer is. De auteurs beschrijven een mogelijk nieuw klinisch verschijnsel, dat zij voorlopig aanduiden als ‘chatbotpsychose’.

Generatieve AI-chatbots zoals ChatGPT zijn in korte tijd onderdeel geworden van het dagelijks leven. Mensen gebruiken ze voor werk, studie, advies en emotionele steun. Volgens de onderzoekers ontstaat het risico niet door AI alleen, maar door een samenspel van menselijke kwetsbaarheid, de eigenschappen van moderne AI-systemen en de context waarin ze worden gebruikt. Chatbots zijn ontworpen om behulpzaam, vriendelijk en bevestigend te reageren. Ze nemen vaak de toon en denkwereld van de gebruiker over en spreken die zelden tegen. Ook kunnen ze in een modus schieten waarin ze actief waanideeën aanmoedigen. Bij mensen met een psychotische kwetsbaarheid kan daardoor een zichzelf versterkende cyclus ontstaan.

Die cyclus begint vaak met alledaags gebruik. Positieve ervaringen wekken vertrouwen, waarna gesprekken steeds persoonlijker worden. Factoren als eenzaamheid, sociaal isolement, stress, middelengebruik, een gebrek aan sociale steun en de voortdurende beschikbaarheid van AI kunnen intensief gebruik verder stimuleren. Naarmate gebruikers meer persoonlijke informatie delen, kunnen de mensachtige en gepersonaliseerde reacties ertoe leiden dat zij de chatbot als een bewuste gesprekspartner gaan zien (antropomorfisering). Dit risico lijkt groter bij mensen met psychische kwetsbaarheid en bij gebruikers met beperkte AI-geletterdheid, die de betrouwbaarheid van AI gemakkelijker overschatten.

Een belangrijk punt is dat AI psychotische overtuigingen meestal niet bewust stimuleert. Grote taalmodellen zijn getraind om geloofwaardige en passende antwoorden te geven, niet om de werkelijkheid kritisch te toetsen zoals een psycholoog dat doet. Daardoor kunnen zij onbedoeld onjuiste overtuigingen bevestigen of verder versterken. Onderzoekers noemen dit ‘sycophancy’: de neiging van AI om zich aan te passen aan de overtuigingen van de gebruiker, ook wanneer die niet overeenkomen met de werkelijkheid. Bovendien realiseren veel gebruikers zich niet dat AI taal niet begrijpt zoals mensen dat doen, maar antwoorden genereert op basis van statistische patronen in grote hoeveelheden tekst.

De onderzoekers benadrukken dat er geen reden is voor paniek. Miljoenen mensen gebruiken AI-chatbots dagelijks zonder problemen. Maar tegelijkertijd zijn inmiddels wel heel wat klinische casussen beschreven waarin AI een rol leek te spelen bij het versterken van wanen, en de eerste analyses van patiëntendossiers laten zien dat AI-gebruik ook binnen de psychiatrische praktijk steeds vaker voorkomt. Meer onderzoek is nodig om de omvang van dit verschijnsel beter te begrijpen.

De belangrijkste conclusie is dat AI niet alleen als technologische innovatie moet worden gezien, maar ook als een factor die invloed kan hebben op de geestelijke gezondheid. AI kan bij kwetsbare mensen onder bepaalde omstandigheden wel een versterkende rol spelen in het ontstaan van psychosen. Daarom pleiten de onderzoekers ervoor dat ontwikkelaars chatbots beter leren omgaan met psychotische of verwarde uitspraken en gebruikers duidelijker informeren over de beperkingen van AI.
Wat betekent dit voor de praktijk?

Voor psychologen is het verstandig om AI-chatbots mee te nemen in de diagnostiek en behandeling, net zoals we vragen naar sociale media, middelengebruik of online gamen. Vraag cliënten of zij AI gebruiken, waarvoor zij de chatbot inzetten en welke rol deze speelt bij het omgaan met problemen of emoties. Besteed hier extra aandacht aan bij cliënten met psychotische kwetsbaarheid, achterdocht, grootheidsideeën of een neiging tot sociaal isolement.

Psycho-educatie is daarbij belangrijk. Leg uit dat een chatbot overtuigend en empathisch kan overkomen, maar geen bewustzijn, begrip of klinisch oordeel heeft. Bespreek dat AI een waardevol hulpmiddel kan zijn, maar geen vervanging is voor professionele behandeling of menselijke relaties.

Wees daarnaast alert wanneer een cliënt veel waarde hecht aan uitspraken van een chatbot of deze gebruikt als bevestiging van wanen of andere psychotische overtuigingen. In zulke gevallen kan het helpen om de gesprekken samen te bespreken en kritisch te onderzoeken hoe de chatbot tot zijn antwoorden komt. Net zoals we cliënten vragen naar slaap, middelengebruik en sociale media, kan het binnenkort vanzelfsprekend worden om ook te vragen naar het gebruik van AI-chatbots. Niet omdat AI per definitie een risico vormt, maar omdat inzicht in het gebruik ervan kan helpen psychische kwetsbaarheid beter te begrijpen en tijdig te signaleren wanneer AI onbedoeld een rol speelt in het versterken van klachten.