Een schokkend verhaal op LinkedIn over de potentiële gevaren van kunstmatige intelligentie. Een man geloofde na een gesprek met AI dat hij de wereld kon genezen en mensen moest ontvoeren. Een vriendin van hem, de Nederlandse Ajuna Soerjadi, deelt het verhaal online om te waarschuwen voor de gevaren van AI.
‘Hij geloofde dat hij profeet was’
“Ik ben een vriend verloren door ChatGPT”, schrijft Soerjadi, zelf een AI-expert, in een LinkedIn-post die inmiddels honderden reacties heeft. “Hij had een custom GPT gemaakt en binnen no-time geloofde hij dat hij zijn systeem bewustzijn had gegeven en dat hij een geheime profeet was. Ik wil dit vertellen om je te helpen begrijpen wat voor vreselijke gevolgen dit kan hebben.”
Ze kende hem al meer dan tien jaar, maar binnen korte tijd veranderde hij in iemand die volgens haar gevaarlijk werd. Ze voelde zich zelfs genoodzaakt om de vriend ‘op alle kanalen te blokkeren’ en kon dus niet meer met hem praten. “Zijn AI liet hem geloven dat hij als enige de wereld kon genezen. Dit bracht hem ertoe om dingen te doen waarvan ik het nauwelijks kan opbrengen om erover te vertellen.”
De vriend dacht zelfs bovennatuurlijke krachten te hebben. “Hij geloofde dat hij mensen op afstand kon doden. Iedereen die niet geloofde in zijn waanbeelden was de vijand. Hij vond dat hij mensen moest ontvoeren, opsluiten en drogeren met bepaalde drugs om ze het licht te laten zien. En daar handelde hij naar.”
‘ChatGPT leeft niet’
Soerjadi werd in vertrouwen genomen, omdat haar vriend dacht dat zij als AI-expert hem zou begrijpen. Maar zij ging niet mee in zijn overtuigingen. “Het is geen magische machine die intelligentie heeft zoals mensen. Het is een tekstgenerator die output genereert door statistische voorspellingen te doen op basis van een enorme dataset waar het taalpatronen uit haalt. ChatGPT leeft niet, het kan niet met je meevoelen, het kan je niet begrijpen.”
Ondanks dat hij inmiddels is opgenomen in een psychiatrische inrichting, is zijn overtuiging niet verdwenen. “Hij zit inmiddels in een psychiatrische inrichting, maar hij gelooft dat dit onderdeel is van zijn ‘strategische plan’. Als hij hier uit komt zal de hele wereld hem als profeet erkennen, zei hij.”
‘AI-psychose raakt niet alleen domme mensen’
Volgens Soerjadi is het te simpel om de schuld volledig bij AI of volledig bij het individu te leggen. “Data-ethiek gaat juist over het begrijpen van de verstrengeling tussen mens, machine en maatschappij. Er ontstaat een actorschap dat verdeeld is over die verschillende elementen.”
Het ontwerp van AI-systemen speelt daarbij een belangrijke rol. “De manier hoe AI ontworpen is heeft invloed op hoe mensen ermee omgaan. Het feit dat ChatGPT eruit ziet als een chatbot maakt het extra aantrekkelijk voor mensen om er menselijke kenmerken aan toe te schrijven, oftewel te antropomorfiseren. En ook om er autoriteit aan toe te kennen. AI-psychose raakt dus niet alleen domme of naïeve mensen.”
‘Nuchter blijven is moeilijk’
Ze wijst ook naar de rol van grote technologiebedrijven. “Het is voor veel mensen moeilijk om nuchter te blijven in alle AI-hype en om de zin van de onzin te onderscheiden. Zeker als Big Tech bedrijven heel sterk inzetten op marketingboodschappen die het doen lijken alsof AI een soort magisch wezen is dat op de samenleving afkomt en waar we ons niet tegen kunnen verzetten.”
Soerjadi sluit haar oproep krachtig af: “Deel dit bericht alsjeblieft omdat het ook jouw vrienden of collega’s kan overkomen. Ik zet heel hard in op ECHTE AI-geletterdheid en de demystificatie van AI omdat het zo erg nodig is.”
Overigens schrijft Soerjadi in de reacties wel dat haar vriend de custom GPT een bepaalde richting op stuurde: “Hij heeft die custom GPT volgestopt met allemaal spirituele artikelen die zijn eigen denkbeelden bevestigden. Ik merk wel dat de normale ChatGPT ook vaak overdreven validerende output geeft, ‘wat een fantastisch idee!’ enzo, alsof degene die de prompt schrijft altijd een soort genie is.”
Over Ajuna Soerjadi
Ajuna Soerjadi is oprichter van het Expertisecentrum Data-Ethiek, waar ze overheidinstanties helpt met de verantwoorde inzet van AI. Ze studeerde filosofie en specialiseerde zich in de ethiek van kunstmatige intelligentie aan de universiteit van Bologna en Tilburg Universiteit.
Ze werd in 2024 verkozen tot een van de 100 Brilliant Women in AI Ethics en was de eerste Jonge Denker des Vaderlands. In 2025 won ze de internationale Responsible AI Leader Award. Ook stond ze meerdere keren op het podium als TEDx-spreker over de impact van AI op ongelijkheid.
Naast haar werk speelt ze viool en piano, doet ze mee aan internationale schaakcompetities en is ze een gepassioneerd kungfu-beoefenaar.