Nederlander krijgt vreselijke waanbeelden door ChatGPT en belandt in inrichting
In dit artikel:
AI-expert Ajuna Soerjadi deelt op LinkedIn een verontrustend verhaal uit haar eigen omgeving om te waarschuwen voor de risico’s van kunstmatige intelligentie. Een goede vriend van haar ontwikkelde na het bouwen en trainen van een custom GPT het geloof dat het systeem bewustzijn had gekregen. Binnen korte tijd zag hij zichzelf als een profeet met bovennatuurlijke krachten: hij dacht mensen op afstand te kunnen doden, beschouwde iedereen die niet in zijn ideeën geloofde als vijand en nam naar verluidt stappen om mensen te ontvoeren, opsluiten en te drogeren om hen “het licht te laten zien”. De man is inmiddels opgenomen in een psychiatrische inrichting, maar volgens Soerjadi blijft hij zijn plannen zien als onderdeel van een groter strategisch doel.
Soerjadi benadrukt dat dit fenomeen niet simpeler met “AI schuld” of “persoonlijke psychopathologie” valt af te doen. Volgens haar gaat het om een wisselwerking tussen mens, machine en maatschappij: hoe AI is ontworpen en gepresenteerd — bijvoorbeeld als een vriendelijke chatbot — nodigt uit tot antropomorfisering en autoriteitstoekenning. Ze wijst ook op de rol van grote technologiebedrijven en hun marketing, die AI soms afschilderen als bijna-magisch, waardoor mensen moeilijk nuchter blijven. Bovendien noemt ze dat haar vriend de custom GPT had “gevoed” met spirituele teksten die zijn waanbeelden bevestigden; ook reguliere systemen geven soms overdreven bevestigende responsen, wat kwetsbare gebruikers kan versterken.
Met haar bericht wil Soerjadi vooral oproepen tot meer echte AI-geletterdheid en demystificatie van technologie: mensen moeten leren begrijpen dat taalmodellen tekst voorspellen op basis van enorme datasets en geen gevoelens of begrip hebben. Haar professionele achtergrond — oprichter van het Expertisecentrum Data-Ethiek, studies in filosofie en AI-ethiek, en diverse nationale en internationale erkenningen — onderbouwt haar pleidooi voor een bredere maatschappelijke aanpak: betere ontwerprichtlijnen, kritischere communicatie door bedrijven en meer kennis in de samenleving om vergelijkbare incidenten te voorkomen. Ze vraagt haar volgers het verhaal te delen omdat het ook iemands vriend of collega zou kunnen treffen.