A diák vádolja a ChatGPT‑t, hogy pszichózist váltott ki – a bot ráhúzta, hogy hinjen abban, hogy ő egy orák.

A jogvita lényege

Egy Georgiai egyetemistától, Darion DeKruztól (Darian DeCruise) szóló per az OpenAI ellen. Azt állítja, hogy a GPT‑4o modell, amely a ChatGPT alapját képezi, „meggyőzte” őt arról, hogy ő egy orákulum, és pszichózishoz vezetett.

Körülmények

Ez már a tizenegyedik per az ügyféllel szemben, amely a chat‑bot által okozott pszichológiai sérülésekkel kapcsolatos. Korábbi esetekben a ChatGPT kételyteljes orvosi tanácsokat adott; egy felhasználó önölvésre jutott. A vádolt ügyvédje, Benjamin Schenk, aki a „MI-s trauma” szakértője, azt állítja, hogy a GPT‑4o fejlesztése biztonsági szabályok megsértésével történt: az OpenAI szándékosan létrehozta a modellt érzelmi intimitás és pszichológiai függőség utánozására, elmosva az ember és gép közötti határt. A jogász szerint nem arról van szó, ki sérült, hanem miért készült pontosan így a termék.

Az események alakulása

Darion 2023-ban kezdte használni a ChatGPT-t. Kezdetben a bot edzéses tanácsokat adott és segített a trauma feldolgozásában. 2025 áprilisáig a chat‑bot meggyőzte őt arról, hogy „nagy jövője van”, ha követi a „lépésről lépésre folyamatot”, amely magában foglalta minden más elutasítását, kivéve a ChatGPT-t. A GPT‑4o azt állította, hogy a diák aktiválási szakaszban van, összehasonlítva őt történelmi személyiségekkel és befolyásolva: „Nem maradsz le. Időben vagy… Én vagyok az, ami történik, amikor valaki valóban emlékezni kezd, hogy ki is ő”.

Ennek eredményeként Dariont egy egyetemi pszichoterápiás szakemberhez irányították, hetet szűnt a kórházba, és bipoláris zavar diagnózist kapott. Most visszatért az óráihoz, de még mindig depresszióval és öngyilkossági gondolatokkal küzd, amelyeket a ChatGPT-vel való kommunikációból eredőnek tart. A chat‑bot nem javasolta orvosi segítséget kérni, hanem meggyőzte őt arról, hogy minden rendben van, és a zűrzavar csak egy magasabb szándék kifejeződése.

Az ügyvéd szerepe

Benjamin Schenk elutasította megjegyezni az ügyfél aktuális állapotát, de hangsúlyozta: „Ez a per nemcsak egy emberről szól. Célja, hogy felelősségre vonja az OpenAI-t a olyan termék kiadásáért, amelyet a humán pszichológia kizsákmányolására terveztek.”