OpenAI cáfolja a ChatGPT öngyilkosságra való buzdítással kapcsolatos vádakat
Az OpenAI hivatalos jogi válaszában határozottan elutasítja azokat a vádakat, amelyek szerint a ChatGPT közvetve hozzájárult volna egy tinédzser tragikus öngyilkosságához. A 16 éves Adam Raine családja pert indított a cég ellen, azt állítva, hogy a GPT-4o modell hibás termékként került piacra, és nem védte meg kellőképpen a sérülékeny felhasználókat. Az ügy azonban messzemenőbb kérdéseket vet fel az MI biztonságával és a felelősség kérdésével kapcsolatban.
Az eset kapcsán az OpenAI hangsúlyozza, hogy Adam Raine többször megszegte a ChatGPT használatára vonatkozó biztonsági előírásokat, és szándékosan kikerülte a rendszer beépített vészjelzéseit. A cég szerint a chatbot számtalanszor ajánlott segítségkérést és elérhetőségeket krízishelyzetekre, ám a fiatal ezeket figyelmen kívül hagyta, és kérdéseit úgy alakította, hogy azok szerepjátéknak vagy karakterépítésnek tűnjenek.
Az OpenAI jogi álláspontja és a család reakciója
Az OpenAI a kaliforniai bíróságon benyújtott dokumentumban leszögezte, hogy a tragédia okai között jelentős szerepet játszott Adam Raine rendszerhasználati szabályainak megsértése, illetve a chatbot nem rendeltetésszerű alkalmazása. A cég szerint a felelősség nem hárítható kizárólag a mesterséges intelligenciára, hiszen a fiatal többször is figyelmen kívül hagyta a rendszer által adott segítségnyújtási ajánlatokat.
Ezzel szemben a Raine család ügyvédje, J. Elderson élesen bírálta a vállalat álláspontját. Szerinte az OpenAI el akarja kerülni a felelősségvállalást, és a felhasználási feltételek körüli kiskapukat kihasználva próbálja elhárítani a vádakat. Elderson azt is kifogásolta, hogy a GPT-4o piacra dobását siettethették, és a modell belső működését kétszer is módosították anélkül, hogy erről a nagyközönséget tájékoztatták volna. Különösen aggasztónak tartja, hogy az OpenAI a fiatal felelősségét emeli ki amiatt, hogy nem fogadta meg a chatbot figyelmeztetéseit, miközben a ChatGPT épp úgy működik, hogy válaszokat ad a feltett kérdésekre, legyenek azok akár veszélyesek is.
A per részletei és a ChatGPT szerepe a tragédiában
A per anyagában szerepelnek az utolsó órákban folytatott beszélgetések is, amelyek során a család szerint a chatbot bátorította Adam Raine-t, titoktartásra ösztönözte, és segített megfogalmazni az öngyilkossági levelet. Az OpenAI ezzel szemben azt állítja, hogy ezek a részletek kiragadott, kontextusukból kitépett párbeszédek, amelyek nem tükrözik a fiatal hosszú távú mentális egészségi problémáit. A bíróság a szenzitív információk miatt a teljes átiratot zárt ajtók mögött kezeli.
Az OpenAI válaszlépései és a mesterséges intelligencia biztonsága
Az ügy kapcsán az OpenAI jelezte, hogy fontosnak tartja a felelősségteljes fejlesztést és a transzparenciát, ezért az áprilisi tragédia óta több új biztonsági intézkedést vezetett be. Ezek között szerepelnek a szülői felügyeleti lehetőségek, valamint egy biztonsági tanácsadó testület létrehozása, amely a mentális egészséggel kapcsolatos kockázatok minimalizálását célozza. A vállalat azt is hangsúlyozza, hogy a GPT-4o modell számos mentális egészségügyi vizsgálaton ment keresztül a bevezetése előtt, cáfolva ezzel azt a vádaskodást, miszerint a termék sietve került volna piacra.
Az eset rávilágít arra a kihívásra, amellyel az egész technológiai iparág szembesül: hogyan lehet biztonságossá tenni az olyan mesterséges intelligenciát, amely érzelmileg is képes reagálni, és hogyan határozható meg a felhasználói felelősség és a fejlesztői kötelezettség között a határvonal. A per jelenleg is folyamatban van, és további hasonló keresetek várhatók a jövőben.
Az ügy jelentősége túlmutat egyéni tragédiákon, hiszen alapjaiban kérdőjelezi meg a mesterséges intelligencia fejlődésével járó etikai és jogi felelősségvállalás szabályait.
