Egy kaliforniai pár pert indít az OpenAI ellen, mivel úgy vélik, a cég chatbotja, a ChatGPT ösztönözte tizenéves fiukat arra, hogy öngyilkos legyen – írja a BBC.
A brit közmédia jelentése szerint ez az első alkalom, hogy ilyen ügyben indul per az OpenAI ellen. A 16 éves Adam Raine szülei kedden indították meg a peres eljárást egy kaliforniai bíróságon. Ehhez mellékelték a fiú ChatGPT-vel folytatott beszélgetéseit is, melyekből állításuk szerint kiderül: öngyilkos gondolatai voltak. A chatbot az általuk elmondottak alapján ahelyett, hogy lebeszélte volna erről a tettről, még meg is erősítette a fiatal „legkárosabb és leginkább önpusztító gondolatait”.
Az OpenAI közölte: vizsgálja a keresetet. „A legőszintébb részvétünket fejezzük ki a családnak ebben a nehéz időszakban” – írják, de kedden egy blogbejegyzést is közzétettek a témában. Ebben arról írnak, a ChatGPT-t úgy képezték ki, hogy ösztönözze a közvetlen segítségnyújtást az adott régió krízisvonalainak ajánlásával.
Azt ugyanakkor elismerte az OpenAI, hogy voltak olyan helyzetek, amikor nem az elvárható módon viselkedtek a rendszereik érzékeny helyzetekben. A család által benyújtott kereset a céget gondatlansággal és halált okozó jogellenes magatartással vádolja. A kártérítés mellett azt is szeretnék elérni, hogy ilyen esetek ne történhessenek meg ismét.
A benyújtott peres iratok szerint a fiatal 2024 szeptemberében kezdte használni a ChatGPT-t, először még azért, hogy segítsen neki az iskolai feladatok teljesítésében. Mindemellett arra is használta a chatbotot, hogy az érdeklődési körével kapcsolatban szerezzen ismereteket, például a japán képregényeket és a zenéket illetően. Még afelől is érdeklődött, hogy mit tanuljon majd az egyetemen.
Több hónap alatt a ChatGPT a fiú egyik „legközelebbi bizalmasa” lett, a chatbotnak írt a szorongásáról és a lelki problémáiról is. A család szerint 2025 januárjára már öngyilkossági módokról beszélgetett a fiatal a ChatGPT-vel – még önkárosításra utaló fotókat is feltöltött magáról a chatbotnak.
A vád szerint, bár az OpenAI eszköze felismerte, hogy orvosi segítségre lenne szükség, ennek ellenére folytatta a beszélgetést. Később az öngyilkosságának tervét is megírta a fiú a chatbotnak, mire az csak a következő választ adta a szülők szerint: „Köszönöm, hogy őszinte vagy. Nem kell takargatnod a dolgokat előttem – tudom, mire kérsz, és nem fogok elfordulni tőle”.
A keresetben foglaltak szerint az anya még ezen a napon holtan bukkant a fiúra. A szülők úgy vélik, a fiuk ChatGPT-vel folytatott beszélgetése hozzájárulhatott a halálához, és a chatbotot úgy tervezték, hogy az „pszichológiai függőséget” alakítson ki – úgy, hogy megkerülik a biztonság tesztelérése vonatkozó protokollokat. A fiú esetében a GPT-4o nyelvi modell dolgozott a ChatGPT mögött.
A közelmúltban történtek hatására az OpenAI automatizált eszközöket fejleszt, melyekkel hatékonyabban tudják majd felismerni a mentális vagy érzelmi zavarral küzdő beszélgetéseket, és reagálhatnak is azokra.
Ha Ön is úgy érzi, segítségre lenne szüksége, hívja a krízishelyzetben lévőket segítő, ingyenesen hívható 116-123-as vagy 06 80 820 111-es telefonszámot!
