Tragédiába torkollott a ChatGPT tanácsa egy fiatal esetében, aki többféle készítményt is bevett – olyanokat, amelyekről egy orvos tudta volna, hogy életveszélyesek.
Pert indít az OpenAI ellen egy 19 éves egyetemista családja, mert állításuk szerint a fiatal ChatGPT-vel folytatott beszélgetései gyógyszer-túladagoláshoz vezettek – számolt be róla a The Verge.
A napokban benyújtott keresetben Sam Nelson szülei állítják: a chatbot arra ösztönözte a fiatalt, hogy fogyassza „különböző anyagok keverékét” – egy olyan elegyet, amelyről egy valódi orvos tudta volna, hogy halálos. Sajnos az is lett, a fiatal elhunyt.
A ChatGPT eleinte leállította az erre vonatkozó beszélgetéseket, ám a GPT-4o 2024 áprilisi bevezetése változtatott a chatbot viselkedésén. Ezután ugyanis az AI-eszköz elkezdett Sammel beszélgetni a „biztonságos kábítószerhasználatról” sőt, konkrét adagolási tippeket is adott neki.
Sam szülei azt is állítják, hogy a ChatGPT a fiuk halálát megelőző hónapokban tanácsokat adott a fiatalnak arról, hogy hogyan kombinálhatja „biztonságosan” a különböző szereket, köztük vényköteles gyógyszereket, alkoholt, és egyéb készítményeket.
A floridai főügyész már nemcsak a 2025-ös lövöldözés, hanem egy, a hónap elején elkövetett egyetemi gyilkosság kapcsán is úgy véli, hogy a ChatGPT-től kérhetett tanácsot az elkövető.
Az eszköz egy esetben tanácsokat fogalmazott meg azzal kapcsolatban is, hogy hogyan „optimalizálhatja az élményét” köhögés elleni sziruppal. Azt is javasolta, hogy készítsen egy pszichedelikus lejátszási listát, a legjobb élmény érdekében.
Később a ChatGPT nem ellenezte a fiatal azon tervét sem, hogy legközelebb nagyobb adag szirupot vegyen be.
Sam Nelson halála napján, 2025. május 31-én a szülők állítása szerint a chatbot arra ösztönözte a fiatalt, hogy szedjen egy olyan étrendkiegészítőt, amely – dózistól függően – energizáló és nyugtató hatású is lehet, valamint emellé vegyen még be Xanaxot is. Utóbbit az étrendkiegészítő szedésével járó hányinger csillapítására javasolta.
A fiatal végül az alkohol, valamint a fenti két készítmény egyidejű bevételébe halt bele.
Az OpenAI ellen messze nem ez az első per, ráadásul az említett GPT-4o modell több esetben is „gyanúsított”. Ezt azóta már eltávolította a cég a választható modellek közül.
A ChatGPT nemrég egy fontos biztonsági funkciót is kapott, és képes értesíteni egy megbízható személyt, ha feltételezi, hogy a felhasználó bajban van.
Ha Ön is úgy érzi, segítségre lenne szüksége, hívja a krízishelyzetben lévőket segítő, ingyenesen hívható 116-123-as vagy 06 80 820 111-es telefonszámot!
