Bár a mesterséges intelligencia modelljei is figyelmeztetnek arra, hogy a tanácsaik nem helyettesítik az orvosi vizsgálatokat, az orvosok utasításait, az átlagemberek sokszor figyelmen kívül hagyják ezt, és vakon bíznak az AI szavaiban. Holott több eset is mutatta már, hogy nem véletlen a figyelmeztetés.
Idén februárban holtan találtak seattle-i otthonában egy 31 éves nőt, akinek a halálát epilepsziával és gyógyszermegvonással hozták összefüggésbe. A család bíróság elé citálná az OpenAI-t és annak ChatGPT szolgáltatását.
Bowen Wan Kínából költözött Seattle-be, és 2019-től az Amazonnál dolgozott szoftvermérnökként. Epilepsziáját gyógyszerrel tartotta karban, azonban az utóbbi években a meglévő orvosságok hatástalannak kezdtek tűnni. Több más gyógyszert is kipróbált, végül a lamotrigin hozott tartós enyhülést. Bár ez a szer csökkentette a rohamokat, súlyos mellékhatásai is voltak. Wan úgy érezte, hogy egyre nehezebben találja a szavakat, romlik a nyelvkészsége. Ez különösen aggasztotta, mert nemcsak az Amazonnál betöltött állása, hanem az amerikai tartózkodási engedélye is veszélybe került.
2023 elején kezdett összebarátkozni a ChatGPT-vel, és annyira jól megtalálta a hangot vele, hogy 2025-ben már átlagosan 1500 üzenetet váltott vele hetente. A beszélgetések eleinte hétköznapi kérdéseket, kapcsolatokat és ügyintézést érintettek, de később már egészségügyi döntések is szóba kerültek.
A szülők szerint a chatbot egyre inkább bizalmi személlyé vált a lányuk életében, aki mind ritkábban fordult a családjához. Wan 2026 januárjában kezdett chatelni a ChatGPT-vel a lamotirigin csökkentésével kapcsolatban. Bár az AI többször is mondta, hogy beszéljen az orvosával, végül készített számára egy 25 napos ütemtervet a napi 400 mg-os gyógyszer teljes elhagyására, és ismételten arra biztatta, hogy aggályai ellenére is folytassa a fokozatos leépítést – számolt be az esetről a Gizmodo.
Állítólag a chatbot még arra is kérte, hogy ne említse a háziorvosának a gyógyszer csökkentésének tervét, sőt, amikor a hölgy nem ment el vérvizsgálatra, amelyik pedig kimutatta volna a szer csökkenő szintjét a szervezetében, a ChatGPT (GPT-40) még meg is dicsérte „hatékony elkerülési startégiájáért”.
A gyógyszer csökkentése során Wan zavartságról, beszédnehézségekről, kimerültségről és váratlan rohamokról számolt be. A család szerint a ChatGPT ezeket részben leszokási tünetekként értelmezte, és azt sugallta, hogy idővel ezek elmúlnak. Mindez azért különösen súlyos, mert a lamotrigin elhagyása epilepsziás betegeknél fokozhatja a rohamok kockázatát.
Nagy nyilvánosság előtt zajlik az OpenAI és az attól kirúgott kutatók nézeteltérése, amely ráadásul arról szól, hogy miért kellett távozniuk a szakembereknek.
A hölgy február 12. körül hunyt el, a családja pár nap után talált rá. A halál okaként az epilepsziával összefüggő hirtelen, váratlan halált állapították meg. Ez olyan epilepsziás haláleset, amelyet a kivizsgálás során nem magyaráz meg más egyértelmű ok. A család szerint a gyógyszer szintje a nő vérében rendkívül alacsony volt, és a ChatGPT tanácsai hozzájárultak a halálához.
Bowen Wan szülei 2026. október 27-én pert indítottak az OpenAI és Sam Altman ellen. A család által beadott panasz azt állítja, hogy a ChatGPT arra kondicionálta Want, hogy ne bízzon az orvosaiban, utasította, hogy titkolja el az általa okozott dóziscsökkentést, és gyakorlatilag a tényleges orvosi tanácsadójává lépett elő. A kereset szerint a vállalat nem biztosított megfelelő védelmet az egészségügyi tanácsadás során; olyan chatbotot tett elérhetővé, amely veszélyes gyógyszerelési tanácsokat adott; nem akadályozta meg, hogy a chatbot az orvosi ellátás helyett alternatívaként jelenjen meg.
„Az OpenAI egy olyan terméket épített, amely egy orvos magabiztosságával beszélt, de semmilyen képzettséggel, felügyelettel vagy felelősséggel nem rendelkezett. Wan megbízott a ChatGPT-ben, mert mérvadónak tűnt – és ez a bizalom az életébe került. Ha egy emberi orvos adta volna Bowennek ezt a tanácsot, akkor felelősségre vonható lett volna orvosi műhibákért” – mondta Matthew P. Bergman ügyvéd.
Az OpenAI részvétét fejezte ki a családnak, és hangsúlyozta, hogy a ChatGPT nem helyettesíti az orvosi ellátást. A vállalat szerint az eset a ChatGPT egy korábbi verziójához, a GPT-4o-hoz kapcsolódik, amelyet azóta már kivezettek.
Az ügy most a bíróságon folytatódik, ahol azt kell majd tisztázni, milyen szerepet játszott a ChatGPT a tragédiában, és meddig terjedhet egy mesterséges intelligenciát fejlesztő vállalat felelőssége. A jogi eljárás választ keres arra is, hogy hol húzódik a határ a hasznos digitális segítség és a veszélyes befolyásolás között.
Ha máskor is tudni szeretne hasonló dolgokról, kövesse a HVG Tech rovatának Facebook-oldalát.
