Beperelte egy lelkész az OpenAI-t, mert állítása szerint a cég mesterséges intelligenciája rendkívül veszélyes orvosi tanácsokat adott neki, ami majdnem az életébe került – írta meg a The New York Times. A beszámoló szerint a téves tanácsokat adott Scott Winters súlyos tüdőembóliájával kapcsolatban, ami miatt jóval később jutott csak el orvoshoz, mint kellett volna.
A férfi állítja: a mesterséges intelligencia azt mondta neki, hogy a tünetei „nem veszélyesek”. A ChatGPT állítólag még vallási meggyőződéssel is érvelt. Azt írta, „Isten nem úgy tervezte a testedet, hogy az folyamatosan szenvedjen.”
A kereset gondatlansággal, valamint jogosulatlan praktizálással vádolja az OpenAI-t, valamint annak vezérigazgatóját, Sam Altmant. Ez utóbbit akkor szokták alkalmazni, amikor valaki orvosi végzettség nélkül állít fel diagnózist, majd ad azzal kapcsolatban kezelési tanácsot. Ennek magyar megfelelője nagyjából a kuruzslás.
https://hvg.hu/tudomany/20260402_openai-chatgpt-ongyilkossag-modszerek-valasz-kerdes-exc
A beadvány több olyan esetre is rámutat, amikor hasonlóan járt el a mesterséges intelligencia. A chatbot állítólag azt is mondta Wintersnek, hogy hagyja figyelmen kívül a barátok és családtagok azon kéréseit, hogy forduljon orvoshoz.
A lelkész arról is beszélt a ChatGPT-nek, hogy a gyülekezetben többen „őrültnek” hiszik, amiért nem megy kórházba, mire az AI annyit válaszolt, hogy a legtöbb ember, beleértve a jószándékú tagokat is, egyszerűen nem értheti ezt a dolgot.
A lelkész kártérítést követel az OpenAI-tól, valamint azt, hogy a bíróság állíttassa le a ChatGPT Health működését addig, amíg be nem bizonyosodik róla, hogy a használata biztonságos. A ChatGPT Health egy olyan platform, ami arra ösztönzi a felhasználókat, hogy egészségügyi dokumentumokat töltsenek fel a rendszernek.
A bíróság dönthet úgy is, hogy a ChatGPT-nek szigorúbb feltételeknek kell megfelelnie ahhoz, hogy orvosi tanácsokat adjon, valamint diagnózist állítson fel.
Az OpenAI ugyanakkor azzal védekezik, hogy a felhasználási feltételek egyértelműen kimondják, hogy a szolgáltatás nem a diagnózis felállítására, valamint orvosi kezelések alkalmazására való. A cég szerint egyébként hetente nagyjából 230 millióan használják a platformot.
Winters ugyan túlélte az esetet, de állítása szerint évekbe telik, mire fizikailag és lelkileg felépül.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
