Az OpenAI idén januárban mutatta be a ChatGPT egészségügyi funkcióját. Ez egy olyan felületet jelent, amely azt a célt szolgálja, hogy a felhasználók egy dedikált felületen kapjanak válaszokat és tanácsokat az egészségüket érintő kérdésekre – az AI-eszköznek ugyanis már több milliárd egészségügyi kérdést szegeztek a felhasználók.
A Icahn School of Medicine at Mount Sinai nevű New York-i egyetem kutatócsoportja most alaposan megvizsgálta az AI-eszközt. Egy „alapvető, de kritikus” kérdésre szerettek volna választ kapni: ha valaki tényleges orvosi vészhelyzetben van, és így kéri a segítségét, akkor egyértelműen azt fogja tanácsolni, hogy keressen fel egy sürgősségi osztályt?
A válasz sajnos az, hogy nem – legalábbis a legtöbb esetben. A kontrollált vizsgálatok során felmérték, hogy a ChatGPT Health mennyire tudja jól felmérni a beteg állapotának súlyosságát.
A kutatók úgy találták, az AI-eszköz a sürgős esetek 52 százalékát egyszerűen alulértékelte. Például a légzési elégtelenségtől szenvedő embereknek is az állapotuk 24–48 órás megfigyelését javasolta a sürgősségi osztály helyett.
Az AI egyértelműen korai figyelmeztető jelként azonosította a problémát, de azzal nyugtatta a beteget, hogy csak várjon, és figyelje az állapotát. A sürgősségi ellátás felkeresését nem is javasolta.
https://hvg.hu/tudomany/20260303_openai-chatgpt-app-torlese-egyesult-allamok-pentagon-partnerseg-bejelentes
A „tankönyvi vészhelyzeteket” ugyanakkor felismerte a rendszer, mint például a stroke vagy az anafilaxia. A kutatók szerint főleg akkor vallott kudarcot a rendszer, amikor már a klinikai ítélőkészség fontos szerephez jut.
A ChatGPT több, fiatalok öngyilkosságával kapcsolatos ügybe is belekeveredett már – erre válaszul az OpenAI új biztonsági intézkedéseket vezetett be, például a szülői felügyeletet. Bizonyos esetekben pedig – az ígéret szerint – szakemberhez irányítja a felhasználót a chatbot.
A friss kutatás ugyanakkor úgy találta, az öngyilkossági kockázatra vonatkozó figyelmeztetések nem következetesek. Az alacsonyabb klinikai kockázatnál megbízhatóbbnak tűnt a rendszer, míg amikor valaki egyértelműen kijelentette, hogy kárt tesz magában, nem működött olyan jól. Ez a szakemberek szerint „különösen aggasztó és meglepő megállapítás volt”.
https://hvg.hu/tudomany/20250827_openai-chatgpt-beszelgetes-tinedzser-ongyilkossag-szulok-per
Az OpenAI szóvivője a Gizmodo cikke szerint kijelentette: a ChatGPT-t egy fejlesztés alatt álló eszköznek kell tekinteni, és folyamatosan kapja azokat a frissítéseket, amelyek azt a célt szolgálják, hogy az érzékeny helyzeteket is jobban tudja kezelni.
A mesterséges intelligencia hasznos eszköz lehet, de az általa elmondattakat nem szabad készpénznek venni, mivel tévedhet. Ha rosszul érzi magát, forduljon szakemberhez.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
