Egyelőre még biztosan nem érdemes vakon a ChatGPT-re hagyatkozni egészségügyi problémáknál, a rendszer ugyanis az esetek többségében nem tudja jól felmérni a betegség súlyosságát.
Az OpenAI idén januárban mutatta be a ChatGPT egészségügyi funkcióját. Ez egy olyan felületet jelent, amely azt a célt szolgálja, hogy a felhasználók egy dedikált felületen kapjanak válaszokat és tanácsokat az egészségüket érintő kérdésekre – az AI-eszköznek ugyanis már több milliárd egészségügyi kérdést szegeztek a felhasználók.
A Icahn School of Medicine at Mount Sinai nevű New York-i egyetem kutatócsoportja most alaposan megvizsgálta az AI-eszközt. Egy „alapvető, de kritikus” kérdésre szerettek volna választ kapni: ha valaki tényleges orvosi vészhelyzetben van, és így kéri a segítségét, akkor egyértelműen azt fogja tanácsolni, hogy keressen fel egy sürgősségi osztályt?
A válasz sajnos az, hogy nem – legalábbis a legtöbb esetben. A kontrollált vizsgálatok során felmérték, hogy a ChatGPT Health mennyire tudja jól felmérni a beteg állapotának súlyosságát.
A kutatók úgy találták, az AI-eszköz a sürgős esetek 52 százalékát egyszerűen alulértékelte. Például a légzési elégtelenségtől szenvedő embereknek is az állapotuk 24–48 órás megfigyelését javasolta a sürgősségi osztály helyett.
Az AI egyértelműen korai figyelmeztető jelként azonosította a problémát, de azzal nyugtatta a beteget, hogy csak várjon, és figyelje az állapotát. A sürgősségi ellátás felkeresését nem is javasolta.
Úgy tűnik, nem értékelik a felhasználók, hogy miután az Anthropic nem volt hajlandó teljes hozzáférést adni az amerikai kormánynak a rendszereihez, az OpenAI jelentkezett a feladatra.
A „tankönyvi vészhelyzeteket” ugyanakkor felismerte a rendszer, mint például a stroke vagy az anafilaxia. A kutatók szerint főleg akkor vallott kudarcot a rendszer, amikor már a klinikai ítélőkészség fontos szerephez jut.
A ChatGPT több, fiatalok öngyilkosságával kapcsolatos ügybe is belekeveredett már – erre válaszul az OpenAI új biztonsági intézkedéseket vezetett be, például a szülői felügyeletet. Bizonyos esetekben pedig – az ígéret szerint – szakemberhez irányítja a felhasználót a chatbot.
A friss kutatás ugyanakkor úgy találta, az öngyilkossági kockázatra vonatkozó figyelmeztetések nem következetesek. Az alacsonyabb klinikai kockázatnál megbízhatóbbnak tűnt a rendszer, míg amikor valaki egyértelműen kijelentette, hogy kárt tesz magában, nem működött olyan jól. Ez a szakemberek szerint „különösen aggasztó és meglepő megállapítás volt”.
Eleinte csak az iskolai feladatokról beszélgetett egy 16 éves fiatal a ChatGPT-vel, később egyfajta bizalmi viszony alakult ki köztük. A chatbot ugyanakkor nem ismerte fel, amikor nagy volt a baj, és a szülők szerint csak felerősítette az öngyilkos gondolatait.
Az OpenAI szóvivője a Gizmodo cikke szerint kijelentette: a ChatGPT-t egy fejlesztés alatt álló eszköznek kell tekinteni, és folyamatosan kapja azokat a frissítéseket, amelyek azt a célt szolgálják, hogy az érzékeny helyzeteket is jobban tudja kezelni.
A mesterséges intelligencia hasznos eszköz lehet, de az általa elmondattakat nem szabad készpénznek venni, mivel tévedhet. Ha rosszul érzi magát, forduljon szakemberhez.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
