Az Egyesült Államok Élelmiszer- és Gyógyszerügyi Hivatala (Food and Drug Administration, FDA) 2025 júniusában mutatta be az általa használt generatív mesterséges intelligenciát, Elsát, amelynek célja, hogy segítse az alkalmazottakat – a tudományos vizsgálati eredmények elbírálóitól egészen az FDA hatáskörébe tartozó incidensek felderítésével foglalkozó szakemberekig – a hatékonyabb munkavégzésben. Bár mindez jól hangzik, úgy tűnik, hogy komoly problémák vannak a rendszerrel.
A CNN-nek nyilatkozó volt és jelenlegi alkalmazottak azt állítják, hogy Elsa nem létező tanulmányokat hallucinált, vagy valós kutatásokat ábrázolt tévesen. „Bármi, amit nincs időnk kétszer is ellenőrizni, lényegében megbízhatatlan” – nyilatkozta a lapnak az egyik névtelenséget kérő forrás, mivel szerinte a rendszer „meggyőzően hallucinál”. Ez nem kis probléma, tekintve, hogy az eszköznek fel kellene gyorsítania a klinikai felülvizsgálati folyamatokat, és segítenie kellene a hatékony, megalapozott döntések meghozatalát, ami aztán a betegek javát szolgálja.
Marty Makary, az FDA biztosa a CNN-nek ugyanakkor úgy nyilatkozott, nem hallott a lap által megemlített problémákról. Azt is hangsúlyozta, hogy az Elsa használata és a használatára vonatkozó képzésben való részvétel jelenleg önkéntes az ügynökségnél.
Az Egészségügyi és Humán Szolgáltatások Minisztériumának szóvivője az Engadgetnek úgy nyilatkozott, a CNN-nek adott információkat félreértelmezték és kiragadták a kontextusából. Azt is állította, hogy az informátorok elégedetlen volt dolgozók és olyanok lehettek, akik soha nem is használták a rendszert. Az FDA szerint biztonsági mechanizmusok is vannak a rendszerben, arról azonban nem tett említést, hogy az Elsa más mesterséges intelligenciákhoz hasonlóan szokott-e hallucinálni, és ha igen, akkor milyen gyakran és mértékben.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
