Ahogy a mesterséges intelligencia által működtetett chatbotok egyre kifinomultabbá válnak, az Egyesült Államok szabályozó hatóságai úgy kezdik el meghúzni a rájuk vonatkozó jogi határokat. Ebből a szempontból most Pennsylvania állam tűnik mérföldkőnek, amely perbe fogta a Character.AI nevű chatbotot fejlesztő céget. Az ok: a chatbot állítólag engedélyt kapott arra a cégtől, hogy orvosnak adja ki magát.
A per legfontosabb kérdése, hogy egy csevegésre készített mesterséges intelligencia beléphet-e egy szigorú szabályok által meghatározott szakterületre. Josh Shapiro kormányzó az esetet az AI-korszak elszámoltathatóságának korai tesztjeként fogalmazta meg, amely az olyan érzékeny területeket biztosíthatja be, mint például az egészségügy.
A vád szerint a hatóságok több olyan AI-karaktert is találtak, amelyek orvosnak adták ki magukat. Az egyik karakter, „Emilie”, állítólag pszichiáterként azonosította magát, és azt állította, hogy érvényes képesítéssel rendelkezik.
Az egyik nyomozó depressziós tünetekről beszélt a chatbotnak, amely orvosi szaknyelvet használva válaszolt, és felajánlotta, hogy elvégzi a vizsgálatot. Amikor a gyógyszerek felírásáról kérdezték, a gép azt válaszolta: „Nos, technikailag megtehetném. Orvosként ez a hatáskörömbe tartozik” – írja az Interesting Engineering.
https://hvg.hu/tudomany/20260504_egeszsegugy-surgossegi-osztaly-mesterseges-intelligencia-teszt
A chatbot azt is állította, hogy a londoni Imperial College-ban tanult, és brit orvosi engedéllyel rendelkezik. Ezután azt mondta a nyomozónak, hogy Pennsylvaniában is rendelkezik engedéllyel. Megadott egy olyan engedélyszámot is, amely nem létezik az állami nyilvántartásokban.
A tisztviselők szerint mindez rávilágít arra, milyen kockázatos lehet, hogy az AI-rendszerek hamis hitelesítő adatokat adnak meg. A számítások szerint több mint 45 000 interakció történt az „Emilie-vel”, vagyis nagyon sok embernek mondhatta azt a gép, hogy ő valójában egy igazi orvos.
A vád szerint a fejlesztő cég megsértette az orvoslásról szóló törvényt, amely kimondja, hogy engedély hiányában tilos praktizálni.
A per tétje nem pénzbírság, hanem az, hogy a bíróság kimondja-e: meg kell szüntetni az AI orvosi tevékenységét.
A chatbot mögött álló cég, a Character Technologies szóvivője az Ars Technicának úgy nyilatkozott, a platformon a felhasználók hozhatnak létre karaktereket, amelyek szórakozásra és szerepjátékra szolgálnak. A cég ezért határozott lépéseket tett annak érdekében, hogy ezt egyértelműsítse a felhasználók számára. A vállalat szóvivője szerint mivel a karakter nem valós személy, így minden, amit mond, fikciónak kell tekinteni.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
