Illinois állam kormányzója, J. B. Pritzker nemrégiben aláírt egy törvényt, amely megtiltja, hogy önálló terapeutaként használják a mesterséges intelligenciát, például a ChatGPT-t, és korlátokat állít fel azzal kapcsolatban, hogy mennyiben segítheti a szakembereket. Másképp fogalmazva: Illinois államban a mentális egészségügyi ellátás továbbra is emberi kézben marad.
A hivatalos néven HB 1806, azaz a pszichológiai erőforrások wellnesséről és felügyeletéről szóló törvény konkrétan megtiltja, hogy a MI-alapú chatbotok vagy más, mesterséges intelligencia által vezérelt eszközök közvetlenül kapcsolatba lépjenek a betegekkel, terápiás döntéseket hozzanak, vagy kezelési terveket készítsenek. E törvényt megszegő vállalatok vagy egyéni szakemberek akár tízezer dolláros bírsággal is sújthatók.
Az új törvény nem tiltja be minden esetben a MI használatát. Időpontok kezeléséhez, adminisztratív feladatokhoz, számlázáshoz, terápiás jegyzetek készítéséhez továbbra is lehet segítséget kérni tőle, de távol kell „őt” tartani a terápiás beszélgetésektől.
A korlátozás különösen fontos, mivel a mesterséges intelligencia eszközei egyre kifinomultabbá válnak, és egyre inkább beépülnek az online mentális egészségügyi platformokba. Számos nagyobb chatbot platform – köztük olyan cégek által fejlesztettek, mint az OpenAI – elkezdte beépíteni a mentális egészségügyi funkciókat vagy a támogatási válaszokat. De gyakran hiányzik az érdemi felügyelet, és sok felhasználó nem veszi észre, hogy egy géppel beszélget.
Az új törvény, de úgy egészében a MI terápiás segédeszközként történő használata, illetve annak tiltása megosztó téma. Akik egyetértenek a tiltással, azok azzal érvelnek, hogy az ilyen eszközöket nem tesztelték alaposan, megbízhatatlanok és hajlamosak a hallucinációra, azaz tényszerűnek feltüntetni helytelen információkat, amelyek azután káros következményekkel járhatnak. Az ilyen eszközökre való túlzott támaszkodás növeli annak a kockázatát, hogy a terápiát kérő egyének nem figyelnek azokra a tünetekre, amelyekkel orvoshoz kellene fordulniuk.
„Illinois lakosai minőségi egészségügyi ellátást érdemelnek valódi, képzett szakemberektől, nem pedig olyan számítógépes programoktól, amelyek az internet minden szegletéből gyűjtenek információkat, hogy a betegeknek ártalmas válaszokat generáljanak” – írta Mario Treto Jr., az Illinois állam pénzügyi és szakmai szabályozási minisztériumának titkára egy sajtóközleményben.
A technológia védelmezői viszont arra hivatkoznak, hogy a MI segíthet orvosolni azokat a problémákat, amit az ottani egészségügyi rendszer okoz, ami sokak számára megfizethetetlenné, elérhetetlenné teszi a terápiát. Sok ember számára – különösen az alulszolgáltatott közösségekben élők számára – egy ingyenes chatbot tűnhet az egyetlen terápiás lehetőségnek. Ráadásul egyre több a bizonyíték arra – mutat rá a Popular Science –, hogy azok, akik mentális problémával fordulnak a chatbotokhoz, gyakran empatikusabbnak, együttérzőbbnek találják a MI generálta válaszokat, mint az olykor túlterhelt szakemberekét.
Természetesen az olyan törvények, mint amit most Illinois államban is elfogadtak, nem fognak mindenkit megakadályozni abban, hogy közvetlenül egy chatbottól kérjen tanácsot. Alacsonyabb tétel járó kérdések és pozitív megerősítés esetén ez talán nem is olyan rossz dolog, sőt, még vigaszt is nyújthat az embereknek, mielőtt a probléma súlyossá válna. Viszont a mentális betegségek súlyosabb esetei továbbra is emberi terapeuták által nyújtott professzionális ellátást igényelnek.
Illinois állam szabályozása összességében fordulópontot jelent. Modellként szolgálhat más amerikai államok számára, amelyek azzal küzdenek, hogyan kezeljék a mesterséges intelligenciát olyan érzékeny, nagy téttel bíró területeken, mint az egészségügy, az oktatás és a jog – vélik a jogalkotók.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
