Megreguláznák a mesterséges intelligenciával működő chatbotokat Kaliforniában: a napokban aláírt SB 243 törvény célja, hogy megvédje a gyermekeket (és úgy általában a felhasználókat is) a mesterséges intelligencia alapú chatbotok használatával kapcsolatos ártalmaktól. Az új törvény előírja, hogy amennyiben a chatbot alkalmas arra, hogy „emberi” színben tüntesse fel magát, azaz a felhasználó azt hiheti, hogy hús-vér partnerrel kommunikál, akkor a chatbot készítőjének „egyértelmű és szembetűnő értesítést” kell kiadnia arról, hogy a termék mesterséges intelligencia alapú.
„Az olyan feltörekvő technológiák, mint a chatbotok és a közösségi média, inspirálhatnak, oktathatnak és kapcsolatokat hozhatnak létre, de valódi védőkorlátok nélkül az ilyen technológia kihasználhatja, félrevezetheti és veszélyeztetheti is gyermekeinket” – mondta Gavin Newsom kaliforniai kormányzó a törvényjavaslat aláírásakor kiadott nyilatkozatában.
A szigorítás nem véletlen, egyre többször hallani, hogy tinédzserek lesznek öngyilkosok a chatbotokkal folytatott beszélgetéssorozatok után. „Láttunk már néhány igazán szörnyű és tragikus példát arra, hogy a fiatalokat szabályozatlan technológia károsította meg, és nem fogjuk tétlenül nézni azt, ahogy a vállalatok a szükséges korlátozások és elszámoltathatóság nélkül folytatják. Továbbra is vezető szerepet tölthetünk be a mesterséges intelligencia és a technológia terén, de felelősségteljesen kell tennünk – minden lépésnél védve gyermekeinket. Gyermekeink biztonsága nem eladó” – mondta még a kormányzó.
Az SB 243 törvény január 1-jén lép hatályba, és előírja a vállalatok számára bizonyos funkciók, például az életkor ellenőrzésének, valamint a közösségi médiával és a kísérő chatbotokkal kapcsolatos figyelmeztetések bevezetését. A platformoknak azt is egyértelművé kell tenniük, hogy minden interakció mesterségesen generált, és a chatbotok nem adhatják ki magukat egészségügyi szakembernek. Háromőránként szünetemlékeztetőket kell kínálniuk a kiskorúaknak, és meg kell akadályozniuk, hogy a chatbot által generált szexuálisan explicit képeket nézzenek – szemezget a törvényből a TechCrunch.
Ezek mellett a jövő évtől kezdődően a vállalatoknak protokollokat is ki kell dolgozniuk az öngyilkosság és az önkárosítás kezelésére, amelyeket meg kell osztaniuk az állam közegészségügyi minisztériumával. Bizonyos eseteket pedig be kell jelenteniük egy krízisvonalon.
A CNBC-nek adott nyilatkozatában az OpenAI „jelentős előrelépésnek” nevezte a mesterséges intelligencia biztonsági szabványai terén az új törvényt. „Egyértelmű korlátok felállításával Kalifornia segít felelősségteljesebb megközelítést kialakítani az AI fejlesztésével és országszerte történő telepítésével kapcsolatban” – mondta a vállalat.
Az SB 243 a második jelentős mesterségesintelligencia-szabályozás, amely az elmúlt hetekben Kaliforniában született. Szeptember 29-én Newsom kormányzó aláírta az SB 53-at, amely új átláthatósági követelményeket vezet be a nagy mesterséges intelligencia vállalatok számára. A törvény előírja, hogyaz ilyen vállalkozásoknak, például az OpenAI-nek, az Anthropicnak, a Metának és a Google DeepMindnak, átláthatónak kell lenniük a biztonsági protokollokkal kapcsolatban. Emellett biztosítja a visszaélést bejelentők védelmét is az említett vállalatok alkalmazottai számára.
Más országok egyébként szigorúbb szabályokat vezettek be a mesterséges intelligenciára vonatkozóan. Tavaly az Európai Unió elfogadta a mesterséges intelligencia törvényt (AI Act), amely szabályozza, hogyan lehet AI-t fejleszteni és használni különböző kockázati szinteken. E szabályozás célja, hogy egyesíthető legyen a technológiai innováció a felhasználók védelmével, és egy átláthatóbb, felelős AI-használatot biztosítson.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
