Az EP elfogadta a világon az első törvényt, amely a mesterséges intelligenciát szabályozza

Az indoklás szerint a jogszabály célja „az alapvető jogok, a demokrácia, a jogállamiság és a környezeti fenntarthatóság védelme a magas kockázatú mesterséges intelligenciával (MI) szemben, miközben serkenti az innovációt, és megteremti Európa vezető szerepét a mesterséges intelligencia területén”. A rendelet a mesterséges intelligencia lehetséges kockázatai és hatásai alapján az alkalmazásra vonatkozó kötelezettségeket is megállapít.

Ami az utóbbiakat illeti: nem lesznek megengedettek az olyan mesterségesintelligencia-alkalmazások, amelyek sérthetik a polgárok jogait. Ilyen például az érzékeny személyes adatokon alapuló biometrikus kategorizálás vagy az arcfelismerő adatbázisok létrehozása olyan arcképek felhasználásával, amelyeket az internetről vagy zártláncú televíziós hálózatok, térfigyelő kamerák felvételeiből nem célirányosan válogatnak le. Tilos lesz továbbá a munkahelyen és az iskolákban gépi érzelemfelismerő rendszereket alkalmazni. Nem lehet pontozni a polgárokat kockázati profiljuk vagy társadalmi hovatartozásuk alapján, és ugyanígy szabályellenes a profilalkotásra, illetve a bűnözői előéletre alapozott „prediktív rendészet” is. Olyan rendszereket sem lehet alkalmazni, amelyek képesek befolyásolni az emberek viselkedését, vagy a sebezhetőségüket használják ki.

A tárgyalások során az Európai Parlament szerette volna elérni, ha a tömeges megfigyelést teljes mértékben tiltaná a jogszabály, végül ezalól kivételeket engedtek meg. A távoli biometrikus azonosító (RBI) rendszereknek hívott alkalmazás valós időben csak szigorú biztosítékok mellett lesz bevethető: például időben és földrajzilag korlátozottan, külön bírói vagy hatósági engedéllyel. Akkor jöhet szóba, ha például eltűnt személyt keresnek, vagy terrortámadást próbálnak megelőzni.

Az új rendelet egyértelmű kötelezettségeket állapít meg az olyan mesterségesintelligencia-rendszerekkel kapcsolatban, amelyek jelentős veszélyt jelentenek az egészségre, a biztonságra, az alapvető jogokra, a környezetre, a demokráciára vagy a jogállamiságra. Magas kockázatúnak számítanak a kritikus infrastruktúrák, az oktatás és a szakképzés, a foglalkoztatás, az alapvető magán- és közszolgáltatások (pl. egészségügyi és banki szolgáltatások), a bűnüldözés, a migráció és a határigazgatás területén, valamint az igazságszolgáltatásban és a demokratikus folyamatokban (pl. a választások befolyásolására) használt mesterségesintelligencia-alkalmazások. Az ilyen rendszerek esetében a rendelet rendszeres kockázatértékelést és -mérséklést ír elő.

A polgároknak ezentúl joguk lesz panasszal élni a mesterségesintelligencia-rendszerek alkalmazásával szemben, valamint részletes tájékoztatást kapni az alapvető jogaikra jelentősen kiható olyan döntésekről, amelyek magas kockázatú MI-rendszerek bevonásával születtek.

Arra is kitér a rendelet, hogy a tagállamokban szabályozói tesztkörnyezetet kell létrehozni, és valós körülmények között is kell teszteket végezni, amelyekbe be kell vonni a kkv-kat és az induló vállalkozásokat is, hogy a piacra már kiforrott és betanított innovatív mesterségesintelligencia-rendszerek kerüljenek ki.

Néhány technikai lépés után a rendeletet még ebben a választási ciklusban véglegesítik és hatályba léptetik. A tagállamokban a hatálybalépést követő 24 hónap elteltével a jogszabályt teljes egészében alkalmazni kell, kivéve a tiltott gyakorlatokra vonatkozó rendelkezéseket, amelyeket 6 hónappal a hatálybalépést követően már be kell vezetni.