Ember és gép: ki ellenőriz kit az EU-ban?

Ne az MI mondja meg, mikor vásároljunk intim higiéniás terméket! Ezzel hívja fel mindenki, de leginkább a vállalkozások figyelmét egy új EU-szabályozásra Tóth Judit Lenke adatvédelmi és adatbiztonsági szakjogász. Példája szerint a mesterséges intelligenciára (MI) épülő rendszerek „köznapi szituációkban is működhetnek: például bolthálózatok kamerákat okosíthatnak fel, és akár arcfelismerés, akár a vásárlók boltban megtett útja alapján alakíthatják a marketingjüket. Extrém esetben lehetséges, hogy ezekből tudják, mikor vett a vevő utoljára intim higiéniai terméket, és ennek alapján előre jelzik, mikor kell újra vásárolnia.”

Mindez azért érdekes, mert február 2-a óta az EU-ban be lehet tiltani az MI legkockázatosabb alkalmazásait. Mint sok más digitális ügyben, Európa ezúttal is elsőként hozott szabályokat, mégpedig meglehetősen szigorúakat. 

Az MI felhasználását négy kategóriába sorolja a törvény. Legelőször – februárban, fél évvel a jogszabály tavaly augusztusi megszavazása után – az „elfogadhatatlan kockázatot jelentő” rendszerek tilalma lépett életbe. Az ilyenek közé tartozik, ha emberek viselkedését manipulálják, különösen ha veszélyeztetett csoportokról van szó. Példa erre az olyan játék, amely kockázatos viselkedésre ösztönzi a gyerekeket. Szintén elfogadhatatlan, ha – mondhatni, kínai mintára – az MI besorolja, pontozza az embereket viselkedésük, társadalmi-gazdasági helyzetük vagy személyes jellemzőik mentén. 

Az sincs rendben, ha az MI biometrikusan (például arcuk, ujjlenyomatuk, szemük alapján) azonosítja és kategorizálja az embereket, és az Európai Parlament honlapján külön kiemelik, hogy néhány indokolható kivételtől eltekintve nem szabad valós időben és távolról biometrikusan, például gépi arcfelismeréssel azonosítani a polgárokat. Jó tudni azt is, hogy az EU-regula szerint ha a rendőrség valakinek a hátrányára hoz döntést, az nem alapozható egymagában az MI „véleményére”. Sajátos megoldással az erre a legszigorúbb kategóriára vonatkozó tilalom már érvényben van ugyan, de annak csak augusztusig kell kiderülnie, hogy mely hatóságok milyen körülmények között tartatják be a szabályt, és hogy hogyan büntetnek.