„Mint egy aszteroida, ami ki fog minket lapítani, és nem tehetünk ellene semmit” – féken tartható a mesterséges intelligencia?

HVG: Hirtelen mintha mindenki felismerte volna, hogy a technológia, a szabályozás és a társadalom összefügg egymással.

Shobita Parthasarathy: Furcsa is, hogy csak most! (Nevet.) Már régóta foglalkozom azzal, hogyan hatnak ezek egymásra, és hogyan biztosíthatjuk, hogy a fejlesztések hasznosak legyenek. Ehhez először is kielégítő szabályozásra van szükség. A feladatom az, hogy megértsem a mintázatokat, azonosítsam, ha problémát okoznak a társadalom számára, és javaslatokat tegyek a szabályozásra. Olyan helyi szervezetekkel dolgozunk együtt, amelyeknek kérdéseik vannak a technológiákkal kapcsolatban. Elemzéseket írunk, hogy elegendő tudás birtokában érdemi vitát indíthassanak ezekben a témákban. Detroit erre kifejezetten alkalmas, például a Project Greenlight miatt. Ez egy széles körben és gyakran visszásan alkalmazott, a bűnmegelőzést célzó arcfelismerő rendszer. Legalább három olyan esetről tudunk, amikor a használatával tévesen tartóztattak le valakit. De beszélhetnénk a prediktív rendőri intézkedésekről vagy az elítéltek tárgyalás előtti, mesterségesintelligencia-alapú kockázatelemzéséről is. Előbbi például meglévő adatokból kiindulva próbálja előrejelezni, hol várható bűncselekmény, emiatt főként marginalizált csoportok felé fog mutatni, akiknek túlzott rendőri jelenlétet kell elviselniük. A rendszer csak igazolja a régóta velünk élő strukturális előítéleteket.

Shobita Parthasarathy

University of Michigan

HVG: Az MI-nek is megvan a maga tanulási görbéje. Például az önvezető autóktól ódzkodnak az emberek, a kutatások szerint azonban idővel csökkenteni fogja a balesetek számát. Mit gondol a mesterséges intelligencia jövőbeli szerepéről?

S. P.: Mindig is volt ellenállás az új technológiákkal szemben. Amikor látjuk a visszásságokat, azt feltételezzük, hogy a technikai szakértő tudja, mi a jó a társadalomnak, akik pedig ellenállnak, azoknak fogalmuk sincs az egészről. De ha a kérdés mélyére ásunk, látjuk, hogy jogos az erkölcsi és szociális aggodalom a munkahelyek sorsa vagy az oktatás minősége kapcsán. Amíg a detroiti fekete közösség el nem kezdte pedzegetni, hogy a körükben rosszul működik az arcfelismerő rendszer, addig senki sem foglalkozott azzal, hogy milyen adatokat használtak fel a gépi tanulás során. Ez pedig felvetette a kérdést: pozitív lesz-e egyáltalán egy adott technológia hatása? Egy szakértőnek persze lehet erős igazságérzete, de olyan privilégiumokkal rendelkezik, amelyek miatt nem észleli azokat a problémákat, amelyek a társadalom peremén élők számára mindennaposak.