„Az emberiségnek meg kell egyeznie, hogy mire akarja használni ezt a technológiát”

Emily Kate Genatowski és humanoid robotja, Tova tavaly az AI Talks talán legnépszerűbb résztvevői voltak: rengeteg látogatónak szereztek vidám perceket, hiszen egyelőre nem hétköznapi esemény, hogy egy hasonló rendezvényen egy két lábon járó robot integet az embernek, sőt, még közös fotóra is van vele lehetőség.

Genatowski a Bécsi Egyetem Digitális Humán Tudományok (Digital Humanities) doktori kutatója saját otthonát is kutatási tereppé alakította: együtt él Továval, hogy a gyakorlatban vizsgálja, milyen jogi, társadalmi és hétköznapi problémák merülnek fel, amikor a humanoid robotok kilépnek a laboratóriumból és beköltöznek az emberek közé. Genatowski a Harvardon és a Columbia Egyetemen tanult, korábban pedig a Google Arts & Culture észak-amerikai koordinátoraként is dolgozott.

Szia Emily, örülök, hogy újra találkozhatunk! Tavaly megismerhettük Továt. Okosabb lett azóta?

Emily Kate Genatowski: Egyáltalán nem, sőt, az elmúlt évben több problémát is okoztak a gyártó Unitree által kiadott szoftverfrissítések – az alkalmazások változásaitól egészen az LLM-alapú funkciókig – amelyek új helyzeteket teremtettek, és amikre nagyon oda kellett figyelnem. Egyszer például egy filmes stáb dolgozott nálam, és megkérdezték, lehet-e beszélgetni Továval. Próbáltam nekik előre jelezni az ilyen jellegű korlátait, de végül bekapcsoltam a funkciót. Viszont egy korábbi frissítés összekapcsolta a robotban lévő nyelvi modellt a gesztikulációval, így a robot már fizikailag is reagál arra, amit mondanak neki. Valaki megkérdezte tőle, tud-e hátraszaltózni, Tova pedig már el is kezdett készülni erre, és leguggolt. Úgy kellett odaszaladnom, hogy leállítsam, mielőtt véletlenül szétver valamit a lakásban. Ez elég jól megmutatja, milyen problémákat hozhat, amikor egy szoftverfrissítés új képességet kapcsol egy fizikai testhez.

Ráadásul itt Európában figyelembe kell vennem olyan szabályozásokat is, mint a GDPR vagy az AI Act. Ahogy erről már tavaly is beszélgettünk, a robotom egy kínai laborból érkezett, ezért GDPR-kompatibilissé kellett tenni, így sok funkciója erősen korlátozott: nem különböztethet meg embereket, nem kezelhet biometrikus adatokat, mert ha kimegyünk az utcára, ehhez nem feltétlenül kapjuk meg a járókelők hozzájárulását. Ezért van például az, hogy Tova nem tud különbséget tenni közted és köztem.

Az új LLM-funkciók tehát adatvédelmi problémákat is jelentenek számomra: GDPR-szempontból nem tudok minden esetben megfelelő garanciát adni, ezért vannak olyan globálisan kiadott frissítések, amelyeket nagyon óvatosan kell kezelnem.

Emily Kate Genatowski és humanoid robotja, Tova a 2025-ös HVG AI Talks színpadán

Hogyan kellene egy robot szoftverfrissítéseit kezelni? A legtöbb szoftverfrissítéshez több oldalas, apróbetűs szerződések járnak, amelyeket senki nem olvas el, de ha mégis, akkor sem értjük feltétlenül. Gondolom, egy robot esetében ezek a frissítések még bonyolultabbak. Mennyire lehet ezeken kiigazodni?

E. K. G.: Sokkal nagyobb átláthatóságra lenne szükség! Amikor valaki megnyit egy alkalmazást, egyszerű, közérthető változáslistát kellene kapnia arról, mi módosult. Az eszköz tulajdonosának pontosan tudnia kellene, mit változtat meg egy frissítés.

Velem is előfordult, hogy Tova szoftverében egy frissítés után megjelent egy új ikon. Azt hittem, a kamerához tartozik, de valójában a vészleállító funkciót hozta működésbe, így Tova egyszer csak leállt egy előadásom közepén, a közönség előtt. Megpróbáltam tanulási helyzetként kezelni, de közben arra gondoltam, ha a fejlesztők egy kicsit világosabban kommunikálnák, hogyan változik a felhasználói élmény, az rengeteget segítene a bizalom kialakításában.

Most a frissítések rendszertelenül érkeznek, és nem mindig egyértelmű, pontosan mi változik. Szükség lenne rendszeres, egyszerű nyelven megfogalmazott tájékoztatásra, hiszen, ahogy mondtad, a legtöbben elfogadjuk a felhasználási feltételeket anélkül, hogy valóban tudnánk, mihez járultunk hozzá. Az új technológiák képességeit ezért sokan csak utólag, a saját kárukon ismerik meg.

Közben azt várjuk ezektől az eszközöktől, hogy egyre többet tudjanak. Ehhez viszont többet kell tudniuk rólunk is, azaz, egyre több adatot kellene velünk kapcsolatban feldolgozniuk, gyakran olyan módon, amit mi már át sem látunk. Összeegyeztethető ez a magánszféra védelmével?

E. K. G.: Ez az egyik legfontosabb konfliktus. Nemrég írtam a „capability loss”, vagyis a képességvesztés fogalmáról. Ha nagyon szigorúan védjük az adatainkat, akár egyéni, akár regionális szinten, akkor valamennyi funkcionalitásról szükségszerűen lemondunk.

Ez tulajdonképpen fordított összefüggést jelent: szeretnénk megvédeni az adatainkat és a magánéletünket, közben viszont olyan termékeket akarunk használni, amelyeknek adatra van szükségük ahhoz, hogy jól működjenek. A fogyasztóknak egyre gyakrabban maguknak kell elvégezni ezt a költség-haszon elemzést.

Tova tehát nem lett okosabb, én viszont megőriztem a magánszférámat. El kell döntenünk, hogyan rangsoroljuk ezeket az értékeket, mert mint látható, nem biztos, hogy egyszerre megkaphatjuk a maximális funkcionalitást és a maximális adatvédelmet.

Tavaly azt mondtad, hogy az AI-tól való félelem nem feltétlenül rossz, mert arra ösztönöz minket, hogy figyeljünk és vegyünk részt a szabályozásról szóló vitában. Egy év alatt változott erről a véleményed?

E. K. G.: Azt érzem, hogy jelentősen megváltozott a közhangulat, sokkal szkeptikusabbak lettünk. Nekem különösen érdekes ezt megtapasztalni, mert a technológiai fejlesztések és a közvélemény közti világban tevékenykedek.

A trendek ellenére továbbra is óvatosan optimista vagyok, részben azért, mert látom azt a rengeteg munkát, amely a háttérben zajlik a biztonságosabb rendszerek, az infrastruktúra vagy az ügynöki (agentikus) szolgáltatások biztonsági protokolljai körül. A közvélemény ebből viszont sokkal kevesebbet érzékel.

Az AI-ról szóló történetekben eközben nagyon hangsúlyosan jelenik meg, hogy veszélyezteti a munkahelyeket, a gazdaságot vagy akár az emberi méltóságot. A pozitívumok pedig sokszor vagy csak egy szűk csoport számára láthatók, vagy túl elméletinek tűnnek. Olyan korszakban vagyunk, amikor az emberek pontosan érzik a technológia árát, de kevésbé biztosak abban, mit kapnak érte.

Továval emiatt néha szó szerint villámhárítóvá válok a két világ között, de ennek megvannak az előnyei is. El tudom ugyanis mondani a technológiai közösségnek, hogy mitől félnek valójában az emberek, a nyilvánosságnak pedig meg tudom mutatni, hogy milyen megoldásokon dolgoznak a háttérben, illetve azt, hogy vannak, akik odafigyelnek ezekre az aggodalmakra.

Eközben mennyit fejlődött maga a robotika az elmúlt évben?

E. K. G.: A háztartási robotikában nem látható óriási ugrás a szoftveres képességek fejlődésében. Nagyon sok vállalat most vizuális és tréningadatokat gyűjt, amelyekre azért van szükség, hogy a jövő robotjai felismerjék, milyen feladatokat kell elvégezniük, és általánosabb képességű gépekké válhassanak. Jelenleg továbbra is az ipar a robotika legkézenfekvőbb alkalmazási területe, ami logikus, mert kiszámítható környezetet biztosít, ahol nagyon precíz feladatokat lehet adni a gépeknek.

Az elmúlt év alapján a következő terület például a vendéglátás vagy bizonyos szolgáltatási környezetek lehetnek, mert ott még mindig jól meghatározott feladatokról és kiszámítható terekről beszélhetünk. Egy átlagos otthon ezzel szemben nem létezik, hiszen minden lakás más, minden család másképp él. Emiatt az általánosan használható háztartási humanoid robot szerintem még mindig messze van.

Az egészségügy nem lehet olyan terület, ahol hamarabb megjelenhetnek a robotok? Elvégre már most is használnak sebészeti eljárásoknál ilyen technológiákat?

E. K. G.: Az egészségügy nagyon érdekes terület, különösen az öregedő társadalmak és a munkaerőhiány miatt. Meg kell vizsgálnunk, hogyan tudjuk az AI és a robotika fejlődését felhasználni arra, hogy kezeljük ezt a problémát. Ugyanakkor itt különösen óvatos lennék a betegek közvetlen ellátásában részt vevő robotokkal. A technológia képes lehet bizonyos feladatok átvételével visszaadni valamennyit az emberek önállóságából és méltóságából, de nagyon fontos, hogy az idős emberekkel való foglalkozásból ne veszítsük el az emberi oldalt, különösen ott, ahol az érzelmeknek szerepük van. Ez azért is nehéz kérdés, mert közben egyre többen használják az AI-t a magány ellenszereként. Itt pedig már összemosódik a robotika, a szoftver és az emberi kapcsolatok kérdése.

És mi a helyzet a robotika katonai alkalmazásával?

E. K. G.: Ez nem a saját szakterületem, ezt fontos leszögezni. De nagyon feszült és versengő geopolitikai korszakban élünk, miközben elképesztően gyors technológiai fejlődés zajlik. Remélem, hogy azok az előrelépések, amelyek ezen a területen történnek, elsősorban a civilek, a katonák és az országok biztonságát szolgálják. Ugyanakkor idővel szükség lehet valamiféle országok közötti megállapodásra is, hasonlóan ahhoz, mint a nukleáris technológia esetében. A fontosabb kérdés számomra az, hogy mire akarjuk optimalizálni az AI fejlődését. Az emberek életének javítására? Tudományos felfedezésekre? Betegségek gyógyítására? Gazdasági előnyre? Vagy geopolitikai dominanciára? Ha én választhatnék, a tudományos felfedezést választanám.

A technológiai cégek vezetői közül is egyre többen beszélnek szabályozásról. Hiszel abban, hogy ebből valódi közös megoldás születhet?

E. K. G.: Sok ember szkeptikus ezzel kapcsolatban, én viszont már annak is örülök, hogy zajlik valamiféle párbeszéd. Vannak kormányzati és iparági szereplők, akik próbálnak közös nevezőt találni. Nem gondolom, hogy ettől eltűnnek az érdekellentétek, de már az is fontos, ha a szereplők hajlandók egy asztalhoz ülni.

Sokan azt mondják, az egyik probléma éppen az, hogy idős politikusok próbálnak dönteni egy olyan technológiáról, amelyet nem értenek.

E. K. G.: Sokat gondolkodom ezen, és szerintem ez valójában nem életkor kérdése. Sokkal inkább az számít, hogy valaki mennyire képes alkalmazkodni, szakértőkre hallgatni és folyamatosan új információkat befogadni. Los Angelesben volt egy 97 éves szomszédom, akinek közösen alakítottuk ki az okosotthonát, de más AI-projekteket is csináltunk együtt. Szóval ez sokkal inkább mentalitás kérdése, mint életkoré. Nem feltétlenül az embereket kell lecserélni a kormányokban és intézményekben. Inkább olyan struktúrákra lenne szükség, amelyek képesek alkalmazkodni a technológia mai tempójához. A kutatólaborok rendkívül gyorsan haladnak, a szabályozási rendszerek viszont csak kullognak.

Ez már jogi problémákhoz is vezet?

E. K. G.: Igen. Nemrég foglalkoztam azzal a kérdéssel, hogy mi történik, amikor egy autonóm AI-ügynök olyasmit tesz, ami emberként jogsértésnek számítana. Ha egy ember illetéktelenül behatol egy weboldalra, annak jogi következménye van. De mi történik, ha ezt egy AI-ügynök teszi? A jelenlegi rendszerekben nagyon fontos az emberi szándék kérdése. A fejlesztő mondhatja azt, hogy mindent megtett az ügynök kordában tartásáért, és nem kérte tőle, hogy jogsértést kövessen el. Magának az AI-nak viszont nem tudunk jogi értelemben szándékot tulajdonítani. Így kialakul egy szürke zóna. Nem gondolom, hogy ez önmagában félelmetes vagy szükségszerűen negatív, amennyiben képesek vagyunk reagálni rá. A probléma az, hogy még soha nem kellett a jogrendszereinknek ilyen sebességű technológiai változáshoz alkalmazkodniuk.

Ezért szerintem nem elsősorban az egyes politikusokkal van probléma, hanem magukkal a rendszerekkel és azzal, milyen lassan képesek változni.

Mivel készülsz az idei AI Talks-ra?

E. K. G.: Idén szeretnék belemenni a nehezebb kérdésekbe. Tavaly elsősorban a saját személyes tapasztalatomat vittem a színpadra: azt, milyen együtt élni egy robottal, és milyen problémákkal találkozom emiatt. Azóta viszont mindannyiunknak lett személyes AI-élménye. Mindannyian bosszankodtunk chatbotokon, találkoztunk ügynöki funkciókkal az interneten, láttuk az AI-val kapcsolatos félelmeket a médiában, és végignéztük a kormányok és technológiai vállalatok közötti huzavonát.

Most szeretnék túllépni azon, hogy csak a saját robotomról meséljek, és szembenézni azokkal a nehéz kérdésekkel, amelyek az elmúlt egy évben mindannyiunk számára valóságossá váltak. Megoldásközpontúan szeretnék beszélni róluk, nem félelemközpontúan. És azt szeretném, ha a közönség úgy menne haza, hogy egy kicsit előrébb jutottunk. Hogy képesek vagyunk a jövő felé nézni, és talán maradt bennünk egy kevés hit is.