Döbbenetes pillanatoknak lehettek szem- és fültanúi az egyik arizonai tárgyalás résztvevői: egy évekkel korábban meggyilkolt férfi tűnt fel a képernyőn, és megszólalt a családja által jól ismert hangon: „Én Chris mesterséges intelligencia által létrehozott változata vagyok”.
Christopher Pelkeyt, egy 37 éves amerikai veteránt egy közlekedési vita során lőtte le Gabriel Horcasitas. Horcasitas ítélethirdetésén történt a meghökkentő mozzanat, az áldozat családtagjai bemutattak egy videót Pelkey avatarjáról, amely tökéletesen visszaadta az elhunyt megjelenését és hangját.
Az avatart az egyik legfejlettebb MI képgeneráló platformmal, a Stabil Diffusionnal készítették. A család több száz képpel, videóval és hangfelvétellel táplálta a rendszert, nem utolsósorban egy interjúval, amelyet Christopher csak pár hónappal a halála előtt adott. Az eredmény – írja a Futuro Prossimo – filmes minőségű deepfake lett, minden arckifejezés és hang hűen reprodukálta a veteránt. (A deepfake a mélytanulás (deep learning) és a fake (kamu) szavak összevonásából ered, és olyan digitális hamisítási technológiára utal, amellyel a valódihoz a megtévesztésig hasonló multimédiás tartalmakat lehet előállítani.)
A szöveget az áldozat nővére írta, de rengeteg korábbi ismerős beszámolóját használta fel ahhoz, hogy a szavak valóban olyanok legyenek, mintha a valódi Christopher száját hagyták volna el. Az avatar közvetlenül a gyilkosához szólt, megrázó szavakkal. „Egy másik életben talán barátok lehettünk volna. Hiszek a megbocsátásban, és egy olyan Istenben, aki megbocsát.” Az üzenet egy üdvözléssel zárult, amely mindenkit megérintett a teremben: „Most megyek horgászni. Szeretlek titeket. Viszlát a túloldalon.”
Maga a bíró is elismerte, hogy mélyen megrázták az áldozat szavai. Az pedig különösen, hogy bár a család maximális büntetést követelt, hagyták, hogy Chris úgy beszéljen, ahogyan azt valóban tette volna. Horcasitast bűnösnek találta az esküdtszék, és végül tíz és fél év börtönbüntetést kapott, ami a gondatlanságból elkövetett emberölésre kiszabható maximális büntetés.
A posztumusz vallomás óriási szakmai vitákat váltott ki. Derek Life-nak, a Carnegie Mellon Egyetem üzleti etikai professzorának például komoly aggályai vannak azzal kapcsolatban, hogy mi a biztosíték arra, hogy ha mások is így használják majd a MI-t, akkor valóban az elhunyt szavait közvetítik-e, hűek maradnak-e annak kívánságához. Egyáltalán, kinek van felhatalmazása eldönteni, hogy mit mondhat és mit nem egy halott ember.
Paul Grimm, nyugalmazott szövetségi bíró és a Duke Jogi Egyetem professzora a BBC-nek elmondta, hogy nem lepődött meg azon, hogy mesterséges intelligenciát alkalmaztak a Horcasitas-ügyben hozott ítéletben. Azt is megjegyezte, hogy az arizonai bíróságok már elkezdték más módokon is használni a mesterséges intelligenciát. Amikor például az állam Legfelsőbb Bírósága ítéletet hoz, rendelkezik egy mesterséges intelligencia rendszerrel, amely ezeket az ítéleteket emészthetővé teszi az emberek számára. A konkrét üggyel kapcsolatban Grimm azt mondta, hogy mivel az esküdtszék jelenléte nélkül, csak a bíró ítélethozatalára használták, a technológia használata megengedett.
Míg Pelkey családja úgy véli, lehetőséget adtak a férfinak, hogy elmondja utolsó üzenetét, a tudományos és jogi közösség azon tűnődik, hogy milyen kockázatokkal járhat egy olyan technológia, amely az érzelmek színházává, nem pedig az igazságszolgáltatás helyszínévé alakíthatja a bíróságokat. Nem véletlen, hogy a szakértők a MI egyik fő fenyegetésének tartják a deepfake-eket, mivel képesek aláásni az audiovizuális bizonyítékokba vetett bizalmat. Egyúttal olyan kérdések is felvetődhetnek, amelyekkel hamarosan szembe kell nézniük a társadalmaknak: például, hogy milyen mértékben lehet hagyni, hogy a mesterséges intelligencia beszéljen valaki helyett, még a halála után is.
Ha máskor is tudni szeretne hasonló dolgokról, kövesse a HVG Tech rovatának Facebook-oldalát.
