2023-ban egy akkor 14 éves lány Instagramra feltöltött fotóját az osztálytársai egy mesterséges intelligencia (AI) alkalmazás használatával “levetkőztettek”, majd ezt a hamisított képet a Snapchaten kezdték terjeszteni. Az ügynek az elkövetőkre nézve nem lett semmi büntetőjogi következménye, mivel a diákok sem beszélni, sem az eszközeiket átadni nem voltak hajlandóak. Nemrég azonban a lány pert indított az AI szolgáltatást biztosító ClothOff nevű vállalat ellen, ami hasonló alkalmazások egész csoportja mögött állhat – írja az El País spanyol lap.
Az elmúlt években egyre inkább szaporodnak a hasonló esetek, főleg a tinédzserek körében. Egy szintén 2023-as spanyol ügyben érintett édesanya elmondta, hogy eleinte még azt sem tudták, mi az a deepfake, és azt pláne nem, hogy az alkalmazást be is perelhetik. Annak ellenére, hogy eleinte a rendőrség sem tudta, mit kezdjen az üggyel, a médiavisszhangnak köszönhetően sikerült tovább vinni az ügyet.
Az amerikai felperesi csapat egyik szakértője szerint a vállalat „kizárólag azért létezik, hogy hasznot húzzon a szexuális kizsákmányolásból és visszaélésekből, amiket a mesterséges intelligencia tesz lehetővé”. A gyermekpornográfia veszélye is fokozottan fennáll, különösen azért, mert a képgenerálási funkció kifejezetten egyszerűen elérhető, gyakorlatilag bárki hozzáférhet.
Az ügyvédek szerint már elég három kattintás ahhoz, hogy az applikáció meztelen képet kreáljon valakiről. Ezzel szemben az áldozatok még az ügy lecsengése után is folyamatos félelemben élnek, hogy esetleg újra felbukkannak a manipulált képek az interneten, esetleg különböző pornográf oldalakon.
Az ilyen jellegű AI-programok ráadásul egyre szaporodnak, mint ahogy a hozzáadott funkciók is, amikkel még egyszerűbben lehet pornográf képeket generálni. Ezek közé tartozik például az, hogy most már különböző szexuális pozíciókba is helyezhetik a képen szereplő illetőt, vagy akár videót is generálhatnak róla.
AFP / Marcus Brandt
„Még sosem volt könnyebb meztelenre vetkőztetni képeket, mint a ClothOff-fal” – hirdeti weboldalán a több hasonló jellegű alkalmazás mögött álló, feltehetően belorusz székhelyű vállalat, ami mintha egyfajta monopolhelyzetet akarna kialakítani a piacon, hiszen legalább tíz hasonló szolgáltatást vásárolt fel az elmúlt években. A különböző szolgáltatásokra elő lehet fizetni, de kreditrendszerben is működik, és kifejezetten nagy népszerűségnek örvend: a keresetben szereplő adatok szerint az alkalmazásnak 2024 első hónapjaiban nagyjából 27 millió felhasználója volt és naponta mintegy 200 ezer képet generáltak vele.
A helyzetet súlyosbítja, hogy ezres nagyságrendben találhatóak meg az appot népszerűsítő hirdetések és botok az interneten, amelyek sokszor különböző közösségimédia-felületeken igyekeznek rábírni a felhasználókat arra, hogy próbálják ki a ClothOffot vagy más hasonló képgenerátort.
Az amerikai ügyvédi csapat azonban eltökélt abban, hogy visszaszorítsák a ClothOff és más vállalatok AI-programjainak terjedését, ami nem lesz egyszerű, de egyáltalán nem reménytelen. Egyes esetekben, például Olaszországban és Kaliforniában már sikerült elérni a hozzáférés korlátozását, és az Egyesült Államokban május óta már törvényi úton tiltják az intim képek közzétételét, amibe beletartoznak a mesterséges intelligencia által generáltak is, de a szakértők szerint még hosszú út vezet ahhoz, hogy érdemi lépés történjen a technológia széleskörű visszaszorításában.
