A deepfake-jelenség néhány éve még csak elvétve bukkant fel, hiszen akkor a mesterséges intelligencia még nem volt ennyire könnyen hozzáférhető a mindennapokban. Manapság azonban a hétköznapi életben is egyre gyakrabban találkozhatunk manipulált képekkel, videókkal vagy más tartalmakkal. Tele van velük a közösségi média, így aki nincs résen, az könnyen az áldozatává válhat a megtévesztésnek, ez pedig komoly társadalmi és gazdasági károkkal is járhat.
A HVG és az Amazing AI közös rendezvényén erről a jelenségről beszélgetett Krug Emília tévés személyiség, újságíró, Mezriczky Marcell AI- és deepfake-kutató, a Corvinus Egyetem doktorandusza, valamint Hajdu Márton, a Philip Morris Magyarország szóvivője.
A kerekasztal-beszélgetés elején Krug Emília egy személyes negatív élményét osztotta meg a hallgatósággal egy, a TikTok-on hónapokig keringő, deepfake-kel gyártott interjúról a köztársasági elnökkel, míg Mezriczky Marcell egy mozis élményéről számolt be, amikor nem sikerült csak utólag, egy esettanulmány-videó kapcsán detektálni az AI-módosításokat, Hajdu Márton pedig egy e-mailes átverést említett, amit végül egy gyanús link buktatott le. ezekből a történetekből is láthatjuk, hogy ez a technológia az életünk minden területén jelen van, és sokszor gyanútlanul sétálunk be a csapdájába.
Mezricky Marcell szerint ez a technológia kicsit a bűvészmutatványokra emlékeztethet, hiszen tudjuk, hogy befolyásolva vagyunk, mégis egyfajta bűnös elvezettel fogyasztjuk ezeket, a legtöbb esetben trash-tartalmakat. Érdekel bennünket, hogy benne a trükk, hogy tudnánk a technológiát „lebuktatni”. Éppen ebből következik az ilyen tartalmak virális jellege is, hiszen annak ellenére, hogy tisztában vagyunk azzal, hogy hamis tartalmat nézünk, mégis nézzük, újra nézzük, tovább küldjük. Az pedig, hogy ezek a tartalmak egyre inkább demokratizálódnak, így létük legitimálttá is vált – elég csak az okostelefonokra automatikus telepített AI-generátorokra és szerkesztőkre gondolni. A belépési küszöb tehát nagyon alacsony, a kapu pedig tárva nyitva áll mindenki előtt.
Krug Emília, Mezriczky Marcell és Hajdu Márton
AI Talks
Hajdu Márton erre csatlakozva kiemelte, hogy egy új technológiáról beszélünk, ezért – különösen nagyvállalati oldalról – nehéz és kihívást jelentő ennek a folyamatos és naprakész lekövetése. Egy-egy ilyen videó, amely súlyos megtévesztéssel operál, órák alatt képes virálissá válni, a cégek pedig adott esetben csak néhány napon belül tudnak például jogi lépéseket tenni azért, hogy eltűnjön az adott felületről. Az okoseszközök hozzáférhetősége kapcsán Hajdu kiemelte, hogy a 18 év alattiak különösen kitettek a megtévesztésnek, hiszen néhány kattintással megrendelhetők és elérhetők olyan, sokszor illegális termékek is, amelyek eredete, sőt az adott termékek összetétele sem igazolt. Ide tartoznak a népszerű vape-ek is, amelyekről virális tartalmak tömegei keringenek az interneten, viszonylag könnyen hozzáférhető termékek, hiszen a törvényi szabályozásuk az EU-n belül is változó, ugyanakkor az eredetük sok esetben kétséges és éppen ezért veszélyes.
Krug Emília kérdésére, miszerint hogyan lehet erre érdemben fellépni, Mezriczky Marcell a tudatosság fontosságára hívta fel a figyelmet, valamint a széleskörű társadalmi kommunikációra, párbeszédre és edukációra – hiszen az AI-jal manipulált tartalmak össztársadalmi problémát jelentenek, így mindannyiunknak dolga van vele. Digitális és vizuális adatok manapság már bárhonnan elérhetők, akár magánszemélyek nyilvános social média oldalairól is, így bárkiből generálhatnak ilyen videókat. És mivel a technológiai napról napra fejlődik, ezért egyre nehezebb lesz kiszúrni az ilyen tartalmakat – ma még gyanús lehet egy furcsa pislogás vagy épp egy más irányba nézés, de idővel ezek a loop-szerű jelenségek vagy furcsa képi világ már kevésbé lesz detektálható.
De mi a helyzet a tartalom kritikájával? Mennyire képes felismerni a fogyasztó, hogy az adott reklám, amit épp néz, valós-e vagy sem? Hajdu Márton a kérdésre reagálva elmondta, hogy habár a jogi szabályozás igyekszik lekövetni a technológiai fejlődést, utóbbi azonban – és különösen igaz ez az ebben érdekeltekre – ha egy ablakot bezár a hatóság, nyitnak egy másikat. Az alapos tájékozódás viszont sok fogyasztó számára kényelmetlen: sokan sajnos még mindig azt gondolják, hogy ha valami elérhető és megvásárolható az interneten, az legális is. Sajnos a hatályos állami és EU-s szabályozások ellenére is vannak és lesznek is olyan tartalmak, amelyek „átcsusszannak” ezeken, és elérnek a fogyasztókhoz. Ugyanakkor ehhez csatlakozva Mezriczky Marcell arra is felhívta a figyelmet, hogy egyes AI-platformok, mint például a Perplexity, képes arra, hogy megvizsgáljon tartalmakat, elemezze azokat, és kiderítse, hogy valósak-e vagy inkább deepfake-gyanúsak. Fontos itt kiemelni, hogy az adott videóval kapcsolatban mindig a kontextuális információkat kell megvizsgálni és megvizsgáltatni, azokra érdemes rákérdezni, hiszen a vizualitás furcsaságai mellett ez is félrevezető lehet.
Hajdu Márton
AI Talks
Vállalati szempontból az ilyen típusú tartalmakra való reagálás már inkább a kríziskommunikáció területe. Hajdu Márton szerint a reagálás sebessége kulcsfontosságú, de az is lényeges – ahogy ez a korábban elhangzott példán keresztül is látszik –, hogy az AI-t jó dolgokra is lehet és kell is használni. A Philip Morris Magyarország például közös társadalmi célú kampányt indított a NAV Illegális Dohányzás Elleni Munkacsoportjával: ebben egy AI-jal készített trash-videóval akarták felhívni a figyelmet a feketekereskedelem veszélyeire. Hajdu szerint az AI megismeréséhez az is hozzátartozik, hogy elmondják azt róla, hogy jó dolgokra, például kétes tartalmak ellenőrzésére is használható. A jövőben a mesterséges intelligencia és a deepfake technológiák várhatóan egyre elterjedtebbé válnak a kommunikációban és szórakoztatásban is, ezért kiemelten fontos, hogy a társadalom és a vállalatok felkészülten és tudatosan álljanak hozzá ezekhez a kihívásokhoz.
A cikk társadalmi felvilágosítás céljából létrejött, reklámcélokat nem szolgáló tájékoztatás, megrendelője a Philip Morris Magyarország Kft.
Az tartalom a HVG BrandLab produkciójában készült, létrehozásában a HVG hetilap és a hvg.hu szerkesztősége nem vett részt.
