Az álhírek korában kevés annyira veszélyes dolog van, mint a deepfake-technológia. Ez lényegében egy olyan eljárást takar, amely során egy szoftver egy adott személyt helyez el úgy egy videóban, hogy laikusként nagyon nehéz – illetve egyre nehezebb – megmondani, hogy a valóságot látja-e az ember, vagy egy mesterségesen létrehozott tartalmat. A veszélye: lényegében bárkivel bármit el lehet mondatni.

Hogy hol tart a technológia, arra példaként mutatunk néhány videót:

• Jeff Bezos és Elon Musk egy 1964-es sci-fiben beszélgetett,
• Will Smith-et betették a Matrixba,
• Mark Zuckerberg egy kanapén ülve hadovált lopott adatokról.

A fentieket látva érthető, miért döntött úgy a Facebook januárban, hogy megpróbálja kitiltani ezeket a tartalmakat a közösségi oldalról. A cég viszont már ezt megelőzően is tett egy erre irányuló lépést, aminek most lett meg az eredménye.

Még 2019 szeptemberében hirdette meg a Facebook a Deepfake Detection Challenge (DFDC) nevű versenyt. Olyan megoldásokkal lehetett pályázni, melyek hatékonyan szűrik ki a deepfake-videókat.

A Facebook az előkészületekre nagyjából 10 millió dollárt (kb. 3 milliárd forint) költött. Ebből a pénzből mintegy 3500 színész készített magáról telefonos videókat, összesen 38,5 napnyi adatot generálva ezzel. Ezek némelyikébe a mesterséges intelligenciával piszkáltak bele, és cserélték ki az egyes szereplők arcát.

Emellett készítettek egy olyan "adatcsomagot" is, amit előre nem láthattak a fejlesztők.

A versenyre világszerte mintegy 2114 nevezés érkezett, ők több mint 35 ezer algoritmust készítettek, hogy megtalálják a hamisított videókat. Míg az első körben meglehetősen jó, 82,56 százalékos aránnyal szúrták ki a deepfake tartalmakat, addig a második körben már sokkal rosszabb volt ez az arány: a legjobb szoftver is csak 65 százalékot ért el. Ez utóbbit Selim Seferbekov algoritmusa érte el, így ő nyerte meg a versenyt – írja az Engadget.

Facebook

Mike Schroepfer, a Facebook technológiai igazgatója szerint a győztes algoritmust a tervek szerint nyílt forráskódúvá teszik, és ki is adják majd – számolt be róla a The Verge.

Bár a Facebook versenye vitathatatlanul hasznos volt, az eredmény jól mutatja, milyen messze vagyunk még attól, hogy minden deepfake-videót ki tudjunk szűrni, és álhírként megjelölni. Schroepfer szerint különösen szomorú az a tény, hogy míg a kutatók rengeteg munkát fektetnek a minél jobb eredményt nyújtó deepfake-technológia fejlesztésébe, addig a "megelőzésre" és a "felismerésre" csak nagyon keveset. Pedig a kettőt minimum egyszerre kellene fejleszteni.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.