Sűrű héten van túl a Meta. A vállalat nemrég mutatta be a képgeneráló mesterséges intelligenciáját, a Muse Image-t, amiről rögtön kiderült, hogy engedély nélkül képes idegenekről képet készíteni. A felháborodás olyan nagy volt, hogy a cég végül úgy döntött: lelövi a fejlesztés ezen részét.
A Meta ugyanakkor nemcsak a képgenerátort mutatta be, hanem egy másik eszközt is, amiről kevesebb szó esett. Ez a Content Seal, ami lényegében egy láthatatlan vízjel, a cég pedig azt állította róla, hogy az összes képre ráteszi, amit a Muse Image készít. És nemcsak, hogy ráteszi, hanem gyakorlatilag törölhetetlen lesz: ez a jel akkor is ott marad, ha a mesterséges intelligencia által generált képet a felhasználók „kivágják, tömörítik, átméretezik vagy képernyőképet készítenek” – állította a vállalat.
A Meta azt is közölte, hogy egy a Content Seal detektálására egy külön eszközt is fejleszt, ami ellenőrzi, hogy az adott képet a Muse Image generálta-e. A Reuters jelentése szerint azonban a fejlesztés finoman szólva sem tökéletes.
A vizsgálat során arra jutottak, hogy miután a képet megvágták, az eszköz a Meta fejlesztése által generált képek majdnem feléről nem tudta megmondani, hogy azt az AI készítette.
A teszt során arra jutottak a szakemberek, hogy míg a 40 darab generált kép 100 százalékáról megmondta a rendszer, hogy azt a Muse Image készítette, addig miután a képet az eredeti méret felére, harmadára vágták meg, ez az arány már csak 55 százalék volt.
Mindez meglehetősen komoly probléma egy olyan korban, ahol az AI által készített deepfake képek egyre tökéletesebbek. A DeepStrike kiberbiztonsági cég adatai szerint az ilyen képek mennyisége 2023 és 2025 között nagyjából évi 900 százalékos növekedést mutatott, ám a detektálási képességek ezt nem voltak képesek lekövetni – írja a Gizmodo.
https://hvg.hu/tudomany/20260522_deepfake-video-kep-hang-felismerese-atveres-mesterseges-intelligencia-telekom-felmeres
Az, hogy a Meta közzétette a Muse Image-et, egy jelentős lépés abba az irányba, hogy a cég lefaragja a hátrányát más technológiai vállalatokkal szemben. Ugyanakkor azzal, hogy nincs hozzá megfelelő detektáló eszköz, a fent említett probléma minden bizonnyal csak tovább eszkalálódik.
Ráadásul a Meta hamarosan kiadja a videógeneráló AI-t is: ez lesz a Muse Video, ám a Muse Image fogadtatásának körülményei egyelőre kevés jót jósolnak a fejlesztésnek.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
