Már nem lehet Taylor Swift-pornót generálni a mesterséges intelligenciával

Taylor Swiftről, valamint más hírességekről is generáltak deepfake felvételeket a Microsoft szolgáltatásával, megkerülve annak erre vonatkozó védvonalait. A cég azonban most lépett.

  • hvg.hu hvg.hu
Már nem lehet Taylor Swift-pornót generálni a mesterséges intelligenciával

Változtatásokat eszközölt a Tervező (Designer) nevű, képgeneráló mesterséges intelligenciájában a Microsoft, miután néhány napja elkezdtek visszaélni vele a felhasználók. Mint ismert, az X-et múlt héten elárasztották az olyan, MI-vel generált, deepfake fotók, amelyeken Taylor Swift pornográf pózokban látható. Az esetről a 404 Media rántotta le a leplet, mondván a generált fotók először egy Telegram-csoportban bukkantak fel.

A Microsoft most azt állítja, olyan módosításokat végzett a Tervezőben, hogy már nem lehet vele ilyen felnőtt tartalmú („explicit”) tartalmakat generálni. Korábban ugyanis – mutatott rá a 404 Media nyomozása – kimondottan javasolták az efféle csoportokban a Microsoft-féle szolgáltatás használatát az ilyen fotók generálására. Sőt, egymás közt olyan parancsokat is megosztottak, melyekkel megkerülhető a szolgáltatás védelme – ennek különböző módozatai lehettek, például nem konkrétan megnevezve a művészt, hanem „kerülőúton” utalni rá, részletezi a Neowin.

3000%-kal megugrott egy csalásforma

Az olcsó és könnyen hozzáférhető mesterséges intelligencia miatt egyre több csaló próbálkozik deepfake technológiával, vagyis arccserével átverni másokat. Ehhez egy rossz minőségű kép is elegendő lehet.

A 404 Media tapasztalatai szerint a cikkük publikálása után a Microsoft lépett, és már nem működnek azok a sablonok, melyekkel korábban meg lehetett kerülni a felnőtt tartalmú képekre vonatkozó védelmet.

Ami pedig az X-en terjedő Taylor Swift-fotókat illeti, csak ezen a platformon több mint 45 millió megtekintést szereztek, és 24 ezerszer posztolták őket újra. A probléma súlyosságát jól szemlélteti, hogy a platform átmenetileg fel is függesztette az énekesre vonatkozó keresést.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.