Az év elején ellepték az X-et az xAI Grok modellje által generált, beleegyezés nélkül készült meztelen képek – köztük gyerekekről is.
Az érintett tinédzserek most pert indítottak Elon Musk AI-vállalata ellen, mert valaki az xAI modelljét használva készített róluk szexuális képeket és videókat – számolt be róla a The Washington Post. Ez az első eset, hogy kiskorúak tesznek jogi lépéseket olyan vállalatok ellen, amelyek lehetővé teszik szexuális tartalmak készítését a tartalmakon látható személyek beleegyezése nélkül.
A csoportos keresetben – melyet három felperes, köztük két kiskorú indított – azt állítják, hogy az xAI tudatosan fejlesztette ki, és profitált is a kép- és videógeneráló modelljének használatából, amelyet szexuális tartalmak generálására is használtak az emberek. Egy esetben 18 lányról is, akiket később zaklattak emiatt.
Azzal is vádolják az xAI-t, hogy nem alkalmazta megfelelően a gyermekpornográfia megelőzését célzó intézkedéseket, amelyek iparági szabványnak számítanak.
https://hvg.hu/tudomany/20250806_xai-mesterseges-intelligencia-grok-imagine-kepgeneralas
A per középpontjában azok a tizenéves lányok állnak, akiket hónapokon át zaklattak a róluk generált és terjesztett szexuális fotók miatt. Ezt egy olyan személy készítette róluk, aki a közösségi fiókjaikból töltött le képeket és videókat – ezeket felhasználva aztán az AI segítségével generált róluk meztelen és szexuális fotókat. A tartalmakat később a Discordon és a Telegramon adta el és cserélte el. Néhány lány csak azt követően szerzett tudomást a történtekről, hogy valaki megírta nekik egy üzenetben.
Az ügyben nyomozás indult, a fotókat generáló személyt decemberben letartóztatták. A hatóságok ezután állapították meg, hogy a képek készítéséhez a Grokot használta a gyanúsított.
Amikor ilyen képek kezdtek terjedni az X-en, Elon Musk tulajdonos-vezérigazgató úgy fogalmazott, nincs tudomása ilyesmiről, és a rendszernek meg kell tagadnia az illegális tartalmak generálását.
Néhány héttel később azonban a vállalat korlátozásokat vezetett be a képgenerálás terén, igaz, közvetlenül nem nevezték meg a problémát – azaz azt, hogy a rendszer gyermekpornográf tartalmakat is generált korábban.
Az xAI egyelőre nem reagált a perrel kapcsolatos megkeresésekre, így a Gizmodóéra sem.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
