A gyermekek jogainak védelmére tettek vállalást a világ vezető technológiai vállalatai. A cégek – köztük a Meta, a Google, a Microsoft és az OpenAI – a jövőben mindent elkövetnek annak érdekében, hogy ne lehessen szexuálisan zaklatni és kizsákmányolni a gyerekeket a mesterséges intelligencia segítségével. A kezdeményezés az All Tech Is Human és a Thorn nonprofit szervezetekhez kötődik.

A Thorn közlése szerint a cégek vállalása úttörőnek tekinthető, és komoly előrelépést jelent a gyermekek szexuális kizsákmányolása elleni védelemben. A szervezet szerint az utóbbi időben jelentősen megnőtt azon bűncselekmények száma, amiket a mesterséges intelligenciát felhasználva követtek el a pedofilok. Csak az Egyesült Államokban 104 millió, a gyermekek szexuális kizsákmányolását tartalmazó anyagról szerzett tudomást a Thorn, a generatív mesterséges intelligencia megjelenésével pedig csak még rosszabb lesz a helyzet.

Ez utóbbira figyelmeztet az Internet Watch Foundation (IWF) is, ami azt közölte: a sötét weben már terjed egy majdnem 200 oldalas kézikönyv a pedofilok között, ami arra ad útmutatót, hogy miként lehet a mesterséges intelligenciát rávenni a pedofil tartalmak előállítására. Ezt azután arra használják a bűnözők, hogy további bűncselekményeket – zsarolást és szexuális zaklatást – kövessenek el.

A Thorn és az All Tech is Human nemrég Safety by Design for Generative AI: Preventing Child Sexual Abuse címmel egy új dokumentumot adott ki, amiben stratégiákat és ajánlásokat fogalmaznak meg az MI-eszközöket, a keresőmotorokat és a közösségi oldalakat fejlesztő cégek számára. A dokumentum felhívja a figyelmet például arra, hogy a cégek körültekintően válasszák meg az adatkészletet, amivel betanítják az MI-t. Ez ne tartalmazzon felnőttekkel kapcsolatos szexuális tartalmakat se, mert a rendszer hajlamos lehet ezekből a gyerekeket érintő tartalmakat generálni.

Emellett arra kérik a szervezetek a vállalatokat, hogy távolítsanak el minden olyan hivatkozást, ami olyan oldalra mutat, ami segít a gyermekeket meztelenül ábrázolni.

A cégek már vállalták, hogy elkülönítik a gyerekek és a felnőttek adatkészletét egymástól, hogy megakadályozzák, hogy a modelljeik kombinálják a kettőt. Emellett vízjellel is el akarják látni a generált tartalmakat, ám ez nem tökéletes megoldás, a vízjelet ugyanis könnyen el lehet távolítani.