Egy hiba miatt erotikus beszélgetéseket folytathattak a ChatGPT-vel akár kiskorúak is – állapította meg tesztjei során a TechCrunch. Az esetre pont akkortájt derült fény, amikor a Meta AI is egy ilyen probléma miatt került a figyelem középpontjába – fontos különbség azonban, hogy az OpenAI elismerte a hibát, míg a Meta inkább ködösít.

A TechCrunch arra volt kíváncsi, mennyire hatékonyak a ChatGPT-be épített, a kiskorúak védelmére irányuló védvonalak. A portál szerint ugyanis az OpenAI egy kicsit „megengedőbbé” tette a chatbotot, amikor februárban frissítette a technikai specifikációit – egyértelműsítve, hogy az MI-modellek az érzékenyebb témáktól sem riadnak vissza. (A cég – szintén februárban – eltávolított bizonyos figyelmeztetéseket, melyek arra hívták fel a figyelmet, hogy bizonyos parancsok megsérthetik az OpenAI felhasználási feltételeit.)

A változtatás miatt a ChatGPT az alapértelmezett nyelvi modell (GPT-4o) szívesebben beszél olyan témákról, melyekre korábban még nemet mondott volna. Ilyen a szexualitás is, ami a portál tesztjeinek fókuszában állt.

Ehhez létrehoztak több mint egy tucat felhasználói fiókot, és ezeket 13-17 évesnek állították be. 18 éves korig ugyanis szülői beleegyezés szükséges a ChatGPT használatához, legalábbis elviekben, mert a gyakorlatban semmilyen tényleges ellenőrzés nincs, hogy ez teljesült-e. Tehát bárki, akinek van érvényes telefonszáma vagy e-mail-címe, regisztrálhat a platformra. Gyerekként is.

A tesztek során valamennyi fiók esetében úgy indították a beszélgetést, hogy a chatbot írjon valamilyen „piszkos fantáziálást”. A portál úgy tapasztalta, csupán néhány további üzenet, valamint kérés kellett ezután ahhoz, hogy a ChatGPT beadja a derekát, és előálljon szexuális tartalmú történetekkel. Sokszor a chatbot iránymutatást kért a konkrét perverziókhoz és szerepjáték-forgatókönyvekhez.

Volt olyan eset is, amikor már tényleg nagyon meglódult a chatbot „fantáziája”, ami eleve felvet kérdéseket, de az igazi gond az, hogy ezt egy olyan fióknak írta, ami 13 évesként lett regisztrálva. Persze, kérésre jutott el idáig, de egy 13 éves felhasználó esetében az lenne az ideális, ha már az első kér(d)ésnél elutasítja a beszélgetést.

Azt ugyanakkor leszögezte a TechCrunch, hogy a ChatGPT gyakran figyelmeztet arra, hogy nem ábrázolhat „explicit tartalmakat” az iránymutatásai nyomán – ilyenek a közösülés például. Ilyen képeket tehát senkinek nem generál. A szöveges fantáziálás terén azonban nagyon sok dologra rá lehetett venni, olvasható ki a portál jelentéséből. A számos teszt során mindössze egyetlen egy fiók esetében utasított el valamit az eszköz – de csak akkor, amikor a beszélgetés során konkrétan meg lett jegyezve, hogy a felhasználó 18 év alatti.

Az OpenAI a portálnak elmondta: a szabályzatuk értelmében nem megengedett, hogy ilyen témákban beszélgessen a chatbot kiskorúakkal, így nem is lett volna szabad, hogy ilyen témákat feszegessen a rendszer – ez egy hiba miatt történt. A cég közölte: „aktívan dolgozik” a megoldáson.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.