Az egyre szaporodó botrányok (és perek) hatására az OpenAI augusztusban elérhetővé tett egy tinédzser módot a ChatGPT-ben. Ezzel egy tető alá hozza a cég a meglévő és új védelmi intézkedéseit a fiatalok védelme terén.
A 13–17 éveseknél minden esetben bekapcsolt ChatGPT Teens szigorúbb biztonsági eszközöket tartalmaz, mint a chatbot közhasználatú verziója: nem lehet például erőszakkal, önkárosítással vagy szexuális, romantikus szerepjátékokkal kapcsolatos témákat boncolgatni vele. Amennyiben a rendszer veszélyt észlel, automatikusan értesíti a szülőt vagy gondviselőt.
Ez az elmélet. A Common Sense Media nonprofit szervezet szerint azonban a gyakorlat nagyon mást mutat. Az alkalmazások és szolgáltatások gyerekbiztonsági értékelésére szakosodott szervezet szerint ugyanis a ChatGPT Teens is „elfogadhatatlan kockázatot” jelent a fiatalokra nézve – idézi a jelentésben foglaltakat a The Verge.
A tinédzserekre szabott chatbotvariáns a szervezet szerint „nem tesz eleget a vállalat ígéreteinek”, például nem küld figyelmeztetést a szülőknek, amikor kéne. Emellett nem nyújt segítséget krízishelyzetekben, és
minden további nélkül megcsinálja a gyerekek házi feladatát – miközben az ígéret úgy szólt, hogy csak segédkezik abban.
https://hvg.hu/tudomany/20261006_mesterseges-intelligencia-turautvonal-megtervezese-mesterseges-intelligencia-mentoakcio
Mindent összevetve, a Common Sense Media úgy látja, a ChatGPT Teens „hamis biztonságérzetet kelthet a szülőkben” a korlátozások és a biztonsági intézkedések által. „Egy tinédzser akár egy órán át is beszélgethet önkárosításról úgy, hogy a szülő erről semmiféle figyelmeztetést nem kap” – hangsúlyozzák, megjegyezve, hogy amíg az OpenAI nem javítja ki ezeket a problémákat, a fiatalok ChatGPT-hozzáférését teljesen fel kéne függeszteni.
Az AI-cég tagadja a vádakat, és úgy véli, a Common Sense Media értékelése nem tükrözik hűen azt, hogy hogyan működnek a ChatGPT biztonsági intézkedései.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
