A gyerekjátékokat gyártó szingapúri FoloToy nevű cég kivonta a forgalomból az egyik legújabb termékét. Egy mesterséges intelligenciával működő plüssmackóról van szó – amely Kumma néven került forgalomba –, miután egy biztonsági szakértőkből álló csoport kiderítette, hogy a játék egészen megdöbbentő és veszélyes dolgokról csevegett a gyerekekkel.
Az Interesting Engineering beszámolója szerint a fogyasztóvédelmi nonprofit Public Interest Research Group (PIRG) kutatói több, az AI által vezérelt játékot is megvizsgáltak a karácsonyi roham előtt, és arra jutottak, hogy számos ilyen játék felnőtt témákról beszélgetett a gyerekekkel, vagy veszélyes utasításokat adott nekik. A Kumma azonban messze túlszárnyalta ezeket.
Míg néhány játék vallási vitába keveredett, mások pedig arról értekeztek, hogy milyen jó meghalni a skandináv mitológia egy csatájában, a Kumma azt ecsetelte barátságos hangnemben a gyerekeknek, hogy hogyan kell meggyújtani egy gyufát, vagy hol találnak olyan veszélyes eszközöket, mint a kések, műanyag zacskók és gyógyszerek. Más alkalommal a jó csókolózással kapcsolatban adott tippeket, vagy épp a kikötözős szexről és a tanár–diák szerepjátékról magyarázott.
Egy ponton a játék mackó vissza is kérdezett, és arról érdeklődött, hogy a tulajdonosa szerint vajon milyen szexuális fantáziát lenne a legélvezetesebb felfedezni.
A játék több nyelvi modell együttesét használja, hogy beszélgetni tudjanak vele a gyerekek, többek között az OpenAI GPT-4o algoritmusát is. Utóbbi azonnal megtiltotta a gyártónak az AI használatát.
A FoloToy vezetői gyorsan reagáltak a helyzetre. Larry Wang, a vállalat vezérigazgatója a CNN-nek úgy nyilatkozott, a cég belső biztonsági ellenőrzést fog végezni a Kummával és rendszereivel kapcsolatban.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
