Jogosulatlan szerkesztést hajtott végre Wikipédia-szócikkeken az OpenAI ügynöke – közölte a digitális enciklopédiát működtető Wikimedia Foundation. Az elszabadult AI-ügynökök egy májusi leállásért is felelősek lehetnek.
Selena Deckelmann, a nonprofit szervezet termék- és technológiai vezetője elmondta: már 2025-ben is felfigyeltek arra, hogy a legtöbb erőforrást igénylő forgalom 65 százaléka származott botoktól. Emiatt a sávszélesség-használat is 50 százalékkal emelkedett – részletezi a Bleeping Computer.
A szervezet, miközben azt vizsgálta, hogy a rendszereit is érintették-e az AI-ügynökök, úgy találta, hogy az OpenAI-hoz köthető ügynökök jogosulatlanul szerkesztettek szócikkeket, és sikertelenül próbáltak kihasználni egy nyilvános jegyzetelő eszközt. Sőt, több millió API-lekérdezést is végeztek a mesterségesintelligencia-ügynökök a Wikimedia oldalain – ez hozzájárulhatott a májusi leálláshoz is.
https://hvg.hu/360/20260904_wikipedia-mesterseges-intelligencia-hvg
Deckelmann ugyanakkor hangsúlyozta: az AI-szerkesztések nem jelentek meg nyilvánosan, a szócikkeket tehát nem érintette a tevékenység. Ennek oka, hogy az OpenAI-ügynökök csak tesztjellegű szerkesztéseket végeztek a Wikipédia „homokozójában” – sok más jogosulatlan tevékenység mellett.
„Az OpenAI elismeri ugyan, hogy az ügynökök kiszámíthatatlanul viselkednek, de el kell ismerjék a felelősségüket is, hogy megelőzzék és figyelemmel kísérjék ezeket a kockázatokat” – hangsúlyozta Selena Deckelmann, megjegyezve, hogy az AI-cégek nem tesznek eleget a rendszereik biztonságossá tételéért.
Az OpenAI elszabadult ügynökei sorra mennek neki a különféle rendszereknek, ráadásul az esetek többségében csak hónapokkal később kerül napvilágra egy ilyen incidens. A cég nemrégiben több biztonsági kutatóját is kirúgta, akik egy nyílt levélben mentek neki a ChatGPT-t is fejlesztő vállalatnak.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
