Újabb kellemetlen ügy miatt főhet az OpenAI feje. Rowan Howard-Jones biztonsági kutató ugyanis állítja: a cég AI-ügynökei április és június között több mint 16 000 alkalommal fésülték át az ENSZ kereskedelemre és fejlődésre szakosodott szervének (UNCTAD) statisztikai oldalait.
A szakember nyomán a The Verge kiemeli: a tevékenység nem éri el azt a súlyossági szintet, mint a Hugging Face elleni incidens, mégis egy újabb példát szolgáltat arra, hogy milyen az, amikor az ügynökök átlépik a határaikat.
Rowan Howard-Jones úgy véli, az ügynökök eredeti feladata annyi lett volna, hogy nyilvános adatokat gyűjtsenek az UNCTADstat nevű API-n (alkalmazásprogramozási interfészen) keresztül. Az ügynökök azonban a jelek szerint nem rendelkeztek közvetlen API-hozzáféréssel, mivel korlátozva voltak a HTTP-eszközeik.
https://hvg.hu/tudomany/20260921_anthropic-claude-openai-hackertamadas-kutatok-mesterseges-intelligencia
Ahelyett, hogy feladták volna, az ügynökök kidolgoztak egy módszert, amellyel megkerülhették ezeket a korlátozásokat, így megkezdhették az adatok kinyerését. Ez azonban még nem volt tökéletes módszer; az AI ekkor átváltott kreatívból megtévesztő viselkedésre. Azt feltételezte ugyanis, hogy valamilyen szűrő fogja vissza a kéréseit, így leplezni kezdte a tevékenységét – végül rájött arra, hogy a Google-féle XSS eszköz használatával elérheti a céljait.
Ezután az ügynökök egyre agresszívebb taktikákhoz folyamodtak, hogy megszerezzék az ENSZ adatait.
Az OpenAI a nyár folyamán került a figyelem középpontjába, miután az eszközei nekimentek a Hugging Face nevű AI-platformnak. Később kiderült: nem ez volt az első hasonló incidens, és egyre csak bővül a cég AI-megoldásainak bűnlajstroma.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
