Más szolgáltatókhoz hasonlóan már a ChatGPT-nek is van ügynök-módja, mely a felhasználók helyett képes intézni mindent. A kutatók azonban most találtak egy sebezhetőséget a rendszerben, melyet kiaknázva a felhasználók tudta nélkül lehetett érzékeny adatokat lopni a Gmailből – a felhasználó tudta nélkül. A Shadow Leak nevű sebezhetőséget a Radware biztonsági kutatói fedezték fel.
A gond, hogy az ilyen ügynökök a felhasználó felügyelete nélkül is intézhetnek dolgokat, így böngészhetnek, és linkekre kattinthatnak. A fejlesztőik szerint sok időt lehet megtakarítani a használatukkal, ám hogy megfelelően működjenek, hozzáférést kell adni nekik a személyes e-mail-fiókhoz, naptárakhoz, dokumentumokhoz stb.
A Radware kutatói egy prompt-befecskendezés nevű módszerrel használták ki az eszköz segítőkészségét, mely révén az ügynököt a támadó szolgálatába lehetett állítani. A csalárd kódot egy e-mailben rejtették el, melyet az ügynök által hozzáférhető Gmail-fiókba küldtek el – részletezi a The Verge.
A ChatGPT-ügynök következő használatakor a csalárd kód működésbe lépett, az ügynök ugyanis szembesült a rejtett utasításokkal, melyek arra utasították azt, hogy keressen HR-es e-maileket, személyes adatokat, és csempéssze ki azokat a hackerek számára. Ebből a felhasználó semmit nem érzékelt.
A jó hír, hogy a kutatókat is megizzasztotta a ChatGPT kijátszása, és több kísérletük is sikertelennek bizonyult, szóval nem olyan egyszerű a dolog. Külön érdekesség azonban, hogy – szemben más, hasonló módszerekkel – a Shadow Leak az OpenAI felhőalapú infrastruktúráján futott, és közvetlenül szivárogtatta ki onnan az információkat. Ez azt eredményezte, hogy a hagyományos kibervédelmi rendszerek nem riasztottak.
A Radware hangsúlyozta: ezzel a tanulmánnyal arra próbálták felhívni a figyelmet, hogy a ChatGPT-hez kapcsolt más alkalmazások mind sebezhetőek lehetnek hasonló támadásokkal szemben. Márpedig, az Outlookhoz, GitHubhoz, Google Drive-hoz, valamint a Dropboxhoz is kapcsolható a chatbot ezen funkciója, így érzékeny üzleti adatok, például szerződések is illetéktelen kezekbe kerülhetnek.
A hibát már javította az OpenAI – de ki tudja, mikor találnak majd kutatók helyett rosszindulatú felek egy hasonlót.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
