Sok szó esik arról, hogy a generatív mesterséges intelligenciára épülő chatbotok milyen előnyt és kényelmet jelenthetnek a hétköznapokban, azzal sem árt tisztában lenni, hogy ezek az eszközök veszélyt is jelentenek. Elég csak arra a tesztre gondolni, amely során a kiberbiztonsági kutatóknak sikerült meghackelniük a Google mesterséges intelligenciáját. Most egy újabb hasonló problémát tártak fel a szakemberek, ami ezúttal a Google Naptáron keresztül mutatja meg a rendszer sebezhetőségét.
A The Trail of Bits Blog kiberbiztonsági kutatói azt állítják, hogy képesek voltak kihasználni azokat a képméretező rendszereket, amelyeket a Geminihez hasonló mesterséges intelligenciák használnak, úgy, hogy nagy felbontású képekhez adtak hozzá szöveges parancsokat az MI számára.
Az eljárás lehetővé tette, hogy rejtett utasításokat küldjön a mesterséges intelligenciának, amely ezután képes volt információkat lekérni egy Google Naptárból, majd e-mailben elküldeni azt a megadott címzettnek – mindezt anélkül, hogy a felhasználó bármit is érzékelne mindebből – összegez a BGR.
The Trail of Bits
A kutatók szerint korábban is létezett már olyan támadás, ami képek segítségével fért hozzá bizonyos rendszerekhez, ám ezek ma már kevésbé népszerűek. A mesterséges intelligencia népszerűségével azonban ismét előtérbe kerülhetnek, a mostani eljárás pedig rámutat arra, mennyire sérülékenyek ezek a rendszerek, és milyen könnyen a hackerek szolgálatába állíthatók.
Egy ilyen támadás azért működik, mert az olyan nagy nyelvi modellek, mint a GPT-5 és a Gemini, automatikusan leskálázzák a nagy felbontású képeket – vagyis rontanak a minőségükön –, hogy gyorsabban és hatékonyabban feldolgozhassák azokat. A kutatók szerint azonban épp ennek köszönhető, hogy rejtett utasításokat lehet küldeni a chatbotnak. Bár a pontos folyamat rendszerenként változhat – mivel minden rendszernek más a képfeldolgozó algoritmusa –, mindegyik lehetővé teszi, hogy mintákat rejtsenek el a képen. Ezek a minták csak akkor jelennek meg, amikor a kép minősége rosszabb lesz.
A fentihez hasonló trükköt egyébént nemcsak a hackerek vetnek be, a tudósok egy része is hasonló megoldással próbálkozott.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
