Bár a mesterséges intelligencia sok szempontból kényelmet hoz a hétköznapi felhasználók életébe, nem szabad elfelejteni azt sem, hogy a használatának vannak veszélyei. Itt most nem arra kell gondolni, hogy a gép esetleg öntudatra ébred, sokkal inkább arra, hogy ha a hackerek hozzáférnek, az komoly zűrt okozhat.
A Wired nemrég épp egy olyan kiberbiztonsági kutatásról számolt be, ami ezt hivatott bemutatni. Egész pontosan azt, hogy mi történhet, ha a bűnözők feltörik a Google Geminit. A vizsgálat szerint a kutatóknak sikerült átvenniük az irányítást az okosotthon-rendszerhez csatlakoztatott eszközök felett, miután a Google Naptár eseménymeghívójába beillesztették a megfelelő promptot. Amikor egy felhasználó a naptárának összefoglalóját kérte, és megköszönte a Gemininek az eredményeket, a rosszindulatú prompt arra utasította a Google Home MI-ügynökét, hogy olyan műveleteket hajtson végre, mint az ablakok kinyitása vagy a lámpák lekapcsolása.
Az esetről videó is készült.
A támadásokat a héten mutatták be a szakemberek a Big Hat nevű kiberbiztonsági konferencián, az év elején azonban már a Google-nek is jelezték azt. Andy Wen, a Google Workspace biztonsági termékmenedzsmentért felelős vezető igazgatója szerint a probléma ugyan valós, de a hétköznapokban nagyon kicsi az esély arra, hogy egy felhasználót ilyen támadás érjen, ezek ugyanis nagyon ritkák.
Érdemes ugyanakkor megjegyezni, hogy míg a fenti videóban is látható lámpaoltás inkább csak bosszantó, más paranccsal már sokkal nagyobb kárt tudnak okozni a támadók – például, ha hozzáférnek az ajtócsengő biztonsági kamerájához, vagy feltekerik a termosztátot.
A nagy nyelvi modellek növekvő összetettsége ugyanakkor azt is jelenti, hogy a hackerek újfajta támadási módokat találhatnak, ami megnehezíti a védekezést ellenük. Wen szerint a Google „rendkívül komolyan” vette a kutatók által feltárt sebezhetőségeket, és felgyorsította a munkáját, hogy befoltozza az ilyen és ehhez hasonló sebezhetőségeket.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
