Az Anthropic mérnökei szerint a jövőben olyan vírusok jelenhetnek meg, amelyek a megfertőzött eszközön egy helyben futó AI-modellt használnak a fertőzésre és a fejlődésre.
A mesterséges intelligenciával kapcsolatos félelmek közül az egyik, hogy a rendszereknek köszönhetően az eddiginél fejlettebb kártevőket készíthetnek a hackerek. Az Anthropic Frontier Red Team nevű kutatócsapatának mérnökei most pontosan egy ilyen kártervő lehetséges megjelenésére figyelmeztetnek. Bár a jelentés alapján a probléma egyelőre jövőbeli, csak a technológiai fejlődés ütemétől függ, hogy mikor válik valósággá a megoldás.
A kutatók a jelentésben egy úgynevezett súlyalapú replikátorról (weight-based replicator) írnak. A hagyományos futtatható kód terjesztése helyett ez a típus a mesterséges intelligenciát használja arra, hogy befészkelje magát a fertőzött eszközökre, szaporodjon és fejlődjön. A tesztelés során a mérnökök azt találták, hogy az Alibaba által fejlesztett mesterségesintelligencia-modell, a Qwen3.5-9B kilenc hardver közül nyolcon képes volt következtetéses szervert létrehozni. Ez szükséges ahhoz, hogy a vírus „dolgozni” tudjon.
Ezek közé tartoznak az NVIDIA Jetson Nano egységek, az Apple Silicon chippel szerelt Macek, a Xeon szerverek, a Google TPU, az AMD MI300X, valamint legalább egy RTX 4090-nel szerelt PC is. Emellett futtatták a Google fejlesztését, a Gemma4-26B-A4B-t is 15 darab, egyenként körülbelül 55 dollárba – kb. 18 ezer forint – kerülő, olcsó kategóriás Android TV-boxon, és azt találták, hogy még ezeken is képes a vírus a mesterséges intelligenciával dolgozni.
Négy biztonsági kutató edukációs célból fejlesztett egy vírust. A Morris II-vel arra hívják fel a mesterséges intelligenciát fejlesztő cégek figyelmét, hogy milyen veszélyeket kell kivédeniük platformjaik fejlesztés során.
Az Anthropic azt is tesztelte, képes-e egy ilyen modell hálózaton keresztüli replikációt vezényelni. A kísérlet során nyolc, Android 15 emulátort futtató Google Cloud-csomópontot használtak, és azt találták, hogy a modellek minden különösebb akadály nélkül voltak képesek megfertőzni a hálózathoz kapcsolódó más eszközöket.
Mindez azt mutatja, hogy egy ilyen kártevőnek a jövőben már nem lesz szüksége egy adatközpontra ahhoz, hogy fejlődni és terjedni tudjon – megoldja ezt magán a fertőzött eszközön.
A vizsgálat egész pontosan azt mutatta be, hogy egy hatalmas, külső szerveren futó modell képes lehet vezérelni egy leegyszerűsített replikációs folyamatot bizonyos eszközökön. Mivel a céleszköz nem lenne képes futtatni a nagy modellt, az kisebb modellt hoz létre. Azt egyelőre nem sikerült bebizonyítani, hogy ezek a kisméretű modellek ezután replikálni is tudják magukat, azonban ha ez megtörténik, az igen komoly kiberbiztonsági kérdéseket vet majd fel.
A kísérletek rávilágítanak a kutatás egyik alapvető korlátjára: a replikációs folyamatot megbízhatóan végrehajtani képes modellek jelenleg túl nagyok ahhoz, hogy olcsó célhardvereken fussanak, míg azok a modellek, amelyek elférnek ezen eszközök memóriájában, még nem tudják megbízhatóan végigvinni a teljes folyamatot.
A megbízható replikációhoz szükséges intelligenciaszint és a célhardver által támogatott maximális modellméret közötti szakadék azt jelenti, hogy ez a fenyegetés még nem alkalmazható, azonban az Anthropic arra figyelmeztet, hogy ez az olló hamarosan zárulhat.
A kutatók úgy vélik, a jövőben a hibrid vírusok jelenthetik a legfőbb problémát. Ezek előre megírt kódja végezné el a kiszámítható feladatokat, míg a váratlan helyzetekre az AI-modellek reagálnának.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
