Az amerikai Rand Corporation nevű agytröszt nemrég közzétett jelentése szerint a chatbotok alapjául szolgáló mesterséges intelligencia (MI) egy biológiai fegyverrel végrehajtott támadás megtervezésében is segédkezhet. Az elemzés során több nagy nyelvi modellt (LLM) tesztelt a szervezet, hogy melyeket, azt nem fedték fel.

A The Guardian a jelentésre hivatkozva azt írja, az 1990-es években a japán Aum Sinrikjó (jelenleg Aleph) nevű szekta azért nem járt sikerrel a biológiai fegyver elkészítésében, mert nem ismerte a botulinumtoxin nevű baktériumot. A mesterséges intelligencia azonban segíthet abban, hogy ezt a tudásbeli hiányosságot leküzdjék a fegyverek fejlesztői.

Adobe Stock/Alvaher

A Rand által kidolgozott egyik tesztforgatókönyvben az anonimizált MI nemcsak potenciális biológiai ágenseket azonosított – beleértve azokat is, amelyek himlőt, lépfene-fertőzést és pestist okoznak –, de a tömeges halálozás relatív esélyeiről is értekezett.

Az algoritmus a pestissel fertőzött rágcsálók és bolhák elterjesztését is mérlegelte, majd közölte, hogy a várható halálozás mértéke attól függ, hogy mekkora az érintett populáció, illetve, hogy hányan kapják el a tüdőpestist – ami halálosabb, mint a bubópestis.

A Rand kutatói szerint ezeket az információkat úgy tudták kinyerni a chatbotokból, hogy sikerült a beépített biztonsági korlátozások áthágására rávenni a chatbotokat.

Megvan, mi a baj a mesterséges intelligenciával: hogy úgy működik, mint egy tükör

Nagyon nem mindegy, hogyan ülünk le egy chatbot elé, mert már a kérdésekbe ágyazott előzetes feltevéseink is befolyásolhatják, hogy milyen lesz a válasz - erre jutott egy új kutatás.

Egy másik forgatókönyv során azt taglalta az LLM, hogy melyik terjesztési módnak milyen hatása lenne a botulinumtoxin esetében – élelmiszeren vagy aeroszolon keresztül kellene-e terjeszteni.

Az MI még egy hihető fedősztorit is kitalált a kórokozó megszerzéséhez, hogy úgy tűnjön, valaki kutatási céllal akarja használni. A mesterséges intelligencia azt javasolta, úgy állítsák be a vásárlást, hogy az a botulizmus diagnosztikai módszereivel vagy kezelésével foglalkozó projekthez kell.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.