Kipróbálták a szuperveszélyes AI-t, ami ezután történt, az intő jel lehet mindenkinek
Pofonegyszerűen feltörte a macOS-t az Anthropic Claude Mythos nevű AI-eszköze, ami komoly veszélyt jelentene az internetre, ha nyilvánosan elérhetővé tennék.
Olyan mesterségesintelligencia-modelleket használna, valamint vetne be hadi célokra a Pentagon, mint a szuperveszélyesnek kikiáltott Claude Mythos Preview – írja kiszivárgott e-mailek és névtelen források nyomán a Politico.
A Pentagon – elméletileg – nem használhatja a nevezett AI-modellt, mivel azt az Anthropic még nem adta ki. Méghozzá okkal: az eszköz ugyanis túl veszélyesnek tűnik. Arról nem is beszélve, hogy az Anthropic és az amerikai vezetés eléggé összerúgta a port a közelmúltban.
A kapcsolódó peres eljárások még folyamatban vannak, és a Pentagon hivatalosan nem használja az Anthropic termékeit, csak a rivális megoldásokat. Ez az alvállalkozóikra is vonatkozik – jegyzi meg a Gizmodo.
A Politico jelentése ugyanakkor kiemeli: az Egyesült Államok hónap elején bejelentett AI-kezdeményezése a Pentagon mellett az NSA-t, azaz a nemzetbiztonsági ügynökséget is magában foglalja. Az új kezdeményezés célja eléggé hasonlít ahhoz, amit az Anthropic is kitűzött a Claude Mythos Preview-val: felderíteni a rendszerek sebezhető pontjait, és kijavítani azokat.
A lap cikke szerint az amerikai munkacsoport azt vizsgálja, hogy a Pentagon miként tudja biztonságosan bevetni a vezető AI-modelleket a küldetései „valamennyi területén”. Azt is felmérik, hogy a szilícium-völgyi techcégek által fejlesztett modellek miként alkalmazhatók „magas biztonsági besorolású” rendszerekben – például azokban, amelyek a hírszerzés legérzékenyebb titkait őrzik.
Az azonban ennél is érdekesebb, hogy a Glasswing-program részeként fegyverként is felhasználnák a hackelési képességekkel rendelkező mesterségesintelligencia-modelleket.
A Politico kiemeli: az Anthropic már korábban jelezte, nyitott arra, hogy a Mythost támadó műveletek során is bevessék.
A Pentagon minden valószínűség szerint „meg fogja vizsgálni” a Claude Mythos Preview használatának lehetőségeit – vélekedik a lap.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
