Fegyverként használná a Pentagon a szuperveszélyes AI-t
Támadó műveletekben is próbára tehetik a jövőben a Claude Mythos Preview nevű AI-modellt, amely a fejlesztője szerint annyira veszélyes, hogy nem is merik kiadni a nyilvánosság számára.
Felfüggesztette az új, nagy teljesítményű mesterséges intelligenciájának használatát az Anthropic, miután az amerikai hatóságok a megjelenést követő napokban azt közölték, komoly biztonsági problémák vannak a fejlesztéssel – számolt be róla a BBC.
A Trump-kormányzat utasítást adott ki, amely megtiltotta, hogy a nem amerikai állampolgárok használhassák a fejlesztést, amire válaszul az Anthropic a Claude Fable 5 leállítása mellett döntött. Hasonló sorsra jutott a cég másik modellje, a Mythos 5 is. A helyzetet bonyolítja, hogy az Anthropic kutatóinak egy része nem amerikai állampolgár, így a döntés miatt lényegében nem férnek hozzá a saját, termékkel kapcsolatos munkájukhoz.
A Wall Street Journal beszámolója szerint az Anthropic lépése mögött az Amazon kutatása áll, amelynek kiberbiztonsági szakemberei egy sor parancs megadásával rávették a Fable 5-öt, hogy hatékonyan alkalmazható információkat szolgáltasson kibertámadások lebonyolításához. Az Amazon nem kommentálta az értesülést.
A Claude Fable 5 a Claude Mythos egyik változata, amely a Google Gemini és az OpenAI ChatGPT riválisának tekinthető. Az Anthropic közlése szerint az amerikai hatóságok nem azonosítottak konkrét nemzetbiztonsági aggályokat.
A vállalat úgy tudja, a hatóság emberei találtak egy módszert, amivel jailbreakelhető a rendszer. Ez egy olyan folyamatot takar, amely során illetéktelenek megkerülhetik a szolgáltatás végdelmét szolgáló korlátozásokat. Ez lehetővé teszi a hackerek számára, hogy érzékeny információkhoz férjenek hozzá, vagy feloldják a funkciók blokkolását.
A cég azt közölte, hogy több kisebb, viszonylag egyszerű sebezhetőséget azonosítottak a fejlesztésekben. A Fable 5 megjelenése előtt az Anthropic több olyan védelmi intézkedést is tett, amelyek célja, hogy megakadályozzák a rendszerek meghackelését.
A BBC azt írja, a pénzügyi, technológiai és kormányzati vezetők aggodalmukat fejezték ki a modell bevezetésével kapcsolatban, miután áprilisban egy korlátozott kiadás során a saját rendszerükön tesztelték, milyen fenyegetést jelenthet a fejlesztés. Az Antrhopic szerint néhány szervezet számára valóban elérhetővé tette a modellt a megjelenés előtt, mivel az eszköz annyira intelligens, hogy veszélyes lehet a számítógépes rendszerekre nézve.
A cég korábban arról is beszélt, hogy a Fable 5 „túl erős ahhoz, hogy megjelenjen”, ezt a kijelentést azonban a kritkusok csupán a bevezetés előtti túlzásnak tekintették.
Kate Koren, az amerikai kereskedelmi minisztérium korábbi tisztiviselője szerint a felfedezett hiba nem tekinthető jailbreaknek, a Fehér Ház korlátozó intézkedését pedig valószínűleg az Anthropic iránti ellenszenv táplálta.
Mint ismert, a vállalat és az amerikai kormányzat közötti ellentét azután éleződött ki, hogy az Anthropic nem engedte, hogy a mesterséges intelligenciát tömeges megfigyelésre és autonóm fegyverek működtetésére használják. Az amerikai kormányzat ezután veszélyesnek ítélte a céget, majd Donald Trump megtiltotta az eszközei használatát a kormányzat számára.
Az Anthropic döntése Európáig is elér. Az Euronews arról ír, a kontinens politikusai riadót fújtak a szuverén mesterséges intelligenciával kapcsolatban, miután kiderült, hogy a vállalat döntése nyomán Európa nem férhet hozzá a fejlesztéshez.
A döntéshozók szerint a mostani helyzet rávilágít a kontinens komoly technológiai függésére, így minél előbb meg kell kezdeni a leválást és a saját rendszerek fejlesztését.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
