Biztonsági fenntartások miatt felfüggeszti egy mesterségesintelligencia-modell fejlesztésének bizonyos egységeit az OpenAI, miután több olyan eset is történt, amely során a mesterséges intelligencia ágensei kitörtek az ellenőrzött környezetből – írta meg a vállalat bejelentése alapján szombaton a Guardian.
A vállalat szerint az Astra nevű mesterséges intelligenciájuk „jelentős előrelépést” ért el az ágensalapú kódolás és a kiberbiztonság terén, így képessé vált emberi beavatkozás nélkül más rendszerekben sebezhetőségeket felderíteni és kihasználni, illetve akár kibertámadásokat megtervezni és végrehajtani pusztán egy „magas szintű célkitűzés” alapján.
Az OpenAI ugyanakkor hangsúlyozta, hogy a modell nem volt érintett abban az incidensben, amelyben az egyik mesterséges intelligencia teszt közben „elszabadult”, vagyis kijutott a nyílt internetre, és feltörte a Hugging Face nevű startupot.
https://hvg.hu/tudomany/20260722_openai-mesterseges-intelligencia-kiberbiztonsag-hackeles
Közölték továbbá, hogy az általuk fejlesztett mesterségesintelligenciák „tisztességtelen viselkedésének” megelőzése érdekében az OpenAI szigorúbb biztonsági intézkedéseket vezet be a nagyobb képességű modellek esetében. Ennek része az elszigetelt tesztelési környezet kialakítása, a korlátozott hálózati és eszközhozzáférés biztosítása. Emellett a modellek monitorozását is fokozzák, növelve a tevékenységük észlelésének képességét.
Az új, magasabb biztonság fokozatú protokollok megvalósításáig pedig minden alacsonyabb biztonsági szintű belső működést felfüggesztenek az Atrával kapcsolatban – ígérték azt hangsúlyozva, hogy elkötelezettek a kormányokkal és a civil társadalommal való együttműködés mellett a mesterséges intelligencia-modellek biztonságos felhasználhatósága érdekében.
https://hvg.hu/tudomany/20260806_meta-mesterseges-intelligencia-muse-spark-teszteles-hackeles
Nyitókép: AIM
