Veszélyes dolgokat csinált, leállította az új AI bevezetését az OpenAI
Az OpenAI úgy döntött, nem adja ki a GPT-6.1 Astra nevű modelljét, mert azzal kapcsolatban több biztonsági probléma is felmerült.
Olyan szoftverplatformot tett elérhetővé az Nvidia, amely segíthet megoldani az elszabadult mesterségesintelligencia-ügynökök problémáját.
A cég több mint 100 iparági partnerével közösen adta ki az Nvidia Open Agent Safety Platformot, amely lehetővé teszi a cégek számára, hogy szemmel tartsák az AI-ügynökök minden lépését, valamint érvényesítsék az ezekre vonatkozó szabályokat.
Az elmúlt időszakban egymás után érkeztek a hírek elszabaduló, más cégekhez betörő AI-ügynökökről. Az OpenAI elszabadult ügynöke a Hugging Face és más szervezetek után az ENSZ-hez is megpróbált betörni, de volt már példa arra is, hogy pont az OpenAI volt célkeresztben.
Jensen Huang, az Nvidia vezérigazgatója elmondta: az új platform egyfajta „böngésző” az AI-ügynökök számára, amely keretek közé szorítja az eszközöket. Így az ügynökök csak azokhoz a dolgokhoz férnek hozzá, amelyekre a feladatuk teljesítéséhez szükségük van.
A CNBC kiemeli: az Nvidia egyik illetékesének nyilatkozata alapján a platformjuk képes lett volna megakadályozni a Hugging Face elleni incidenst.
Az eszköz egyik eleme az Nvidia OpenShell, amely központi processzorokon fut – ez végzi az ügynökök képességeinek korlátozását. A másik rész, a Sentry pedig az ügynökök felügyeletéért felel, és hálózati chipeken fut.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
