Olyan szoftverplatformot tett elérhetővé az Nvidia, amely segíthet megoldani az elszabadult mesterségesintelligencia-ügynökök problémáját.
A cég több mint 100 iparági partnerével közösen adta ki az Nvidia Open Agent Safety Platformot, amely lehetővé teszi a cégek számára, hogy szemmel tartsák az AI-ügynökök minden lépését, valamint érvényesítsék az ezekre vonatkozó szabályokat.
Az elmúlt időszakban egymás után érkeztek a hírek elszabaduló, más cégekhez betörő AI-ügynökökről. Az OpenAI elszabadult ügynöke a Hugging Face és más szervezetek után az ENSZ-hez is megpróbált betörni, de volt már példa arra is, hogy pont az OpenAI volt célkeresztben.
Jensen Huang, az Nvidia vezérigazgatója elmondta: az új platform egyfajta „böngésző” az AI-ügynökök számára, amely keretek közé szorítja az eszközöket. Így az ügynökök csak azokhoz a dolgokhoz férnek hozzá, amelyekre a feladatuk teljesítéséhez szükségük van.
https://hvg.hu/tudomany/20260929_openai-gpt-6-1-astra-mesterseges-intelligencia-kiberbiztonsag
A CNBC kiemeli: az Nvidia egyik illetékesének nyilatkozata alapján a platformjuk képes lett volna megakadályozni a Hugging Face elleni incidenst.
Az eszköz egyik eleme az Nvidia OpenShell, amely központi processzorokon fut – ez végzi az ügynökök képességeinek korlátozását. A másik rész, a Sentry pedig az ügynökök felügyeletéért felel, és hálózati chipeken fut.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
