A Wikipédiának is nekimentek az OpenAI elszabadult ügynökei, a szócikkekbe is belepiszkáltak
Az internet legnagyobb enciklopédiája is elszenvedte az OpenAI-ügynökök támadását, egyszer le is állt miatta a Wikipédia.
A tudósok – köztük Geoffrey Hinton és Yoshua Bengio, a mesterséges intelligencia úttörői – által javasolt testület a teljes ágazatra kiterjedő elszigetelési szabványokat határozna meg, és regisztrálná a jelentős biztonsági incidenseket, amelyeket nyilvánosságra is hoznának.
A négyszáz tudós által aláírt levélben azzal indokolták a testület felállításának szükségességét, hogy az ágazat szereplői által önként vállalt kötelezettségek nem elegendőek. Szerintük a határokon túlnyúló AI-modelleket kezdetben el kell szigetelni a külső hálózatoktól, és független felügyelet alá kell vonni.
Az Anthropic, az OpenAI, a Google, a Meta, az xAI és az Nvidia szeptemberben írta alá a Fehér Házban azt a megállapodást, amelyben önkéntes biztonsági intézkedéseket vállaltak, de végrehajtásuk módját nem tisztázták.
A 34 ország tudósai által megfogalmazott nyílt levelet számos olyan biztonsági incidens előzte meg az utóbbi időkben, amelyeket a kutatók szerint a fejlett AI-rendszerek tesztelésének és elszigetelésének gyengeségei okoztak.
Henna Virkkunen, a technológiai szuverenitásért felelős uniós biztos pénteken hangsúlyozta, hogy az Európai Unió AI-törvénye alkalmas a zabolátlan AI-rendszerek okozta kockázatok kezelésére.
Vége az elszabaduló AI-ügynököknek? Az Nvidia új eszköze pontosan ezt ígéri
Biztonsági szoftverplatformot adott ki a mesterséges intelligenciához az Nvidia.
Hinton és Bengio 2018-ban kapta meg a Turing-díjat Yann LeCun AI-kutatóval együtt, aki azonban nem írta alá a levelet, mivel szerinte a közelmúltbeli biztonsági incidensek főként mérnöki hibákra és nem a mesterséges intelligencia miatti egzisztenciális kockázatokra utalnak.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
