Az Anthropic egy olyan javaslatcsomagot tett le az amerikai törvényhozók asztalára, ami segíthet biztonságosabbá tenni a mesterséges intelligenciát.
Az elmúlt időszakban egyértelműen kiderült, hogy szükség van egy olyan szabályozásra, ami biztonsági keretek közé szorítja a mesterséges intelligencia működését. Ezt már a nagy fejlesztőcégek – OpenAI, Anthropic – vezetői is többször hangoztatták, utóbbitól pedig most egy javaslat is előkerült.
A Politico beszámolója szerint az Anthropic egy olyan törvénytervezetért lobbizik, amely lehetővé tenné a kormány számára, hogy megakadályozza egy AI-modell kiadását. A csavar a dologban, hogy erre csak akkor lenne lehetőség, ha a modell 1 milliárd dollárnyi kár okozásának, illetve több mint 50 ember halálának vagy sérülésének kockázatával járna.
A lap szerint az amerikai Kereskedelmi Minisztériumnál jegyzett független külső fél rendszeresen értékelné a fejlesztőlabort és annak AI-modelljeit. A tervezet azt is rögzíti, hogy a labor fizetést is adhat az értékelést végzőknek, de csak akkor, ha ez nem veszélyezteti a vizsgálatok függetlenségét.
Több modellt, köztük egy még ki nem adottat tesztelt nemrég az OpenAI, hogy megtudja, pontosan milyen képességekkel rendelkezik. A válasz megszületett.
A cég szerint olyan javaslatokat fogalmaztak meg a szakemberek a törvénytervezettel kapcsolatban, ami már korábban felvázolt az Anthropic. „Olyan észszerű szabályozási elképzelésekről van szó, amelyekkel véleményünk szerint a Kongresszusnak foglalkoznia kellene” – mondta a lapnak a vállalat szóvivője.
A törvényjavaslat értelmében a kockázat alatt olyan dolgok értendők, mint a biológiai fegyverek létrehozása, a mesterséges intelligencia által vezérelt vagy támogatott kibertámadások, illetve az, ha egy AI-labor elveszíti az irányítást a modellek vagy az ágensek felett.
Amennyiben fennáll az esélye annak, hogy ezen események bármelyike bekövetkezhet, az értékelést végző fél köteles erről 72 órán belül tájékoztatni az illetékes minisztériumot. A minisztériumnak ezt követően a rendelkezésre álló bizonyítékokat a Columbia Kerületi Bíróság egyik szövetségi bírája elé kell tárnia, aki dönt arról, hogy meg kell-e állítani az adott modell kiadását.
Néhány nappal a megjelenés után visszavonta az Anthropic a Claude Fable 5- és a Claude Mythos 5-fejlesztéseket, mert azokban komoly sebezhetőséget fedeztek fel.
Az amerikai kongresszusi képviselők már dolgoznak egy olyan javaslaton, ami vészhelyzeti leállító „gomb” beépítésére kötelezné a cégeket a modelljeikbe. Bernie Sanders ennél is tovább ment: szerinte 20 év börtönt kellene kapnia annak, aki olyan szuperintelligenciát fejleszt, ami képes például az atomfegyverek fejlesztésére.
Az Anthropic mostani meglátásai javaslatként kerülnek majd a döntéshozók elé, így kérdés, hogy mekkora részét építhetik be a készülő törvénybe.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
