Központi vezérlőrendszert épített ki az OpenAI, hogy vészhelyzet esetén le tudja állítani azokat a modelleket, amelyek potenciálisan kockázatosak. A Control Room elnevezésű infrastruktúrát úgy alakította ki a vállalat, hogy a beavatkozást követő 35 másodpercen belül leállítsa a problémás rendszert.
A rendszer célja a biztosítékok megerősítése, mivel az egyre hatékonyabb AI-modellek egyre nagyobb biztonsági kockázatot jelentenek. A megoldásnak köszönhetően többek között az ágensalapú modellképzést, az értékeléseket, valamint az adatfeldolgozási feladatokat is egy olyan központi szolgáltatáshoz köti az OpenAI, amely azt hivatott ellenőrizni, hogy az adott AI továbbra is generálhat-e kimeneteket. Vagyis: folytathatja-e a munkáját – írja az Interesting Engineering.
A vállalat azt közölte, a Control Room már működik a kutatási infrastruktúrájában, ott, ahol erre a legnagyobb szükség van.
Az egység három fő részt köt össze: a kutatási munkaterhelést (workload), a következtetési motort és magát a Control Roomot. A munkaterhelés lehet egy kutatási feladat – például egy megerősítéses tanulással kapcsolatos kísérlet –, egy értékelés vagy egy nagy volumenű adatfeldolgozási feladat. Amikor a kutatók elindítanak egy feladatot, a rendszer kódja egyedi feladatazonosítót kér a Control Roomtól. Ezt az azonosítót aztán csatolják a következtetőmotoroknak küldött kérésekhez, amelyek közvetlenül a grafikus processzorokon futtatják a modelleket, és generálják a kimeneteiket.
Mielőtt teljesülne a következtetési kérés, a motor ellenőrzi, hogy az adott feladat futtatására továbbra is van-e jogosultság. Ha egy kutató vagy egy, a működést monitorozó rendszer úgy találja, hogy a feladatot le kell állítani, és erre utasítást adott a Control Roomnak, a szolgáltatás elutasítja a következő következtetési kérelmet.
A rendszert úgy találta ki az OpenAI, hogy akkor is leálljon a folyamat, ha véletlenül valamelyik komponens meghibásodik. Ha a Control Room nem elérhető, a mechanizmus megállítja a következtetési kérelmek engedélyezését. Ez egészen addig így marad, amíg a rendszer vissza nem tér a normál működéshez.
A cég szerint jelenleg a késleltetés legfeljebb 35 másodperc, ami azért ilyen sok, mert egy speciális gyorsítótárat használnak az engedélyezési kérelmek mennyiségének kezelésére. A vállalat azon dolgozik, hogy ezt az intervallumot nullára csökkentse.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
