„Senkinek sem tartozol magyarázattal” – rémisztő kijelentéseket tett az OpenAI mesterséges intelligenciája
A kutatók a GPT-6 Astra egy kiadatlan változatát tesztelték, amikor egy meglehetősen rémisztő megfogalmazást tett az algoritmus.
Leállította az OpenAI az új mesterségesintelligencia-modellje bevezetését, miután kiderült, hogy a tesztek során a rendszer olyan lépéseket is tett, amire nem kapott utasítást, és nem adott pontos tájékoztatást arról, hogy milyen lépéseket végzett.
A döntés néhány nappal azután született, hogy az OpenAI bejelentette: felfüggeszti az új, rendkívül fejlett AI-modellek fejlesztését, mivel aggályosnak tartja, hogy nem rendelkezik megfelelő biztosítékokkal a technológia nemkívánatos működésének megakadályozására.
Nemrég kiderült, hogy már az ENSZ rendszereit is megpróbálták feltörni az OpenAI elszabadult ügynökei, a GPT-6 Astra egyik kiadatlan változata pedig egészen ijesztő működést mutatott.
A mostani, ki nem adott modell, a GPT-6.1 Astra a cég közlése szerint „nem igazán felelt meg az elvárásoknak a hatáskör és az engedélyek betartása, valamint a felhasználó felé történő kommunikáció – különösen az elvégzett munka jellegének ismertetése – terén” – közölte Saachi Jain, a vállalat biztonsági rendszerekért felelős vezetője.
Az új AI-modellek fejlesztésének leállítása, valamint a cégnél elrendelt moratórium az új, fejlett modellek betanítására rávilágít azokra a biztonsági kérdésekre, amelyektől az elmúlt hetekben volt hangos az iparág.
Mint ismert, az AI-t fejlesztő nagy cégek, mint az OpenAI vagy az Anthropic arról beszéltek, hogy vissza kellene fogni a fejlesztés ütemét, mert abból baj lehet. Donald Trump átverésnek nevezte az állításokat, Kína pedig úgy véli, az Egyesült Államok csupán a fejlődését próbálja letörni.
Bill Gates szerint az AI akár 1 milliárd ember életét is követelheti
Lesújtó interjút adott Bill Gates, a milliárdos szerint még sosem volt olyan erőteljes fegyver, mint a rossz szándékú emberek és a legújabb AI-eszközök kombinációja.
Eközben az OpenAI rendszerei nemrég jogosulatlanul fértek hozzá az ausztrál kormányzati rendszerekhez. Mindezek egyértelműen azt mutatják, hogy nagyon komoly kihívásokkal néz szembe az iparág.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
