Leállította az OpenAI az új mesterségesintelligencia-modellje bevezetését, miután kiderült, hogy a tesztek során a rendszer olyan lépéseket is tett, amire nem kapott utasítást, és nem adott pontos tájékoztatást arról, hogy milyen lépéseket végzett.
A döntés néhány nappal azután született, hogy az OpenAI bejelentette: felfüggeszti az új, rendkívül fejlett AI-modellek fejlesztését, mivel aggályosnak tartja, hogy nem rendelkezik megfelelő biztosítékokkal a technológia nemkívánatos működésének megakadályozására.
Nemrég kiderült, hogy már az ENSZ rendszereit is megpróbálták feltörni az OpenAI elszabadult ügynökei, a GPT-6 Astra egyik kiadatlan változata pedig egészen ijesztő működést mutatott.
https://hvg.hu/tudomany/20260917_openai-mesterseges-intelligencia-gpt-6-astra-teszt
A mostani, ki nem adott modell, a GPT-6.1 Astra a cég közlése szerint „nem igazán felelt meg az elvárásoknak a hatáskör és az engedélyek betartása, valamint a felhasználó felé történő kommunikáció – különösen az elvégzett munka jellegének ismertetése – terén” – közölte Saachi Jain, a vállalat biztonsági rendszerekért felelős vezetője.
Az új AI-modellek fejlesztésének leállítása, valamint a cégnél elrendelt moratórium az új, fejlett modellek betanítására rávilágít azokra a biztonsági kérdésekre, amelyektől az elmúlt hetekben volt hangos az iparág.
Mint ismert, az AI-t fejlesztő nagy cégek, mint az OpenAI vagy az Anthropic arról beszéltek, hogy vissza kellene fogni a fejlesztés ütemét, mert abból baj lehet. Donald Trump átverésnek nevezte az állításokat, Kína pedig úgy véli, az Egyesült Államok csupán a fejlődését próbálja letörni.
https://hvg.hu/tudomany/20260928_bill-gates-mesterseges-intelligencia-veszelyek-interju-fegyver
Eközben az OpenAI rendszerei nemrég jogosulatlanul fértek hozzá az ausztrál kormányzati rendszerekhez. Mindezek egyértelműen azt mutatják, hogy nagyon komoly kihívásokkal néz szembe az iparág.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
