Az ENSZ mesterséges intelligenciával foglalkozó független nemzetközi tudományos testületének előzetes jelentése szerint a politikai döntéshozók egyre sürgetőbb dilemma előtt állnak: szilárd garanciára van szükségük az AI hatékony szabályozására, még ha ez nehezen is tart lépést a technológia gyors fejlődésével.
„Az AI képességei meghaladják mind a tudományos megismerést, mind a kormányok alkalmazkodó képességét” – hangsúlyozza Yoshua Bengio, a negyven szakértőből álló testület társelnöke.
„Az AI megtévesztő magatartásának növekvő bizonyítékával a tudomány nem tudja jelenleg szavatolni, hogy ha ezek a képességek tovább nőnek, az AI nem okoz katasztrofális kárt, egyrészt saját hibájából, másrészt potenciális rosszindulatú felhasználók miatt”.
A jelentés, amely gyakorlatilag a technológia kockázatainak és lehetőségeinek első független globális értékelése, a tudomány naprakész értékeléseivel kíván segítséget nyújtani a döntéshozóknak, míg a kormányok a gyorsan fejlődő rendszerekkel küzdenek.
https://hvg.hu/tudomany/20260701_anthropic-fable-5-mythos-5-mesterseges-intelligencia
A szerzők szerint rövid időn belül előrehaladás történik az önálló cselekvésre képes AI-rendszerek irányába, de a növekedést akadályozhatja az energia és a minőségi adatok hiánya. Idővel az önmagát kijavító AI mélyebben beágyazódhat a gazdaságba és más technológiákkal konvergál, mint a kvantum-számitástechnika és a biotechnológia.
A mesterséges intelligencia már képes szakértői szintű érvelésre a matematika és a tudomány területén, és gyorsítja a gyógyszerek és védőoltások fejlesztését. Feladatának összetettsége minden négy-hét hónap alatt megduplázódik, potenciálisan lehetővé téve, hogy olyan összetett munkákat végezzen el, amelyek emberek esetében napokig vagy hetekig tartanak – állapítja meg a jelentés.
Míg ezzel jelentős gazdasági hasznot lehet elérni, továbbra sem világos, hogy az AI használatából eredő termelékenységnövekedés nagyobb növekedésben nyilvánul-e meg, illetve hogyan befolyásolja a foglalkoztatást.
https://hvg.hu/tudomany/20260630_ford-mesterseges-intelligencia-kirugasok-emberek-visszavetele-minosegellenorzes-szakertelem
A testület rámutatott egy sor – a biztonsággal kapcsolatos – aggodalomra is, mint például az ellenőrzés elveszítése az AI-rendszerek felett, mivel egyre inkább önállóak lesznek, és megtévesztőbbé válnak. A technológiát már most felhasználják félretájékoztató és más ártalmas tartalmak előállítására, és csalásra, kibertámadásokra, valamint biológiai fenyegetésekre is.
A szabályozása továbbra is egyenetlen, sok ország nem jut hozzá vagy nem tud kifejleszteni modern MI-rendszereket, így olyan technológiára támaszkodik, amelyeket nem képes teljességében megismerni vagy ellenőrizni. A létező biztonsági eszközök gyakran a vállalatok által közreadott tesztadatoktól függenek – áll a jelentésben.
António Guterres ENSZ-főtitkár sürgős fellépésre szólította fel a kormányokat. „A világot nem lehet kormányozni, ha nem ismerjük” – hangsúlyozva, megjegyezve, hogy „nagy a lehetőség, de reálisak a veszélyek, és a várakozás ára egyre csak nő”.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
