A mesterséges intelligencia fejlődése túllép a tudományos megismerésen és kormánypolitikán, ezért nincs garancia arra, hogy a technológia nem okoz katasztrofális károkat – figyelmeztetet az ENSZ tanácsadó testülete.
Az ENSZ mesterséges intelligenciával foglalkozó független nemzetközi tudományos testületének előzetes jelentése szerint a politikai döntéshozók egyre sürgetőbb dilemma előtt állnak: szilárd garanciára van szükségük az AI hatékony szabályozására, még ha ez nehezen is tart lépést a technológia gyors fejlődésével.
„Az AI képességei meghaladják mind a tudományos megismerést, mind a kormányok alkalmazkodó képességét” – hangsúlyozza Yoshua Bengio, a negyven szakértőből álló testület társelnöke.
„Az AI megtévesztő magatartásának növekvő bizonyítékával a tudomány nem tudja jelenleg szavatolni, hogy ha ezek a képességek tovább nőnek, az AI nem okoz katasztrofális kárt, egyrészt saját hibájából, másrészt potenciális rosszindulatú felhasználók miatt”.
A jelentés, amely gyakorlatilag a technológia kockázatainak és lehetőségeinek első független globális értékelése, a tudomány naprakész értékeléseivel kíván segítséget nyújtani a döntéshozóknak, míg a kormányok a gyorsan fejlődő rendszerekkel küzdenek.
Az Anthropic június közepén vonta meg a Fable 5 és a Mythos 5 modelljeinek elérhetőségét a nem amerikai állampolgároktól, miután azokat túlságosan veszélyesnek ítélte meg az amerikai kormányzat.
A szerzők szerint rövid időn belül előrehaladás történik az önálló cselekvésre képes AI-rendszerek irányába, de a növekedést akadályozhatja az energia és a minőségi adatok hiánya. Idővel az önmagát kijavító AI mélyebben beágyazódhat a gazdaságba és más technológiákkal konvergál, mint a kvantum-számitástechnika és a biotechnológia.
A mesterséges intelligencia már képes szakértői szintű érvelésre a matematika és a tudomány területén, és gyorsítja a gyógyszerek és védőoltások fejlesztését. Feladatának összetettsége minden négy-hét hónap alatt megduplázódik, potenciálisan lehetővé téve, hogy olyan összetett munkákat végezzen el, amelyek emberek esetében napokig vagy hetekig tartanak – állapítja meg a jelentés.
Míg ezzel jelentős gazdasági hasznot lehet elérni, továbbra sem világos, hogy az AI használatából eredő termelékenységnövekedés nagyobb növekedésben nyilvánul-e meg, illetve hogyan befolyásolja a foglalkoztatást.
Van, amiben az ember nem vagy csak nehezen pótolható. A Ford ezt most a saját bőrén tapasztalta meg, vissza is kellett venniük sok korábbi mérnöküket.
A testület rámutatott egy sor – a biztonsággal kapcsolatos – aggodalomra is, mint például az ellenőrzés elveszítése az AI-rendszerek felett, mivel egyre inkább önállóak lesznek, és megtévesztőbbé válnak. A technológiát már most felhasználják félretájékoztató és más ártalmas tartalmak előállítására, és csalásra, kibertámadásokra, valamint biológiai fenyegetésekre is.
A szabályozása továbbra is egyenetlen, sok ország nem jut hozzá vagy nem tud kifejleszteni modern MI-rendszereket, így olyan technológiára támaszkodik, amelyeket nem képes teljességében megismerni vagy ellenőrizni. A létező biztonsági eszközök gyakran a vállalatok által közreadott tesztadatoktól függenek – áll a jelentésben.
António Guterres ENSZ-főtitkár sürgős fellépésre szólította fel a kormányokat. „A világot nem lehet kormányozni, ha nem ismerjük” – hangsúlyozva, megjegyezve, hogy „nagy a lehetőség, de reálisak a veszélyek, és a várakozás ára egyre csak nő”.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
A világ legnagyobb iparági monstruma él, átalakul, és virul.
