Kódoltapokalipszis

The Yomiuri Shimbun via AFP / RDYOSUKE TERUNUMA

Minden nagy technikai fordulat kitermelte „a maga világvégéjét”. A vasút, az elektromos áram, a maghasadás, a génsebészet, az internet mind megkapta a pusztulásjóslatát, és az AI körül is legalább 2023 óta megy ugyanez: akkor írta alá több száz kutató és iparági vezető – köztük Geoffrey Hinton és Yoshua Bengio – az egymondatos nyilatkozatot, amely szerint a mesterséges intelligencia okozta kihalás kockázatának mérséklése globális prioritás kell hogy legyen a járványok és az atomháború mellett. Azóta eltelt három év, és a megjósolt katasztrófa nem következett be. A reflex tehát érthető: „Ezt már hallottuk.”

Mitől más a mostani fenyegetés? – kérdeztük Bíró Zoltán Istvánt, az AI Radar alapító-szerkesztőjét. A szakértő szerint az egyik legfontosabb különbség az, hogy az apokaliptikus jóslatok eddig kívülről érkeztek: moralistáktól, kritikusoktól, technológiaellenes mozgalmaktól – olyanoktól, akik semmit nem veszítettek a jóslattal, viszont bekerülhettek vele az újságok szalagcímeibe. Most viszont belülről jönnek a figyelmeztetések, olyan emberektől, akiknek a személyes vagyona és a karrierje azon múlik, hogy a munka folytatódjon. A laborok hetekkel, a betanítási adatok szintjén hónapokkal a nyilvánosság előtt látják, mi készül. Amikor figyelmeztetnek, nem arra reagálnak, amit mi, a közemberek ma használunk, hanem olyan haladásra, amit a külvilág, a felhasználó, a szabályozó, a politika még nem is látott. Csakhogy pontosan ugyanez az aszimmetria teszi a figyelmeztetést kívülről ellenőrizhetetlenné. Olyan bizonyíték alapján kérnek bizalmat, amit nem mutatnak meg.

A legkeményebb kritika a „riogatókkal” szemben nem is az, hogy tévednek, hanem hogy érdekükben áll így beszélni. A szakmai vitában ennek bevett neve van: regulatory capture, vagyis a szabályozás kisajátítása. A vád lényege, hogy a piacvezető műhelyek azért festik a falra a katasztrófát, mert ezzel egyszerre pumpálják fel a saját termékük jelentőségét és hozzák szóba azt a szigorú szabályozást, amelyet éppen ők tudnak a legkönnyebben teljesíteni, a kisebb versenytársak és a nyílt forráskódú fejlesztők viszont nem. Elon Musk például megrendezett akciónak nevezte az Anthropic nemrég távozott kutatója, az apokalipszist jósoló Jacob Coxon felmondását. Nyíltan feltette a kérdést: vajon az Anthropic a szabályozás kisajátításának bevett forgatókönyvét játssza-e? A gyanú Bíró Zoltán István szerint nem alaptalan, és azt is tisztán kell látni, hogy az ember kihalásának előrejelzése ma nem tudományos tény, hanem valószínűségi becslés. A kutatók maguk is megosztottak abban, milyen gyorsan fejlődik a technológia, és egyáltalán megvalósítható-e a szuperintelligencia: az a szint, amikor a gép már minden szempontból okosabb az embernél. ¬ Dobszay János