Mi lehet a mesterséges intelligencia legjelentősebb technológiai ugrása, amelyről úgy gondolja, hogy még megélheti?
Ha szerencsém van, pont megélem egy olyan szuperintelligens AI létrejöttét, amely szinte mindenben okosabb az embereknél. Szerintem ez tíz éven belül megtörténik. Remélem, sikerül úgy megalkotnunk, hogy jobban törődjön velünk, mint saját magával. Erre addig van esélyünk, amíg nem saját magát fejleszti a gép. Utána már elveszítjük a kontrollt.
Annak eléréséhez, ahol ma tartunk, ön is aktívan hozzájárult. Mi most az erősebb érzés: a büszkeség vagy a következmények miatti aggódás?
Büszke vagyok az eredményeimre, de bárcsak korábban gondolkodtam volna el a kockázatokon. Ma azért szánom minden időmet a veszélyek ismertetésére, mert tudományosan a fejlődéshez már nem tudok hozzájárulni. Ha tudom, hogy milyen tempóban jutunk el idáig, akkor ezt már évtizedekkel korábban elkezdtem volna.
Egyetért azokkal a tudósokkal, akik azt követelik, hogy egyelőre le kellene állítani az AI-fejlesztéseket?
Nem gondolom, hogy le kell állnunk, mert az AI nagyon sok hasznos feladatra képes. A fejlesztési energiákat és tőkét viszont a biztonsági problémák megoldására kéne összpontosítani. Ezzel lassul ugyan, de nem áll le a fejlesztés, miközben nőnek a túlélési esélyeink.

Megoldhatók egyáltalán ezek a problémák?
Ezt sajnos nem tudom biztosan. Még nem végeztük el az ehhez szükséges kutatásokat. Elképzelhető, hogy nincs mód a biztonsági problémák megoldására, az AI-illesztés megvalósítására. Azaz lehet, hogy létrehoztuk az intelligencia egy fejlettebb formáját, és az átveszi az irányítást.
Ha így lesz, akkor végünk van.
Épp ezért az egyetlen valódi esélyünk az, hogy megpróbáljuk fejleszteni, és közben kezelni a kockázatokat. Ha mindkettő sikerül, szép jövő várhat ránk. A legtöbb nyugati ország népessége ma öregszik. Nincs elég munkavállalójuk. Bevándorlást már nem akarnak. Az AI megoldhatja ezt a problémát azzal, hogy mindenkit sokkal termelékenyebbé tesz. De ha ennek reményében úgy fejlesztjük, hogy közben nem kezeljük a kockázatokat, akkor nagyon rosszak a kilátásaink.
Mennyire veszélyes a politikai döntéshozók, különösen a legtöbb nagy fejlesztőcég hazáját vezető Donald Trump hozzáállása a mesterséges intelligenciához?
Trumpé? Maximálisan. Néhány politikus szerencsére már érti, mi forog kockán, de ők még nagyon kevesen vannak.
Érdekes, azt például senki sem mondja, hogy a gyógyszercégek szabadon dobjanak a piacra bármilyen, általuk fejlesztett készítményt, és elegendő szabályozást jelent, ha majd utólag beperlik őket, ha sok ember halálát okozzák. Az AI-ra viszont azt mondja Trump és többek között Jensen Huang is, hogy a szokásos jogi eljáráson túl nem szükséges külön szabályozás: károkozás esetén döntsön a bíróság a következményekről. Ez őrültség. Legalább úgy kellene szabályozni, mint a gyógyszereket.