Geoffrey Hinton, az AI keresztapja: „Tíz százalék esélyt adok annak, hogy ebben a folyamatban az emberiség elpusztul”

A gépek tíz éven belül túlszárnyalják az emberi értelmet – véli a mesterséges intelligencia úttörője, Geoffrey Hinton. A neurális hálózatok kutatásáért fizikai Nobel-díjjal kitüntetett informatikus szerint csak abban bízhatunk, hogy jobban törődnek majd velünk, mint saját magukkal.

  • Szauer Tamás

Mi lehet a mesterséges intelligencia legjelentősebb technológiai ugrása, amelyről úgy gondolja, hogy még megélheti?

Ha szerencsém van, pont megélem egy olyan szuperintelligens AI létrejöttét, amely szinte mindenben okosabb az embereknél. Szerintem ez tíz éven belül megtörténik. Remélem, sikerül úgy megalkotnunk, hogy jobban törődjön velünk, mint saját magával. Erre addig van esélyünk, amíg nem saját magát fejleszti a gép. Utána már elveszítjük a kontrollt.

Annak eléréséhez, ahol ma tartunk, ön is aktívan hozzájárult. Mi most az erősebb érzés: a büszkeség vagy a következmények miatti aggódás?

Büszke vagyok az eredményeimre, de bárcsak korábban gondolkodtam volna el a kockázatokon. Ma azért szánom minden időmet a veszélyek ismertetésére, mert tudományosan a fejlődéshez már nem tudok hozzájárulni. Ha tudom, hogy milyen tempóban jutunk el idáig, akkor ezt már évtizedekkel korábban elkezdtem volna.

Egyetért azokkal a tudósokkal, akik azt követelik, hogy egyelőre le kellene állítani az AI-fejlesztéseket?

Nem gondolom, hogy le kell állnunk, mert az AI nagyon sok hasznos feladatra képes. A fejlesztési energiákat és tőkét viszont a biztonsági problémák megoldására kéne összpontosítani. Ezzel lassul ugyan, de nem áll le a fejlesztés, miközben nőnek a túlélési esélyeink.

Geoffrey Hinton átveszi a Nobel-díját 2024-ben
AFP / TT / Pontus Lundahl

Megoldhatók egyáltalán ezek a problémák?

Ezt sajnos nem tudom biztosan. Még nem végeztük el az ehhez szükséges kutatásokat. Elképzelhető, hogy nincs mód a biztonsági problémák megoldására, az AI-illesztés megvalósítására. Azaz lehet, hogy létrehoztuk az intelligencia egy fejlettebb formáját, és az átveszi az irányítást.

Ha így lesz, akkor végünk van.

Épp ezért az egyetlen valódi esélyünk az, hogy megpróbáljuk fejleszteni, és közben kezelni a kockázatokat. Ha mindkettő sikerül, szép jövő várhat ránk. A legtöbb nyugati ország népessége ma öregszik. Nincs elég munkavállalójuk. Bevándorlást már nem akarnak. Az AI megoldhatja ezt a problémát azzal, hogy mindenkit sokkal termelékenyebbé tesz. De ha ennek reményében úgy fejlesztjük, hogy közben nem kezeljük a kockázatokat, akkor nagyon rosszak a kilátásaink.

Geoffrey Hinton Nobel-díjas informatikus, kognitív tudós
1947. december 6-án született Londonban. Az egyetemen a természettudomány, a művészettörténet és a filozófia iránt is érdeklődést mutatott, végül kísérleti pszichológiából szerzett alapdiplomát. Ezután egy évet asztalosinasként töltött, majd visszatért a tudomány világához. PhD-fokozatát már a mesterséges intelligencia témájában szerezte. Mivel akkoriban az Egyesült Királyságban erősen forráshiányos volt a terület, Hinton az Egyesült Államok egyetemein folytatta munkáját, 1987 óta pedig a Torontói Egyetem kutatója. 2013-ban helyezkedett el a Google-nél, ahonnan 2023-ban az AI-fejlesztés kockázataira hivatkozva távozott. 2018-ben két társával Turing-díjat kapott. 2024-ben John Hopfielddel megosztva nyerte el a fizikai Nobel-díjat azokért az „alapvető felfedezésekért és találmányokért, amelyek lehetővé teszik a gépi tanulást a mesterséges neurális hálózatok segítségével”. Tudományos és laikus körökben is gyakran úgy emlegetik, „az AI keresztapja”.

Mennyire veszélyes a politikai döntéshozók, különösen a legtöbb nagy fejlesztőcég hazáját vezető Donald Trump hozzáállása a mesterséges intelligenciához?

Trumpé? Maximálisan. Néhány politikus szerencsére már érti, mi forog kockán, de ők még nagyon kevesen vannak.

Érdekes, azt például senki sem mondja, hogy a gyógyszercégek szabadon dobjanak a piacra bármilyen, általuk fejlesztett készítményt, és elegendő szabályozást jelent, ha majd utólag beperlik őket, ha sok ember halálát okozzák. Az AI-ra viszont azt mondja Trump és többek között Jensen Huang is, hogy a szokásos jogi eljáráson túl nem szükséges külön szabályozás: károkozás esetén döntsön a bíróság a következményekről. Ez őrültség. Legalább úgy kellene szabályozni, mint a gyógyszereket.

Hozzászólások