Geoffrey Hinton, akit gyakran a mesterséges intelligencia (MI) keresztapjaként emlegetnek, úgy véli, az OpenAI vezérigazgatója, Sam Altman az etikai szempontok elé helyezheti a profitot, és ez az emberiség számára katasztrófához vezethet.
A Svéd Királyi Tudományos Akadémia kedden jelentette be, kik kapják meg 2024-ben a fizikai Nobel-díjat. A legrangosabb tudományos elismerést az idei évben a mesterséges intelligencia fejlesztésével kapcsolatban ítélte oda a bizottság, amit két tudós, John Hopfield és Geoffrey Hinton megosztva kaptak meg.
A Torontói Egyetem 76 éves tudósa, Geoffrey Hinton épp egy olcsó kaliforniai hotelben aludt, amikor megcsörrent a telefonja, és közölték vele a jó hírt. A tudós a díjazottak bejelentése után egy rögtönzött sajtótájékoztatón mondott is néhány szót, a megszólalása azonban egy ponton érdekes fordulatot vett.
A történethez nem árt tudni, hogy a mesterséges intelligencia keresztapjaként emlegetett Hinton tíz éven át dolgozott a Google-nél, 2023-ban azonban kilépett a cégtől, hogy kötöttségek nélkül tudjon beszélni arról, mi aggasztja a mesterséges intelligencia fejlesztésével kapcsolatban. „Nehéz megmondani, hogyan lehetne megakadályozni, hogy a bűnözők rossz dolgokra használják fel a technológiát” – nyilatkozta korábban a The New York Timesnak.
A Fortune beszámolója szerint miután a szakember a díj bejelentését követően köszönetet mondott két munkatársának – Terry Sejnowskinak és a néhai David Rumelhartnak, akiket a mentorainak nevezett –, azt is megjegyezte, hogy a Torontói Egyetem diákjai az évek során hozzájárultak a munkája elkészültéhez.
„Különösen büszke vagyok arra a volt tanítványomra, aki kirúgta Sam Altmant”
– jegyezte meg a tudós.
Mint ismert, 2023 novemberében minden különösebb előjel nélkül kirúgták Sam Altmant, az OpenAI vezérigazgatóját. Ezután vesszőfutás következett – ahol Altman még azt is belengette, hogy új céget alapít, és elviszi az OpenAI legjobbjait –, végül azonban néhány nappal később azzal zárult a történet, hogy visszahelyezték a pozíciójába. Később kiderült, egy, az emberiséget fenyegető új fejlesztésre figyelmeztető levél előzte meg az OpenAI-vezér kirúgását.
A friss Nobel-díjas Hinton a fenti mondatával Ilya Sutskeverre utalt. Az OpenAI egykori főtudósa csatlakozott Helen Tonerhez és a cég igazgatóságának két másik tagjához, hogy menesszék a vezérigazgatót.
Hinton és Sutskever 2012-ben Alex Krizhevskyvel közösen létrehoztak egy olyan algoritmust, amely akkoriban még példátlanul nagy pontossággal volt képes azonosítani az objektumokat a képeken. Ez volt az AlexNet, amit a mesterséges intelligenciával kapcsolatban gyakran ősrobbanásként emlegetnek.
„Számos jó kutató úgy gondolja, hogy valamikor a következő 20 évben a mesterséges intelligencia intelligensebb lesz nálunk, és alaposan meg kell gondolnunk, mi történik akkor” – mondta kedden Hinton.
A Fortune szerint Altman ellentmondásos figura az MI-közösségben. Az OpenAI volt igazgatósági tagja, Helen Toner nemes egyszerűséggel hazugnak nevezte. Altman jelenleg arra törekszik, hogy megszabaduljon az OpenAI nonprofit státuszától, hogy a technológiájával pénzt kereshessen, ez azonban mélyen megosztja a szervezetet. Emiatt több kutató, akik a mesterséges általános intelligencia és az emberiség – mint a Föld még mindig domináns faja – érdekeinek összehangolására összpontosítottak, otthagyta a céget.
„Idővel kiderült, hogy Sam Altman sokkal kevésbé foglalkozott a biztonsággal, mint a nyereséggel, ami rendkívül sajnálatos” – mondta kedden.
Hinton és az OpenAI működését rossz szemmel néző tudósok attól tartanak, hogy Altman a profitot az etikai elvek elé fogja sorolni. Szerinte ma már egyre nehezebb azt megmondani, hogy az MI-modellek hogyan jutnak egy adott eredményre, emiatt egyre inkább feketedobozzá válik a működésük. Ha ez megtörténik, egyre nehezebb lesz biztosítani az emberiség dominanciáját.
Hinton megígérte, hogy élete hátralévő részében az MI biztonságosságára fog törekedni, nem pedig arra, hogy minél jobb és okosabb modellek készüljenek. Arra a kérdésre, hogy az MI katasztrofális következményekkel jár-e, Hinton úgy válaszolt: egyelőre nem tudni, hogyan lehetne ezt elkerülni, ezért további kutatásokra van szükség.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
Egy kiadós gombamérgezéssel indul François Ozon új filmje, a Ha megérkezik az ősz. A termékeny francia filmrendezővel az öregkori ráncok szépségéről, az Elemi ösztön nem múló vonzerejéről, egy szexi nagymamáról, egy pusztító családi vacsoráról és Nicole Kidman plasztikai beavatkozásairól is beszélgettünk.
Vasárnap hajnalban megvolt az eszkaláció, két nappal később a kapituláció is – nem így képzelnénk két atomhatalom háborúját. Irán megrogyott, de ennek a háborúnak valójában aligha van vége.
Iránnak az lehet a fő tanulság a most véget érő háborúról, hogy atomfegyver nélkül nem tudja megvédeni magát.
Látványosan távol tartotta magát a közel-keleti konfliktus értékelésétől Orbán Viktor. A kormányfőnek csak hazai használatra van mondása a fejleményekről.
Alapesetben a harcsa félénk állat, azonban ha a fészkét védi vagy fenyegetve érzi magát, támadásba lendül.
Megerősítették, hogy készek a kutatóhálózatról leválasztandó négy központ átvételére.
Elemzésünk a Tisza és a Fidesz első szakpolitikai vitájáról.
