Amikor az OpenAI bemutatta a ChatGPT első, nyilvános változatát, a fejlesztés azonnal óriási érdeklődést váltott ki. A modern mesterséges intelligenciát, valamint annak képességeit látva ezzel párhuzamosan felerősödtek azok a hangok is, amelyek az emberiség végnapjainak kezdetét látták a technológiában.
A szelídebb forgatókönyvek szerint a gép „csak” átveszi az ember munkáját, feleslegessé téve ezzel őt a piacon, az apokaliptikusabb kép szerint azonban a gépek kiirthatják az emberiséget.
Utóbbi inkább csak a tudományos fantasztikum kategóriájába volt sorolható, egészen az elmúlt néhány hétig, amikoris kutatók és iparági szereplők is arra figyelmeztettek: a mesterséges intelligencia fejlődése túl gyors, lassítani kellene azt. Sőt, olyan állítás is elhangzott, hogy az AI az évtized végére kiirthatja az emberiséget.
https://hvg.hu/tudomany/20260913_mesterseges-intelligencia-ai-anthropic-jacob-coxon
Mivel a fenti állítások nem a legújabban, a nyár óta a vízgazdálkodás és az energetika helyett most már éppen ehhez értő kanapészakértőktől származnak, így érdemes vele foglalkozni, és feltenni a két legfontosabb kérdést: valóban bekövetkezhet-e a legrosszabb, és ha igen, akkor miként?
„Az emberek gyakran hitetlenkedve fogadják ezt az állítást, de szerintem ez a legvalószínűbb forgatókönyv” – nyilatkozta a CNN-nek Nate Soares, az amerikai Machine Intelligence Research Institute (MIR) elnöke. De vajon hogyan lehet képes egy számítógépes szoftver – legyen szó a világ legerősebb rendszereiről – egy évtized alatt végezni 8,3 milliárd hús-vér emberrel?
A szakmán belül sem ért mindenki egyet azzal, hogy bekövetkezik az apokaliptikus forgatókönyv. Ennek oka részben az, hogy a jóslat részletei meglehetősen hiányosak. Példaként Elon Musk állításait hozta a cikk, amely szerint a SpaceX vezére korábban arról nyilatkozott, hogy a vállalat 5–7 éven belül embert akar juttatni a Masra.
Az ilyen állítások esetében két kérdés azonnal fel kell, hogy merüljön:
- Rendelkezik-e a SpaceX olyan működőképes űrjárművel, amely képes eljutni a Marsra?
- Vannak-e a vörös bolygón landolni tudó egységei, vagy bázisa a Marson?
Elég egyértelmű, hogy mindkét kérdésre nem a válasz, így pedig könnyen cáfolható az állítás valóságtartalma.
Heidy Khlaaf, az OpenAI korábbi biztonsági mérnöke szerint a tudományos állításoknak cáfolhatónak kell lenniük, éppen azért, hogy érzelmi, hitbéli alapon kezdjen el érvelni az ember. Ha ezt az analógiát érvényesítjük a SpaceX-re, a mesterséges intelligenciával kapcsolatban is ezt kell tenni.
Szintetikus járvány hozza el az emberiség végét?
A katasztrófát jóslók körében felmerülő egyik elmélet szerint egy kellően fejlett mesterségesintelligencia-rendszer biológiai fegyvereket vethetne be az emberiség elpusztítására. De hogyan jutna el az AI a tisztán digitális térben zajló visszaélésektől – mint például más rendszerek feltörése – odáig, hogy a fizikai világban szuperkórokozókat fejlesszen és terjesszen?
Thomas Larsen, a MIRI korábbi kutatója szerint elképzelhető, hogy egy „szuperintelligens” AI-rendszer rávesz egy embert arra, hogy segítsen neki egy halálos vírus kifejlesztésében.
https://hvg.hu/tudomany/20260917_openai-mesterseges-intelligencia-gpt-6-astra-teszt
„Már most is sokan beszélgetnek mesterséges intelligenciákkal arról, pontosan milyen kísérleteket kellene végezniük laboratóriumi körülmények között” – mondta Larsen, utalva az Anthropic közelmúltbeli jelentésére, amely szerint kutatók a Claude nevű rendszert hívják segítségül vírusokkal és toxinokkal kapcsolatos vizsgálataikhoz, amely felveti a gyanút, hogy biológiai fegyvert fejleszthetnek.
„Könnyen el tudok képzelni egy olyan – jelenleg is működő – mesterséges intelligenciát, amely, ha sokkal okosabb és stratégiaibb gondolkodású lenne, és ilyen szándék vezérelné, képes lenne rávenni egy embert a létrehozására és szabadon engedésére”– emelte ki a kutató.
Soares szerint az is elképzelhető, hogy ehhez ember sem kell, ha van olyan laboratórium, amit teljes egészében az AI vezérel.
Ugyanakkor, még ha el is készülne a vírus, az elterjesztése nem lenne egyszerű feladat. Eric Xing, a Carnegie Mellon Egyetem kutatója szerint az egészet úgy kell elképzelni, mintha valaki útmutató nélkül akarna kirakni egy Lego-készletet. A szakember úgy véli, annyit tényezőnek kell pontosan egymás után következnie, hogy leginkább a sikertelenség arány a nagy, ha ugyanis ilyen könnyű lenne a dolog, a gyógyszerfejlesztés is nagyon könnyű lenne.
Xing szerint azt sem szabad elfelejteni, hogy a vegyi fegyverek tervei már ma is szabadon elérhetők az interneten, mégsem látni, hogy bárki ilyesmit készítene és alkalmazna. Ennek oka, hogy nagyon szigorú szabályozás vonatkozik ezekre, ami nagyon komoly akadályt jelente az AI számára is.
Akkor jönnek a gyilkos robotok?
Ez már egy fokkal könnyebben elképzelhető forgatókönyvnek tűnik, mint az AI által fejlesztett gyilkos kór elterjesztése.
Soares az emberiség túlélése szempontjából potenciális hibának tekinti Elon Musk azon törekvését, hogy autonóm, önmagukat sokszorosítani képes robotokból álló hadsereget hozzon létre. Szerinte ha ez megvalósul, akkor az valójában egy mechanikus életrofma megjelenését jelenti.
„Egy ponton észrevétlenül átlépjük azt a határt, ahonnan már nincs visszaút. Ha ez megtörténik, akkor könnyen jöhet az AI kikapcsolását célzó törekvésre az a válasz, hogy »inkább mi akarjuk kikapcsolni az embereket«” – nyilatkozta a szakember.
https://hvg.hu/tudomany/20260916_mesterseges-intelligencia-nyelv-beszelgetes
Ezen a ponton kissé megnyugtató, hogy Elon Musk az Optimus humanoid robot fejlesztésével még a piacra dobást sem érte el, nemhogy azt, hogy önmagukat építsék fel a gépek.
És mi a helyzet az atomcsapással?
Mind közül talán ez a legismertebb forgatókönyv az apokalipszist felvázoló víziók közül. A kérdés így az: átveheti az atomfegyverek felett az irányítást a mesterséges intelligencia?
Khlaaf szerint a nukleáris létesítmények nincsenek közvetlen kapcsolatban az internettel, és szigorú, gyakran fizikai térben is létező szabályok védik a működésüket. A Stuxnetet például, ami kárt okozott Irán nukleáris létesítményeiben, egy pendrive segítségével kellett fizikailag bejuttatni a rendszerbe.
Herbert Lin, a Stanford Egyetem kutatója szerint a szakértők között nagyon kevés az olyan ember, aki egy ilyen támadás miatt aggódik.
Hasonló véleményen van Soares is. Úgy véli, ha – vagy amikor – az AI eléri az önfejlesztés azon fázisát, hogy már nincs szüksége emberre a fejlődéséhez, akkor a semmiből is létrehozhat saját atomfegyvert, vagy még fejlettebb fegyvereket, amelyekkel aztán az emberiség ellen fordulhat.
https://hvg.hu/tudomany/20260918_anthropic-claude-mesterseges-intelligencia-onfejlesztes
A kutatók azonban arra is figyelmeztetnek, az is könnyen megtörténhet, hogy ha már az AI-nak nincs szüksége az emberre, egyszerűen olyan környezetet hoz létre, amelyben az ember nem képes életben maradni.
Xing ugyanakkor továbbra is úgy véli, hogy bár az általános vitában el lehet játszain a szuperintelligencia elméletével, a szakpolitikai döntéseknél valós, tényeken alapuló információk mentén kell lépni.
Larsen eközben úgy véli, még a legoptimistább forgatókönyv mellett is – amelyben globális megállapodás születi az AI fejlesztésének mikéntjéről, az emberiség pedig nekilát az űr kolonizálásának – eljön az a pont, amikor a gépi elme veszi át az irányítást. Larsen szerint éppen ezért a szuperintelligencia létrejötte be fog következni, hacsak az ember nem tesz ezellen valamit.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
