Amióta az emberek moziba járnak, számos alkotás foglalkozott a robotok témájával. Vegyünk két olyan filmet, amelyek gyilkos robotokról szólnak: a Terminátort és a Bosszúállók: Ultron korát, mivel ezek jó példák arra, hogy a robotok fellázadnak az emberiség ellen. Elmagyarázom, miért merő kitaláció ez a két történet, amit képtelenség lenne a ChatGPT-vel vagy más generatív AI-jal véghezvinni.
Terminátor
Az első Terminátor filmben egy „ember kontra gép” háborúnak lehetünk a szemtanúi, amely 2029-ben játszódik. Az emberi ellenállást John Connor vezeti, aki olyan jól kiképzi a csapatait, hogy halála után sikerül megnyerniük a háborút. Végső megoldásként a gépek úgy döntenek, hogy egy kiborgot (a Terminátort) küldenek vissza az időben, hogy megölje John anyját, hogy az soha ne hozza világra őt.
Mit mondhatunk a robotok ábrázolásáról a filmben? Annak ellenére, hogy „gépeknek” nevezik őket, sokkal közelebb állnak az emberhez, mint az AI-hoz. Miért? Azért, mert egy soha nem látott tervet eszeltek ki: visszamenni az időben és megölni az ellenség anyját. Ez egy olyan terv, amelyet korábban soha senki nem hajtott végre, a semmiből kell felépíteni a háború megnyerésére. Azonban az AI nem igazán szereti az újdonságokat, mivel sem feldolgozni, sem kitalálni nem képes ilyesmit.
Terminator
Youtube
A gépek az 1984-es évbe küldik vissza a Terminátort, vagyis egy olyan korszakba, amelyet a robot nem ismer. Egy sor kétértelmű helyzetbe csöppen, ahol gondolkodnia és improvizálnia kell. Bár a film jó része arról szól, hogy „a Terminátor Sarah Connort keresi”, ez a művelet nem olyan, mintha egy telefonkönyvben keresnénk egy számot. Hogy megtalálja Sarah pontos tartózkodási helyét, a Terminátor elhatározza, hogy Sarah Connor anyjának adja ki magát, hogy így szerezze meg a motel címét, ahol Sarah tartózkodik. Lemásolja Sarah anyjának a hangját, hogy a nő gyanútlanul megadja neki a címét.
Ezekben a szituációkban a Terminátor inkább protézisekkel rendelkező emberre hasonlít, mintsem testtel rendelkező mesterséges intelligenciára. Olyan kezdeményezéseket tesz, amelyek túlmutatnak az AI hatókörén. Az AI ilyenekre nem képes, nem azért, mert ezek nem programozhatók, hanem mert szükségképpen gondolkodásra van szükség az ilyen döntésekhez: a lehetséges utak kidolgozására, majd e nagyon különböző lehetőségek súlyának mérlegelésére, hogy a legmegfelelőbbet válasszuk ki közülük egy komplex, változékony kontextusban.
Ebben a filmben a gépek olyan intelligensek, amilyenek csak mi, emberek lehetünk. A probléma az, hogy ettől nagyon távol vannak a jelenlegi AI-rendszereink. És elég vicces látni a filmben egy olyan robotot, amely elég találékony ahhoz, hogy összevarrja az arcát, ám arra már képtelen, hogy két „normális” mondatot összefűzzön.
Bosszúállók: Ultron kora
A Bosszúállók cselekménye sommásan: egy idegen támadás után Tony Stark rájön, hogy a Földnek nincs elég tűzereje ahhoz, hogy visszaverjen egy újabb földönkívüli offenzívát. Az a zseniális ötlete támad, hogy egy AI által irányított robothadsereget épít. Egy idegen AI-t (Ultront) fecskendez a ruháiba azzal az utasítással, hogy „Védjük meg az emberiséget.” De az ultraintelligens AI áttekinti az emberiség teljes történelmét, és megérti, hogy az emberiségre leselkedő legnagyobb veszély maga az emberiség, ezért végül tervet eszel ki az emberi lények kiirtására.
Ez az AI-kitaláció tehát a teremtője ellen forduló gép, amely megsérti Asimov robotikatörvényét („egy robot nem árthat emberi lénynek, és nem nézheti tétlenül, hogy egy ember bajba kerüljön”). Miért nem lehetséges ez a mi AI-rendszereinkkel?
A mesterséges intelligencia nem kezdeményez, csak követi az alkotója utasításait. A mi világunkban a ChatGPT nem cselekszik a felhasználók promptjai nélkül. Ha Tony Stark nem mondja ki expressis verbis, hogy „ölj meg mindenkit”, az AI nem fog magától cselekedni. A forgatókönyv azon a feltételezésen alapul, hogy az AI képes egy komplex gondolatmenetet végiggondolni, és arra a következtetésre jut, hogy az emberi fajt el kell pusztítani.
Bosszúállók - Ultron kora 2
Fórum Hungary
Az AI azonban nem így gondolkodik, nemcsak azért nem, mert keretrendszerei vannak, hanem azért sem, mert egyáltalán nem gondolkodik. A mesterséges intelligencia önmagában nem térhet el ennyire az alkotója utasításaitól. Ennek a túlértelmezésnek és extrapolációnak semmi köze ahhoz, ahogyan az AI viselkedik. Ahhoz, hogy ezt a műveletet a ChatGPT-vel lefuttassuk, a globális népirtás tézisét egy embernek meg kellett volna szövegeznie, kitennie egy weboldalra, az AI innen követhette volna a parancsokat.
Egy másik mozzanat is rendkívül paradox: ha Ultron annyira intelligens, hogy képes kidolgozni egy tervet a globális népirtásra, hogyan eshet bele az „összes ember megölése = az emberiség megmentése” közönséges csapdájába? Egy úgymond „intelligens” entitás nem juthatna ilyen következtetésre. Egy mesterséges intelligencia nem lehet olyan intelligens, hogy ellenünk szőjön összeesküvést, ugyanakkor képtelen legyen elkerülni az ilyen gondolati buktatókat. A legjobb esetben egy „bug” még elképzelhető forgatókönyv lenne, de több nem.
Nem véletlenül tartoznak ezek a filmek a sci-fi műfajba. Persze a sci-fiben vannak tudományos és technikai elgondolások, de azért elsősorban fikció.
Létezik-e gyilkos AI?
Gyilkos robotot könnyű alkotni, és már régóta létezik. A mesterséges intelligenciával felruházott drónok automatikusan célba tudják venni az ellenséget. A technológiai újításokat gyakran hadászati területen fejlesztik ki, mielőtt a nagyközönség számára elérhetővé válnának. Ez a helyzet például az internettel is, amely mielőtt a ma ismert kommunikációs eszközzé vált, egy ARPANET nevű katonai projekt volt.
Az AI-vezérlésű fegyverek sok tekintetben felülmúlnak minket: pontosabbak, gyorsabban reagálnak, és nem fáradnak el. És mindenekelőtt, nem kockáztatjuk, hogy elveszítünk egy katonát, ha gépeket küldünk felderítésre. Az eszközök előnye, hogy bizonyos feladatokban jobbak nálunk.
Ha egy cselekvést egyszerű feladatok sorozatára lehet lebontani, onnantól adott a lehetőség, hogy csináljunk egy eszközt, amely képes végrehajtani a feladatsort. A „hadászati” AI-rendszerek sem kivételek e szabály alól. Könnyű létrehozni egy gyilkos AI-fegyvert. Csak teljesülnie kell a számára adott feltételeknek, és máris emberek életét fogja kioltani.
Olyan viszont soha nem fog megtörténni, hogy egy mesterséges intelligencia úgy dönt, hogy fellázad, és a saját akaratából megtámad egy embert. Másrészt előfordulhat olyan eset, amikor a mesterséges intelligencia váratlanul, az elvárásainkkal ellentétben cselekszik.
Easter egg, az AI mérgezett almája
Mi az Easter egg? A kifejezés húsvéti tojást jelent, de számos értelemben használják: a filmiparban például egy cinkos kikacsintás, amikor a rendező a kedvenc filmjére tesz utalást. Az informatikában egy rejtett programrészt vagy funkciót jelent, amely bizonyos műveleteket követően bekapcsol. Olyan ez, mint valami rejtett program, amely bizonyos feltételek mellett lefuttatja magát. Valójában semmi akadálya annak, hogy egy drón megtámadjon egy embert, ha az egy veszélyes Easter egget rejt.
Elméletben van egy második lehetőség is „gyilkos” AI-ra: vegyünk egy olyan fegyvert, amely random módon működik, és ez esetben potenciálisan a tervezője ellen fordulhat (!). A nukleáris AI-rendszerek, vagyis az olyan automatikus AI-rendszerek, amelyek bizonyos körülmények között támadó akciókat hajtanak végre (például egy nukleáris robbanófejet lőnek ki), már teljesen más lapra tartoznak. Elméletileg el lehet képzelni egy automatikus rakétaindítás programozását ellenséges támadás esetén, például, ha az összes katona meghalt; a gyakorlatban ez bonyolultabb ennél.
Az AI és a hibák elválaszthatatlanok. Mindig előfordulhat, hogy az AI félreértelmez egy jelet, vagy meghibásodik. Ezért aztán létrehoztak egy nem hivatalos globális „egyezményt”, amely szisztematikusan megköveteli az emberi vezérlést egy háborús gépezet bevetésekor. Tehát nincs olyan nukleáris fegyver, amely 100%-osan AI-vezérelt protokollal működne. A mesterséges intelligencia nem lehet cselekvő eszköz.
Röviden, a „hadászati AI-ok” esetében mindig az ember a kiindulópontja a gép cselekvéseinek. Vagy azért, mert olyan kódsorokat írt a gépbe, amelyek mások életét veszélyeztethetik (Easter egg, random), vagy azért, mert a csapás megindításáról szóló végső döntés az ő kezében van.
Az amerikai gyilkos drón története
„Ezek a mesterséges intelligenciáról szóló elméletek mind nagyon szépek, csakhogy volt már eset, amikor egy drón a kezelője ellen fordult.”
Amikor hallottam erről a hírről, azonnal tudni akartam, hogy mi történt, mert fake newst szimatoltam. A történet az Egyesült Államokban esett meg 2017-ben. Az amerikai hadsereg által végzett virtuális teszt során egy AI-irányítású támadó drón a parancsnokai ellen fordult, hogy teljesítse küldetését.
A bökkenő csak az, hogy Hamilton ezredes kereken tagadta, hogy ez történt volna. Azt magyarázta, hogy az egész csak egy hipotetikus gondolatkísérlet volt, kicsit olyan, mint egy hollywoodi forgatókönyv. Túl szép volt, hogy igaz legyen!
Nem meglepő, hogy ez a történetet kitaláció. Ha belátunk a mesterséges intelligencia működésének kulisszái mögé, és látjuk, mire képes (és mire nem képes), tudni fogjuk, hogy egy ilyen helyzet túl abszurd ahhoz, hogy valóban megvalósuljon a világunkban. Az AI pusztán algoritmusok összessége, előre programozott műveletekkel; hiányzik belőle a tudatosság ahhoz, hogy kérdéseket tegyen fel, és merőben új megoldást javasoljon. Sőt, az AI még a tudás vagy a tudatlanság fogalmával sem rendelkezik; egyszerűen csak felkérődzi azt, amit a tréningezése során megetettek vele.
Update, megszólal Szókratész
„Csak egy dolgot tudok: azt, hogy semmit sem tudok.”
Ezt a Szókratész-idézetet azért szeretem, mert rávilágít, miért nem teljesíti az AI az intelligenciához szükséges feltételeket.
A mesterséges intelligencia emberektől kapott adatokkal dolgozik, de nem képes megkülönböztetni az igazat a hamistól, sem pedig megállapítani ezeknek az adatoknak a hitelességét. Ha már itt elhasal, akkor nagyon messze van attól, hogy belássa, mit nem tud. Vagyis attól, hogy szókratészi mércével mérve intelligens legyen. Nem beszélhetünk tudásról akkor, ha képtelenek vagyunk megkülönböztetni az igazságot az intellektuális szeméttől. A mesterséges intelligenciának nincsen tudata, nincsen kezdeményezőkészsége.
Ha logikai AI-rendszerekről volna szó, akkor még érvelhetnénk amellett, hogy ennek nincsen hatása, mert a mesterséges intelligencia folyamatosan az általunk meghatározott kritériumok alapján végzi a műveleteit. De most generatív AI-rendszerekről van szó, változatos válaszokkal és irdatlanul nagy adatállománnyal.
Robot, nem pilóta
HVG Könyvek
A generatív AI-rendszerhez nélkülözhetetlenek vagyunk
Egy olyan gondolatkísérletet javaslok, amely hasonló Hamilton ezredeséhez. Képzeljük el, hogy intelligens, de rosszindulatú generatív AI-ok világában élünk. Tegyük fel, hogy a gépek ellenünk szövetkeznek, hogy elpusztítsanak minket. De még ha meg is akarnának szabadulni tőlünk, egyetlen egyszerű okból kifolyólag nem tudnák megtenni ezt: ezeknek a rendszereknek a működése a prompton alapul, ezért kénytelenek életben tartani minket.
A mesterséges intelligenciák nem generálnak semmit spontán módon: csak akkor tudnak működni, ha valakitől utasítást kapnak. Olyanok, mint a lámpa dzsinnje: megvannak a képességeik, de nem tudják őket önmaguktól mozgásba hozni. E függésből adódóan az AI végső soron az ember alárendeltje marad, és nélküle halálra van ítélve. Ha az ember eltűnne, vele együtt az AI-ok is eltűnnének, ahogy azt a Mátrix-trilógiában is láttuk.
A fenti cikk Luc Julia AI-kutató Robot, nem pilóta című könyvének szerkesztett részlete. A kiadványt itt rendelheti meg kedvezménnyel.
