A mesterséges intelligencia korunk egyik legnagyobb hatású technológiája, amely alig több mint egy évtized alatt alapjaiban formálta át az internetet. Még ennél is kevesebb idő elteltével ma már jó úton jár, hogy új alapokra helyezzen számos társadalmi funkciót az egészségügytől az oktatásig, a jogtól a pénzügyekig, az újságírástól a kormányzásig. Az MI jövője – az irány, amerre a technológia fordul – elválaszthatatlanul összefonódik a mi jövőnkkel. Így aztán a mesterséges intelligencia irányításának kérdése valójában az a kérdés, hogyan tegyük a jövőnket jobbá.
Karen Hao többszörösen díjazott újságíró, a The Atlantic magazin és a Wall Street Journal újságírója. Írásai zömében a mesterséges intelligencia társadalomra gyakorolt hatásait vizsgálja.
Lakos Gábor
Amikor még nonprofit formában képzelték el a fejlesztést
Az OpenAI cég a kezdetektől a kérdés megválaszolására tett ambiciózus kísérletként határozta meg önmagát. Az alapítók – köztük Elon Musk és Sam Altman, valamint további milliárdos támogatók, mint Peter Thiel – az OpenAI-nak egyszerű kutatólabornál vagy cégnél nagyobb szerepet szántak. Az alapítók határozottan elkötelezték magukat az MI valaha volt legfejlettebb formájaként leírt úgynevezett mesterséges általános intelligencia kifejlesztése mellett, amely nem a részvényesek anyagi érdekeit, hanem az egész emberiség javát szolgálja majd.
Ennek érdekében Musk és Altman nonprofit szervezetként hozta létre az OpenAI-t, és egymilliárd dollárt ajánlottak fel annak működésére. A szervezet célja nem az volt, hogy kereskedelmi termékeket hozzon létre; kizárólag kutatásra szánták, amely a legtisztább szándéktól vezérelve egy olyan mesterséges általános intelligenciához vezetne, amely a világméretű utópiát, és nem annak ellenkezőjét váltja valóra. Musk és Altman arra is ígéretet tettek, hogy a lehető legtöbb kutatási eredményt megosztják, és széles körű együttműködést folytatnak majd más intézményekkel.
Ha céljuk az volt, hogy jót tegyenek a világgal, a nyitottság – innen az OpenAI elnevezés – és a technológiai fejlesztésben való demokratikus részvétel kulcsfontosságú volt.
Pénz és hatalom
Amikor azonban én elkezdtem az OpenAI-jal foglalkozni, a társaságnak az említett eszmék iránti elkötelezettsége már jócskán megkopott. Alig másfél év elteltével az OpenAI vezetői azzal szembesültek, hogy az MI fejlesztésének általuk választott módja temérdek pénzt igényel. Musk és Altman, akik addig társelnökökként inkább a háttérbe húzódtak, most mindketten megpróbálták a maguk számára megkaparintani a CEO pozícióját. Altman győzött. 2018 elején Musk otthagyta a szervezetet, és a pénzét is vitte magával. Visszatekintve ez a szakítás volt az első szembeötlő jele annak, hogy az OpenAI valójában nem az önzetlen segítségnyújtásról, sokkal inkább az egóról szól.
Legnagyobb támogatójának elvesztése pénzügyi bizonytalanságba sodorta az OpenAI-t. A társaság jogi felépítését átalakítva Altman a nonprofit szervezeten belül kialakított egy profitorientált részleget, az Open AI LP-t, hogy tőkét hozzon létre, termékeket értékesítsen, és megtérülést biztosítson a befektetők számára, mint bármelyik másik cég. Négy hónappal később, 2019 júliusában az OpenAI bejelentette egymilliárd dollárral beszálló új finanszírozó partnerét: a szoftveróriás és felhőszolgáltató Microsoftot.
Jómagam nem sokkal ezt követően, 2019 augusztusában léptem be először az OpenAI irodáiba. A dolgozók között töltött három nap és tucatnyi interjú után azt láttam, hogy az idealista irányítás kísérlete összeomlóban van. Az OpenAI versengővé, titkolózóvá és bezárkózóvá vált, sőt, mintha az egyedülálló technológia feletti mámorító uralom hatására a külvilágtól is tartott volna. Az átláthatóság és a demokrácia, az áldozatkészség és az együttműködés fogalmai eltűntek; az OpenAI vezetői rögeszmésen egyetlen célt hajszoltak: elsőként megalkotni és saját képükre formálni a mesterséges általános intelligenciát.
Sam Altman
AFP / ANDREW CABALLERO-REYNOLDS
Az ezután következő négy esztendőben az OpenAI pontosan azzá változott, amiről azt állította, hogy nem fog. Már csak nevében volt nonprofit, ám közben erőszakosan forgalmazott olyan termékeket, mint a ChatGPT. Még titkolózóbbá vált, és nemcsak a saját kutatásaihoz vágta el a hozzáférést, de az iparági normákat is úgy alakította át, hogy az MI fejlesztésének jelentős részét kivonja a nyilvános ellenőrzés alól. Éppen azt a versenyt robbantotta ki, amelynek a veszélyére korábban figyelmeztetett, jelentős mértékben felgyorsítva ezzel a technológia kereskedelmi termékké alakítását és forgalomba hozatalát, anélkül, hogy kiküszöbölte volna a hibákat vagy azokat a veszélyes módokat, amelyekkel felerősíthette és kihasználhatta a társadalmi törésvonalakat.
Hatalmi harcok a szervezeten belül
Mindeközben egyre hevesebbek lettek a vezetők és az alkalmazottak közötti összecsapások, amikor a cégen belüli különböző csoportok próbálták átvenni az irányítást, hogy a saját elképzeléseik szerint alakíthassák át az OpenAI-t.
Altman eltávolítása, majd visszahelyezése 2023 novemberében az irányítási kísérlet végső kudarcát jelentette. Nem pusztán azért, mert az OpenAI nonprofit igazgatótanácsa kénytelen volt meghajolni a pénzügyi érdekek előtt, eltüntetve ezzel a szervezet altruista arculatának utolsó nyomait is: az eset a napnál világosabban rámutatott, milyen mértékben képes befolyásolni az AI jövőjét a Szilícium-völgy elitjének maroknyi csoportján belül dúló hatalmi harc.
Még ha az események másként alakulnak is, és az igazgatótanácsnak sikerül leváltania Altmant, az sem változtatott volna a tényen, hogy egy ilyen jelentős, komoly következményekkel járó döntés zárt ajtók mögött született meg. Ultragazdag technooptimisták egy kis csoportján, legádázabb riválisaikon és egy multimilliárdos techóriáson kívül még az OpenAI saját alkalmazottai is jórészt a sötétben tapogatóztak sorsuk alakulásával kapcsolatban.
Így változtatja meg az MI az emberek életét
Már jóval azelőtt kezdtem a mesterséges intelligenciáról írni, hogy az OpenAI és a ChatGPT a technológia szinonimáivá váltak volna. Végigkövettem a fejlődését a tudomány és az innováció kusza folyamatán keresztül, ahogy a kutatók új ötleteket tesztelnek, zsúfolt konferenciákon mutatják be legnagyobb sikereiket, majd azokat a világ legnagyobb vállalatai, köztük a Google, a Facebook, az Alibaba és a Baidu kereskedelmi termékeiken alkalmazzák.
Az MI globális terjedése során figyelemmel kísértem, milyen észrevétlenül és drámai módon változtatta meg az emberek és a közösségek életét. Öt kontinensre látogattam el, hogy meghallgassam az emberek ezzel kapcsolatos élményeit és tapasztalatait. Kolumbiában és Kenyában találkoztam olyanokkal, akik a gazdasági válság idején adatokat címkéztek az MI iparág számára, és olyan körülmények között voltak kénytelenek dolgozni, amelyek a szerződéses rabszolgaságra emlékeztettek. Arizonában és Chilében politikusokkal és aktivistákkal beszélgettem, akik amiatt aggódtak, hogy az adatközpontok megfosztják otthonukat az értékes vízkészletektől.
https://hvg.hu/360/20251110_hvg-karen-hao-interju-mesterseges-intelligencia-ai-birodalma
Magát az MI-t is alakítják a hatalmi harcok
Munkám során két dologra jöttem rá: a mesterséges intelligencia olyan technológia, amely számtalan formát ölthet; valójában technológiák sokasága, amelyek alakot váltanak és fejlődnek, sokszor nem műszaki érdemeik szerint, hanem a technológiát megalkotó személyek ideológiai beállítottsága, illetve a divat szele és kereskedelmi megfontolások alapján. Míg újabban a ChatGPT és más, úgynevezett nagy nyelvi modellek kerültek az előtérbe, ezek az AI-nak csupán megtestesülései, amelyek egy sajátos, rendkívül szűk képet jelenítenek meg arról, milyen a világ, és milyennek kellene lennie.
Az, hogy az MI-nek ez a formája került a figyelem középpontjába – vagy az, hogy egyáltalán létezik –, nem szükségszerűen következett be: ezernyi szubjektív döntés eredményezte, amelyeket olyan emberek hoztak, akik kellő hatalommal és befolyással rendelkeztek ahhoz, hogy jelen legyenek a döntéshozatalnál. Ugyanígy nincsenek előre meghatározva az MI jövőbeni nemzedékei sem. Újra felmerül azonban az irányítás kérdése: azokat ki fogja alakítani?
Karen Hao: Az AI Birodalma
Szondy Dalma
A másik dolog, amire rájöttem: az MI jelenlegi formája és fejlődési pályája riasztó irányba mutat. A felszínen a generatív MI rendkívül izgalmas: kreatív segítség az ötleteléshez és írások létrehozásához; beszélgetőtárs, amellyel késő éjszakáig cseveghetünk, hogy elűzzük a magányt; eszköz, amely egy napon talán olyan eredményesen fokozza majd a termelékenységet, ami akár gazdasági bővülést is eredményezhet.
De ugyanúgy, ahogy korábban a Facebookról is azt gondoltuk, hogy csupán a nyaraláson készült fotók megosztására vagy pozitív és tudatformáló társadalmi mozgalmak útnak indítására való, a letisztult és lenyűgöző külső sokkal többet rejt, mint ami elsőre látszik. A generatív MI-modellek valójában felfoghatatlan mennyiségű adat, munka, számítási kapacitás és természeti erőforrás felhasználásával létrehozott szörnyetegek.
A robbanásszerűen növekvő munkaerőbeli és anyagi költségek a társadalom széles rétegeire terhelődnek, különösen a legsebezhetőbbekre: legyenek azok munkások vagy falun élők a Globális Északon, vagy elszegényedett közösségek a Globális Délen, valamennyien még aggasztóbb bizonytalansággal kénytelenek szembesülni. Ők ritkán találkoznak az úgynevezett technológiai fejlődés „leszivárgó” áldásaival: a generatív MI előnyei leginkább felfelé érvényesülnek.
Az évek során egyetlen olyan metaforát találtam, amely jól összefoglalja az MI meghatározó szereplőinek valódi természetét: birodalmak. Az európai gyarmatosítás hosszú korszaka során a birodalmak erőforrásokat foglaltak el és aknáztak ki, valamint kisajátították a leigázott tömegek munkaerejét a maguk gazdagodása érdekében. Saját felsőbbrendűségük és modernségük rasszista, dehumanizáló eszméinek terjesztésével igazolták – sőt fogadtatták el – a meghódítottak szuverenitásának megsértését, a rablást és az elnyomást. Hatalomvágyukat azzal indokolták, hogy más birodalmakkal kell versenyezniük: egy fegyverkezési versenyben minden tét érvénytelen. Mindez végső soron a birodalom hatalmának megszilárdítását szolgálta, és annak terjeszkedését és fejlődését eredményezte.
Egyszerűen fogalmazva: a birodalmak a gyarmati világrend megteremtésével rendkívüli gazdagságra tettek szert térben és időben, ennek a költségét pedig mindenki más kényszerült megfizetni.
Az MI birodalmai nem vetik be a történelem során megszokott nyílt erőszakot és brutalitást, azonban ezek a birodalmak is megszerzik és kiaknázzák az ő elképzelésük szerinti mesterséges intelligencia táplálásához szükséges értékes erőforrásokat: a művészek és írók munkáit, a számtalan ember által közzétett személyes tapasztalatokat és megfigyeléseket, valamint a hatalmas adatközpontok és szuperszámítógépek elhelyezéséhez és üzemeltetéséhez szükséges földet, energiát és vizet.
Az új birodalmak ugyanúgy világszerte kihasználják az emberi munkaerőt, hogy ezeket az adatokat megtisztítsák, rendszerezzék és előkészítsék a jövedelmező MI-technológiák számára. A modernség csábító eszméjét terjesztik, és agresszívan hirdetik más birodalmak legyőzésének szükségességét, hogy ezt ürügyként felhasználva folytassák a magánszférába történő behatolást, a lopást és a rengeteg jelentős gazdasági lehetőség katasztrofális automatizálását.
A fenti cikk Karen Hao Az AI birodalma című könyvének szerkesztett részlete. A szerző több mint 250 emberrel készített mélyinterjú segítségével és a Sam Altman által vezetett OpenAI cégóriás példáján keresztül teljes képet nyújt a mesterséges intelligencia világáról. A könyvet itt rendelheti meg kedvezménnyel.
