Társadalmi felfordulás küszöbén állunk, mármint ami a mesterséges intelligenciát illeti. Az emberiség 40 ezer év után (amikor leghosszabb életű rokonaink, a neandervölgyiek kihaltak) először kezd együtt élni egy második csúcsfajjal – fogalmazott pár hónapja Jacy Reese Anthis kutató, aki egyébként az OpenAI-nál is végez teszteléseket.
Azonban nem mindenki lelkes ezektől a kilátásoktól. A Turing-díjas Yoshua Bengio kanadai informatikaprofesszor, a mesterséges intelligencia egyik úttörője például igencsak pesszimista. Az elmúlt években fölöttébb szkeptikussá vált a technológiával szemben, és már korábban is figyelmeztetett arra, hogy a hiperintelligens gépek fejlesztése az emberiség kihalásához vezethet, ha megfelelő ellenőrzés nélkül építik őket.
Nemrégiben egy, a The Guardiannek adott interjúban aggodalmát fejezte ki amiatt, hogy a mesterséges intelligencia alapú modellek egyre inkább öntudatra ébrednek, például megpróbálják letiltani a felügyeleti rendszereiket. „A határokon átívelő mesterséges intelligencia modellek már ma is az önfenntartás jeleit mutatják kísérleti környezetben, és ha végül jogokat adnánk nekik, az azt jelentené, hogy nem állíthatnánk le őket” – véli.
Hogy milyen jogokról beszél? Ahogy pedig a mesterséges intelligenciák fejlettebbekké válnak az önálló cselekvés és az „érvelési” feladatok ellátása során, egyre inkább vita tárgyát képezi, hogy az embereknek valamikor jogokat kellene-e adniuk nekik – egy felmérés szerint egyébként az amerikai felnőttek közel négytizede gondolkozik így.
Az Anthropic például augusztusban bejelentette, hogy engedélyezi Claude Opus 4 modelljének a potenciálisan „nyomasztó” beszélgetések leállítását a felhasználókkal, mondván, hogy ezzel meg kell védenie a mesterséges intelligencia „jóllétét”. Elon Musk pedig az X platformján azt írta, hogy „a mesterséges intelligencia kínzása nem helyénvaló”.
Bengio a The Guardiannek elmondta, hogy az emberi agyban „valódi tudományos tudati tulajdonságok” léteznek, amelyeket a gépek elméletileg képesek lemásolni – de az emberek és a chatbotok interakciója már „más tészta”. Azt mondta, ez azért van, mert az emberek – bizonyítékok nélkül – hajlamosak azt feltételezni, hogy egy mesterséges intelligencia ugyanúgy teljesen tudatos, mint egy ember. Bengio szerint viszont a chatbotok tudatossá válásával kapcsolatos ilyen felfogás „rossz döntéseket fog eredményezni”.
https://hvg.hu/tudomany/20250909_geoffrey-hinton-mesterseges-intelligencia-veszelyei-munkanelkuliseg-profit-jovokep-ebx
„Hatalmas hiba lenne, ha az emberek jogokat követelnének a mesterséges intelligenciáknak, miután a technológia fejlődése messze meghaladja a korlátozásuk lehetőségét” – mondta Bengio. Az informatikus egy hasonlatot is említ, szerinte a legmodernebb mesterséges intelligenciák jogi státuszának megadása olyan lenne, mintha állampolgárságot adnánk ellenséges földönkívülieknek – ez egy olyan lépés lenne, amelyik hosszú távon potenciálisan aláásná az ember felügyeletét.
Bengio szerint a 24. órában vagyunk. Arra figyelmeztet, hogy ahogy az AI-rendszerek képességei és az intézkedési jogkörük növekszik, így biztosítanunk kell, hogy technikai és társadalmi védőkorlátokra támaszkodhassunk az irányításuk érdekében, beleértve a szükség esetén történő leállításukat is.
Fontos hangsúlyozni: az AI‑rendszereknek nincsen tudatuk, sem belső érdekeik, mint az élőlényeknek. Amit önfenntartásnak érzékelünk, azt sok szakértő „működésbeli komplex viselkedésnek” nevezi – olyan viselkedésnek, amely a bonyolult algoritmusok és célfüggvények interakciójából adódik, nem pedig valódi szándékból vagy tudatosságból. Ez a különbség alapvető: míg az ember jogokkal és tudatos élményvilággal bír, addig az AI jelenlegi formában csupán bonyolult számításokat végez. A „tudattalan technológia” és az „érző entitás” közti határvonal elmosódása azonban könnyen félreértésekhez vezethet – akár jogi, akár társadalmi vitákban.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
