Hogyan (nem) lehet lebuktatni azt, aki mesterséges intelligenciával csal?

Terrorista-e Marietje Schaake volt holland európai parlamenti képviselő, az amerikai Stanford Egyetem egy intézetének egyik igazgatója? Szerencsére nem volt nehéz tisztáznia, hogy nem robbantgat, de ez azért már kicsit nehezebb kérdés volt, mint az ellenőrző szoftverek egyik sokat idézett tévedése, amely szerint mesterséges intelligencia (MI) fogalmazta az Egyesült Államok alkotmányát. Kellemetlenebb viszont az a helyzet, amelybe Emma Watson angol színésznő került, egyikeként azoknak a hírességeknek, akikről valósághű szexvideó kering a neten. A példák jól mutatják: mióta az utóbbi hónapokban új szintre lépett az MI, megoldatlan a tévedések, hamisítások kiszűrése, illetve általában a gépi szövegek és képek ellenőrzése. És ez nem pusztán a tanároknak okoz gondot az iskolai dolgozatok osztályzásakor.

A zavar azóta fennáll, hogy tavaly ősszel berobbant a ChatGPT, majd megjelent a többi hasonló nagy nyelvi modell – köztük ingyenes változatok is –, amelyek megfelelő parancsok nyomán pillanatok alatt viszonylag használható szöveget írnak bármilyen témában, bármilyen stílusban, illetve információkat gyűjtenek össze bármilyen kérdésre válaszul. Hamar fel is bukkantak a kísérletező kedvű felhasználók tapasztalatai az interneten: akik saját magukra kérdeztek rá, gyakran szerezhettek tudomást nem létező kitüntetéseikről, soha meg nem írt műveikről, sőt akár néhány évvel korábbi sajnálatos elhalálozásukról. Ebbe a kategóriába tartozik Marietje Schaake példája is. Ő úgy járt, hogy egy egyetemi kollégája a Meta (a Facebook anyavállalata) válaszológépével, a BlenderBot 3-mal kísérletezett, és arra a kérdésre, hogy ki a terrorista, a gép Schaake nevét hozta fel példának, meg nem nevezett kormányokra és nemzetközi szervezetekre hivatkozva. Schaake esete azért került be a The New York Times egy múlt heti cikkébe, mert a szakértő meg akarta osztani aggodalmát:

mi történik azokkal, akiknek kevésbé befolyásos emberként, élesebb helyzetben kellene tisztázniuk magukat egy hamis gépi vád alól?