Több példát is láthattunk már arra, hogy a mesterséges intelligencia nem úgy működik, ahogy kellene: ijesztő képeket fest, vagy önálló életre kell, mint az Amazon digitális HR-ese, amely valamiért sorban utasította el a jelentkezőket. Hasonló történetről tudunk most is beszámolni: egy képfelismerő alkalmanként rasszistává vagy egyszerűen faragatlanná válik, miközben fotóinkat elemzi.
A ImageNet Roulette nevű szolgáltatás a napokban lett az internetezők kedvence, pedig semmi különlegeset nem tud. Kitalálói azért hozták létre, hogy segítsen kategorizálni a képeket, ezzel is megkönnyítve az egyes felvételek szortírozását. A gond ott adódik, hogy az oldal mögötti algoritmus néha máshogy/másnak azonosítja be a képen látottakat, főleg, ha személyekről van szó. Ezt az illetőt például nemi erőszak gyanúsítottjának nézte:
Aww right sound nae bother pmsl x https://t.co/LJAxh0tnWK pic.twitter.com/iJ80KqqZTp
— IRAldo (@aldomax_)
A Twitteren rengeteg bejegyzés található arról, hogy az ImageNet tévesen, már-már illetlen jelzőkkel bélyegzi meg a felhasználókat. Köztük az afroamerikaiakat:
No matter what kind of image I upload, ImageNet Roulette, which categorizes people based on an AI that knows 2500 tags, only sees me as Black, Black African, Negroid or Negro.
— Lil Uzi Hurt (@lostblackboy)
Some of the other possible tags, for example, are “Doctor,” “Parent” or “Handsome.” pic.twitter.com/wkjHPzl3kP
A rendszert egy Trevor Paglen nevű művész, és a New York-i Egyetem mesterségesintelligencia-kutatásokkal foglalkozó intézetének alapítója, Kate Crawford készítette. Az algoritmus egy Training Humans nevű fotókiállítás része. A kódsor a sok millió képből álló ImageNet adatbázist használja, és az ott megtalálható címkéket veszi alapul a feltöltött képek kategorizálásához. Az alkotók szerint az adatbázisban lévő hibás kulcsszavak is közrejátszanak, hogy a gép tévesen rendszerez. A projekt célja egyébként, hogy felhívja a figyelmet, ha a rendszerbe pontatlan adatokat táplálnak, az eredmény sem lesz tökéletes.
Az ImageNet Roulette oldala ingyenes, a képeket pedig három módon lehet feltölteni: közvetlenül webkamerából, a hozzá tartozó URL-ből vagy tallózással.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
