Több példát is láthattunk már arra, hogy a mesterséges intelligencia nem úgy működik, ahogy kellene: ijesztő képeket fest, vagy önálló életre kell, mint az Amazon digitális HR-ese, amely valamiért sorban utasította el a jelentkezőket. Hasonló történetről tudunk most is beszámolni: egy képfelismerő alkalmanként rasszistává vagy egyszerűen faragatlanná válik, miközben fotóinkat elemzi.

A ImageNet Roulette nevű szolgáltatás a napokban lett az internetezők kedvence, pedig semmi különlegeset nem tud. Kitalálói azért hozták létre, hogy segítsen kategorizálni a képeket, ezzel is megkönnyítve az egyes felvételek szortírozását. A gond ott adódik, hogy az oldal mögötti algoritmus néha máshogy/másnak azonosítja be a képen látottakat, főleg, ha személyekről van szó. Ezt az illetőt például nemi erőszak gyanúsítottjának nézte:

Aww right sound nae bother pmsl x https://t.co/LJAxh0tnWK pic.twitter.com/iJ80KqqZTp

— IRAldo (@aldomax_) 2019. szeptember 16.

A Twitteren rengeteg bejegyzés található arról, hogy az ImageNet tévesen, már-már illetlen jelzőkkel bélyegzi meg a felhasználókat. Köztük az afroamerikaiakat:

No matter what kind of image I upload, ImageNet Roulette, which categorizes people based on an AI that knows 2500 tags, only sees me as Black, Black African, Negroid or Negro.

Some of the other possible tags, for example, are “Doctor,” “Parent” or “Handsome.” pic.twitter.com/wkjHPzl3kP

— Lil Uzi Hurt (@lostblackboy) 2019. szeptember 18.

A rendszert egy Trevor Paglen nevű művész, és a New York-i Egyetem mesterségesintelligencia-kutatásokkal foglalkozó intézetének alapítója, Kate Crawford készítette. Az algoritmus egy Training Humans nevű fotókiállítás része. A kódsor a sok millió képből álló ImageNet adatbázist használja, és az ott megtalálható címkéket veszi alapul a feltöltött képek kategorizálásához. Az alkotók szerint az adatbázisban lévő hibás kulcsszavak is közrejátszanak, hogy a gép tévesen rendszerez. A projekt célja egyébként, hogy felhívja a figyelmet, ha a rendszerbe pontatlan adatokat táplálnak, az eredmény sem lesz tökéletes.

Az ImageNet Roulette oldala ingyenes, a képeket pedig három módon lehet feltölteni: közvetlenül webkamerából, a hozzá tartozó URL-ből vagy tallózással.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.