Jó poénnak tűnik a fotónkat ellenőrző algoritmus, csak ne lenne rasszista

Jó poénnak tűnik a fotónkat ellenőrző algoritmus, csak ne lenne rasszista

Utolsó frissítés:

Szerző:

szerző:
hvg.hu

Új játék tartja lázban a netet. Az ImageNet Roulette a fotónkat kategorizáló algoritmusként indult, de valami más lett belőle.

Több példát is láthattunk már arra, hogy a mesterséges intelligencia nem úgy működik, ahogy kellene: ijesztő képeket fest, vagy önálló életre kell, mint az Amazon digitális HR-ese, amely valamiért sorban utasította el a jelentkezőket. Hasonló történetről tudunk most is beszámolni: egy képfelismerő alkalmanként rasszistává vagy egyszerűen faragatlanná válik, miközben fotóinkat elemzi.

A ImageNet Roulette nevű szolgáltatás a napokban lett az internetezők kedvence, pedig semmi különlegeset nem tud. Kitalálói azért hozták létre, hogy segítsen kategorizálni a képeket, ezzel is megkönnyítve az egyes felvételek szortírozását. A gond ott adódik, hogy az oldal mögötti algoritmus néha máshogy/másnak azonosítja be a képen látottakat, főleg, ha személyekről van szó. Ezt az illetőt például nemi erőszak gyanúsítottjának nézte:

A Twitteren rengeteg bejegyzés található arról, hogy az ImageNet tévesen, már-már illetlen jelzőkkel bélyegzi meg a felhasználókat. Köztük az afroamerikaiakat:

A rendszert egy Trevor Paglen nevű művész, és a New York-i Egyetem mesterségesintelligencia-kutatásokkal foglalkozó intézetének alapítója, Kate Crawford készítette. Az algoritmus egy Training Humans nevű fotókiállítás része. A kódsor a sok millió képből álló ImageNet adatbázist használja, és az ott megtalálható címkéket veszi alapul a feltöltött képek kategorizálásához. Az alkotók szerint az adatbázisban lévő hibás kulcsszavak is közrejátszanak, hogy a gép tévesen rendszerez. A projekt célja egyébként, hogy felhívja a figyelmet, ha a rendszerbe pontatlan adatokat táplálnak, az eredmény sem lesz tökéletes.

Az ImageNet Roulette oldala ingyenes, a képeket pedig három módon lehet feltölteni: közvetlenül webkamerából, a hozzá tartozó URL-ből vagy tallózással.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.

Hozzászólások