szerző:
hvg.hu

Új játék tartja lázban a netet. Az ImageNet Roulette a fotónkat kategorizáló algoritmusként indult, de valami más lett belőle.

Több példát is láthattunk már arra, hogy a mesterséges intelligencia nem úgy működik, ahogy kellene: ijesztő képeket fest, vagy önálló életre kell, mint az Amazon digitális HR-ese, amely valamiért sorban utasította el a jelentkezőket. Hasonló történetről tudunk most is beszámolni: egy képfelismerő alkalmanként rasszistává vagy egyszerűen faragatlanná válik, miközben fotóinkat elemzi.

A ImageNet Roulette nevű szolgáltatás a napokban lett az internetezők kedvence, pedig semmi különlegeset nem tud. Kitalálói azért hozták létre, hogy segítsen kategorizálni a képeket, ezzel is megkönnyítve az egyes felvételek szortírozását. A gond ott adódik, hogy az oldal mögötti algoritmus néha máshogy/másnak azonosítja be a képen látottakat, főleg, ha személyekről van szó. Ezt az illetőt például nemi erőszak gyanúsítottjának nézte:

A Twitteren rengeteg bejegyzés található arról, hogy az ImageNet tévesen, már-már illetlen jelzőkkel bélyegzi meg a felhasználókat. Köztük az afroamerikaiakat:

A rendszert egy Trevor Paglen nevű művész, és a New York-i Egyetem mesterségesintelligencia-kutatásokkal foglalkozó intézetének alapítója, Kate Crawford készítette. Az algoritmus egy Training Humans nevű fotókiállítás része. A kódsor a sok millió képből álló ImageNet adatbázist használja, és az ott megtalálható címkéket veszi alapul a feltöltött képek kategorizálásához. Az alkotók szerint az adatbázisban lévő hibás kulcsszavak is közrejátszanak, hogy a gép tévesen rendszerez. A projekt célja egyébként, hogy felhívja a figyelmet, ha a rendszerbe pontatlan adatokat táplálnak, az eredmény sem lesz tökéletes.

Az ImageNet Roulette oldala ingyenes, a képeket pedig három módon lehet feltölteni: közvetlenül webkamerából, a hozzá tartozó URL-ből vagy tallózással.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.

Állj mellénk!

Tegyünk közösen azért, hogy a propaganda mellett továbbra is megjelenjenek a tények!

Ha neked is fontos a minőségi újságírás, kérjük, hogy támogasd a munkánkat.

Állj mellénk!

Tegyünk közösen azért, hogy a propaganda mellett továbbra is megjelenjenek a tények!

Ha neked is fontos a minőségi újságírás, kérjük, hogy támogasd a munkánkat.
Eladósorba került egy igen ritka BMW M3 CSL

Eladósorba került egy igen ritka BMW M3 CSL

Ma is marad a jó idő, 27 fok is lehet

Ma is marad a jó idő, 27 fok is lehet

Idős embereket fosztott ki egy nő, 12 év fegyházat kapott

Idős embereket fosztott ki egy nő, 12 év fegyházat kapott

Már a Z generációnak is van magyar kultfilmje

Már a Z generációnak is van magyar kultfilmje

Kolozsváron is bevezetik a vezető nélküli buszokat

Kolozsváron is bevezetik a vezető nélküli buszokat

Újabb milliárdokat hozott ide a pápai húskombinát körül feltűnő tajvani üzletember

Újabb milliárdokat hozott ide a pápai húskombinát körül feltűnő tajvani üzletember