szerző:
hvg.hu

Új játék tartja lázban a netet. Az ImageNet Roulette a fotónkat kategorizáló algoritmusként indult, de valami más lett belőle.

Több példát is láthattunk már arra, hogy a mesterséges intelligencia nem úgy működik, ahogy kellene: ijesztő képeket fest, vagy önálló életre kell, mint az Amazon digitális HR-ese, amely valamiért sorban utasította el a jelentkezőket. Hasonló történetről tudunk most is beszámolni: egy képfelismerő alkalmanként rasszistává vagy egyszerűen faragatlanná válik, miközben fotóinkat elemzi.

A ImageNet Roulette nevű szolgáltatás a napokban lett az internetezők kedvence, pedig semmi különlegeset nem tud. Kitalálói azért hozták létre, hogy segítsen kategorizálni a képeket, ezzel is megkönnyítve az egyes felvételek szortírozását. A gond ott adódik, hogy az oldal mögötti algoritmus néha máshogy/másnak azonosítja be a képen látottakat, főleg, ha személyekről van szó. Ezt az illetőt például nemi erőszak gyanúsítottjának nézte:

A Twitteren rengeteg bejegyzés található arról, hogy az ImageNet tévesen, már-már illetlen jelzőkkel bélyegzi meg a felhasználókat. Köztük az afroamerikaiakat:

A rendszert egy Trevor Paglen nevű művész, és a New York-i Egyetem mesterségesintelligencia-kutatásokkal foglalkozó intézetének alapítója, Kate Crawford készítette. Az algoritmus egy Training Humans nevű fotókiállítás része. A kódsor a sok millió képből álló ImageNet adatbázist használja, és az ott megtalálható címkéket veszi alapul a feltöltött képek kategorizálásához. Az alkotók szerint az adatbázisban lévő hibás kulcsszavak is közrejátszanak, hogy a gép tévesen rendszerez. A projekt célja egyébként, hogy felhívja a figyelmet, ha a rendszerbe pontatlan adatokat táplálnak, az eredmény sem lesz tökéletes.

Az ImageNet Roulette oldala ingyenes, a képeket pedig három módon lehet feltölteni: közvetlenül webkamerából, a hozzá tartozó URL-ből vagy tallózással.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.

Állj mellénk!

Tegyünk közösen azért, hogy a propaganda mellett továbbra is megjelenjenek a tények!

Ha neked is fontos a minőségi újságírás, kérjük, hogy támogasd a munkánkat.

Állj mellénk!

Tegyünk közösen azért, hogy a propaganda mellett továbbra is megjelenjenek a tények!

Ha neked is fontos a minőségi újságírás, kérjük, hogy támogasd a munkánkat.
Beázó tető, penészes falak: a magyar lakosság negyede él ilyen lakásban

Beázó tető, penészes falak: a magyar lakosság negyede él ilyen lakásban

3000 forintos jeggyel lógtak be szurkolók a Puskás VIP-páholyába

3000 forintos jeggyel lógtak be szurkolók a Puskás VIP-páholyába

Létezik-e tökéletes munkahely? És ha igen, hogyan ismerjük fel?

Létezik-e tökéletes munkahely? És ha igen, hogyan ismerjük fel?

Így kezdődnek a hatoslottó számai: 3, 4, 5

Így kezdődnek a hatoslottó számai: 3, 4, 5

Népszava: kórházi aktív ellátásokat, szülészeteket szüntetne meg a kormány

Népszava: kórházi aktív ellátásokat, szülészeteket szüntetne meg a kormány

Egyelőre titokban maradnak Trump adóbevallásai

Egyelőre titokban maradnak Trump adóbevallásai