Valami zavar van az Instagramon, sorra tiltják le a felhasználókat, mert gyerekek szexuális kizsákmányolását jelzi az algoritmus ott is, ahol nincs semmi baj

A jelek szerint mostanában gyakran lő mellé a Meta mesterséges intelligenciára építő algoritmusa, melynek eredménye, hogy tévesen tilt ki felhasználókat a vállalat közösségi platformjairól.

  • HVG HVG
Valami zavar van az Instagramon, sorra tiltják le a felhasználókat, mert gyerekek szexuális kizsákmányolását jelzi az algoritmus ott is, ahol nincs semmi baj

Igen kellemetlen problémával szembesült sok Instagram-felhasználó az elmúlt időszakban: a platform ugyanis kitiltotta őket, arra hivatkozva, hogy megsértették a gyerekek szexuális kihasználására vonatkozó szabályokat.

A BBC jelentésében három emberről esik szó részletesebben, mindegyiküket kitiltotta a Meta a fenti okból kifolyólag, de a „végérvényesen” csak addig tartott, míg az újságírók fel nem hívták a figyelmet a problémára. Utána visszakapták a hozzáférésüket a fiókjaihoz, tehát valóban a Meta hibája vezethetett a kitiltáshoz. A cég ugyanakkor nem reagált a brit közmédia megkeresésére.

„Rengeteg kialvatlan éjszakát okozott, elszigeteltnek éreztem magamat. Szörnyűséges volt, arról nem is beszélve, hogy egy ilyen vádaskodás zajlott a fejem felett” – mondta az egyik érintett. A BBC-t összesen összesen több mint 100 ember kereste meg az ügyben.

Vannak, akik bevételkiesésről beszélnek, mert kitiltották őket az üzleti profiljukból. Mások inkább azt fájlalták, hogy nem férnek hozzá az évek során összegyűjtött tartalmaikhoz, emlékeikhez. A Meta által alkalmazott, mesterségesintelligencia-alapú moderációs rendszer téves kitiltásai miatt már egy petíció is indult, ezt jelen sorok írásakor több mint 30 ezer ember írta alá. A felhasználók azt sérelmezik igazán, hogy érdemi fellebbezés sem áll érhető el egy ilyen döntéssel szemben.

Sorra törli a csoportokat a Facebook, senki sem érti, miért

A közösségi irányelvek megsértésére hivatkozva kezdett törlésbe a Facebook, de a felhasználók sokszor nem értik, mégis mi volt a gond – és a Meta is beismeri, hogy az elmúlt időszakban tévedett párszor a rendszerük.

A BBC felidézi: a Meta korábban elismerte, hogy a Facebook-csoportok esetében volt egy hasonló hiba, de azt már tagadta akkor, hogy ez más platformokat és funkciókat is érintene.

Az egyik, az Instagram-ügyben érintett felhasználó elmondta: azt írták neki a felfüggesztésekor, hogy megsértette a gyerekek szexuális kihasználására vonatkozó irányelveit – a döntés ellen még aznap fellebbezett, mivel egyúttal a Facebook- és Messenger-fiókjához is elveszítette a hozzáférését. Ezt követően bukkant egy Reddit-szálra, ahol még sok hasonló beszámolóra lett figyelmes.

A BBC július 3-án tárta a Meta elé a felhasználó ügyét, mire a technológiai óriás néhány órán belül visszaállította a fiókjait. Egy, a felhasználónak címzett üzenetben a Meta sajnálatát fejezte ki a tévedés miatt.

Azokhoz a fotókhoz is hozzáférne a Facebook, amiket ön még nem is töltött fel sehová

Erősen vitatható, amit a Meta csinál próbálgat pár felhasználónál. A cég ugyanis folyamatosan monitorozná a készülék galériájában lévő fotókat.

Hogy pontosan mit néztek be ennyire a vállalatnál, az nem ismert. Az viszont, hogy végül visszaállították a szóban forgó fiókokat, azt jelzi, hogy az érintettek nem követtek el semmilyen súlyos kihágást – hanem a rendszereik jelölték meg tévesen őket.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.