Jó ideje használja már a Facebook a mesterséges intelligenciát arra, hogy besegítsen a moderátorok munkájába. A cég nem titkolt célja, hogy a jövőben egyre inkább az algoritmus végezze ezt a feladatot, amire jelenleg több ezer embert kell foglalkoztatni. Most ehhez kerültek egy újabb lépéssel közelebb.

A moderálás jelenleg úgy zajlik a Facebookon, hogy a felhasználók, valamint az algoritmus megjelölik azokat a bejegyzéseket, amelyeket károsnak ítélnek meg. Ezek közül néhányat – azokat, amelyeknél egyértelmű, hogy szabálysértő módon kerültek fel – automatikusan töröl a rendszer, a többit pedig felteszi egy listára, amelyen azok a posztok szerepelnek, amelyeket a moderátoroknak kell átnézniük.

Most 15 ezer moderátor dolgozik a Facebooknál szerte a világon, ők többnyire időrendi sorrendben nézik át a megjelölt tartalmakat, amelyek közül a lefrissebben megjelöltek a sor végére kerülnek. Így aztán sokáig eltarthat, mire eldől, hogy le kell-e szedni egy adott bejegyzést vagy sem.

Facebook

A munkát most egy új algoritmus alkalmazásával gyorsítják fel, ami három fő szempont alapján rendezi a jelentett tartalmakat: azok

• viralitása,
• súlyossága, valamint
• a szabályok megsértésének valószínűsége

szerint. A rangsoroló képlet működéséről nem közölt részleteket a Facebook. A célt viszont igen: a legártalmasabb bejegyzések kerüljenek a sor legelejére. Vagyis minél többen osztották meg és láttákőket , annál gyorsabban kell a moderátorok elé kerülniük. Ugyanez a helyzet a szabály- és törvénysértő bejegyzésekkel: például a terrorizmust éltető, a gyermekek kizsákmányolását propagáló, valamint a szuicid tartalmú posztokkal.

Ha az algoritmus megfelelően működik, valóban felgyorsíthatja a moderációs folyamatot. Fontos kérdés azonban, hogy mennyire terheli ez le a moderátorokat. Ezek alapján ugyanis jóval több, súlyos bejegyzéssel találkozhatnak, ami lelkileg még az eddiginél is jobban megviselheti őket.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.