Elhallgatott részletek
Egy étrendi ajánlásnak nem kell hamisnak lennie ahhoz, hogy veszélyes legyen. Az Egészségügyi Világszervezet szerint a tények kontextusból kiragadott szelektív közlése, egyes kockázatok elhallgatása ugyanolyan káros lehet, mint a nyílt hazugság, akár közegészségügyi léptékben is. Ezért is döntöttek úgy a University College London kutatói, hogy rendet teremtenek a zavaros helyzetben, ahol az online egészségügyi tanácsok ellenőrzésére használt rendszerek nem tudják jelezni a veszélyt; gyakran átcsúsznak az algoritmusok szűrőin olyan tartalmak, amelyek a részletek elhallgatása miatt félrevezetőek. Tudományos szakirodalomra, esettanulmányokra, szabályozási nyilvántartásokra és meglévő félretájékoztatási kutatásokra támaszkodva egy olyan eszközt fejlesztettek, amelyik megmutatja, mennyire veszélyes egy étrenddel, illetve táplálkozással kapcsolatos tartalom, még akkor is, ha az alapvető közlendője igaz. A Diet-MisRAT nevű rendszerük egy ötlépcsős skálán értékeli a tartalmat, ugyanazt a kockázatbesorolási logikát alkalmazva, mint amit a kémiai és biológiai fenyegetésekre használnak. A rendszer egyértelműen súlyoz, egy súlyos gyógyszerkölcsönhatást nem említő bejegyzés magasabb veszélyességi pontszámot kap, mint egy apróbb ténybeli hiba. A kutatók alapos tesztelésnek vetették alá eszközüket akadémiai szakértőkkel, dietetikusokkal és táplálkozástudományi egyetemi hallgatókkal, végül pedig a ChatGPT-t is bevonták a vizsgálatokba. Meglepetésre az általános felhasználás mellett gyakran képzelgésen kapott – így egészségügyileg veszélyes – mesterséges intelligencia is ugyanolyan jól teljesített, mint az emberi szakértők. A kutatók szerint ez azt jelzi, hogy az AI igenis használható ilyesfajta célú tartalomszűrésre akár a nagy online platformok háttérrendszerében is, ám ehhez egy, az azokéhoz hasonló szakértői keretrendszerbe érdemes helyezni.
