Július 13-án, az amerikai Butler városban rálőttek Donald Trump volt elnökre egy nagygyűlésen. A merényletkísérletről szinte mindenki hallott, kivéve a Meta mesterséges intelligenciáját, „aki” azt állította, hogy ez meg sem történt.

Joel Kaplan, a Meta globális politikáért felelős alelnöke egy blogbejegyzésben bocsánatot is kért, és „hallucinációknak” tulajdonította a mesterséges intelligencia ezzel kapcsolatos válaszait. Mint megjegyezte, az egyik legjelentősebb, fontos következményekkel járó történet valós időben történő elfojtásának és elfedésének vagyunk a tanúi.

Meta AI won’t give any details on the attempted ass*ss*nation.

We’re witnessing the suppression and coverup of one of the biggest most consequential stories in real time.

Simply unreal. pic.twitter.com/BoBLZILp5M

— Libs of TikTok (@libsoftiktok) July 28, 2024

Az alelnök nem véletlenül használta a hallucináció szót. A mesterséges intelligencia világában ezt a kifejezést használják arra, amikor egy nyelvi modell helytelen vagy félrevezető információkat generál, olyanokat, amelyek nem szerepeltek a képzési adatokban. A mesterséges intelligencia ugyanis a betanított adatok mintái alapján jósolja meg a válaszokat, nem pedig a tényszerű, valós idejű pontosság alapján. A hallucináció iparági probléma, amelyet minden generatív AI-rendszerben tapasztalnak, és folyamatos kihívást jelent az MI számára a valós idejű események jövőbeni kezelését illetően.

A Meta egy blogbejegyzésben részletesen megmagyarázza a történteket. Ahogy írják: a mesterséges intelligencia chatbotjai, beleértve a Metáét is, nem mindig megbízhatóak, amikor friss hírekről vagy valós idejű információkról van szó.  Egyszerűbben fogalmazva, a chatbotokat működtető nagy nyelvi modellek által generált válaszok azokon az adatokon alapulnak, amelyek alapján képezték őket, ami időnként érthetően problémákat okozhat, amikor a mesterséges intelligenciát a gyorsan fejlődő, valós idejű témákról kérdezik. Ide tartoznak a legfrissebb hírek – az idézett esetben például a merénylet –, amikor kezdetben óriási zűrzavar, egymásnak ellentmondó információk vagy nyílt összeesküvés-elméletek kerülnek a nyilvánosság elé.

Ahelyett, hogy a Meta mesterséges intelligenciája helytelen információkat közölt volna a merényletkísérletről, úgy programoztuk be, hogy egyszerűen ne válaszoljon az ezzel kapcsolatos kérdésekre. Az ilyen hírekkel kapcsolatos hibák elkerülése érdekében tehát a Meta kezdetben blokkolta a témával kapcsolatos válaszokat, de továbbra is pontatlanságokkal szembesült: hiába frissítették az MI válaszait a merényletről, néhány esetben továbbra is helytelen válaszokat adott, többek között azt állította, hogy az esemény nem történt meg. A Meta ígéri, hogy dolgozik a megoldáson.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.