Nem tud a Donald Trump ellen megkísérelt merényletről a Meta mesterséges intelligenciája

Rossz lóra tett, aki a Meta mesterséges intelligenciájánál érdeklődött a Trump ellen júliusban megkísérelt merényletről. Az MI ugyanis nem tudott arról, hogy lett volna ilyen.

  • HVG HVG
Nem tud a Donald Trump ellen megkísérelt merényletről a Meta mesterséges intelligenciája

Trump-merénylet

2024. július 13-án a pennsylvaniai Butlerben sikertelen merényletet követtek el Donald Trump volt amerikai elnök, a republikánusok várható elnökjelöltje ellen. A politikus könnyebb fülsérüléssel átvészelte a támadást, de a lövöldözésben egy ember meghalt, ketten megsebesültek. A merénylettel kapcsolatos legfrissebb híreket cikksorozatunkban követhetik!

Július 13-án, az amerikai Butler városban rálőttek Donald Trump volt elnökre egy nagygyűlésen. A merényletkísérletről szinte mindenki hallott, kivéve a Meta mesterséges intelligenciáját, „aki” azt állította, hogy ez meg sem történt.

Joel Kaplan, a Meta globális politikáért felelős alelnöke egy blogbejegyzésben bocsánatot is kért, és „hallucinációknak” tulajdonította a mesterséges intelligencia ezzel kapcsolatos válaszait. Mint megjegyezte, az egyik legjelentősebb, fontos következményekkel járó történet valós időben történő elfojtásának és elfedésének vagyunk a tanúi.

Az alelnök nem véletlenül használta a hallucináció szót. A mesterséges intelligencia világában ezt a kifejezést használják arra, amikor egy nyelvi modell helytelen vagy félrevezető információkat generál, olyanokat, amelyek nem szerepeltek a képzési adatokban. A mesterséges intelligencia ugyanis a betanított adatok mintái alapján jósolja meg a válaszokat, nem pedig a tényszerű, valós idejű pontosság alapján. A hallucináció iparági probléma, amelyet minden generatív AI-rendszerben tapasztalnak, és folyamatos kihívást jelent az MI számára a valós idejű események jövőbeni kezelését illetően.

A Meta egy blogbejegyzésben részletesen megmagyarázza a történteket. Ahogy írják: a mesterséges intelligencia chatbotjai, beleértve a Metáét is, nem mindig megbízhatóak, amikor friss hírekről vagy valós idejű információkról van szó.  Egyszerűbben fogalmazva, a chatbotokat működtető nagy nyelvi modellek által generált válaszok azokon az adatokon alapulnak, amelyek alapján képezték őket, ami időnként érthetően problémákat okozhat, amikor a mesterséges intelligenciát a gyorsan fejlődő, valós idejű témákról kérdezik. Ide tartoznak a legfrissebb hírek – az idézett esetben például a merénylet –, amikor kezdetben óriási zűrzavar, egymásnak ellentmondó információk vagy nyílt összeesküvés-elméletek kerülnek a nyilvánosság elé.

Ahelyett, hogy a Meta mesterséges intelligenciája helytelen információkat közölt volna a merényletkísérletről, úgy programoztuk be, hogy egyszerűen ne válaszoljon az ezzel kapcsolatos kérdésekre. Az ilyen hírekkel kapcsolatos hibák elkerülése érdekében tehát a Meta kezdetben blokkolta a témával kapcsolatos válaszokat, de továbbra is pontatlanságokkal szembesült: hiába frissítették az MI válaszait a merényletről, néhány esetben továbbra is helytelen válaszokat adott, többek között azt állította, hogy az esemény nem történt meg. A Meta ígéri, hogy dolgozik a megoldáson.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.

Szomoru Miklós: Mi sem vagyunk tökéletesek, ne akarjunk tökéletes kertet!

Szomoru Miklós: Mi sem vagyunk tökéletesek, ne akarjunk tökéletes kertet!

Fél évig 5-6 ember volt kíváncsi a kertészeti tanácsaira, ma már közel kétszázezres követő tábora van Szomoru Miklós „Egy kertész kertje Pilisszentkereszten” blogjának. A kertészmérnök szerint, aki brit mintára magánkert-látogatásokat is szervez, nem kell heti 8 óránál többet dolgozni azért, hogy bárkinek virágzó oázássá váljon a kertje. Erre a legjobb példa virágpompában úszó birodalma.