Miközben Donald Trump most már sokadik alkalommal tett hitet a mesterséges intelligencia fejlesztése mellett, és épp arról értekezik, hogy az Űrhaderő mintájára egy AI-erőt is létre akar hozni, egy igen ijesztő jelentés látott napvilágot.
A CNN beszámolója szerint egy mesterséges intelligencia segítségével készült katonai jelentés hatására az amerikai erők majdnem átkutattak egy kínai hajót. A küldetést nem sokkal az indítás előtt állították le, miután alaposabban megvizsgálták a potenciálisan „fals pozitív” eredményt tartalmazó jelentést.
A beszámoló szerint egy katonai elemző aggasztó információkra bukkant egy Közel-Keletre tartó kínai hajó rakományjegyzékével kapcsolatban. A meg nem nevezett elemző a mesterséges intelligenciát hívta segítségül az információk elemzéséhez és értelmezéséhez. A titkos és nyílt forrásból származó információk összevetése után az AI arra a következtetésre jutott, hogy a hajó valószínűleg nukleáris fegyverekhez való alkatrészeket szállít. Ebben önmagában nincs semmi meglepő; köztudott, hogy a mesterséges intelligencia időnként „hallucinálhat”, azaz téves információkat generálhat.
Az igazán aggasztó rész azonban az, ami ezután történt. Az elemző az AI segítségével hagyományos katonai hírszerzési jelentést készített, amiben leírta a következtetéseit anélkül, hogy azok helytállóságát kétszer vagy háromszor is ellenőrizte volna.
https://hvg.hu/tudomany/20260921_mesterseges-intelligencia-emberiseg-elpusztitasa-ai-apokalipszis
A jelentést ezt követően a szokásos csatornákon keresztül továbbították. A jelentés komoly riadalmat keltett, aminek következtében már egy esetleges elfogó művelet tervezését is megkezdték az érintettek. A CNN értesülései szerint a fegyveres egységek már javában készülődtek a hajó átvizsgálására, a bevetésre szánt repülőgépek pedig már fel is szálltak.
Az információkat az utolsó pillanatban még egyszer átnézték, és ekkor derült ki, hogy az AI tévedett, így leállították az akciót. Ha azt végigvitték volna, az rendkívül súlyos nemzetközi konfliktust eredményezett volna.
A CNN szerint az, hogy a mesterséges intelligencia hallucinál, nem ritka, ugyanakkor sokkal nehezebb azt észrevenni, ha az így kreált jelentés valódi adatokat is tartalmaz. Nagyjából így működnek egyébként az álhíreket gyártó dezinformátorok is: a valóságot keverik a kamu információkkal.
https://hvg.hu/tudomany/20260917_openai-mesterseges-intelligencia-gpt-6-astra-teszt
A probléma ebben az esetben az volt, hogy az, aki ellenőrizhette volna a jelentést, ezt nem tette meg elég alaposan, hanem továbbította azt egy jelentés formájában. A kapó fél ezután már gondolhatta azt, hogy az információk valósak, hiszen az egy megbízható személytől származott.
A lap szerint az is igen súlyos probléma, hogy az Egyesült Államok jelenleg nem alkalmaz egységes irányelvet az információk ellenőrzésére vonatkozóan a haderő különböző egységeinél. Emellett az eset arra is rávilágít, az sem feltétlenül megoldás, hogy ha az AI által vezérelt döntési folyamatba az emberi tényezőt is beiktatják, mert a jelek szerint bizonyos esetekben még így is átcsúszik a szűrőn az, aminek nem kellene.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
