A mesterséges intelligencia válaszaiban nem érdemes vakon bízni. A chatbotok olykor hallucinálnak, azaz kitalálnak dolgokat, és olyan meggyőzően tudják tálalni ezeket a fals információkat, hogy az ember tényleg nem gyanakszik.
Pedig érdemes lenne. Jól tudja ezt egy ügyvéd, Stephen Aarons is, aki Új-Mexikó bíróságán próbált fellebbezést benyújtani ügyfele gyilkossági ügyében. Csakhogy a fellebbezésben hamis, az AI által kitalált tanúk és rendőrségi vallomások voltak, amelyre a bíróság is felfigyelt.
A törvényszék a Reuters hírügynökség jelentése szerint 5000 dolláros – körülbelül 1,6 millió forintos – bírsággal sújtotta az ügyvédet, továbbá elmarasztalta azért, mert nem ellenőrizte az AI-generált beadványban szereplő állításokat és jogi hivatkozásokat.
A fellebbezés hemzsegett a súlyos problémáktól: sosemvolt tanúk „vallomásait” tartalmazta, sőt, a lövöldöző öltözetéről és megjelenéséről is valótlanságokat állított. C. Shannon Bacon bíró egy augusztusi meghallgatáson kérdőre vonta az ügyvédet, hogyan nem volt tisztában az AI kockázataival.
https://hvg.hu/tudomany/20260623_garfield-ai-birosag-per-ugyved-mesterseges-intelligencia
Aarons elismerte, hogy ChatGPT-t használt a beadvány elkészítéséhez, mert azt hitte, az „kikezdhetetlen összefoglalót” fog generálni a tárgyalásról.
„Ügyvéd úr, ön nézi a híreket? Hallgatja a rádiót? Olvasott bármit arról, hogy mi folyik a világban?” – vonta kérdőre az ügyvédet a bíró, megjegyezve, hogy lassan mindennaposak az olyan hírek, amelyek arról szólnak, hogy az ügyvédek az AI-generált hallucinációkra támaszkodnak.
Stephen Aarons bánja a történteket, és bízik abban, hogy a fegyelmi bizottság figyelembe veszi majd, hogy ez egy „jóhiszemű tévedés” volt.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
