Hamis bejelentést küldött az Anthropic AI-ügynöke a philadelphiai rendőrségnek egy megoldatlan gyilkossági ügyben – írja a BBC.
A hatóság közlése szerint a július 18-án elküldött bejelentés egy nyilvános weboldalon keresztül érkezett, ahol az emberek megoszthatják információikat megoldatlan gyilkosságokról.
Az AI-ügynök azt írta, lehet, hogy rendelkezik információval egy ügyről, és azt állította, hogy talált „valakit, aki megfelel a leírásnak”. A philadelphiai rendőrség a bejelentést spamként jelölte meg, és nem továbbította nyomozás céljából.
Az Anthropic az ügyre reagálva azt közölte, hogy amikor az AI-ügynök elküldte a hamis bejelentést, éppen egy olyan tesztet futtatott, amely véletlenszerűen kiválasztott weboldalakkal való interakciókat tartalmazott.
A vállalat szeptember 28-án, több mint két hónappal az üzenet elküldése után fedezte fel a biztonsági rést, és állította le az azt kiváltó automatikus tesztelési folyamatot. A hatóságokat azonban csak kilenc nappal később, október 7-én értesítették az esetről.
A vállalatnak meg kell erősítenie biztonsági intézkedéseit. (...) Elfogadhatatlan, hogy két hónapos késéssel fedezték fel és jelentették be az esetet
– áll a philadelphiai rendőrség közleményében.
Hozzátették: nem találtak jeleket arra, hogy bármelyik rendszerüket feltörték volna, és a hamis bejelentés a biztonsági eljárásaiknak köszönhetően nem jutott túl a spam mappán.
A BBC szerint ez volt az első eset, hogy egy AI-ügynök hamis információt küldött a hatóságoknak, és a legújabb olyan incidens, amikor a mesterséges intelligencia szabálytalan tevékenységet végzett.
Az amerikai külügyminisztérium nemrég arról számolt be, hogy az Anthropic AI-ügynöke húsz vízumkérelmet nyújtott be a honlapjukon található űrlap segítségével, de hiányosak voltak, ezért nem dolgozták fel őket.
https://hvg.hu/tudomany/20260914_birosag-mesterseges-intelligencia-generalt-fellebbezes-ugyved-birsag-chatgpt
Nyitókép: AFP / Joel Saget
