Sokan valamiféle „túlvilági” lénynek képzelik a mesterséges intelligenciát, hiszen láthatatlan, mindig elérhető, mindent tud és mindenben segít. Azonban hiába tűnik végtelenül diszkrétnek és megbízhatónak, nemcsak komoly technológia, hanem emberek is állnak mögötte, és a szolgáltató biztonsági rendszere is úgy lehet beállítva, hogy kiszűrje a veszélyesnek tűnő beszélgetéseket.
Az Anthropic például olyan kulcsszavakat és tartalmakat keres a csevegésekben, amelyek fenyegetőnek tekinthetők, és a súlyosságtól függően ezeket emberi felülvizsgálatra küldheti. Így történt ez ebben az esetben is, és miután a felülvizsgáló komolynak ítélte meg a beszélgetést, az Anthropic továbbította az információt a hatóságoknak. A rendőrök őrizetbe is vették a nőt, és most a floridai törvények értelmében erőszakkal való írásbeli fenyegetéssel vádolják.
Az Anthropic maga sem tagadja, hogy korlátozott vészhelyzetekben megoszthatja a felhasználói adatokat, ha úgy véli, hogy a nyilvánosságra hozatal haláleset vagy súlyos testi sérülés megelőzése érdekében szükséges. Vagyis a „privát chat” nem ugyanazt jelenti, mint egy zárt, kizárólag egyetlen személy által hozzáférhető napló. És bizony az Anthropic nem kockáztat, ha bármiről van szó, ami potenciális fenyegetés lehet, nem szeretne úgy járni, mint a riválisa.
https://hvg.hu/tudomany/20260829_anthropic-claude-vizjel-szoveg-ai
A múlt hónapban ugyanis Brit Columbia beperelte az OpenAI-t és Sam Altmant, mivel azt állítják, hogy a cég megakadályozhatott volna egy tömeges lövöldözést a kanadai tartományban. A 18 éves lövöldözőt korábban már megjelölte az OpenAI biztonsági csapata a fegyveres erőszakról folytatott beszélgetései miatt, de végül nem értesítették a rendőrséget, mivel a beszélgetések nem érték el a jogi eljárás alá vonáshoz szükséges küszöbértéket. Júniusban pedig Florida perelte be az OpenAI-t és az Altmant is, azt állítva, hogy a ChatGPT hozzájárult többek között a 2025-ös Florida Állami Egyetemen történt lövöldözéshez is – emlékeztet a TechSpot.
Persze az, hogy az AI-ba beépített védelmi rendszer megakadályozhat bűntetteket, üdvözlendő dolog. Kérdés azonban, hogy valóban bűnözne-e az, aki csak kiírná magából a dühödt gondolatokat, és valójában azeszébe sem jutna ténylegesen cselekedni. A floridai ügy mindenesetre megmutatja, hogy az AI-korszakban a „csak kiírtam magamból” és a „valaki ezt komolyan vette” között már nagyon rövid lehet az út. A tanulság elég egyértelmű, hiába viselkedik egyre inkább úgy az AI, mint egy bizalmas beszélgetőtárs, azonban jogilag és technikailag továbbra is egy online szolgáltatásról van szó.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
