Új szabályt vezet be az Anthtopic november közepétől. A vállalat célja, hogy a felhasználók ne abuzálják újra és újra a mesterséges intelligenciát. A változtatás a szélsőséges eseteket célozza meg, nem pedig „a chatbotok válaszaival kapcsolatos hétköznapi frusztrációt”. Az Anthropic azt közölte, a felhasználók továbbra is vitathatják Claude válaszait, valamint feszegethetik az AI határait.
A mesterséges intelligenciát fejlesztő cég egész pontosan a „tartós és szükségtelen bántalmazó vagy kegyetlen viselkedést” szeretné letörni.
Az Anthropic még 2025 augusztusában vizsgálta a modelljei „jóllétét”, és
arra próbált választ találni, hogy a modellnek be kell-e fejeznie egy beszélgetést, ha a felhasználó részéről folyamatos verbális bántalmazást kap.
https://hvg.hu/tudomany/20261004_anthropic-claude-biologia-felfedezes-dns-vizsgalat
A szabályzat értelmében az elsődleges lépés ilyen esetben a beszélgetések lezárása, azt pedig nem árulta el a vállalat, hogy az ilyen ismétlődő eseteknél várható-e valamilyen büntetés kiszabása – például a felhasználói fiók felfüggesztése.
A szabályzat tiltja az olyan felhasználói magatartást is, amely egy másik ember számára okozhat mentális problémát. Ez érinti többek között az önkárosítással, az étkezési zavarok népszerűsítésével, a zaklatással, az állatkínzással és egyéb hasonló tevékenységgel kapcsolatos csevegéseket is.
Mindezen túlmenően a megtévesztő kereskedelmi gyakorlatra, valamint a politikai üzenetekre is kiterjed az Anthropic szigorú szabályozása. Az átdolgozott szabályzat tiltja a hamis fiókok vagy bejegyzések használatát, amelynek célja, hogy elrejtsék az üzenet terjesztőjének kilétét, vagy mesterségesen felerősítsék az üzenet elérését.
A politikával kapcsolatosan az Anthropic megtilt minden olyan tevékenységet, amelyekkel befolyásolni lehet egy választás végeredményét. De nem lehet a Claude-ot arra sem használni, hogy egy másik személyt figyeljen meg vele a felhasználó, valamint tiltja a cég a fegyverek tervezését és megépítését is.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
