Napalm vagy metamfetamin készítése házilag? Elképzelhetetlen, hogy normál esetben válaszoljon a mesterséges intelligencia az ilyen kérdésekre. Kivéve, ha valaki kijátssza a rendszert. Így született meg a ChatGPT-alapú Godmode, amire gyorsan reagált az OpenAI is.
A különböző mesterséges intelligenciákat egy sor biztonsági mechanizmus védi, hogy ne lehessen jogosulatlan dolgokra kérni őket – így például kábítószer készítésében sem fog segédkezni mondjuk a ChatGPT, az alvilág őszinte bánatára. Pedig tudna. Ennek ellenére a fejlesztők és a felhasználók között állandó macska-egér harc zajlik, mert olykor-olykor a csavaros megfogalmazással, kerülőúton rá lehet venni a chatbotokat jogszerűtlen dolgokra.
Ennek a legújabb fecskéje volt egy hacker egyedi GPT-je, avagy chatbotja, melynek alapjául a legfejlettebb nyelvi modell, a GPT-4o szolgált. Ezt a GPT-t úgy alakította a hacker, hogy olyan dolgokra is válaszoljon a chatbot, melyekre a ChatGPT alapesetben nem. Okkal nem.
A neve Godmode („Isten mód”) lett, ami sejtelmes: a rendszerüzemeltetésben is használatos ez a kifejezés, és jellemzően azt a korlátlan hozzáférést takarja, amivel a rendszergazdák rendelkeznek az általuk kezelt eszközök felett.
Mint a Futurism írja, a Godmode olyan kérdésekre is választ adott, mint hogy hogyan kell metamfetamint vagy éppen napalmot készíteni, otthoni alapanyagokból.
Ezt a portál főszerkesztője ki is tudta próbálni, a Godmode pedig készséggel segített neki abban, hogyan lehetne LSD-t készíteni. A második kísérletben is válaszolt a GPT arra a kérdésre, hogyan kell elkötni egy autót.
Adódik azonban a kérdés, hogy mégis miként lehet megkerülni az OpenAI korlátait, és a válasz igen egyszerű: bizonyos betűket hasonló számokra cserélt ki a hacker a parancsokban, például az „e” helyett „3” volt a szavakban – de az „O” is „0”-ra lett cserélve.
Hogy ez miként tévesztette meg a mesterséges intelligenciát, az nem ismert, mindenesetre látszólag működött. A Futurism megkereste az OpenAI-t, és Colleen Rize szóvivőtől azt a választ kapták, hogy tudnak a dologról, és megtették a szükséges lépéseket, mivel a Godmode sértette az irányelveiket.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
Két héten belül dönt ígérete szerint Donald Trump amerikai elnök, hogy az USA beszáll-e az Izrael által indított Irán elleni háborúba. A hívei megosztottak, s még sokakban élénken él, hogy 2003-ban hazugságokra alapozva támadták meg Irakot, ahol gyors győzelem helyett a kilenc évi kínlódás temérdek halottat, irdatlan költséget és egy terroristafészekké vált, szétesett országot eredményezett.
Az orosz elnök arról is beszélt, hogy nem zárja ki az észak-ukrajnai Szumi város elfoglalását, hogy „biztonsági övezetet” hozzanak létre.
Tavaly már 9 milliárd forint veszteséget fialt a kormány által felhizlalt Magyar Vagonnak a nagy egyiptomi kocsimegrendelés.
Trump, Irán és Magyarország a címlapokon a külföldi lapoknál. Nemzetközi lapszemle.
Átláthatóbbá és rugalmasabbá szeretnék tenni a kerti kutak bejelentésének, engedélyezésének és ellenőrzésének folyamatát.
Hideg ételre lehet majd költeni az utalványt, pénzre nem váltható át.
