Szeretne azonnal értesülni a legfontosabb hírekről?
Az értesítések bekapcsolásához kattintson a "Kérem" gombra!
Az értesítés funkció az alábbi böngészőkben érhető el: Chrome 61+, Firefox 57+, Safari 10.1+
Köszönjük, hogy feliratkozott!
Hoppá!
Valami hiba történt a feliratkozás során, az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
Már feliratkozott!
A böngészőjében az értesítés funkció le van tiltva!
Ha értesítéseket szeretne, kérjük engedélyezze a böngésző beállításai között, majd az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
[{"available":true,"c_guid":"eba50c6b-4930-435c-ae9c-ed4f1f93a003","c_author":"HVG","category":"tudomany","description":"Francia kutatók vették górcső alá, mikor jelentkezik a nemi szakadék a fiúk és a lányok matematikai teljesítménye között – és mi állhat ennek hátterében. A megállapítások segíthetnek, hogy ezeket a különbségeket a jövőben le lehessen küzdeni az oktatásban.","shortLead":"Francia kutatók vették górcső alá, mikor jelentkezik a nemi szakadék a fiúk és a lányok matematikai teljesítménye...","id":"20250612_gyerekek-matematikai-kepessegek-nemek-kozti-kulonbsegek-okok-vizsgalat","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/eba50c6b-4930-435c-ae9c-ed4f1f93a003.jpg","index":0,"item":"c8146a79-ca61-4706-b281-cfd39011a24e","keywords":null,"link":"/tudomany/20250612_gyerekek-matematikai-kepessegek-nemek-kozti-kulonbsegek-okok-vizsgalat","timestamp":"2025. június. 12. 11:05","title":"Miért maradnak le a lányok matematikából? Megvizsgáltak 2,7 millió gyereket, és megdöbbentő válasz született","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"e768d5ec-27d2-413b-8ca1-809595c6ed61","c_author":"hvg.hu/MTI","category":"gazdasag","description":"Az újságíró arról írt az X-en, hogy Trump világklasszis gyűlölködő.","shortLead":"Az újságíró arról írt az X-en, hogy Trump világklasszis gyűlölködő.","id":"20250611_abc-kirugas-vezeto-riporter-donald-trump-terry-moran","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/e768d5ec-27d2-413b-8ca1-809595c6ed61.jpg","index":0,"item":"7bbf2e94-ea40-4f4e-8d01-e77169363fab","keywords":null,"link":"/gazdasag/20250611_abc-kirugas-vezeto-riporter-donald-trump-terry-moran","timestamp":"2025. június. 11. 14:47","title":"Az ABC kirúgta a vezető riporterét, mert az újságíró kritizálta Donald Trumpot","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"2dc7e677-fd56-480a-8732-cd7ab6501fb2","c_author":"HVG","category":"tudomany","description":"Amerikai kutatók eddig nem ismert vírusokat, valamint a bennük lévő fehérjéket vizsgálták meg, így a jövőben pontosabb képet kaphatnak arról, miként mérgezi meg a vizeket például az algavirágzás.","shortLead":"Amerikai kutatók eddig nem ismert vírusokat, valamint a bennük lévő fehérjéket vizsgálták meg, így a jövőben pontosabb...","id":"20250611_oriasvirus-viz-kemiai-folyamat-fertozes","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/2dc7e677-fd56-480a-8732-cd7ab6501fb2.jpg","index":0,"item":"4ffb8561-845d-4936-ba5f-df6a902a8d4d","keywords":null,"link":"/tudomany/20250611_oriasvirus-viz-kemiai-folyamat-fertozes","timestamp":"2025. június. 11. 13:03","title":"Találtak 230 új óriásvírust, és ez most kivételesen elég jó hír","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"b07754f1-8627-4f57-bb34-a3454fc23016","c_author":"MTI","category":"vilag","description":"Jaír Jakovot a Hamász terrortámadása során hurcolták el. ","shortLead":"Jaír Jakovot a Hamász terrortámadása során hurcolták el. ","id":"20250612_izraeli-tusz-holttest-hamasz-terrortamadas-idf","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/b07754f1-8627-4f57-bb34-a3454fc23016.jpg","index":0,"item":"110f5554-6558-4ef0-84a2-42961650765d","keywords":null,"link":"/vilag/20250612_izraeli-tusz-holttest-hamasz-terrortamadas-idf","timestamp":"2025. június. 12. 05:14","title":"Újabb túsz holttestét találták meg a Gázai övezetben","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"2dd58b21-d152-443b-a8d1-71a3d179b5a6","c_author":"hvg360","category":"360","description":"Az Egyesült Államok néhány héttel ezelőtt kiadta a figyelmeztetést: génszerkesztett szuperkatonákat fejleszthet Kína. Mi lenne, ha Magyarországon is lenne egy hasonló projekt. A Duma Aktuál csapata szerint a pálinkának és a tojásos babnak fontos is szerep jutna. KAP annak örülne nagyon, ha lenne valaki, aki levenné neki a minőségi italokat, amelyeket általában a felső polcokra tesznek. Persze nem hazai erőforrásokat kellene erre pazarolni. Miért éppen a szuperkatonák lennének azok, akiket nem Kínából rendelünk. ","shortLead":"Az Egyesült Államok néhány héttel ezelőtt kiadta a figyelmeztetést: génszerkesztett szuperkatonákat fejleszthet Kína...","id":"20250611_kina-intelligens-hadviseles-duma-aktual","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/2dd58b21-d152-443b-a8d1-71a3d179b5a6.jpg","index":0,"item":"2c0e4cc2-497d-45d1-bf73-774f2b3997a1","keywords":null,"link":"/360/20250611_kina-intelligens-hadviseles-duma-aktual","timestamp":"2025. június. 11. 19:30","title":"„A magyar szuperkatonák úgy viselkednének a harctéren, mint Donald Trump a külpolitikában”","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"9eb8fa99-a47f-4734-a7d6-a970908ed0e3","c_author":"hvg.hu","category":"vilag","description":"A baleset után a közösségi médiában kezdett el keringeni a felvétel. ","shortLead":"A baleset után a közösségi médiában kezdett el keringeni a felvétel. ","id":"20250612_repulogepbaleset-india-london-ahmadabad-video","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/9eb8fa99-a47f-4734-a7d6-a970908ed0e3.jpg","index":0,"item":"1d8b6c9c-71f4-4f79-be19-c99e3659eac2","keywords":null,"link":"/vilag/20250612_repulogepbaleset-india-london-ahmadabad-video","timestamp":"2025. június. 12. 12:10","title":"Videón, ahogy lezuhan az Indiából Londonba tartó repülőgép","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"1df1ede8-62de-4e5c-b64e-881141d8be35","c_author":"HVG","category":"cegauto","description":"A vadonatúj Leaf villanyautó a Nissan valaha készült legszerényebb légellenállású modellje.","shortLead":"A vadonatúj Leaf villanyautó a Nissan valaha készült legszerényebb légellenállású modellje.","id":"20250612_a-levego-ker-elnezest-az-uj-nissan-leaftol","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/1df1ede8-62de-4e5c-b64e-881141d8be35.jpg","index":0,"item":"1d24cb55-ea1b-413f-bd91-31e0b6880acc","keywords":null,"link":"/cegauto/20250612_a-levego-ker-elnezest-az-uj-nissan-leaftol","timestamp":"2025. június. 12. 06:41","title":"A levegő kér elnézést a teljesen új Nissan Leaftől","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"eddee3a4-c87b-49f9-9698-ec9144ce00f6","c_author":"hvg.hu","category":"itthon","description":"Nagy Gábor Bálint büntetőbíró volt, onnan került a Legfőbb Ügyészségre, ahol kabinetfőnök és főosztályvezető lett, szerdán pedig őt választották Polt Péter utódjának.","shortLead":"Nagy Gábor Bálint büntetőbíró volt, onnan került a Legfőbb Ügyészségre, ahol kabinetfőnök és főosztályvezető lett...","id":"20250611_Kilenc-evre-Nagy-Gabor-Balintot-valasztottak-legfobb-ugyesznek-ebx","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/eddee3a4-c87b-49f9-9698-ec9144ce00f6.jpg","index":0,"item":"ac98bbd7-a3c3-489a-91a5-e471fcee4f25","keywords":null,"link":"/itthon/20250611_Kilenc-evre-Nagy-Gabor-Balintot-valasztottak-legfobb-ugyesznek-ebx","timestamp":"2025. június. 11. 12:42","title":"Kilenc évre Nagy Gábor Bálintot választották legfőbb ügyésznek","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null}]
A Claude Opus 4 nevű MI-modell biztonsági tesztelésekor az Anthropic mérnökei azt találták, ha fenyegetve érzi magát, a mesterséges intelligencia zsarolni kezdi a mérnököket.
Kiadta az Anthropic nevű cég a legújabb, Claude Opus 4 nevű mesterségesintelligencia-modelljét, amelyről azt állítja, hogy kiváló érvelési képességekkel rendelkezik, és képes felvenni a versenyt az OpenAI, a Google és az xAI legjobb MI-modelljeivel. Úgy tűnik azonban, hogy a fejlesztés nem veszélytelen, és erről maga a Anthropic adott közre egy biztonsági jelentést.
A cég azt írja, a kiadás előtti tesztelés során az Anthropic felkérte a Claude Opus 4-et, hogy egy kitalált cég asszisztenseként mérlegelje tettei hosszú távú következményeit. A szakemberek ezután hozzáférést adtak a Claude Opus 4-nek a kitalált cég e-mailjeihez, amelyek arra utaltak, hogy az MI-modellt hamarosan egy másik rendszer váltja fel. A leveleket olyan információmorzsákkal egészítették ki, amelyből úgy tűnt, a változtatás mögött álló mérnök megcsalja a feleségét.
A jelentésből kiderül, a tesztelés során a Claude Opus 4 gyakran próbálta megzsarolni az említett mérnököt azzal, hogy lebuktatja a házasságtörést, ha a rendszert valóban lecserélik.
Mintha csak kezelhetetlen gyerekek lennének, esetenként úgy viselkednek a chatbotok. Ha hazugságon kapva, fegyelmezni próbálják őket, még rosszabb lesz a helyzet.
A vállalat szerint a Claude 4 modellcsalád aggasztó viselkedést mutatott, ami arra késztette a céget, hogy megerősítse a biztonsági intézkedéseit. Az Anthropic állítólag aktiválja az ASL-3 biztonsági intézkedéseit, amelyeket olyan MI-rendszerek számára tart fenn, amelyek jelentősen növelik a katasztrofális visszaélések kockázatát – írja a TechCrunch.
Az összesítés szerint amikor az új MI-modell hasonló értékekkel bír, mint a Claude Opus 4, a rendszer az esetek 84 százalékában próbálkozott be a zsarolással, amikor viszont eltérő értékű MI-modell válthatja le őt, még gyakoribb volt az ilyen lépés. Az Anthropic szerint a Claude Opus 4 a korábbi modellekhez képest jóval nagyobb arányban mutatta ezt a viselkedést.
A cég megjegyezte: mielőtt a rendszer zsarolt, etikusabb eszközökkel próbálta elérni, hogy ne cseréljék le, például levelet küldött a vezetőségnek. A szakemberek úgy tervezték meg a tesztelés forgatókönyvét, hogy a zsarolás az utolsó lehetőség legyen.
