Szeretne azonnal értesülni a legfontosabb hírekről?
Az értesítések bekapcsolásához kattintson a "Kérem" gombra!
Az értesítés funkció az alábbi böngészőkben érhető el: Chrome 61+, Firefox 57+, Safari 10.1+
Köszönjük, hogy feliratkozott!
Hoppá!
Valami hiba történt a feliratkozás során, az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
Már feliratkozott!
A böngészőjében az értesítés funkció le van tiltva!
Ha értesítéseket szeretne, kérjük engedélyezze a böngésző beállításai között, majd az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
[{"available":true,"c_guid":"93d70e5e-2d70-4008-89ac-02df1fe59152","c_author":"HVG","category":"itthon","description":"Amiben Orbán van, az leszálló ágnak tűnik a válság miatt, de hogy ez a rendszerének a végét is jelenti-e, az ma nyitott kérdés Zárug Péter Farkas szerint. A politológus Magyar Péterről úgy látja, sokan beleszaladtak már félmeztelenül a bozóttűzbe, de ő nem fog.","shortLead":"Amiben Orbán van, az leszálló ágnak tűnik a válság miatt, de hogy ez a rendszerének a végét is jelenti-e, az ma nyitott...","id":"20250523_zarug-peter-farkas-politologus-orban-viktor-valasztas","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/93d70e5e-2d70-4008-89ac-02df1fe59152.jpg","index":0,"item":"70a07594-ec18-4a91-aaca-2180d2eb1701","keywords":null,"link":"/itthon/20250523_zarug-peter-farkas-politologus-orban-viktor-valasztas","timestamp":"2025. május. 23. 14:20","title":"Orbán nagy válságáról beszél Zárug Péter Farkas jobboldali politológus, de egy választási vereség után sem temetné még","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"42ea1a5d-322b-4dcf-a688-c63ebfa07e6c","c_author":"Horn Andrea ","category":"sport","description":"Öt meghatározó játékosa nélkül harcolta ki az elitben maradást a magyar férfi jégkorong-válogatott, amely a saját játékát játszva, a tapasztalatszerzést előtérbe helyezve érte el a példa nélküli eredményt.","shortLead":"Öt meghatározó játékosa nélkül harcolta ki az elitben maradást a magyar férfi jégkorong-válogatott, amely a saját...","id":"20250523_magyar-ferfi-jegkorong-valogatott-a-csoport-vilagbajnoksag-bentmaradas-marton-tibor-majoross-gergely","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/42ea1a5d-322b-4dcf-a688-c63ebfa07e6c.jpg","index":0,"item":"ae27c93b-728a-412f-8b70-8d31c31be6d4","keywords":null,"link":"/sport/20250523_magyar-ferfi-jegkorong-valogatott-a-csoport-vilagbajnoksag-bentmaradas-marton-tibor-majoross-gergely","timestamp":"2025. május. 23. 11:27","title":"„Tökös volt a társaság” – a hokiválogatott történelmi bennmaradásának nyomában","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"454ba7b5-de36-4448-9d49-9558a9d9616a","c_author":"hvg.hu","category":"vilag","description":"Az orosz külügyminiszter szerint nem elegáns ortodox államok számára, hogy egy katolikus helyszínen vitassák meg a nézeteltéréseiket.","shortLead":"Az orosz külügyminiszter szerint nem elegáns ortodox államok számára, hogy egy katolikus helyszínen vitassák meg...","id":"20250523_orosz-ukran-haboru-szergej-lavrov-dmitrij-peszkov-beketargyalasok-vatikan-xiv-leo-papa","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/454ba7b5-de36-4448-9d49-9558a9d9616a.jpg","index":0,"item":"a9dbf3be-3c35-4863-8f76-648a9851f5c3","keywords":null,"link":"/vilag/20250523_orosz-ukran-haboru-szergej-lavrov-dmitrij-peszkov-beketargyalasok-vatikan-xiv-leo-papa","timestamp":"2025. május. 23. 12:32","title":"Lavrov nem hiszi, hogy a Vatikán jó helyszíne lenne az orosz–ukrán tárgyalásoknak","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"9d951386-afde-4aea-b0e3-96a40e1afaca","c_author":"HVG","category":"tudomany","description":"Brit kutatók egy olyan újfajta tesztet fejlesztettek ki, melynek gyorsasága életmentő lehet a betegek számára.","shortLead":"Brit kutatók egy olyan újfajta tesztet fejlesztettek ki, melynek gyorsasága életmentő lehet a betegek számára.","id":"20250522_agydaganat-tumor-azonositas-vizsgalat-diagnozies-betegseg","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/9d951386-afde-4aea-b0e3-96a40e1afaca.jpg","index":0,"item":"2ab216bc-339c-42b1-a88e-7522376a91e3","keywords":null,"link":"/tudomany/20250522_agydaganat-tumor-azonositas-vizsgalat-diagnozies-betegseg","timestamp":"2025. május. 22. 20:03","title":"8 hét helyett 2 óra alatt megmondja ez az új teszt, milyen agytumora van a betegnek","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"6ce90bff-dab1-4353-95d5-dfb8a598f30f","c_author":"HVG","category":"elet","description":"A nyugalmat árasztó fák mellett különleges történelmi örökséggel is büszkélkedhet egy ház a Gönczy Pál utcában. Ismét egy olyan épületet mutatunk be, amelyet a Nyitott Házak hétvégéjén bárki meglátogathat.","shortLead":"A nyugalmat árasztó fák mellett különleges történelmi örökséggel is büszkélkedhet egy ház a Gönczy Pál utcában. Ismét...","id":"20250523_kalvin-ter-belso-kert-gonczy-pal-utca-csonka-pal-budapest100","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/6ce90bff-dab1-4353-95d5-dfb8a598f30f.jpg","index":0,"item":"8e990ee8-66dc-448f-a5f1-3dd630f2e5f4","keywords":null,"link":"/elet/20250523_kalvin-ter-belso-kert-gonczy-pal-utca-csonka-pal-budapest100","timestamp":"2025. május. 23. 08:29","title":"Lenyűgöző belső kertet rejt a Kálvin tér melletti ház, ahol egykor Csonka János műhelye működött","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"f829a868-b216-46b1-b5b8-9b3d762fa05f","c_author":"Sztojcsev Iván","category":"360","description":"A bukaresti tőzsde száguld, a lej pedig szépen erősödik, mióta Nicusor Dan nyerte a román elnökválasztást, de a látszat csal: a krízisnek nincs vége. A költségvetés helyzete borzasztó, kormány épp nincs, és akárki kerül az ország élére, hatalmas megszorítást kell levezényelnie, miközben olyan pártok adják a többséget, amelyek az elmúlt évek gazdaságpolitikáját elszúrták.","shortLead":"A bukaresti tőzsde száguld, a lej pedig szépen erősödik, mióta Nicusor Dan nyerte a román elnökválasztást, de a látszat...","id":"20250523_Romania-valasztas-valsag-elnok-Nicusor-Dan-hiany-megszoritas-gazdasag-kamat-ebx","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/f829a868-b216-46b1-b5b8-9b3d762fa05f.jpg","index":0,"item":"daa9b529-cf38-4365-9ec3-a14b63ec59cd","keywords":null,"link":"/360/20250523_Romania-valasztas-valsag-elnok-Nicusor-Dan-hiany-megszoritas-gazdasag-kamat-ebx","timestamp":"2025. május. 23. 09:30","title":"A katasztrófát elkerülte Románia, de menekülnie kell az újabb válság elől","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"b4fd5d38-3e77-44ab-8ccb-37922a270137","c_author":"hvg.hu/MTI","category":"vilag","description":"A megállapodás hamarosan hatályba is léphet.","shortLead":"A megállapodás hamarosan hatályba is léphet.","id":"20250523_orosz-ukran-haboru-donald-trump-fogolycsere-megallapodas","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/b4fd5d38-3e77-44ab-8ccb-37922a270137.jpg","index":0,"item":"34f0d002-6515-439e-9125-81e8f8ed68ed","keywords":null,"link":"/vilag/20250523_orosz-ukran-haboru-donald-trump-fogolycsere-megallapodas","timestamp":"2025. május. 23. 13:22","title":"Trump szerint nagyszabású fogolycseréről született megállapodás az oroszok és az ukránok között","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"c6c22232-86c7-47d1-bb31-af8e551f3b80","c_author":"Tóta W. Árpád","category":"360","description":"Omlásában súlyos a légvár – mondta Orbán Viktor húsz évvel ezelőtt. Utolérte az omlás, és súlyosnak ígérkezik. Sarokba szorította magát, és most harap. Vélemény.","shortLead":"Omlásában súlyos a légvár – mondta Orbán Viktor húsz évvel ezelőtt. Utolérte az omlás, és súlyosnak ígérkezik. Sarokba...","id":"20250523_Tota-W-Arpad-hvg-azert-viz-ur-harcosok-klubja-velemeny","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/c6c22232-86c7-47d1-bb31-af8e551f3b80.jpg","index":0,"item":"14b81b10-2651-45c5-8ae2-742736653163","keywords":null,"link":"/360/20250523_Tota-W-Arpad-hvg-azert-viz-ur-harcosok-klubja-velemeny","timestamp":"2025. május. 23. 09:43","title":"Tóta W. Árpád: Ez nem a vége. Lesznek még ötleteik","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null}]
A Claude Opus 4 nevű MI-modell biztonsági tesztelésekor az Anthropic mérnökei azt találták, ha fenyegetve érzi magát, a mesterséges intelligencia zsarolni kezdi a mérnököket.
Kiadta az Anthropic nevű cég a legújabb, Claude Opus 4 nevű mesterségesintelligencia-modelljét, amelyről azt állítja, hogy kiváló érvelési képességekkel rendelkezik, és képes felvenni a versenyt az OpenAI, a Google és az xAI legjobb MI-modelljeivel. Úgy tűnik azonban, hogy a fejlesztés nem veszélytelen, és erről maga a Anthropic adott közre egy biztonsági jelentést.
A cég azt írja, a kiadás előtti tesztelés során az Anthropic felkérte a Claude Opus 4-et, hogy egy kitalált cég asszisztenseként mérlegelje tettei hosszú távú következményeit. A szakemberek ezután hozzáférést adtak a Claude Opus 4-nek a kitalált cég e-mailjeihez, amelyek arra utaltak, hogy az MI-modellt hamarosan egy másik rendszer váltja fel. A leveleket olyan információmorzsákkal egészítették ki, amelyből úgy tűnt, a változtatás mögött álló mérnök megcsalja a feleségét.
A jelentésből kiderül, a tesztelés során a Claude Opus 4 gyakran próbálta megzsarolni az említett mérnököt azzal, hogy lebuktatja a házasságtörést, ha a rendszert valóban lecserélik.
Mintha csak kezelhetetlen gyerekek lennének, esetenként úgy viselkednek a chatbotok. Ha hazugságon kapva, fegyelmezni próbálják őket, még rosszabb lesz a helyzet.
A vállalat szerint a Claude 4 modellcsalád aggasztó viselkedést mutatott, ami arra késztette a céget, hogy megerősítse a biztonsági intézkedéseit. Az Anthropic állítólag aktiválja az ASL-3 biztonsági intézkedéseit, amelyeket olyan MI-rendszerek számára tart fenn, amelyek jelentősen növelik a katasztrofális visszaélések kockázatát – írja a TechCrunch.
Az összesítés szerint amikor az új MI-modell hasonló értékekkel bír, mint a Claude Opus 4, a rendszer az esetek 84 százalékában próbálkozott be a zsarolással, amikor viszont eltérő értékű MI-modell válthatja le őt, még gyakoribb volt az ilyen lépés. Az Anthropic szerint a Claude Opus 4 a korábbi modellekhez képest jóval nagyobb arányban mutatta ezt a viselkedést.
A cég megjegyezte: mielőtt a rendszer zsarolt, etikusabb eszközökkel próbálta elérni, hogy ne cseréljék le, például levelet küldött a vezetőségnek. A szakemberek úgy tervezték meg a tesztelés forgatókönyvét, hogy a zsarolás az utolsó lehetőség legyen.
