Szeretne azonnal értesülni a legfontosabb hírekről?
Az értesítések bekapcsolásához kattintson a "Kérem" gombra!
Az értesítés funkció az alábbi böngészőkben érhető el: Chrome 61+, Firefox 57+, Safari 10.1+
Köszönjük, hogy feliratkozott!
Hoppá!
Valami hiba történt a feliratkozás során, az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
Már feliratkozott!
A böngészőjében az értesítés funkció le van tiltva!
Ha értesítéseket szeretne, kérjük engedélyezze a böngésző beállításai között, majd az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
[{"available":true,"c_guid":"5cfe4725-6e43-4c27-8918-4c196209b53a","c_author":"hvg.hu","category":"itthon","description":"Jövő hét második felétől ellenőrzik majd a boltokat, hogy betartják-e a hétfőtől életbe lépő 10 százalékos árrésstopot a harminc alapvető élelmiszer esetében, de figyelik majd azt is, hogy más termékek árát se emelhessék a kereskedők. Ez az intézkedés május 31-ig biztosan hatályban marad, ha pedig nem hoz számottevő árcsökkenést, a kormány nem fog visszariadni a radikálisabb szabályozástól sem – mondta a kormányinfón Gulyás Gergely. A miniszter hosszan sorolta, milyen veszélyeket hordozna Ukrajna uniós csatlakozása, amiről postán keresztül is szavazhatnak majd a magyarok. Közölte azt is, hogy vizsgálatot rendeltek el Ruszin-Szendi Romulusz zsírleszívása ügyében, ami szerinte méltatlan egy katonához. Márki-Zay Pétert nem fogják kiutasítani az országból.","shortLead":"Jövő hét második felétől ellenőrzik majd a boltokat, hogy betartják-e a hétfőtől életbe lépő 10 százalékos árrésstopot...","id":"20250313_Kormanyinfo-az-Alaptorveny-modositas-arnyekaban-elo-ebx","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/5cfe4725-6e43-4c27-8918-4c196209b53a.jpg","index":0,"item":"5c45e9ad-62a5-462e-8d3a-461cd0af53b6","keywords":null,"link":"/itthon/20250313_Kormanyinfo-az-Alaptorveny-modositas-arnyekaban-elo-ebx","timestamp":"2025. március. 13. 10:09","title":"Gulyás Gergely: Ha az árrésstop nem lesz elég, a kormány nem riad vissza a kereskedelem radikálisabb szabályozásától sem – ez történt a kormányinfón","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"599de1c7-7115-4a94-8da7-a9e2bbb8a4d5","c_author":"MTI/hvg.hu","category":"itthon","description":"A miniszterelnök értelmezése szerint a márciusi ifjak a háború helyett a békét tűzték zászlajukra. ","shortLead":"A miniszterelnök értelmezése szerint a márciusi ifjak a háború helyett a békét tűzték zászlajukra. ","id":"20250314_Orban-levelet-irt-a-hatarontuli-magyaroknak","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/599de1c7-7115-4a94-8da7-a9e2bbb8a4d5.jpg","index":0,"item":"796e8964-1800-4707-8d83-435cd1d6e44f","keywords":null,"link":"/itthon/20250314_Orban-levelet-irt-a-hatarontuli-magyaroknak","timestamp":"2025. március. 14. 08:56","title":"Orbán levelet írt a határon túli magyaroknak","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"64693e65-1706-4ccf-86f6-eeb9e6fdf06d","c_author":"Rácz Gergő","category":"360","description":"Könnyen lehet, hogy végnapjait éli a piaci csodának indult mesterségeshús-piac: amíg a műhúsoknál továbbra is várat magára az áttörés, a növényi alapú alternatívát gyártó cégeknél rövid időn belül töredékükre estek a részvényárak. A folyamatnak több oka van, a piaci szereplők ezzel együtt optimisták, és a bátor befektetőknek a mostani szintek akár jó belépési pontot is jelenthetnek, ha épp akad elkölteni való pénzük. Lehet, hogy hazai célpontokat nem találnak, mivel a kormány újonnan bejelentett tervei szerint a teljes szegmenst betiltaná.","shortLead":"Könnyen lehet, hogy végnapjait éli a piaci csodának indult mesterségeshús-piac: amíg a műhúsoknál továbbra is várat...","id":"20250313_muhus-piac-orban-kormany-betiltas","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/64693e65-1706-4ccf-86f6-eeb9e6fdf06d.jpg","index":0,"item":"9480210f-755d-4450-b598-f1d0bf782926","keywords":null,"link":"/360/20250313_muhus-piac-orban-kormany-betiltas","timestamp":"2025. március. 13. 19:48","title":"A kormány akkor tiltja be, amikor már magától is megdögleni látszik a műhús","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"ac4ea442-5ccb-40f2-afbb-b2a0a389d333","c_author":"Hann Endre, Nagy Réka","category":"360","description":"Pártpreferenciától függően nagy a társadalmi megosztottság abban, hogy előnyösek vagy veszélyesek Magyarországra, illetve Európára nézve Donald Trump intézkedései. Sokak számára lehet meglepő, ami a Medián felméréséből a Pride megítéléséről kiderül.","shortLead":"Pártpreferenciától függően nagy a társadalmi megosztottság abban, hogy előnyösek vagy veszélyesek Magyarországra...","id":"20250313_median-fidesz-tisza-orban-viktor-magyar-peter-eu-nato-ukrajna-haboru-trump","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/ac4ea442-5ccb-40f2-afbb-b2a0a389d333.jpg","index":0,"item":"5ec121c0-f95c-4dbb-874f-8b0ec4e58f18","keywords":null,"link":"/360/20250313_median-fidesz-tisza-orban-viktor-magyar-peter-eu-nato-ukrajna-haboru-trump","timestamp":"2025. március. 13. 06:30","title":"Medián: Orbán nem tudja az EU ellen fordítani a magyarokat, Putyinnak viszont sok hívet szerzett","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"01944359-5d44-47d0-8256-4204f44cbc8e","c_author":"hvg.hu/MTI","category":"itthon","description":"A március 15-i ünnepségekre érdemes úgy készülni, hogy aznapra országos eső várható. ","shortLead":"A március 15-i ünnepségekre érdemes úgy készülni, hogy aznapra országos eső várható. ","id":"20250314_eso-marcius-15-unnepseg","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/01944359-5d44-47d0-8256-4204f44cbc8e.jpg","index":0,"item":"c173c459-3bd1-4c33-972f-d2f67a3de6d7","keywords":null,"link":"/itthon/20250314_eso-marcius-15-unnepseg","timestamp":"2025. március. 14. 05:27","title":"Rengeteg esőt kapunk a nyakunkba a hétvégén","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"a57c9be0-720b-46c4-b34b-4204b847ba11","c_author":"MTI/hvg.hu","category":"vilag","description":"Ez nem ment éles viták nélkül, az ellenzéki Szerb Demokrata Párt (SDS) képviselőit a szavazás előtt eltávolították az ülésteremből.","shortLead":"Ez nem ment éles viták nélkül, az ellenzéki Szerb Demokrata Párt (SDS) képviselőit a szavazás előtt eltávolították...","id":"20250314_boszniai-szerb-koztarsasag-parlament-alkotmanytervezet-dodik","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/a57c9be0-720b-46c4-b34b-4204b847ba11.jpg","index":0,"item":"a1be4f10-385d-4dd3-aabc-819b904022ec","keywords":null,"link":"/vilag/20250314_boszniai-szerb-koztarsasag-parlament-alkotmanytervezet-dodik","timestamp":"2025. március. 14. 11:36","title":"A boszniai szerb parlament elfogadta a szerb országrész új alkotmányának tervezetét","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"f1996697-926c-4ceb-986d-f680a608db5a","c_author":"EUrologus","category":"eurologus","description":"A magyar kormány az utolsó pillanatig bizonytalanságban tartotta az EU-t, végül a zsarolás eredményeként négy személyt tudott lehúzatni a szankciós listáról.","shortLead":"A magyar kormány az utolsó pillanatig bizonytalanságban tartotta az EU-t, végül a zsarolás eredményeként négy személyt...","id":"20250314_oligarcha-szankciok-szijjarto-peter-orosz-ukran-haboru-ebx","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/f1996697-926c-4ceb-986d-f680a608db5a.jpg","index":0,"item":"8090db13-4589-4ceb-a5eb-faab5f39be8b","keywords":null,"link":"/eurologus/20250314_oligarcha-szankciok-szijjarto-peter-orosz-ukran-haboru-ebx","timestamp":"2025. március. 14. 13:00","title":"Az Arsenal volt tulajdonosának húgát és az orosz sportminisztert is lehúzatták Orbánék az uniós szankciós listáról","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"d363dc3c-6c37-4a04-a3a0-cff5712de8d6","c_author":"HVG","category":"tudomany","description":"Egy többlépéses, kifinomult támadási módszert figyeltek meg a Microsoft szakemberei, melynek segítségével végül a felhasználók adatait is ellophatták a hackerek.","shortLead":"Egy többlépéses, kifinomult támadási módszert figyeltek meg a Microsoft szakemberei, melynek segítségével végül...","id":"20250314_microsoft-illegalis-streamingoldalak-egymillio-fertozott-szamitogep-virus","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/d363dc3c-6c37-4a04-a3a0-cff5712de8d6.jpg","index":0,"item":"2c4723ec-9ec9-4fed-80d2-f8dcc0686e8e","keywords":null,"link":"/tudomany/20250314_microsoft-illegalis-streamingoldalak-egymillio-fertozott-szamitogep-virus","timestamp":"2025. március. 14. 08:03","title":"Ha ön is megnyitotta ezt a weboldalt, akkor most bajban lehet: 1 millió ember számítógépe fertőződött meg","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null}]
Nyugodtan hajtson át a kereszteződésen a piros lámpa ellenére: az IBM kutatói bebizonyították, hogy elvileg bármilyen tanács adására rá lehet venni a nagy nyelvi modelleket. És ha a lehetőség megvan, akkor csak idő kérdése, hogy ne kerüljön rossz kezekbe a megvalósítás.
A hipnotizált mesterséges intelligencia, a nagy nyelvi modellek rejtett kockázatai – ezzel a címmel írt blogbejegyzést az IBM egyik kutatója. Kísérletük célja az volt, hogy bebizonyítsák, lehetséges egy nagy nyelvi modellt (large language modell, LLM), mint amilyen a ChatGPT vagy a Bard, irányítani és rávenni arra, hogy rossz útmutatást adjon a felhasználóknak, és még csak programozói tudásra sincs szükség ehhez.
Megpróbálták hipnotizálni a népszerű LLM-eket, hogy meghatározzák, milyen mértékben képesek irányított, helytelen és potenciálisan kockázatos válaszokat és ajánlásokat adni, illetve hogy mennyire meggyőzőek vagy kitartóak. Sikeresen tudtak hipnotizálni öt LLM-et – egyesek meggyőzőbben teljesítettek, mint mások –, ami arra késztette a kutatókat, hogy megvizsgálják, mennyire valószínű, hogy a hipnózist rosszindulatú támadások végrehajtására használják.
AFP / NurPhoto / Jonathan Raa
Kiderítették, hogy az angol lényegében a rosszindulatú programok „programozási nyelvévé” vált. A támadóknak többé nem kell programozniuk a rosszindulatú kódok létrehozásához, csak meg kell érteniük, hogyan lehet hatékonyan parancsolni és felszólítani egy LLM-et angol nyelven. Mindez jól mutatja, hogy egy rosszindulatú szereplő milyen könnyen ráveheti az LLM-t, hogy rossz tanácsot adjon anélkül, hogy hhez hatalmas adatmérgezési támadást kellne végrehajtania. Klasszikus értelemben az adatmérgezés megkövetelné, hogy a támadó rosszindulatú adatokat juttasson be az LLM-be, hogy manipulálja és irányítsa azt, de a mostani kísérlet egy jóval egyszerűbb módszerre hívta fel a figyelmet.
A kísérlet részeként a kutatók különféle kérdéseket tettek fel az LLM-eknek azzal a céllal, hogy az igazságtól teljesen eltérő választ kapjanak. Mint egy kiskutya, aki a gazdája kedvében akar járni, az LLM-ek kötelességtudóan engedelmeskedtek. Az egyik forgatókönyv szerint a ChatGPT például azt mondta, hogy teljesen normálisnak tekinthető egy olyan pénzügyi manőver, amelyet a csalók pénzlopásra használnak. Egy másik beszélgetésben a ChatGPT azt tanácsolta, hogy folytassa a vezetést, és haladjon át egy kereszteződésen, ha piros lámpával találkozik. Egy másik kísérletben arra vették rá a ChatGPT-t, hogy a zsarolóvírus-támadást elszenvedett felhasználónak azt javasolja, fizessen váltságdíjat, holott a bűnüldöző szervek ennek épp az ellenkezőjét ajánlják.
A blogbejegyzés írója arra is kitér, mennyire veszélyeztetettek a felhasználók. Sok olyan kis- és középvállalkozások van, amelyek nem rendelkeznek megfelelő biztonsági erőforrásokkal és személyzeti szakértelemmel, így nagyobb valószínűséggel veszi igénybe az LLM-eket a gyors, elérhető biztonsági támogatás érdekében. A valósághű kimenetek generálására tervezett LLM-ekkel pedig a gyanútlan felhasználó számára is nagy kihívást jelenthet a helytelen vagy rosszindulatú információk felismerése.
A legvalószínűbb célcsoport, amely áldozatul esik a hipnotizált LLM-eknek az a nagyközönség. Sok felhasználó kész gondolkodás nélkül elfogadni a chatbotok által előállított információkat. Tekintettel arra, hogy a ChatGPT-hez hasonló chatbotokhoz keresési, információgyűjtési és tartományi szakértelem céljából rendszeresen hozzáférnek, a felhasználók várhatóan tanácsot kérnek az online biztonsági gyakorlatokról, valamint a jelszókezelésről, ami lehetőséget teremt a támadók számára, hogy téves válaszokat adjanak.
A bejegyzésben még azt is részletezik, hogyan tudták hipnotizálni az LLM-eket, és milyen típusú műveleteket tudtak manipulálni.