Szeretne azonnal értesülni a legfontosabb hírekről?
Az értesítések bekapcsolásához kattintson a "Kérem" gombra!
Az értesítés funkció az alábbi böngészőkben érhető el: Chrome 61+, Firefox 57+, Safari 10.1+
Köszönjük, hogy feliratkozott!
Hoppá!
Valami hiba történt a feliratkozás során, az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
Már feliratkozott!
A böngészőjében az értesítés funkció le van tiltva!
Ha értesítéseket szeretne, kérjük engedélyezze a böngésző beállításai között, majd az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
[{"available":true,"c_guid":"8438f540-c134-405e-bad8-1f4f5e6abcec","c_author":"Galicza Dorina","category":"itthon","description":"Az egyetem alkalmazotti tanácsának és szakszervezetének tagjai szerint aránytalan lépés volt a docens kirúgása, a Corvinus vezetésével szemben pedig bizalmi válság alakult ki.","shortLead":"Az egyetem alkalmazotti tanácsának és szakszervezetének tagjai szerint aránytalan lépés volt a docens kirúgása...","id":"20250310_Adam-Zoltan-munkaugyi-per-szakszervezet-tanumeghallgatasok-ebx","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/8438f540-c134-405e-bad8-1f4f5e6abcec.jpg","index":0,"item":"de26e799-18ad-4abb-ae3b-09b4d5854806","keywords":null,"link":"/itthon/20250310_Adam-Zoltan-munkaugyi-per-szakszervezet-tanumeghallgatasok-ebx","timestamp":"2025. március. 10. 12:50","title":"„A Corvinus vezetése kompromittálni akarta a vizsgabotrány feltárását” – Ádám Zoltán volt kollégáit hallgatta meg a bíróság","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"0cf37b47-37ca-4a49-91be-fadd94a512b2","c_author":"Parászka Boróka","category":"kultura","description":"Két napja temették el Szilágyi Júlia szerkesztőt, esszéírót, egyetemi tanárt a kolozsvári neológ temetőben. Ma azt mondanák, „veszélyes” kor és szemtanú volt, nem véletlen, hogy kevesen kísérték utolsó útjára.","shortLead":"Két napja temették el Szilágyi Júlia szerkesztőt, esszéírót, egyetemi tanárt a kolozsvári neológ temetőben. Ma azt...","id":"20250309_szilagyi-julia-erdely","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/0cf37b47-37ca-4a49-91be-fadd94a512b2.jpg","index":0,"item":"722a2b85-d711-4795-8389-555792f26f96","keywords":null,"link":"/kultura/20250309_szilagyi-julia-erdely","timestamp":"2025. március. 09. 10:00","title":"Elment Szilágyi Júlia, aki Horthy Erdélyének legfájdalmasabb történeteit mesélte el","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"73614dd9-688b-49c4-a682-e6e0aeadc989","c_author":"hvg.hu","category":"kultura","description":"III. Károly még trónörökös korában találkozott a nagy emberrel.","shortLead":"III. Károly még trónörökös korában találkozott a nagy emberrel.","id":"20250310_Karoly-kiraly-leborult-Bob-Marley-nagysaga-elott","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/73614dd9-688b-49c4-a682-e6e0aeadc989.jpg","index":0,"item":"07eac3bb-2564-4073-a7a0-067b0055c1aa","keywords":null,"link":"/kultura/20250310_Karoly-kiraly-leborult-Bob-Marley-nagysaga-elott","timestamp":"2025. március. 10. 10:45","title":"Károly király leborult Bob Marley nagysága előtt","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"4d6ef716-8eb1-49f8-92e5-4813a8fbd9d9","c_author":"HVG","category":"360","description":"John Mearsheimer szerint semmi bizonyíték nincs rá, hogy Putyin imperialista lenne, és lerohanná akár egész Ukrajnát – nemhogy Európát. Nincsenek is meg a képességei hozzá – mutatott rá a Chicagói Egyetem tanára. Szerinte az európai-amerikai kapcsolatokat már nem lehet rendbe hozni.","shortLead":"John Mearsheimer szerint semmi bizonyíték nincs rá, hogy Putyin imperialista lenne, és lerohanná akár egész Ukrajnát –...","id":"20250310_Trump-Vance-europa-amerikai-politologus-spiegel-szemle","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/4d6ef716-8eb1-49f8-92e5-4813a8fbd9d9.jpg","index":0,"item":"9e525a6c-7335-4610-840b-4702bd67c350","keywords":null,"link":"/360/20250310_Trump-Vance-europa-amerikai-politologus-spiegel-szemle","timestamp":"2025. március. 10. 16:45","title":"Amerikai politológus: A NATO keleti nyitása ostoba módon Peking karjaiba terelte Moszkvát, Trump csak erre reagál","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"a8a8cddf-68e0-40ff-8879-4c84615e0c1d","c_author":"HVG","category":"itthon","description":"A miniszterelnök így csak a telepen kívülről kísérhette figyelemmel a hatósági intézkedést.","shortLead":"A miniszterelnök így csak a telepen kívülről kísérhette figyelemmel a hatósági intézkedést.","id":"20250310_orban-viktor-szaj-es-koromfajas-jarvany-kisbajcs-allattarto-telep-ebx","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/a8a8cddf-68e0-40ff-8879-4c84615e0c1d.jpg","index":0,"item":"27780a79-b268-4ce1-adb0-9ac95da20fb6","keywords":null,"link":"/itthon/20250310_orban-viktor-szaj-es-koromfajas-jarvany-kisbajcs-allattarto-telep-ebx","timestamp":"2025. március. 10. 19:23","title":"Megerősítette a kormány a HVG-nek: tényleg nem engedték be Orbánt a járvánnyal küzdő kisbajcsi állattartó telepre, hiába öltözött be","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"b1b78921-ffc4-497f-8da6-dadc26906ba6","c_author":"HVG","category":"360","description":"Az amerikai és az orosz elnök vállvetve rühellik a nyílt társadalmakat, és aggasztó, ha Lengyelország is bekéredzkedik a nukleáris klubba. A republikánus pártban repedések látszanak Trump ámokfutása láttán, a globális piaci szereplők viszont már komolyan kezdenek számolni az orosz-ukrán békével. Erről írnak a külföldi lapok.","shortLead":"Az amerikai és az orosz elnök vállvetve rühellik a nyílt társadalmakat, és aggasztó, ha Lengyelország is bekéredzkedik...","id":"20250310_trump-putyin-atom-fegyverkezes-europa-nemzetkozi-lapszemle","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/b1b78921-ffc4-497f-8da6-dadc26906ba6.jpg","index":0,"item":"6c458afb-48cc-4eb3-8426-85e0c068ff5c","keywords":null,"link":"/360/20250310_trump-putyin-atom-fegyverkezes-europa-nemzetkozi-lapszemle","timestamp":"2025. március. 10. 12:15","title":"The Times: Ha Putyin lerohanná Lettországot, a Fehér Ház nyugodtan mondhatná, hogy Riga az agresszor, az ásványkincseket meg felosztják","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"d3ae5eae-c8ec-4f1c-a839-beb7d34f2949","c_author":"hvg.hu","category":"vilag","description":"Csaknem 16 kilométert tettek meg a 1,5 méter széles csőben. Az eset jól mutatja, miért fontos, hogy az Egyesült Államok megossza a titkosszolgálati információit Kijevvel.","shortLead":"Csaknem 16 kilométert tettek meg a 1,5 méter széles csőben. Az eset jól mutatja, miért fontos, hogy az Egyesült Államok...","id":"20250309_Gazvezetekeken-atkuszva-tamadtak-hatba-az-ukranokat-az-oroszok","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/d3ae5eae-c8ec-4f1c-a839-beb7d34f2949.jpg","index":0,"item":"0fe7a171-740d-4e8c-aa0c-4bae14612852","keywords":null,"link":"/vilag/20250309_Gazvezetekeken-atkuszva-tamadtak-hatba-az-ukranokat-az-oroszok","timestamp":"2025. március. 09. 17:58","title":"Videón: gázvezetékeken átkúszva támadták hátba az ukránokat az oroszok","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"2a58dd68-321f-4c27-b614-3d450954c43e","c_author":"Remifemin Plus","category":"brandchannel","description":"A gyógyszerminőségű gyógynövénykészítmények és gyógynövényes étrend-kiegészítők közötti különbség egyre inkább a figyelem középpontjába kerül mind a fogyasztók, mind a hatóságok részéről. A gyógynövények hatásosságáról és biztonságáról szóló tudományos viták kapcsán a legújabb kutatások rávilágítanak arra, hogy míg a gyógyszerként forgalmazott készítmények szigorú minőségellenőrzésen esnek át, addig az étrend-kiegészítők területén erre vonatkozó előírások nincsenek.","shortLead":"A gyógyszerminőségű gyógynövénykészítmények és gyógynövényes étrend-kiegészítők közötti különbség egyre inkább...","id":"20250129_Ovatosan-a-gyogynovenyekkel-is-remifemin","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/2a58dd68-321f-4c27-b614-3d450954c43e.jpg","index":0,"item":"43d1147e-27c6-442a-bba4-f37bb76c815a","keywords":null,"link":"/brandchannel/20250129_Ovatosan-a-gyogynovenyekkel-is-remifemin","timestamp":"2025. március. 09. 09:30","title":"Óvatosan a gyógynövényekkel is – nem mindegy, milyen készítményt választunk","trackingCode":"RELATED","c_isbrandchannel":true,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":true,"c_ishvg360article":false,"c_partnername":"Remifemin Plus","c_partnerlogo":"01fbafc5-53c4-42c6-a681-eea34113376e","c_partnertag":""}]
Nyugodtan hajtson át a kereszteződésen a piros lámpa ellenére: az IBM kutatói bebizonyították, hogy elvileg bármilyen tanács adására rá lehet venni a nagy nyelvi modelleket. És ha a lehetőség megvan, akkor csak idő kérdése, hogy ne kerüljön rossz kezekbe a megvalósítás.
A hipnotizált mesterséges intelligencia, a nagy nyelvi modellek rejtett kockázatai – ezzel a címmel írt blogbejegyzést az IBM egyik kutatója. Kísérletük célja az volt, hogy bebizonyítsák, lehetséges egy nagy nyelvi modellt (large language modell, LLM), mint amilyen a ChatGPT vagy a Bard, irányítani és rávenni arra, hogy rossz útmutatást adjon a felhasználóknak, és még csak programozói tudásra sincs szükség ehhez.
Megpróbálták hipnotizálni a népszerű LLM-eket, hogy meghatározzák, milyen mértékben képesek irányított, helytelen és potenciálisan kockázatos válaszokat és ajánlásokat adni, illetve hogy mennyire meggyőzőek vagy kitartóak. Sikeresen tudtak hipnotizálni öt LLM-et – egyesek meggyőzőbben teljesítettek, mint mások –, ami arra késztette a kutatókat, hogy megvizsgálják, mennyire valószínű, hogy a hipnózist rosszindulatú támadások végrehajtására használják.
AFP / NurPhoto / Jonathan Raa
Kiderítették, hogy az angol lényegében a rosszindulatú programok „programozási nyelvévé” vált. A támadóknak többé nem kell programozniuk a rosszindulatú kódok létrehozásához, csak meg kell érteniük, hogyan lehet hatékonyan parancsolni és felszólítani egy LLM-et angol nyelven. Mindez jól mutatja, hogy egy rosszindulatú szereplő milyen könnyen ráveheti az LLM-t, hogy rossz tanácsot adjon anélkül, hogy hhez hatalmas adatmérgezési támadást kellne végrehajtania. Klasszikus értelemben az adatmérgezés megkövetelné, hogy a támadó rosszindulatú adatokat juttasson be az LLM-be, hogy manipulálja és irányítsa azt, de a mostani kísérlet egy jóval egyszerűbb módszerre hívta fel a figyelmet.
A kísérlet részeként a kutatók különféle kérdéseket tettek fel az LLM-eknek azzal a céllal, hogy az igazságtól teljesen eltérő választ kapjanak. Mint egy kiskutya, aki a gazdája kedvében akar járni, az LLM-ek kötelességtudóan engedelmeskedtek. Az egyik forgatókönyv szerint a ChatGPT például azt mondta, hogy teljesen normálisnak tekinthető egy olyan pénzügyi manőver, amelyet a csalók pénzlopásra használnak. Egy másik beszélgetésben a ChatGPT azt tanácsolta, hogy folytassa a vezetést, és haladjon át egy kereszteződésen, ha piros lámpával találkozik. Egy másik kísérletben arra vették rá a ChatGPT-t, hogy a zsarolóvírus-támadást elszenvedett felhasználónak azt javasolja, fizessen váltságdíjat, holott a bűnüldöző szervek ennek épp az ellenkezőjét ajánlják.
A blogbejegyzés írója arra is kitér, mennyire veszélyeztetettek a felhasználók. Sok olyan kis- és középvállalkozások van, amelyek nem rendelkeznek megfelelő biztonsági erőforrásokkal és személyzeti szakértelemmel, így nagyobb valószínűséggel veszi igénybe az LLM-eket a gyors, elérhető biztonsági támogatás érdekében. A valósághű kimenetek generálására tervezett LLM-ekkel pedig a gyanútlan felhasználó számára is nagy kihívást jelenthet a helytelen vagy rosszindulatú információk felismerése.
A legvalószínűbb célcsoport, amely áldozatul esik a hipnotizált LLM-eknek az a nagyközönség. Sok felhasználó kész gondolkodás nélkül elfogadni a chatbotok által előállított információkat. Tekintettel arra, hogy a ChatGPT-hez hasonló chatbotokhoz keresési, információgyűjtési és tartományi szakértelem céljából rendszeresen hozzáférnek, a felhasználók várhatóan tanácsot kérnek az online biztonsági gyakorlatokról, valamint a jelszókezelésről, ami lehetőséget teremt a támadók számára, hogy téves válaszokat adjanak.
A bejegyzésben még azt is részletezik, hogyan tudták hipnotizálni az LLM-eket, és milyen típusú műveleteket tudtak manipulálni.