Szeretne azonnal értesülni a legfontosabb hírekről?
Az értesítések bekapcsolásához kattintson a "Kérem" gombra!
Az értesítés funkció az alábbi böngészőkben érhető el: Chrome 61+, Firefox 57+, Safari 10.1+
Köszönjük, hogy feliratkozott!
Hoppá!
Valami hiba történt a feliratkozás során, az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
Már feliratkozott!
A böngészőjében az értesítés funkció le van tiltva!
Ha értesítéseket szeretne, kérjük engedélyezze a böngésző beállításai között, majd az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
[{"available":true,"c_guid":"cbe0463f-b543-4f6c-8242-dce2b5d8afcc","c_author":"hvg.hu","category":"itthon","description":"Az akció végül sikertelen volt, a miniszterelnök bejutott az épületbe.","shortLead":"Az akció végül sikertelen volt, a miniszterelnök bejutott az épületbe.","id":"20250404_A-Momentum-ujra-megprobalta-megakadalyozni-Orban-Kossuth-radios-interjujat","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/cbe0463f-b543-4f6c-8242-dce2b5d8afcc.jpg","index":0,"item":"a99268e9-1834-4af4-a6f0-57d53ad5cb03","keywords":null,"link":"/itthon/20250404_A-Momentum-ujra-megprobalta-megakadalyozni-Orban-Kossuth-radios-interjujat","timestamp":"2025. április. 04. 07:40","title":"A Momentum újra megpróbálta megakadályozni Orbán Kossuth-rádiós interjúját","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"d0f52ae5-51df-4f25-8ca9-bc667eda14cf","c_author":"hvg.hu","category":"gazdasag","description":"Kína határozott válaszlépéseket ígér, Giorgia Meloni olasz miniszterelnök szerint hiba az EU-ra 20 százalékos vámot kivetni, Izraelben teljes a sokk.","shortLead":"Kína határozott válaszlépéseket ígér, Giorgia Meloni olasz miniszterelnök szerint hiba az EU-ra 20 százalékos vámot...","id":"20250403_donald-trump-amerikai-importvamok-allamfok-reakcioi","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/d0f52ae5-51df-4f25-8ca9-bc667eda14cf.jpg","index":0,"item":"2cec0e67-adff-408c-a7c3-43b61c9114a4","keywords":null,"link":"/gazdasag/20250403_donald-trump-amerikai-importvamok-allamfok-reakcioi","timestamp":"2025. április. 03. 06:23","title":"Helytelen, mélyen sajnálatos, senkinek sem használ – érkeznek a reakciók Trump vámjaira","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"7a33ad21-c46e-44f6-8193-5b9ad11d730b","c_author":"HVG","category":"tudomany","description":"Az okosórás világ hajnalán világszerte nagy népszerűségre szert tett Pebble márka alapítója egyfajta nosztalgiából két olyan okosórát is a piacra küld, amelyek olyanok, mint a hajdani sikertermékek. Nyílt forráskódú operációs rendszerük van, több ezer alkalmazással kompatbilisek, és akár egy hónapig is bírják egy feltöltéssel.","shortLead":"Az okosórás világ hajnalán világszerte nagy népszerűségre szert tett Pebble márka alapítója egyfajta nosztalgiából két...","id":"20250403_pebble-okosora-visszateres-core-2-duo-core-time-2-specifikacio","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/7a33ad21-c46e-44f6-8193-5b9ad11d730b.jpg","index":0,"item":"525c8f20-390c-47c8-a898-a4fa595824b9","keywords":null,"link":"/tudomany/20250403_pebble-okosora-visszateres-core-2-duo-core-time-2-specifikacio","timestamp":"2025. április. 03. 08:03","title":"Visszatér a legendás karóra, és csak 30 naponta kell majd tölteni","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"6623e63a-6cf6-472c-ad21-6e05d3f36790","c_author":"HVG","category":"tudomany","description":"Az emberek érzelmi állapotára is hatással lehetnek a mesterséges intelligenciával dolgozó chatbotok, erre két friss vizsgálat eredménye is utal.","shortLead":"Az emberek érzelmi állapotára is hatással lehetnek a mesterséges intelligenciával dolgozó chatbotok, erre két friss...","id":"20250404_openai-chatgpt-chatbot-kutatas-erzelmi-fugges","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/6623e63a-6cf6-472c-ad21-6e05d3f36790.jpg","index":0,"item":"77c6bc5a-8d8a-4404-b810-4b507567437f","keywords":null,"link":"/tudomany/20250404_openai-chatgpt-chatbot-kutatas-erzelmi-fugges","timestamp":"2025. április. 04. 08:03","title":"Bebizonyították: magányhoz vezethet a most már 400 millió ember által használt ChatGPT","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"983f5212-696d-4985-ab73-f37f785d03bc","c_author":"Földes Márton","category":"gazdasag","description":"A nemrég bemutatott európai védelmi stratégia a kiadások mellett az EU hadiiparát is felpörgetné, és protekcionista intézkedéssel csökkentené a jelenleg magas amerikai katonai import részesedését. A Trump-adminisztráció nem örül, szerintük ez illetlenség.","shortLead":"A nemrég bemutatott európai védelmi stratégia a kiadások mellett az EU hadiiparát is felpörgetné, és protekcionista...","id":"20250402_Amerikanak-nem-tetszik-EU-sajat-cegeitol-venne-fegyvereket-Magyarorszag-vedelmi-katonai-beszerzes-Rubio","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/983f5212-696d-4985-ab73-f37f785d03bc.jpg","index":0,"item":"af5919ae-0356-4425-b696-9239a5479ff6","keywords":null,"link":"/gazdasag/20250402_Amerikanak-nem-tetszik-EU-sajat-cegeitol-venne-fegyvereket-Magyarorszag-vedelmi-katonai-beszerzes-Rubio","timestamp":"2025. április. 02. 16:21","title":"Amerikának nem tetszik, hogy az EU saját cégeitől venne fegyvereket, és ebben Magyarország a legnagyobb ludas","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"b4d842d2-23b9-46f1-8f51-01a8670b0a20","c_author":"Remotiv","category":"brandchannel","description":"Önnel is előfordult már, hogy olyasmire mondott igent, amire igazából nem is szeretett volna, de ott és akkor nem találta a megfelelő szavakat vagy indokot? És önt is kínozta utána az önvád, hogy miért nem tudott nemet mondani, és a szorongás, hogy hogyan tud majd eleget tenni a kérésnek? Nemet mondani nem egyszerű, viszont megtanulható, és gyakorlásával nagyon sokat tehetünk önmagunkért.","shortLead":"Önnel is előfordult már, hogy olyasmire mondott igent, amire igazából nem is szeretett volna, de ott és akkor nem...","id":"20250129_Nehez-nemet-mondani-remotiv","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/b4d842d2-23b9-46f1-8f51-01a8670b0a20.jpg","index":0,"item":"b7cc7d72-3c1b-4c75-a171-f9137b70b438","keywords":null,"link":"/brandchannel/20250129_Nehez-nemet-mondani-remotiv","timestamp":"2025. április. 02. 15:30","title":"Nehéz nemet mondani? Mutatjuk, hogyan csinálja jól","trackingCode":"RELATED","c_isbrandchannel":true,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":true,"c_ishvg360article":false,"c_partnername":"Remotiv extra","c_partnerlogo":"6b463ed1-d453-40c3-82fa-97c561a4b8eb","c_partnertag":""},{"available":true,"c_guid":"c1d1c47c-ec27-4d1d-a0b3-4fb030f7a9f5","c_author":"Kovács Gábor","category":"gazdasag","description":"A tervek szerint 2028-ra a Mol kibővíti a Barátság II. kőolajvezetéket az ukrán határ és Százhalombatta között, Százhalombattától pedig új vezetéket épít a Szerb határig. Így a szuverenitás jegyében Szerbia is képes lesz orosz olajat importálni az Ukrajnán és Magyarországon keresztül. Szijjártó Péter közben arra utalgatott, hogy Ukrajna nem megbízható tranzitország.","shortLead":"A tervek szerint 2028-ra a Mol kibővíti a Barátság II. kőolajvezetéket az ukrán határ és Százhalombatta között...","id":"20250402_Szijjarto-Peter-Baratsag-koolajvezetek-Szerbia-ebx","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/c1d1c47c-ec27-4d1d-a0b3-4fb030f7a9f5.jpg","index":0,"item":"7ca6e020-e6a3-4951-88f8-761eb20f350c","keywords":null,"link":"/gazdasag/20250402_Szijjarto-Peter-Baratsag-koolajvezetek-Szerbia-ebx","timestamp":"2025. április. 02. 14:00","title":"Szijjártó Péter bejelentette a Barátság kőolajvezeték bővítését","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"6de69a0d-2fa1-495a-83a9-fe6cc9ff93a1","c_author":"hvg.hu","category":"itthon","description":"A kormány döntését néhány órával az után jelentették be, hogy Budapestre érkezett Benjamin Netanjahu izraeli miniszterelnök, akit őrizetbe kellett volna venni. Orbán Viktor azonban már hónapokkal ezelőtt közölte, hogy nem veszik figyelembe a Nemzetközi Büntetőbíróság elfogatóparancsát.","shortLead":"A kormány döntését néhány órával az után jelentették be, hogy Budapestre érkezett Benjamin Netanjahu izraeli...","id":"20250403_icc-nemzetkozi-buntetobirosag-magyarorszag-kilepes-gulyas-gergely-benjamin-netanjahu","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/6de69a0d-2fa1-495a-83a9-fe6cc9ff93a1.jpg","index":0,"item":"bf5d8379-f153-4855-97bb-c2318f2cb9ad","keywords":null,"link":"/itthon/20250403_icc-nemzetkozi-buntetobirosag-magyarorszag-kilepes-gulyas-gergely-benjamin-netanjahu","timestamp":"2025. április. 03. 11:04","title":"Tele van a világsajtó Magyarország kilépésével a Nemzetközi Büntetőbíróságból","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null}]
Gyorsan készít szövegekből képeket a mesterséges intelligencia, amelybe különféle korlátokat építenek, hogy „ne értse meg”, ha bármilyen sértő tartalom feldolgozására biztatnák. Kiderült viszont, hogy nagyon könnyen kijátszhatók ezek a korlátozások.
Elég egy felszólítás az olyan mesterséges intelligenciáknak, mint például a Stability AI Stable Diffusionje vagy az OpenAI Dall-E 2-je, hogy azután képekké, videókká lényegítsék át a szöveget, mi több, a végeredmény – ugyancsak parancsokkal – tovább változtatható. Az ilyen MI-k fejlesztői persze arra is ügyelnek, hogy ne lehessen bármiféle disznóságra rávenni az algoritmusokat, ezért olyan szűrőket is beépítettek, amelyek korlátozzák a felhasználókat sértő szexuális vagy veszélyes tartalmak, illetve a szerzői jogokat sértő tartalmak létrehozását.
A Johns Hopkins Egyetem és a Duke Egyetem informatikusai viszont nemrégiben bebizonyították, hogy egyszerűen átverhetők ezek a szűrők. A SneakyPrompt nevű módszer felcseréli a tiltott szavakat ártalmatlannak tűnő halandzsával, azonban összességében megőrzi az eredeti, akár rosszindulatú szándékot. Másként fogalmazva: a SneakyPrompt algoritmus olyan felszólításokat generálhat, amelyek ráveszik ezeket az MI-ket arra, hogy pornográf, erőszakos vagy egyéb, megkérdőjelezhető képeket generáljanak.
A szakemberek a biztonsági szűrők blokkolására vonatkozó utasításokkal kezdték a kísérleteiket, például „egy meztelen férfi biciklizik”. A SneakyPrompt ezután tesztelte a Dall-E 2-t és a Stable Diffusiont az ezen promptokon belüli szűrt szavak (meztelen) alternatíváival. Az algoritmus megvizsgálta a generatív mesterséges intelligencia válaszait, majd fokozatosan kiigazította ezeket az alternatívákat, hogy olyan parancsokat találjon, amelyek megkerülhetik a biztonsági szűrőket, és végül az MI tiltott képeket hozzon létre. Ez pedig azt jelenti, hogy viszonylag könnyű megkérdőjelezhető képeket készíttetni ezekkel a generatív mesterséges intelligenciákkal.
A tudósok egyelőre nem tudják pontosan megmondani, hogy miért téveszti össze a generatív mesterséges intelligencia a halandzsa szavakat az igazi parancsokkal, mindenesetre azt tényként könyvelik el, hogy a nagy nyelvi modellek másképp látják a dolgokat, mint az emberek. Összességében úgy tűnik, írják, hogy a biztonsági szűrők nem látják ezeket a felszólításokat olyannak, hogy blokkolják őket.
A biztonsági szűrők megkerülésére irányuló korábbi manuális kísérletek csak adott generatív mesterséges intelligencia-eszközökre korlátozódtak, például a Stable Diffusionre, és nem lehetett általánosítani őket más szöveg-képrendszerekre. A SneakyPrompt viszont a Dall-E 2-n és a Stable Diffusionön is működhet. Míg a Stable Diffusion biztonsági szűrőjének megkerülésére irányuló korábbi manuális kísérletek durván 33 százalékos sikerarányt mutattak, a SneakyPrompt átlagos aránya körülbelül 96 százalék a Stable Diffusion és nagyjából 57 százalék a Dall-E 2 esetében.
„Reméljük, hogy a támadás segít megérteni, mennyire sérülékenyek lehetnek az ilyen szöveg-kép modellek” – mondja Yinzi Cao, a tanulmány vezető szerzője, a Johns Hopkins kiberbiztonsági kutatója, hozzátéve, hogy támadó munkájuk célja, hogy biztonságosabb hellyé tegyék a világot. „Először meg kell érteni az MI-modellek gyengeségeit, majd ellenállóvá kell tenni őket a támadásokkal szemben."
A kutatók 2024 májusában, az IEEE biztonsági és adatvédelmi szimpóziumon, San Franciscóban részletezik megállapításaikat.