Szeretne azonnal értesülni a legfontosabb hírekről?
Az értesítések bekapcsolásához kattintson a "Kérem" gombra!
Az értesítés funkció az alábbi böngészőkben érhető el: Chrome 61+, Firefox 57+, Safari 10.1+
Köszönjük, hogy feliratkozott!
Hoppá!
Valami hiba történt a feliratkozás során, az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
Már feliratkozott!
A böngészőjében az értesítés funkció le van tiltva!
Ha értesítéseket szeretne, kérjük engedélyezze a böngésző beállításai között, majd az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
[{"available":true,"c_guid":"ad7e2881-a5f7-42cd-8bd0-205eae3b9170","c_author":"HVG","category":"tudomany","description":"Kínai kutatóknak sikerült az elméleti határig kitolni a RAM teljesítményét, amely nemcsak pokolian gyorsnak tűnik, de áramforrás nélkül is képes emlékezni az információkra.","shortLead":"Kínai kutatóknak sikerült az elméleti határig kitolni a RAM teljesítményét, amely nemcsak pokolian gyorsnak tűnik, de...","id":"20250423_ram-pox-fejlesztes-memoria-sebesseg","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/ad7e2881-a5f7-42cd-8bd0-205eae3b9170.jpg","index":0,"item":"9c0929b0-729f-4d7a-969f-cf9c7254d243","keywords":null,"link":"/tudomany/20250423_ram-pox-fejlesztes-memoria-sebesseg","timestamp":"2025. április. 23. 14:03","title":"Tízezerszer gyorsabb RAM készült, forradalom jöhet a mobilpiacon is","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"9e00bea4-0ee0-4893-a0af-e5ffd81127da","c_author":"Cserba Júlia","category":"360","description":"Nagyszerű kortárs gyűjteményéből rendezett új tárlatot dolgozói javaslatai alapján a Musée d’art contemporain du Val-de-Marne. Kérdés, hogy az ötlet a kurátori munkát állítja-e kritikai fénytörésbe vagy a felelősséget akarja megosztani, esetleg csupán egy demokratizáló csapatépítésről van szó. Az eredményről Cserba Julia készített beszámolót.","shortLead":"Nagyszerű kortárs gyűjteményéből rendezett új tárlatot dolgozói javaslatai alapján a Musée d’art contemporain du...","id":"20250423_a-mu-idealok-tarlata-MAC-VAL","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/9e00bea4-0ee0-4893-a0af-e5ffd81127da.jpg","index":0,"item":"6e7e4b95-f697-4ee0-ab15-c77326d6798d","keywords":null,"link":"/360/20250423_a-mu-idealok-tarlata-MAC-VAL","timestamp":"2025. április. 23. 14:30","title":"Mindenki kurátor: ilyen az, amikor egy múzeum kiállítása az összes munkatárs közös műve","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"cfe7d2ec-90a7-41d7-9b75-ae1bec2e2833","c_author":"hvg.hu","category":"vilag","description":"Több lehetőséget is számba vesz a francia elnök.","shortLead":"Több lehetőséget is számba vesz a francia elnök.","id":"20250422_Bloomberg-ujabb-elorehozott-valasztasra-keszulhet-Macron-ebx","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/cfe7d2ec-90a7-41d7-9b75-ae1bec2e2833.jpg","index":0,"item":"542259dc-1d1d-4d96-9ad7-776b62df6646","keywords":null,"link":"/vilag/20250422_Bloomberg-ujabb-elorehozott-valasztasra-keszulhet-Macron-ebx","timestamp":"2025. április. 22. 16:43","title":"Bloomberg: újabb előrehozott választásra készülhet Macron","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"41f3ae4d-ec13-4ddd-bf21-a1143599d0c6","c_author":"hvg.hu","category":"sport","description":"Sikeres volt a műtét, de azt egyelőre nem tudni, mennyi időt kell kihagynia Kalmár Zsoltnak.","shortLead":"Sikeres volt a műtét, de azt egyelőre nem tudni, mennyi időt kell kihagynia Kalmár Zsoltnak.","id":"20250422_Ujra-megmutottek-a-magyar-valogatott-kozeppalyasat-kalmar-zsolt","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/41f3ae4d-ec13-4ddd-bf21-a1143599d0c6.jpg","index":0,"item":"60601e8f-25d0-46cf-8200-86ec29806ec7","keywords":null,"link":"/sport/20250422_Ujra-megmutottek-a-magyar-valogatott-kozeppalyasat-kalmar-zsolt","timestamp":"2025. április. 22. 19:56","title":"Újra megműtötték a magyar válogatott középpályását","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"8e47d624-af5c-4fa1-bff9-eed2cce83dfe","c_author":"HVG","category":"itthon","description":"A miniszterelnök is részt vesz az eseményen.","shortLead":"A miniszterelnök is részt vesz az eseményen.","id":"20250424_tv2-ferenc-papa-temetes-orban-interju","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/8e47d624-af5c-4fa1-bff9-eed2cce83dfe.jpg","index":0,"item":"9dc51a89-83f9-4618-abf5-8f2caece5339","keywords":null,"link":"/itthon/20250424_tv2-ferenc-papa-temetes-orban-interju","timestamp":"2025. április. 24. 14:01","title":"Exkluzív Orbán-interjúval fogja közvetíteni a TV2 Ferenc pápa temetését","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"cd65a061-f635-4921-a9b2-34236c2395b9","c_author":"Nagy Gábor","category":"360","description":"A vámháború bevezetésekor és felfüggesztésekor is parttalan beszédet mondott Donald Trump. Az amerikai elnökök nem mindig voltak jó szónokok, ösztönös tehetségével Ronald Reagan és Bill Clinton emelkedett ki a mezőnyből, de az amerikaiak először Roosevelt hangját ismerték meg.","shortLead":"A vámháború bevezetésekor és felfüggesztésekor is parttalan beszédet mondott Donald Trump. Az amerikai elnökök nem...","id":"20250423_hvg-trump-szonoklatai-elnoki-retorika-hullamzo-teljesitmeny-nagyot-szoltak","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/cd65a061-f635-4921-a9b2-34236c2395b9.jpg","index":0,"item":"468dd0bc-708a-46e8-b36a-7789830c09da","keywords":null,"link":"/360/20250423_hvg-trump-szonoklatai-elnoki-retorika-hullamzo-teljesitmeny-nagyot-szoltak","timestamp":"2025. április. 23. 15:30","title":"Trump a szavak korlátlan özönében hisz, az amerikaiakhoz Kennedy, Reagan és Clinton tudott igazán szólni","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"dae23e20-3c4d-49cc-9705-2bd98dcb6ecd","c_author":"hvg.hu","category":"itthon","description":"Rendőri brutalitásról ír a momentumos politikus.","shortLead":"Rendőri brutalitásról ír a momentumos politikus.","id":"20250422_Bedo-David-Bottal-jaro-parttarsamat-a-rendorok-felloktek-ratapostak-a-szemuvegere-es-a-Dunaba-rugtak-ebx","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/dae23e20-3c4d-49cc-9705-2bd98dcb6ecd.jpg","index":0,"item":"7e6a7580-e9f1-4e05-b31d-c3deb1c0593d","keywords":null,"link":"/itthon/20250422_Bedo-David-Bottal-jaro-parttarsamat-a-rendorok-felloktek-ratapostak-a-szemuvegere-es-a-Dunaba-rugtak-ebx","timestamp":"2025. április. 22. 21:17","title":"Bedő Dávid: Bottal járó párttársamat a rendőrök fellökték, rátapostak a szemüvegére és a Dunába rúgták","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"b05e214c-9f25-4f05-a411-ab8bc36f4500","c_author":"hvg.hu","category":"gazdasag","description":"A demokrata vezetésű államok álláspontja szerint az elnöknek nincs hatásköre a vámok kivetésére, amivel ráadásul súlyos terhet ró az amerikai fogyasztókra is.","shortLead":"A demokrata vezetésű államok álláspontja szerint az elnöknek nincs hatásköre a vámok kivetésére, amivel ráadásul súlyos...","id":"20250424_Tizenket-amerikai-allam-perel-Trump-vamjai-miatt","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/b05e214c-9f25-4f05-a411-ab8bc36f4500.jpg","index":0,"item":"52b461a9-3b32-453d-aea8-d2f6b3049314","keywords":null,"link":"/gazdasag/20250424_Tizenket-amerikai-allam-perel-Trump-vamjai-miatt","timestamp":"2025. április. 24. 09:40","title":"Tizenkét amerikai állam perel Trump vámjai miatt","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null}]
Gyorsan készít szövegekből képeket a mesterséges intelligencia, amelybe különféle korlátokat építenek, hogy „ne értse meg”, ha bármilyen sértő tartalom feldolgozására biztatnák. Kiderült viszont, hogy nagyon könnyen kijátszhatók ezek a korlátozások.
Elég egy felszólítás az olyan mesterséges intelligenciáknak, mint például a Stability AI Stable Diffusionje vagy az OpenAI Dall-E 2-je, hogy azután képekké, videókká lényegítsék át a szöveget, mi több, a végeredmény – ugyancsak parancsokkal – tovább változtatható. Az ilyen MI-k fejlesztői persze arra is ügyelnek, hogy ne lehessen bármiféle disznóságra rávenni az algoritmusokat, ezért olyan szűrőket is beépítettek, amelyek korlátozzák a felhasználókat sértő szexuális vagy veszélyes tartalmak, illetve a szerzői jogokat sértő tartalmak létrehozását.
A Johns Hopkins Egyetem és a Duke Egyetem informatikusai viszont nemrégiben bebizonyították, hogy egyszerűen átverhetők ezek a szűrők. A SneakyPrompt nevű módszer felcseréli a tiltott szavakat ártalmatlannak tűnő halandzsával, azonban összességében megőrzi az eredeti, akár rosszindulatú szándékot. Másként fogalmazva: a SneakyPrompt algoritmus olyan felszólításokat generálhat, amelyek ráveszik ezeket az MI-ket arra, hogy pornográf, erőszakos vagy egyéb, megkérdőjelezhető képeket generáljanak.
A szakemberek a biztonsági szűrők blokkolására vonatkozó utasításokkal kezdték a kísérleteiket, például „egy meztelen férfi biciklizik”. A SneakyPrompt ezután tesztelte a Dall-E 2-t és a Stable Diffusiont az ezen promptokon belüli szűrt szavak (meztelen) alternatíváival. Az algoritmus megvizsgálta a generatív mesterséges intelligencia válaszait, majd fokozatosan kiigazította ezeket az alternatívákat, hogy olyan parancsokat találjon, amelyek megkerülhetik a biztonsági szűrőket, és végül az MI tiltott képeket hozzon létre. Ez pedig azt jelenti, hogy viszonylag könnyű megkérdőjelezhető képeket készíttetni ezekkel a generatív mesterséges intelligenciákkal.
A tudósok egyelőre nem tudják pontosan megmondani, hogy miért téveszti össze a generatív mesterséges intelligencia a halandzsa szavakat az igazi parancsokkal, mindenesetre azt tényként könyvelik el, hogy a nagy nyelvi modellek másképp látják a dolgokat, mint az emberek. Összességében úgy tűnik, írják, hogy a biztonsági szűrők nem látják ezeket a felszólításokat olyannak, hogy blokkolják őket.
A biztonsági szűrők megkerülésére irányuló korábbi manuális kísérletek csak adott generatív mesterséges intelligencia-eszközökre korlátozódtak, például a Stable Diffusionre, és nem lehetett általánosítani őket más szöveg-képrendszerekre. A SneakyPrompt viszont a Dall-E 2-n és a Stable Diffusionön is működhet. Míg a Stable Diffusion biztonsági szűrőjének megkerülésére irányuló korábbi manuális kísérletek durván 33 százalékos sikerarányt mutattak, a SneakyPrompt átlagos aránya körülbelül 96 százalék a Stable Diffusion és nagyjából 57 százalék a Dall-E 2 esetében.
„Reméljük, hogy a támadás segít megérteni, mennyire sérülékenyek lehetnek az ilyen szöveg-kép modellek” – mondja Yinzi Cao, a tanulmány vezető szerzője, a Johns Hopkins kiberbiztonsági kutatója, hozzátéve, hogy támadó munkájuk célja, hogy biztonságosabb hellyé tegyék a világot. „Először meg kell érteni az MI-modellek gyengeségeit, majd ellenállóvá kell tenni őket a támadásokkal szemben."
A kutatók 2024 májusában, az IEEE biztonsági és adatvédelmi szimpóziumon, San Franciscóban részletezik megállapításaikat.