Szeretne azonnal értesülni a legfontosabb hírekről?
Az értesítések bekapcsolásához kattintson a "Kérem" gombra!
Az értesítés funkció az alábbi böngészőkben érhető el: Chrome 61+, Firefox 57+, Safari 10.1+
Köszönjük, hogy feliratkozott!
Hoppá!
Valami hiba történt a feliratkozás során, az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
Már feliratkozott!
A böngészőjében az értesítés funkció le van tiltva!
Ha értesítéseket szeretne, kérjük engedélyezze a böngésző beállításai között, majd az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
[{"available":true,"c_guid":"3148ca31-9d6a-48ef-b78e-eef88cfa727f","c_author":"hvg.hu","category":"kkv","description":"A bevétel nagy része külföldről jött.","shortLead":"A bevétel nagy része külföldről jött.","id":"20240513_15-milliard-forintos-nyereseget-termel-tavaly-a-hell-energy","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/3148ca31-9d6a-48ef-b78e-eef88cfa727f.jpg","index":0,"item":"98ef0219-172c-49d8-8849-d558fd14031a","keywords":null,"link":"/kkv/20240513_15-milliard-forintos-nyereseget-termel-tavaly-a-hell-energy","timestamp":"2024. május. 13. 12:50","title":"15 milliárd forintos nyereséget termelt tavaly a Hell Energy","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"f7fe9070-0cdf-4543-aa05-d1576c23cd57","c_author":"hvg.hu","category":"itthon","description":"Azért dolgozna Bródy-Farkas Anita, hogy az V. kerületben rejlő lehetőségek valóban megvalósuljanak, és ne elszalasztott alkalmak legyenek.","shortLead":"Azért dolgozna Bródy-Farkas Anita, hogy az V. kerületben rejlő lehetőségek valóban megvalósuljanak, és ne elszalasztott...","id":"20240513_brody-janos-felesege-brody-farkas-anita-onkormanyzati-valasztas-v-kerlet-juhasz-peter","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/f7fe9070-0cdf-4543-aa05-d1576c23cd57.jpg","index":0,"item":"9e381a19-3dd4-4300-9ddb-003d0bf0725b","keywords":null,"link":"/itthon/20240513_brody-janos-felesege-brody-farkas-anita-onkormanyzati-valasztas-v-kerlet-juhasz-peter","timestamp":"2024. május. 13. 20:12","title":"Bródy János felesége Juhász Péter csapatában indul az önkormányzati választáson","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"82d417f0-b519-47be-871f-056321ef6f42","c_author":"hvg.hu","category":"kkv","description":"Jelentős beruházásokat terveznek, és több ezer munkahelyet hoznak létre.","shortLead":"Jelentős beruházásokat terveznek, és több ezer munkahelyet hoznak létre.","id":"20240513_az-amazon-franciaorszag-mellett-tette-le-a-voksat","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/82d417f0-b519-47be-871f-056321ef6f42.jpg","index":0,"item":"ef48f2d5-13ce-4706-a510-4312ba9bf3a6","keywords":null,"link":"/kkv/20240513_az-amazon-franciaorszag-mellett-tette-le-a-voksat","timestamp":"2024. május. 13. 09:35","title":"Az Amazon Franciaország mellett tette le a voksát","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"7a13efc1-1f95-4f6c-aaae-1e219f66d5c9","c_author":"hvg.hu","category":"itthon","description":"Garázstűz miatt riasztották a katasztrófavédőket.","shortLead":"Garázstűz miatt riasztották a katasztrófavédőket.","id":"20240512_holttestet-talaltak-egy-kiegett-autoban-tinnyen","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/7a13efc1-1f95-4f6c-aaae-1e219f66d5c9.jpg","index":0,"item":"16bb67f0-1ac0-441c-a916-84b991aacdfc","keywords":null,"link":"/itthon/20240512_holttestet-talaltak-egy-kiegett-autoban-tinnyen","timestamp":"2024. május. 12. 09:39","title":"Holttestet találtak egy kiégett autóban Tinnyén","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"918bf9fe-1961-4fa3-a71f-d2ebc98bb933","c_author":"Németh Róbert","category":"360","description":"Minden webáruház üzemeltetőjének biztosítania kell, hogy a Magyar Posta kerüljön fel a választható kiszállítók közé. A Duma Aktuálban elképzelték, mekkora meglepetést okozhatott a Postánál a szabály, hogy el kell vinniük dolgokat A-ból B-be, milyen nehéz dolga lehet a postásnak a sikertelen kézbesítésnél, és mit él át az ügyfél, amikor befárad a csomagjáért. KAP pedig gitárt vett elő, ugyanis dalt írt a postához.","shortLead":"Minden webáruház üzemeltetőjének biztosítania kell, hogy a Magyar Posta kerüljön fel a választható kiszállítók közé...","id":"20240511_duma-aktual-posta","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/918bf9fe-1961-4fa3-a71f-d2ebc98bb933.jpg","index":0,"item":"7fe5dd24-28ce-4ac0-aa17-11c5f9943496","keywords":null,"link":"/360/20240511_duma-aktual-posta","timestamp":"2024. május. 12. 13:00","title":"Duma Aktuál: A mentő vigyen haza vagy a Magyar Posta?","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"af83c1b5-6988-4a62-8721-95516e25a4fe","c_author":"hvg.hu","category":"360","description":"A világsajtó a kínai elnök európai útjának világpolitikai mérlegét próbálja megvonni, benne Magyarország szerepével.<em> </em>A Neue Zürcher Zeitungban arról írnak, sok politikus hideglelést kap attól, hogy a magyar kormányfő és a szerb elnök Donald Trumpnak drukkol. A Politicóban a szlovák kormányfőnek a sajtó elleni támadásáról olvasni, Schiff András Londonban elő világhírű zongoraművész pedig arról nyilatkozik a Timesnak, miért nem látogat Magyarországra.","shortLead":"A világsajtó a kínai elnök európai útjának világpolitikai mérlegét próbálja megvonni, benne Magyarország...","id":"20240512_nemzetkozi-lapszemle-az-ep-valasztas-megmutathatja-hogy-orbant-le-lehet-gyozni-a-sajat-eszkozeivel","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/af83c1b5-6988-4a62-8721-95516e25a4fe.jpg","index":0,"item":"3779491a-1955-44fe-b359-5392a8087a31","keywords":null,"link":"/360/20240512_nemzetkozi-lapszemle-az-ep-valasztas-megmutathatja-hogy-orbant-le-lehet-gyozni-a-sajat-eszkozeivel","timestamp":"2024. május. 12. 10:00","title":"Nemzetközi lapszemle: az EP-választás megmutathatja, hogy Orbánt le lehet győzni a saját eszközeivel","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"8d769af2-948e-4d58-a9cc-b83dbdb77800","c_author":"hvg.hu","category":"tudomany","description":"Még csak május van, de már az ötödik olyan Chrome-hibát kell javítani egy frissítéssel, amit a támadók már aktívan kihasználnak.","shortLead":"Még csak május van, de már az ötödik olyan Chrome-hibát kell javítani egy frissítéssel, amit a támadók már aktívan...","id":"20240512_chrome-serulekenyseg-javitasa-veszfrissites","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/8d769af2-948e-4d58-a9cc-b83dbdb77800.jpg","index":0,"item":"4306cc44-e982-4077-b238-7e50740dad16","keywords":null,"link":"/tudomany/20240512_chrome-serulekenyseg-javitasa-veszfrissites","timestamp":"2024. május. 12. 08:03","title":"Azonnal frissítsen: súlyos hibát javítottak a Chrome böngészőben","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"d2ad6467-4a74-4f66-92c0-1e0408726ce7","c_author":"Hamvay Péter","category":"360","description":"","shortLead":"","id":"20240512_hvg-molnar-csaba-dk-interju-magyar-peter","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/d2ad6467-4a74-4f66-92c0-1e0408726ce7.jpg","index":0,"item":"03102cfe-b160-4044-9142-ed958f82f1f9","keywords":null,"link":"/360/20240512_hvg-molnar-csaba-dk-interju-magyar-peter","timestamp":"2024. május. 12. 12:00","title":"Molnár Csaba: „Magyar Péter nincs a számunkra legfontosabb tizenöt kérdés között”","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null}]
Gyorsan készít szövegekből képeket a mesterséges intelligencia, amelybe különféle korlátokat építenek, hogy „ne értse meg”, ha bármilyen sértő tartalom feldolgozására biztatnák. Kiderült viszont, hogy nagyon könnyen kijátszhatók ezek a korlátozások.
Elég egy felszólítás az olyan mesterséges intelligenciáknak, mint például a Stability AI Stable Diffusionje vagy az OpenAI Dall-E 2-je, hogy azután képekké, videókká lényegítsék át a szöveget, mi több, a végeredmény – ugyancsak parancsokkal – tovább változtatható. Az ilyen MI-k fejlesztői persze arra is ügyelnek, hogy ne lehessen bármiféle disznóságra rávenni az algoritmusokat, ezért olyan szűrőket is beépítettek, amelyek korlátozzák a felhasználókat sértő szexuális vagy veszélyes tartalmak, illetve a szerzői jogokat sértő tartalmak létrehozását.
A Johns Hopkins Egyetem és a Duke Egyetem informatikusai viszont nemrégiben bebizonyították, hogy egyszerűen átverhetők ezek a szűrők. A SneakyPrompt nevű módszer felcseréli a tiltott szavakat ártalmatlannak tűnő halandzsával, azonban összességében megőrzi az eredeti, akár rosszindulatú szándékot. Másként fogalmazva: a SneakyPrompt algoritmus olyan felszólításokat generálhat, amelyek ráveszik ezeket az MI-ket arra, hogy pornográf, erőszakos vagy egyéb, megkérdőjelezhető képeket generáljanak.
A szakemberek a biztonsági szűrők blokkolására vonatkozó utasításokkal kezdték a kísérleteiket, például „egy meztelen férfi biciklizik”. A SneakyPrompt ezután tesztelte a Dall-E 2-t és a Stable Diffusiont az ezen promptokon belüli szűrt szavak (meztelen) alternatíváival. Az algoritmus megvizsgálta a generatív mesterséges intelligencia válaszait, majd fokozatosan kiigazította ezeket az alternatívákat, hogy olyan parancsokat találjon, amelyek megkerülhetik a biztonsági szűrőket, és végül az MI tiltott képeket hozzon létre. Ez pedig azt jelenti, hogy viszonylag könnyű megkérdőjelezhető képeket készíttetni ezekkel a generatív mesterséges intelligenciákkal.
A tudósok egyelőre nem tudják pontosan megmondani, hogy miért téveszti össze a generatív mesterséges intelligencia a halandzsa szavakat az igazi parancsokkal, mindenesetre azt tényként könyvelik el, hogy a nagy nyelvi modellek másképp látják a dolgokat, mint az emberek. Összességében úgy tűnik, írják, hogy a biztonsági szűrők nem látják ezeket a felszólításokat olyannak, hogy blokkolják őket.
A biztonsági szűrők megkerülésére irányuló korábbi manuális kísérletek csak adott generatív mesterséges intelligencia-eszközökre korlátozódtak, például a Stable Diffusionre, és nem lehetett általánosítani őket más szöveg-képrendszerekre. A SneakyPrompt viszont a Dall-E 2-n és a Stable Diffusionön is működhet. Míg a Stable Diffusion biztonsági szűrőjének megkerülésére irányuló korábbi manuális kísérletek durván 33 százalékos sikerarányt mutattak, a SneakyPrompt átlagos aránya körülbelül 96 százalék a Stable Diffusion és nagyjából 57 százalék a Dall-E 2 esetében.
„Reméljük, hogy a támadás segít megérteni, mennyire sérülékenyek lehetnek az ilyen szöveg-kép modellek” – mondja Yinzi Cao, a tanulmány vezető szerzője, a Johns Hopkins kiberbiztonsági kutatója, hozzátéve, hogy támadó munkájuk célja, hogy biztonságosabb hellyé tegyék a világot. „Először meg kell érteni az MI-modellek gyengeségeit, majd ellenállóvá kell tenni őket a támadásokkal szemben."
A kutatók 2024 májusában, az IEEE biztonsági és adatvédelmi szimpóziumon, San Franciscóban részletezik megállapításaikat.