Egy összefoglalásra kapott dokumentum rejtett utasításokkal is befolyásolhatja az MI-asszisztenst. Juhász Réka, a Nemzetbiztonsági Szakszolgálat Nemzeti Kiberbiztonsági Intézetének kiberbiztonsági szakértője az AIéjszakája előtt a támadási módszerekről, az érthető figyelmeztetésekről és a hozzáférések korlátozásáról beszélt.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benA figyelmeztetés akkor segít, ha érthető
mivagyunk.hu: Mi vonzotta a kiberfenyegetettség-elemzéshez, és miért kezdte már a diplomamunkájában azt is vizsgálni, hogyan kommunikálunk ezekről a veszélyekről? Felidézne egy olyan szakmai felismerést, amely megmutatta, mitől válik egy figyelmeztetés a nem informatikus felhasználó számára is érthetővé és hasznossá?
Juhász Réka: A kiberfenyegetettség-elemzés területéhez elsősorban az vonzott, hogy a digitális világ védelme mögött nemcsak algoritmusok állnak, hanem emberi döntések és viselkedési minták is. A diplomamunkámban azért kezdtem el a veszélyekről való kommunikációt vizsgálni, mert rájöttem, hogy a legfejlettebb biztonsági rendszer sem ér sokat, ha a benne dolgozó emberek nem értik, milyen kockázatokkal néznek szembe. A technikai részletek elemzése mellett legalább ennyire izgalmas feladat annak megfejtése, hogyan lehet a kiberbűnözők egyre komplexebb módszereit úgy lefordítani, hogy az a gyakorlatban is használható tudást adjon a felhasználók kezébe.
Egy meghatározó szakmai felismerés az volt, hogy a nem informatikus felhasználó számára a figyelmeztetések akkor válnak igazán hasznossá, ha az elvont fenyegetések helyett a közvetlen hatásokra és a konkrét teendőkre helyezik a hangsúlyt. Amikor a száraz szakzsargon helyett a mindennapi munkafolyamatokba illeszkedő példákkal szemléltetjük a kockázatot, akkor a biztonságos viselkedés nem nyűggé, hanem természetes rutinná válhat.
Az MI a támadás mindkét oldalán megjelenhet
mivagyunk.hu: Az AIéjszakáján az MI-rendszerek ellen, illetve az MI felhasználásával végrehajtott kibertámadásokról is beszél majd. Egy nyilvánosan megismerhető példán keresztül megmutatná, mi a különbség a kettő között? Mi az, ami ténylegesen új lehetőséget ad a támadóknak, és melyik veszélyt értjük félre leggyakrabban?
Juhász Réka: Alapvetően a kettő között az a különbség, hogy az MI felhasználásával elkövetett kibertámadásoknál a támadó használ egy modellt a céljai eléréséhez. Az MI-rendszerek elleni kibertámadásoknál pedig az áldozat MI-rendszere a célpont. Például létezik már olyan malware, amely a működése alatt kapcsolatot létesít egy LLM-mel, hogy miután megfertőzött egy végpontot, személyre szabja a működését a modell válaszait felhasználva. Míg az előző példánál az MI egy támadói eszköz volt, számos incidensnél megfigyelhető, hogy a támadók manipuláltak egy MI-asszisztenst annak érdekében, hogy a támadókhoz köthető forrásokat vagy termékeket ajánljon a felhasználóknak.
A támadóknak ténylegesen az ad új lehetőséget, hogy az MI elterjedésével már sokkal alacsonyabb a belépési küszöb egy támadás végrehajtásához.
Míg régebben egy alacsonyabb technikai tudással rendelkező támadó csak már létező káros kódot tudott felhasználni, manapság sokkal kevesebb hozzáértéssel is képes veszélyes kódot írni és ezt akár automatikusan futtatni is.
Fontos észben tartani, hogy nemcsak a modelleket vagy azokat integráló szoftvereket, hanem a modell adatforrásait is érhetik támadások. Amit a mindennapi használat alatt szinte lehetetlen észrevenni.
A dokumentumba rejtett utasítás
mivagyunk.hu: Képzeljünk el egy munkatársat, aki egy beérkező dokumentum összefoglalását kéri az MI-asszisztensétől. Hogyan válhat maga a dokumentum az asszisztens befolyásolásának eszközévé, és milyen következménye lehet ennek, ha az MI a céges levelezéshez vagy fájlokhoz is hozzáfér? Hol tudja a felhasználó vagy a szervezet érdemben csökkenteni ezt a kockázatot?
Juhász Réka: Egy beérkező dokumentum úgy válhat az MI-asszisztens befolyásolásának eszközévé, hogy rejtett utasításokat, úgynevezett közvetett prompt-injekciót rejt magában. Ezeket a szöveg feldolgozása közben az asszisztens parancsnak vélhet. Ha az MI hozzáfér a céges levelezéshez vagy belső fájlokhoz, a dokumentumban elhelyezett rosszindulatú utasítás rábírhatja a rendszert arra, hogy érzékeny adatokat gyűjtsön ki ezekből a forrásokból, majd azokat egy külső csatornán keresztül illetékteleneknek továbbítsa. Ezzel a módszerrel a külső fél lényegében a gyanútlan felhasználó nevében és jogosultságaival hajthat végre nem kívánt műveleteket. Anélkül, hogy a folyamat közben bárki észrevenné a manipulációt.
Ezt a kockázatot egy szervezet és a felhasználó leginkább azzal tudja csökkenteni, hogy az MI-eszközöknek csak a legszükségesebb adatokhoz adnak hozzáférést. Emellett kulcsfontosságú a beérkező külső tartalmak biztonsági szűrése. Valamint olyan technikai védelmi vonalak kialakítása, amelyek megakadályozzák, hogy a modell a belső rendszerekből kinyert információkat külső címekre küldje. A felhasználói tudatosság is elengedhetetlen, mivel a prompt injectiont tartalmazó dokumentumokban a támadók nehezen észrevehető formázással, például apró betűmérettel vagy fehér háttéren fehér betűszínnel rejthetnek el rosszindulatú utasításokat. A dokumentumok kézi ellenőrzése, például a szöveg egységes méretre és színre állítása jelentősen csökkentheti a hasonló incidensek esélyét.
Kevesebb jogosultság, kisebb kockázat
mivagyunk.hu: A MITRE ATLAS első hallásra távolinak tűnhet annak, aki egyszerűen csak biztonságosan szeretné használni az MI-t a munkájában. Milyen példával vagy felismeréssel szeretné közel hozni ezt a témát az AIéjszakája közönségéhez? Mi legyen az első konkrét változtatás, amelyet az előadása után egy magyar kisvállalkozás vagy hétköznapi felhasználó megtesz?
Juhász Réka: Bár a MITRE ATLAS elsősorban kiberbiztonsági szakembereknek készült, nemcsak technikai információkat tartalmaz. Esettanulmányokat és ajánlásokat is találhatunk benne, amelyek megismerésével a jövőben egy egyszerű felhasználó is képes lesz felismerni és elkerülni az esetleges támadásokat.
Úgy gondolom, hogy fontos ellenőrizni azt, hogy az általunk használt MI-rendszerek a lehető legalacsonyabb jogosultságokkal rendelkeznek-e, és kialakítani egy olyan belső szabályzatot, amely megelőzi a bizalmas adatok felelőtlen feltöltését.
A gyorsaság mellé ellenőrzés kell
mivagyunk.hu: Mi az az egy kérdés, amit Ön szerint mindenkinek fel kellene tennie magának az MI korában?
Juhász Réka: Szerintem fontos azt átgondolni, hogy hogyan tudjuk értő módon használni a mesterséges intelligenciát. Az MI lényegesen fel tudja gyorsítani a munkafolyamatainkat. De fontos validálni a rendszerek kimeneteit annak érdekében, hogy a munkánk nemcsak gyorsabb, hanem magas minőségű is legyen.
Az interjú az AIéjszakája 2026 előadóit bemutató interjúsorozatunk része. A november 27-én, Veszprémben megrendezett esemény médiapartnere a mivagyunk.hu. További interjúkat és programajánlókat a rendezvény gyűjtőoldalán találsz.
