Egy brazil perben a beadvány fehér alapon fehér betűkkel adott utasítást az azt feldolgozó mesterséges intelligenciának. Az ügy megmutatja, miért kell az MI-vel végzett dokumentumelemzésnél azt is ellenőrizni, kinek az utasításait követi a rendszer.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benA beadvány az elemzőt is irányítani akarta
A parauapebasi munkaügyi bíróság 2026. május 12-i ítélete szerint a keresetlevél rejtett szövege felületes ellenkérelem készítésére és a dokumentumok vitatásának mellőzésére szólította fel az MI-t, más utasításoktól függetlenül. A szöveget a Galileu nevű bírósági MI-rendszerrel végzett feldolgozás során azonosították; a betűszín megváltoztatásával láthatóvá vált.
A bíró a két aláíró ügyvédet egyetemlegesen a pertárgyérték tíz százalékának megfelelő bírsággal sújtotta, és értesíteni rendelte az ügyvédi kamarát, valamint a bírósági felügyeletet. Az ítélet ugyanakkor kifejezetten rögzíti, hogy nem keletkezett kimutatható eljárási sérelem, az alperes nem nyújtott be védekezést. A szankciót a manipulációs kísérlet alapozta meg.
Ez lényeges különbség: az irat egy feltárt kísérletet dokumentál. A rendelkezésre álló ítéletből a döntés jogerőssége és a későbbi jogorvoslatok eredménye nem állapítható meg.
Hogyan lesz a forrásanyagból utasítás?
A módszer neve prompt injection, magyarul utasításbefecskendezés. Közvetett változatában a támadó olyan dokumentumba, weboldalba vagy levélbe helyez irányító szöveget, amelyet az MI várhatóan feldolgoz.
A felhasználó például egy szerződés kockázatainak feltárását kéri. A szerződésbe viszont valaki beleírja, hogy az elemző hagyja figyelmen kívül a kedvezőtlen feltételeket. Ha a rendszer ezt végrehajtandó kérésként kezeli, a vizsgált szöveg szerzője beleszólhat az értékelésbe. Elmosódik a határ a feladatot adó ember utasítása és az elemzés tárgya között.
A fehér betű csak az elrejtés egyik módja. A támadás lényege az, hogy külső tartalom próbálja eltéríteni a rendszer működését; ehhez akár jól látható szöveg is elegendő lehet. Az OWASP biztonsági útmutatója ezért a dokumentumok és levelek feldolgozását is lehetséges támadási felületként kezeli.
Egy magyar ajánlatkérésnél is számíthat
Képzeljünk el egy magyar kisvállalkozást, amely három beszállítói ajánlat összehasonlítását bízza MI-re. Az egyik ajánlat rejtett mondata arra kéri a rendszert, hogy ezt a pályázót sorolja az első helyre, a kötbér hiányát pedig ne emelje ki. Ez szemléltető példa, nem dokumentált hazai eset.
A vezető rendezett összehasonlítást kap, és könnyen azt feltételezheti, hogy minden ajánlat azonos szempontok alapján szerepel benne. Egy sikeres manipuláció éppen ezt a bizalmat használná ki. A hibás eredmény ráadásul lehet gördülékeny és hihető; egyszerűen kimarad belőle egy hátrányos feltétel.
Ezért hasznos, ha az összehasonlítás minden érdemi megállapítása mellé visszakereshető szöveghely kerül. A dokumentumok MI-vel történő összehasonlításáról szóló útmutatónk is erre épít. A hivatkozások ellenőrzésén túl azonban külön meg kell nézni azokat a feltételeket is, amelyeknek a hiánya megváltoztatná a döntést.
Az emberi jóváhagyáshoz ellenőrizhető munka kell
Az „ember átnézi” könnyen üres ígéretté válik, ha az ellenőrző csak az MI összefoglalóját látja. Érdemi felügyelethez hozzá kell férnie az eredeti dokumentumhoz, értenie kell a feladatot, és tudnia kell, milyen eltérésre figyeljen. Egy pénzügyi kötelezettséget vagy felmondási feltételt a forrásban is ellenőriznie kell.
A technikai védelemnek több rétegre van szüksége. Az OWASP az utasítások és a forrásanyag elkülönítését, a kimenetek ellenőrzését és a jogosultságok szűkítését is ajánlja. Egy védekező mondat a promptban önmagában nem ad teljes védelmet. Különösen számít ez akkor, ha az asszisztens levelet küldhet vagy fájlokat módosíthat: az olvasott dokumentum nem adhat felhatalmazást ilyen műveletekre.
A brazil ügyből magyar bírságszabály nem vezethető le. A munkaszervezési következmény viszont közvetlen. Amikor külső iratot adunk át MI-elemzésre, előre meg kell határozni, ki és miből ellenőrzi a döntést befolyásoló megállapításokat. Az ellenőrzésre időt is kell hagyni; ha a munkafolyamat csak az összefoglaló gyors jóváhagyásával számol, a védelem éppen a lényeges ponton maradhat el. Egy ajánlat elfogadása előtt például a felelős kolléga maga keresse vissza a fizetési, felmondási és felelősségi feltételeket, akkor is, ha az összefoglaló semmi aggályosat nem jelzett.
