Egy hibás MI-válasz vagy egy kieső szolgáltatás megmutathatja, mennyire tudunk még önállóan dolgozni, ellenőrizni és alkalmazkodni. Balogh Péter ezredest az AIéjszakája előtt arról kérdeztük, mit tanítanak a katonai tapasztalatok a technológiai ellenálló képességről, és hogyan használhatjuk ezt a tudást a munkahelyünkön vagy a hétköznapokban.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benA katonai felderítéstől az MI ellenőrzéséig
Balogh Péter közel négy évtizedes katonai pályafutása során a híradástól a felderítésen át a kiberműveletekig több szakterületen dolgozott, és külföldi műveletekben is részt vett. Az Óbudai Egyetemen a civil és katonai célokra egyaránt használható technológiákkal, a kritikus infrastruktúrák védelmével és a technológiai rezilienciával foglalkozik. Ez utóbbi azt jelenti, hogy egy rendszer támadás, meghibásodás vagy más súlyos zavar esetén is képes fenntartani alapvető működését. A beszélgetésben ennek emberi oldaláról is szó esik – megmarad-e a feladat elvégzéséhez szükséges tudásunk, ha a technológiai segítség elérhetetlenné válik?
mivagyunk.hu: Közel négy évtizedes katonai pályafutása során a felderítéstől a kibervédelemig számos területen dolgozott. Mikor vált az Ön számára kézzelfoghatóvá, hogy a mesterséges intelligencia alapvetően megváltoztatja ezt a munkát (is)? Volt olyan tapasztalata, amely a technológiáról vagy az ember szerepéről alkotott gondolkodását is átformálta?
Balogh Péter: Katonai pályafutásomat híradó tisztként kezdtem, később az elektronikai hadviselés, a rádiófelderítés, a katonai felderítés, majd a kiberműveletek területén dolgoztam. Kétszer szolgáltam Afganisztánban, kétszer Irakban, és megfordultam Maliban is. Ezekben a műveleti környezetekben megtanultam valamit, ami ma, a mesterséges intelligencia korában talán még fontosabb: az információ önmagában nem jelent tudást, a tudás pedig nem feltétlenül vezet helyes döntéshez.
Afganisztánban és Irakban sokszor nem az jelentette a legnagyobb problémát, hogy kevés információnk volt, hanem az, hogy a különböző forrásokból érkező információkat időben össze tudjuk-e kapcsolni, meg tudjuk-e állapítani a megbízhatóságukat, és képesek vagyunk-e helyes következtetéseket levonni belőlük.
Egy rádiófelderítési információ, egy járőr jelentése, egy légi felderítési adat vagy a helyi lakosságtól származó értesülés külön-külön egészen más képet mutathatott. A parancsnoknak azonban nem különálló információkra, hanem a helyzet lehető legpontosabb értelmezésére volt szüksége.
A gép téves összefüggéseket is meggyőzően mutathat be
A mesterséges intelligencia jelentőségét számomra az tette igazán kézzelfoghatóvá, amikor világossá vált, hogy a korábban jelentős emberi kapacitást és időt igénylő információfeldolgozás, mintázatfelismerés és összefüggés-elemzés egyre nagyobb része gépi támogatással végezhető el.
A változás azonban nem egyszerűen a feldolgozás felgyorsulása. Az MI olyan összefüggéseket is felismerhet, amelyek az emberi elemző figyelmét elkerülnék. Ugyanakkor téves összefüggéseket is meggyőzően mutathat be.
A katonai felderítésben megtanultam, hogy a forrás megbízhatóságát és az információ hitelességét külön kell értékelni. Ez az MI esetében is alapvető követelmény.
Ami a gondolkodásomat leginkább formálta, az nem egyetlen technológiai áttörés volt, hanem a műveleti tapasztalatokból levont felismerés: a technológia támogathatja, gyorsíthatja és javíthatja az emberi döntést, de nem veheti át automatikusan a döntéssel járó felelősséget.
A mesterséges intelligencia korában ezért szerintem nem az a legfontosabb kérdés, hogy mit tud a gép, hanem az, hogy az ember képes-e megérteni, ellenőrizni és szükség esetén felülbírálni azt.
Hol húzódik az MI iránti bizalom határa?
mivagyunk.hu: Ma az Óbudai Egyetemen a civil és katonai célokra egyaránt használható technológiák fejlesztésével is foglalkozik. A saját munkájában mire használ MI-t, és hogyan dönti el, hogy egy eredményére már lehet szakmai döntést alapozni? Egy konkrét példán keresztül is megmutatná, hol húzza meg a bizalom határát?
Balogh Péter: Az Óbudai Egyetemen elsősorban a kettős felhasználású technológiákkal, a kritikus infrastruktúrák védelmével és a technológiai rezilienciával foglalkozom. A doktori kutatásom középpontjában is ez utóbbi áll: hogyan képes egy technológiai rendszer fenntartani alapvető működését akkor is, amikor támadás, meghibásodás vagy más súlyos zavar éri.
A mesterséges intelligenciát rendszeresen használom szakirodalmi kutatásra, nagy mennyiségű információ rendszerezésére, különböző technológiai megoldások összehasonlítására, kutatási hipotézisek kritikai vizsgálatára és lehetséges forgatókönyvek kidolgozására.
Számomra az MI elsősorban egy rendkívül gyors kutatási és elemzési asszisztens, nem pedig tévedhetetlen szakértő.
A 72 órás működőképességet bizonyítani kell
Mondok egy példát. Tegyük fel, hogy egy katonai egészségügyi létesítmény vagy egy kritikus infrastruktúra energiaellátásának ellenálló képességét vizsgáljuk. A rendszer rendelkezik hagyományos hálózati betáplálással, akkumulátoros energiatárolással, esetleg hidrogénalapú kiegészítő energiaforrással. Az MI segíthet különböző meghibásodási forgatókönyvek összeállításában, a technológiai függőségek feltérképezésében és annak elemzésében, hogy egy-egy komponens kiesése milyen további következményeket okozhat.
De ha az MI azt állítja, hogy a rendszer 72 órán keresztül önállóan működőképes marad, ezt nem fogadom el pusztán azért, mert meggyőzően fogalmazta meg. Meg kell vizsgálni az energiafogyasztási adatokat, a tárolókapacitást, a műszaki korlátokat, a terhelési profilokat és a rendszer tényleges működését. Szükség esetén szimulációval és gyakorlati tesztekkel kell ellenőrizni az eredményt.
A bizalom határát ott húzom meg, ahol az MI által előállított következtetésből valós működési, biztonsági vagy emberi következményekkel járó döntés lesz. Minél nagyobb egy téves döntés lehetséges következménye, annál erősebb bizonyítékot és emberi ellenőrzést követelek meg.
Katonaként ezt úgy tanultam meg, hogy a parancsnok meghallgatja a törzsét, mérlegeli a felderítési adatokat, de a döntésért végül ő felel. Az MI korában ezt az alapelvet nem szabad feladnunk.
Egy kibertámadás tanulsága a magyar vállalkozásoknak
Az orosz-ukrán háború
mivagyunk.hu: Előadásában az orosz–ukrán háború tapasztalataiból is merít. Melyik nyilvánosan megismerhető eset mutatja meg legjobban, mit jelent a gyakorlatban a technológiai ellenálló képesség? Mi az a tanulság, amelyet ebből egy magyar vállalkozás vagy intézmény is hasznosíthat?
Balogh Péter: Számomra az egyik legtanulságosabb eset a 2022. február 24-én, az Ukrajna elleni teljes körű orosz invázió kezdetén végrehajtott, a Viasat KA-SAT műholdas kommunikációs szolgáltatását érintő kibertámadás. A támadás nem csupán Ukrajnában okozott kommunikációs zavarokat, hanem más európai országokban is jelentkeztek következményei. Jól megmutatta, hogy a modern technológiai rendszerek mennyire összekapcsolódnak, és hogy egy katonai célú műveletnek milyen jelentős civil hatásai lehetnek.
A történet számomra különösen érdekes, mert katonai pályafutásom során sokat foglalkoztam híradással, elektronikai hadviseléssel és a katonai vezetési rendszerek működőképességével.
Afganisztánban és Irakban is alapvető követelmény volt, hogy a kommunikáció ne egyetlen technológiai megoldástól függjön. Ha egy rádiókapcsolat nem működött, másik frekvenciára, más kommunikációs eszközre vagy alternatív eljárásra volt szükség.
A modern hadviselésben ez a probléma sokkal összetettebbé vált. Ma már nemcsak egy rádiófrekvencia zavarható, hanem a műholdas kommunikáció, a helymeghatározás, a felhőszolgáltatás, az adatközpont vagy akár az energiaellátás is kieshet.
A technológiai reziliencia lényege ezért nem az, hogy minden támadást meg tudunk akadályozni. Ez irreális cél lenne. A valódi reziliencia azt jelenti, hogy a rendszer egyes elemeinek kiesése nem vezet automatikusan a teljes feladat végrehajtásának meghiúsulásához.
Termelni internet és felhőszolgáltatás nélkül is
Ez a magyar vállalkozások és intézmények számára is közvetlen tanulság. Egy gyártóvállalatnak például nemcsak azt kell tudnia, hogy mennyire biztonságos az informatikai hálózata, hanem azt is, hogy képes-e termelni, ha kiesik az internetkapcsolat, a felhőalapú vállalatirányítási rendszer vagy egy kritikus beszállító.
Van-e tartalék kommunikáció? Vannak-e offline működési eljárások? Képesek-e az alkalmazottak manuálisan végrehajtani bizonyos feladatokat? Rendszeresen gyakorolják-e a helyreállítást?
A legfontosabb tanulságot egy mondatban foglalnám össze: Nem az a kérdés, hogy érhet-e bennünket támadás vagy meghibásodás, hanem az, hogy akkor is képesek leszünk-e elvégezni a feladatunkat.
Amikor a tartalék megoldás az emberi tudás
mivagyunk.hu: Az „AI-reziliencia” első hallásra távoli szakkifejezésnek tűnhet. Ha egy érdeklődő úgy ül be az előadására, hogy „engem ez aligha érint”, milyen hétköznapi helyzettel mutatná meg neki az ellenkezőjét? Milyen felismerést szeretne, hogy hazavigyen, és annak hatására min változtasson először?
Balogh Péter: Képzeljük el, hogy valaki az autójával egy számára ismeretlen városba utazik. A navigációs alkalmazás mesterséges intelligenciával támogatott szolgáltatásokat használ, és folyamatosan javaslatokat tesz a leggyorsabb útvonalra. Az autós egy idő után annyira megbízik benne, hogy már a közlekedési táblákra és a környezetére is kevésbé figyel. Egyszer azonban a rendszer hibás információt kap, vagy olyan útvonalat ajánl, amely a valóságban nem járható.
Mi történik akkor, ha a vezető már nem képes önállóan tájékozódni? Pontosan ez az egyik legnagyobb kihívás a mesterséges intelligenciával kapcsolatban.
A technológia rendkívül hasznos, de ha kritikátlanul rábízzuk magunkat, fokozatosan elveszíthetjük azokat a képességeinket, amelyekre a rendszer hibája esetén szükségünk lenne.
Mi történik, ha a munkahelyi MI téved?
Ugyanez történhet a munkahelyünkön is. Egy MI-alapú rendszer elkészíti az elemzést, megírja a jelentést, javaslatot tesz egy beruházásra vagy értékeli egy állásra jelentkező pályázó alkalmasságát. De mi történik, ha téved? Ki veszi észre? Ki képes megkérdőjelezni a következtetését? A katonai világban erre van egy régi, ma is érvényes alapelv: mindig rendelkeznünk kell tartalék megoldással. A kommunikációban ezt gyakran a PACE-elvvel írjuk le: elsődleges, alternatív, szükséghelyzeti és végső tartalék kommunikációs megoldás.
Szerintem ezt a gondolkodást az MI használatára is érdemes kiterjeszteni. Az AI-reziliencia nemcsak azt jelenti, hogy a mesterségesintelligencia-rendszer ellenáll a támadásoknak vagy meghibásodásoknak. Azt is jelenti, hogy az ember és a szervezet képes biztonságosan működni akkor is, ha a gép hibázik, félrevezető eredményt ad, vagy egyszerűen nem áll rendelkezésre.
Azt szeretném, ha az előadásom után mindenki feltenné magának a kérdést: ha holnap nem működne az az MI-eszköz, amelyre ma támaszkodom, képes lennék-e nélküle is megfelelően elvégezni a feladatomat? És egy nagyon egyszerű változtatással kezdeném: ne fogadjunk el automatikusan egyetlen MI-választ sem csak azért, mert magabiztosan, jól strukturáltan és meggyőzően hangzik.
Ki irányítja a technológiát?
mivagyunk.hu: Mi az az egy kérdés, amit Ön szerint mindenkinek fel kellene tennie magának az MI korában?
Balogh Péter: „Én irányítom még a technológiát, vagy már a technológia irányít engem?”
Közel negyven év katonai szolgálat után számomra ez a mesterséges intelligencia korának egyik legfontosabb kérdése. Afganisztánban és Irakban megtanultam, hogy a legkorszerűbb technológia sem helyettesítheti az emberi ítélőképességet, a felelősséget és a helyzethez való alkalmazkodás képességét.
A mesterséges intelligencia ma már sok mindenben gyorsabb és bizonyos feladatokban jobb lehet nálunk. De ettől még nem szabad lemondanunk az önálló gondolkodásról.
A jövő nem azoké lesz, akik minden döntést átadnak a mesterséges intelligenciának, hanem azoké, akik megtanulnak vele együttműködni úgy, hogy közben megőrzik az ellenőrzést, a kritikai gondolkodást és a felelősséget. Számomra ez a technológiai reziliencia emberi oldala is: nemcsak a rendszereinknek, hanem nekünk magunknak is ellenállóbbá és alkalmazkodóképesebbé kell válnunk.
Az AIéjszakája 2026. november 27-én Veszprémben várja az érdeklődőket. Az eseményhez kapcsolódó további beszélgetéseket és tudnivalókat az AIéjszakája 2026 gyűjtőoldalán találod.
