A szuperintelligens MI akkor is súlyos társadalmi kockázatot teremthet, ha pontosan követi az emberi utasításokat. Ilyenkor a hatalom azoknál összpontosul, akik meghatározzák a rendszer céljait és felhasználási módját. Ez a cikk azt vizsgálja, ki ellenőrizheti majd az ellenőrzőket.
Az engedelmes MI is lehet veszélyes
Daniel Kokotajlo, az OpenAI korábbi kutatója és az AI Futures Project alapítója két külön kockázatot azonosít. Az egyik szerint a fejlett MI céljai eltérhetnek az emberi szándéktól, ezért a rendszer fokozatosan kikerülhet az ellenőrzés alól. A másik esetben engedelmes marad, de csak egy szűk vállalati vagy politikai vezetői körnek.
Ez a változat kevésbé látványos, mégis komoly demokratikus problémát vet fel. Egy rendkívül fejlett rendszer kutatók, programozók, stratégák és elemzők munkáját végezheti el egyszerre, rengeteg párhuzamos példányban. Kokotajlo ezért beszél az adatközpontokban működő géniuszok hadseregéről.
Az MI-hatalomkoncentráció azt jelenti, hogy a gazdasági, tudományos és politikai döntések befolyásolásához szükséges gépi intelligencia aránytalanul kevés szereplő ellenőrzése alá kerül.
A koncentráció már elkezdődött
A szuperintelligencia létrejötte bizonytalan, az odavezető infrastruktúra koncentrációja viszont ma is mérhető. Az International AI Safety Report 2026 szerint egyetlen MI-vállalat egy adott időpontban a világ adatközpontjaiban működő MI-chipjeinek 10–40 százalékát is birtokolhatja. A legfejlettebb modellek betanítása százmillió dolláros nagyságrendű költséget jelenthet.
A piac ezért kevés szereplőnek kedvez. A megfelelő chipekhez, energiához, adatokhoz, kutatókhoz és felhő-infrastruktúrához csak néhány vállalat fér hozzá kellő méretben. Ezek a cégek ráadásul a nyilvánosan elérhető modelleknél fejlettebb belső rendszereket használhatnak, így a hatóságok és a külső kutatók késve érzékelhetik a technológia tényleges képességeit.
Aki elsőként gyorsítja fel MI-vel a saját kutatását, hamarabb építheti meg a következő modellt is. A fejlődés ettől önmagát erősítő folyamattá válhat, a versenytársak és a szabályozók pedig egyre nehezebben követhetik.
Több ezer szakértő egyetlen tulajdonos kezében
Az emberi szakértők száma véges. Egy digitális szakértőből annyi példány futtatható, amennyit az infrastruktúra elbír. Ha egy rendszer eléri a legjobb emberi kutatók vagy stratégák szintjét, a tulajdonosa több ezer, összehangoltan dolgozó szakértő teljesítményével rendelkezhet.
Ekkora kapacitás gyorsabb termékfejlesztést, pontosabb piaci elemzést és hatékonyabb kutatást tesz lehetővé. Ugyanez használható tömeges kommunikációra, kiberműveletekre vagy katonai tervezés támogatására. Egy ilyen vállalat befolyásolhatja, milyen információ jut el az emberekhez, mely kutatási irányok kapnak erőforrást, és mely országok férnek hozzá a legerősebb rendszerekhez.
Az AI 2027 ezt egy lehetséges forgatókönyvben mutatja be, ezért a történet eseményeit nem érdemes jóslatként kezelni. A felvetett probléma azonban valós: ha egy MI-cég nélkülözhetetlenné válik egy állam gazdasági vagy katonai versenyképességéhez, a kormány függő helyzetbe kerülhet vele szemben. A technológiai hatalom így vállalati és állami alkuk tárgyává válhat, miközben a társadalom beleszólása alig növekszik.
A hagyományos piaci és demokratikus fékek ilyen helyzetre csak részben alkalmasak. A versenyjog lassan reagálhat, a parlamentek gyakran kevesebb technikai információval rendelkeznek, mint a felügyelt vállalatok, a nyilvánosság pedig többnyire csak a már kiadott termékeket látja. Mire egy rendszer hatása bizonyíthatóvá válik, a gazdasági függőség is kialakulhat.
Mit tud kezelni az EU MI-rendelete?
Az EU MI-rendelete külön kötelezettségeket ír elő a rendszerszintű kockázatot hordozó általános célú MI-modellek szolgáltatóinak. Értékelniük és csökkenteniük kell a kockázatokat, dokumentációt kell készíteniük, megfelelő kiberbiztonságot kell kialakítaniuk, és jelenteniük kell a súlyos eseményeket. Az Európai Bizottság tájékoztatása szerint jelenleg csak néhány vállalat fejleszt ilyen képességű modelleket.
A rendelet fontos biztonsági és átláthatósági követelményeket teremt. Arról viszont nem dönt, ki birtokolhatja a legfejlettebb rendszereket, hogyan oszlik meg az általuk termelt gazdasági haszon, és milyen társadalmi beleszólás kapcsolódjon a használatukhoz.
Magyarországról ez különösen fontos. A hazai vállalatok és intézmények többnyire külföldi szolgáltatók rendszereire építenek. Hozzáférést vásárolhatunk, miközben csekély befolyásunk marad a fejlesztési célokra, a feltételekre vagy a szolgáltatás jövőjére.
Ez a függőség hétköznapi üzleti kockázatként is megjelenik. Egy szolgáltató módosíthatja az árait, a használati feltételeit, a modell működését vagy akár a hozzáférés területi szabályait. Minél több alapvető munkafolyamat épül ugyanarra a rendszerre, annál nehezebb gyorsan szolgáltatót váltani.
A technikai biztonságnál több kell
Egy fejlett MI-rendszer értékelésekor négy kérdésre kell választ keresni:
- Ki rendelkezik a modellel és a futtatásához szükséges infrastruktúrával?
- Ki határozza meg a céljait és a hozzáférés szabályait?
- Ellenőrizhetik-e független szereplők a valódi képességeit?
- Hogyan részesül a társadalom az általa létrehozott előnyökből?
A biztonságos működés alapfeltétel, de önmagában kevés. Egy tökéletesen engedelmes rendszer sem megnyugtató, ha kizárólag olyan embereknek engedelmeskedik, akik felett nincs érdemi társadalmi ellenőrzés.
