Az Egyesült Államok és Kína formalizált párbeszédet indít a mesterséges intelligencia biztonsági kockázatairól, és Scott Bessent amerikai pénzügyminiszter szerint külön kommunikációs vonalat is létrehoznak súlyos MI-incidensek esetére. Ezek szerint a két technológiai nagyhatalom már olyan helyzetekre készül, amelyekben egy MI-rendszer hibája vagy visszaélésszerű használata államközi egyeztetést tehet szükségessé.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benMire szolgálna az MI-incidensvonal?
Az amerikai és a kínai delegáció szeptember 20-án New Yorkban tárgyalt egymással. Az amerikai oldalt Scott Bessent pénzügyminiszter, a kínait Ho Li-feng miniszterelnök-helyettes vezette. Kína hivatalos összefoglalója megerősítette, hogy a gazdasági és kereskedelmi kérdések mellett mesterséges intelligenciával kapcsolatos témákról is párbeszéd zajlott.
Bessent ennél részletesebben beszélt az eredményről. Azt mondta, a két fél formalizált MI-párbeszédben és egy külön „incident line”, vagyis incidensvonal létrehozásában állapodott meg. Ezen keresztül olyan biztonsági eseményekről kommunikálhatnának, amelyek már a két állam közvetlen figyelmét igénylik. A következő egyeztetést várhatóan körülbelül két hónap múlva, Sencsenben tartják.
Az elgondolás a válságkommunikáció ismert logikáját viszi át az MI területére. Egy ilyen csatorna nem a lakosság vagy a cégek számára nyitott segélyvonal lenne, hanem kormányzati kapcsolattartási pont, amely csökkentheti annak esélyét, hogy egy súlyos technikai eseményt félreértsenek vagy késve kezeljenek. Ehhez azonban előbb közös nyelv kell: ugyanazt kell érteni azon, hogy mi számít súlyos incidensnek, és mikor indokolt a másik fél értesítése.
A részletek még hiányoznak. Nincs nyilvánosan ismert közös protokoll arról, milyen esemény aktiválná a csatornát, kinek kellene jeleznie, illetve milyen információt osztanának meg egymással. A kínai hivatalos közlemény az incidensvonalat külön nem említi, ezért ennek konkrét formája jelenleg Bessent beszámolójából ismert.
Milyen MI-kockázatról beszél két nagyhatalom?
Bessent példaként az ellenőrizhetetlenné váló MI-ügynököket és a nem állami, köztük kiberbiztonsági szereplők által okozott veszélyeket említette. A tervezett további tárgyalások egyik feladata az lehet, hogy a két ország közelebb kerüljön ahhoz, mit sorolnak a legfontosabb MI-veszélyek közé.
Ez jelentős változás az MI-biztonság kezelésében. A téma néhány éve még főként kutatólaborok, technológiai vállalatok és szabályozók körében jelent meg.
Most két versengő nagyhatalom külön kommunikációs mechanizmust készít elő arra az esetre, ha egy MI-hez kapcsolódó esemény nemzetbiztonsági jelentőségűvé válik.
Kína saját nyilvános álláspontjában is egyre hangsúlyosabban beszél a kockázatkezelésről. A kínai külügyminisztérium szeptember 15-én közölte, hogy az ország komolyan veszi az MI közvetlen és másodlagos kockázatait, és a biztonsági garanciák erősítését tartja szükségesnek. A két ország megközelítése számos ponton eltér, a mostani egyeztetés mégis azt mutatja, hogy bizonyos incidenseknél mindkét fél értelmét látja a közvetlen kommunikációnak.
Miért érdekes ez Magyarországról nézve?
Önmagában az amerikai–kínai incidensvonalból nem következik magyar jogi kötelezettség. A fejlemény mégis ugyanabba az irányba mutat, amely Európában is látható. Az MI-biztonság része az incidensek felismerése, dokumentálása, jelentése és kivizsgálása.
Az EU AI Act 73. cikke például a magas kockázatú MI-rendszerek szolgáltatói számára súlyos incidensek bejelentését írja elő az illetékes piacfelügyeleti hatóság felé; hogy ez egy konkrét rendszerre mikortól és milyen átmeneti szabályokkal alkalmazandó, az adott rendszer besorolásától is függ. Az AI Act magyarországi alkalmazási keretéről korábban külön cikkben írtunk. MI-szabályozás 1. rész – Mit jelent az AI Act Magyarországon?
A nagyhatalmi incidensvonal és az európai vállalati jelentési kötelezettség két egészen eltérő szint. Közös bennük, hogy a biztonság működési kérdéssé válik: előre tisztázni kell, mi történik hiba esetén, kinek kell tudnia róla, és hogyan indul el a kivizsgálás.
A részleteken múlik, lesz-e belőle működő rendszer
A megállapodás valódi súlyát a következő hónapok mutatják meg. Egy működő incidensvonalhoz pontos aktiválási feltételek, hitelesített kapcsolattartók és mindkét fél számára értelmezhető eljárás szükséges.
Az már most látható, hogy az MI-biztonság kilépett a technológiai vállalatok belső szabályzatainak világából. Ha az Egyesült Államok és Kína közvetlen kommunikációs csatornát épít az MI-incidensekre, az incidenskezelés egyre inkább a mesterséges intelligencia nemzetközi kormányzásának részévé válik.
