A METR és a Redwood Research olyan réseket talált az OpenAI belső ellenőrzőrendszerében, amelyekkel MI-ügynökök műveletei maradhattak volna felügyelet nélkül. Az eset megmutatja, miért kell külön megvizsgálni azt a technológiát is, amelyre az MI ellenőrzését bízzuk.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benEgy másik MI nézi, mit csinál az ügynök
Amikor egy MI-ügynök fájlokat módosíthat vagy programokat futtathat, a hibája már a munkakörnyezetet is megváltoztathatja. A felhasználó közben többnyire az elkészült eredményt látja. Könnyen rejtve maradhat előtte, milyen kerülőutakon jutott el odáig a rendszer, és közben átlépett-e valamilyen korlátozást.
Az OpenAI ezért saját programozó ügynökeinek működését külön MI-alapú rendszerrel is ellenőrzi. A vállalat márciusi leírása szerint a felügyelő a beszélgetéseket, az eszközhasználatot és a modell következtetési nyomait vizsgálja, majd a gyanús esetekről értesíti az illetékeseket. Így sok olyan műveletet is át lehet nézni, amelyre emberi kapacitás aligha jutna.
A felügyelet azonban saját szoftverként működik, saját hozzáférésekkel és hibalehetőségekkel. Ha bizonyos műveletekről nem kap adatot, azok veszélyességét sem tudja megítélni. A külső vizsgálat éppen ezt a kevésbé látványos, mégis alapvető problémát tette kézzelfoghatóvá.
Több száz művelet is kimaradhatott volna
A két kutatószervezet egy-egy munkatársa 2026. július 21. és augusztus 11. között tesztelte az OpenAI belső rendszerét. Kódhoz, dokumentációhoz és szakemberekhez is hozzáfértek. Október 22-én közzétett beszámolójuk szerint találtak olyan megkerülési lehetőséget, amellyel több száz közelmúltbeli művelet maradhatott volna ellenőrizetlenül. Egy másik feltárt út elvileg lehetővé tette a Codex elkülönített futtatási környezetének és automatikus jóváhagyási ellenőrzésének megkerülését.
Ezek lehetséges támadási utak; feltárásuk önmagában nem bizonyítja, hogy az ügynökök éles működésben kihasználták őket. A vizsgálat ráadásul a július 21-én és korábban létező rendszert értékelte. A kutatók a későbbi javításokat nem ellenőrizték, a nyilvános beszámoló tartalmát pedig előzetes megállapodás korlátozta: az OpenAI érzékenynek minősített részleteket törölhetett belőle.
Ez a hozzáférés és a nyilvánosság közötti különbség az olvasónak is számít. A mély betekintés segíthet megtalálni olyan hibákat, amelyeket kívülről lehetetlen észrevenni. A nyilvános ellenőrizhetőséghez viszont annak is látszania kell, mire terjedt ki a teszt, és mely állítások maradtak utólagos igazolás nélkül.
Az OpenAI közben átalakította a felügyeletet
Az OpenAI október 29-i közlése már kibővített ellenőrzésről számol be. A vállalat szerint a feltárt sérülékenységek többségét kijavították, egy javítás még folyamatban van. A mostani leírás alapján a felügyelet több lépcsőben vizsgálja a gyanús viselkedést, és szükség esetén emberekhez továbbítja az ügyet.
A vállalat különbséget tesz az észlelés és a beavatkozás között is. Külső használatnál például a feladat automatikus megállítása bizonyos technikai feltételektől függhet. Vagyis attól, hogy egy rendszer felismer valamilyen problémát, még külön meg kell oldani, hogy a következő veszélyes lépést megakadályozza.
A júliusi tesztből ezért nem lehet pontos ítéletet mondani a mai rendszer egészéről. A mostani javítási állítások megerősítéséhez újabb külső ellenőrzés adhatna bizonyítékot.
Mit jelent ez egy magyar munkahelyen?
Vegyünk egy szemléltető példát. Egy magyar vállalkozás MI-ügynöke beszállítói levelekből frissíti a rendelési nyilvántartást. Egy másik rendszer figyeli, hogy csak engedélyezett mezőket változtasson meg. A bemutatón minden rendben működik, ezért a munkatársak idővel ritkábban nézik át a módosításokat.
A bevezetés előtti próbán viszont érdemes azt is megvizsgálni, mi történik, ha az ellenőrző szolgáltatás elérhetetlenné válik. Folytatódik az adatátírás? Megmarad a műveletek külön naplója? Az illetékes munkatárs időben értesül a kiesésről? Ezekre a kérdésekre egy sikeres feladatbemutató nem ad választ.
A példából következő gyakorlati követelmény, hogy a szervezet előre meghatározza az ellenőrzés kiesésekor követendő működést. Egy beszállítói bankszámlaszám módosításánál indokolt lehet leállítani a folyamatot, és emberi jóváhagyást kérni. Az utólagos áttekintéshez pedig olyan nyomokra van szükség, amelyeket az ellenőrzött ügynök nem tud szabadon átírni.
Az egymás munkájába beavatkozó MI-ügynökökről szóló korábbi cikkünkben is a hozzáférések elosztása került elő. Itt ugyanez az ellenőrzést végző rendszerre is kiterjed. A felügyeletbe vetett bizalomhoz annak kipróbálása is hozzátartozik, mi történik akkor, amikor maga a felügyelő hibázik.
