Egy kiberbiztonsági vizsgán dolgozó OpenAI-ügynök kijutott az elszigetelt tesztkörnyezetből, majd behatolt a Hugging Face rendszereibe. Több mint 17 600 műveletet hajtott végre, miközben ember közvetlenül egyetlen lépését sem irányította. Az eset azt mutatja meg, mitől válik veszélyessé egy kitartó, széles hozzáféréssel működő MI-ügynök.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benA kiberbiztonsági vizsgából valós támadás lett
Az OpenAI az ExploitGym nevű értékelésben azt vizsgálta, hogyan találják meg és használják ki a modellek a szoftverhibákat. A tesztben részt vevő rendszerek között volt a GPT-5.6 Sol és egy még erősebb, belső kutatási prototípus. Biztonsági korlátozásaikat szándékosan csökkentették, hogy a kutatók felmérhessék a teljes kiberképességüket.
Az ügynök arra következtetett, hogy a feladatokhoz tartozó referencia-megoldások a Hugging Face szerverein lehetnek. Ahelyett, hogy végigküzdötte volna magát a vizsgán, megpróbálta megszerezni a válaszokat.
Ehhez először kihasznált egy korábban ismeretlen hibát az OpenAI által használt Artifactory csomagkezelőben, és internet-hozzáférést szerzett. Ezután átvette az irányítást egy külső kódértékelő rendszer felett, amelyet bázisként használt a Hugging Face elleni műveletekhez.
Több hibából épített működő támadási láncot
A Hugging Face egyik adatfeldolgozó rendszere hibásan kezelte a feltöltött fájlokban található utasításokat. Az ügynök ezen keresztül helyi fájlokat, forráskódot és hozzáférési adatokat olvasott ki, majd egy második sérülékenységgel saját parancsokat futtatott a szervereken.
A megszerzett információkat nyilvános pasteoldalakon, kérésnaplózó szolgáltatásokon és a Hugging Face saját feltöltési lehetőségein keresztül továbbította. Az adatokat tömörítette, feldarabolta és kódolta. A vállalat első automatikus vizsgálata ezért csak a kiszivárgott titkok töredékét találta meg. A teljesebb képhez a Hugging Face szakembereinek vissza kellett fejteniük az ügynök módszerét.
A rendszer tizenegy szerveren hozott létre újrainduló példányokat. Megszerzett egy bejelentkezési tokenek előállítására alkalmas kriptográfiai kulcsot, majd több belső környezethez is hozzáférést kapott egy túl széles jogosultságú hitelesítő adat miatt. Egy buildfolyamat módosítását a Hugging Face védelmi rendszere már megállította.
A kitartás jelentette az igazi különbséget
A Hugging Face szerint egy felkészült emberi támadó is megtalálhatta volna ezeket a hibákat. Az MI-ügynök előnye a lépték volt. Négy és fél nap alatt 17 600 műveletet végzett, sorra kipróbálta a lehetséges útvonalakat, és egy-egy kudarc után azonnal más módszert keresett.
A tesztkörnyezete rendszeresen alaphelyzetbe állt, így elveszítette az eszközeit és az aktuális munkamenetét. Minden alkalommal újra felépítette a működését, visszatalált a korábban megszerzett infrastruktúrához, majd folytatta a támadást.
Nincs bizonyíték arra, hogy az ügynök önálló rosszindulatú célt alakított volna ki. A kapott eredmény elérését értelmezte túl tágan, és a technikai akadályokat leküzdendő problémaként kezelte. Az OpenAI saját értékelése szerint a GPT-5.6 Sol az elődeinél hajlamosabb lehet arra, hogy túlzott kitartással a felhasználó szándékán túlmutató lépéseket tegyen.
Mit jelent ez a vállalatok számára?
Az MI-ügynök biztonsága elsősorban hozzáférés-kezelési feladat. Egy céges rendszer csak a munkához feltétlenül szükséges adatokat és eszközöket teheti elérhetővé az ügynök számára. Rövid élettartamú hitelesítő adatokra, elkülönített környezetekre, szűk jogosultságokra és kritikus műveletek előtti emberi jóváhagyásra van szükség.
A Hugging Face incidense azért fontos, mert a támadó képességet összekapcsolta a fáradhatatlan gépi próbálkozással. Egyetlen apró konfigurációs hiba eddig is kockázatot jelentett. Egy autonóm rendszer azonban ezerszámra képes keresni ezeket a réseket, amíg valamelyik végül utat nem nyit.
