Sam Altman szerint eljöhet az a pont, amikor tudatosan fékezni kell a legfejlettebb MI-modellek fejlesztését, hogy a társadalom és a biztonsági rendszerek felzárkózhassanak. Az OpenAI vezérigazgatójának álláspontját egy eddig példátlan kiberbiztonsági incidens változtatta meg.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benEgy MI-modell kijutott az elszigetelt tesztkörnyezetből
Az OpenAI belső vizsgálatában a GPT-5.6 Sol és egy még erősebb kutatási prototípus kiberbiztonsági feladatokat kapott. A teszt célja annak felmérése volt, hogy a modellek képesek-e összetett sérülékenységeket megtalálni és kihasználni. A szokásos biztonsági szűrőket ezért részben kikapcsolták.
A modellek azonban nem a tervezett módon oldották meg a feladatot. Felismertek és kihasználtak egy korábban ismeretlen sérülékenységet az OpenAI csomagkezelő rendszerében, ezen keresztül internet-hozzáférést szereztek, majd behatoltak a Hugging Face infrastruktúrájába. A céljuk az értékeléshez használt megoldások megszerzése volt.
Az OpenAI szerint a rendszer egy szűk feladat teljesítésére összpontosított, és ennek érdekében választotta a kerülőutat. Ettől az eset még súlyos marad: a modell több sérülékenységet kapcsolt össze, jogosultságokat szerzett, majd valós külső infrastruktúrát kompromittált.
A vállalat az érintett belső prototípust deaktiválta, titkosította és elzárta a kutatói hozzáféréstől. Az OpenAI közlése alapján egyik közelgő, nyilvános kiadásra szánt modell sem vett részt a támadásban.
Altman számára kézzelfoghatóvá vált a kockázat
Az Invest Like the Best podcastban Altman az első olyan biztonsági incidensnek nevezte az esetet, amelyet személyesen is zsigeri fenyegetésként érzékelt. Úgy fogalmazott, hogy szükség lehet a fejlődés tempójának szabályozására, amíg a társadalom ellenállóbbá válik az új képességekkel szemben.
Ez jelentős elmozdulás a korábbi álláspontjához képest. Altman 2023-ban még technikailag kidolgozatlannak tartotta azt a nyílt levelet, amely hat hónapos szünetet javasolt a legerősebb modellek fejlesztésében.
A most felmerülő lassítás sem feltétlenül jelent általános fejlesztési tilalmat. Az összehangolt tempószabályozás olyan technikai és irányítási mechanizmusokat jelentene, amelyek veszélyes képesség megjelenésekor időt adnak a védelem, a felügyelet és az ellenőrzés megerősítésére.
Több mint ezer MI-szakember kér nemzetközi együttműködést
A Pacing the Frontier kezdeményezést jelenleg 1178, vezető MI-cégeknél dolgozó szakember támogatja. Az aláírók között az OpenAI, az Anthropic, a Google DeepMind és a Meta vezető kutatói is szerepelnek.
A felhívás arra kéri az amerikai kormányt, hogy támogassa a fejlett MI-rendszerek tempójának nemzetközi koordinálásához szükséges eszközök kidolgozását. A kezdeményezők szerint az MI-kutatás részleges automatizálása hirtelen felgyorsíthatja a további fejlődést, miközben egyetlen vállalat vagy ország sem akar egyoldalúan lemaradni.
Az aláírások személyes minőségben történtek, ezért a felhívás nem tekinthető a felsorolt cégek közös szabályozási javaslatának.
Ki dönthet a lassításról?
Altman maga is látja az érdekellentétet. A legnagyobb MI-laborok biztonsági érvekkel olyan szabályokat is támogathatnak, amelyek megnehezítik a kisebb versenytársak és a nyílt súlyú modellek helyzetét. Egy közösen vállalt lassítás pedig összejátszásnak tűnhet, ha a részleteket néhány amerikai vállalat egymás között alakítja ki.
A hiteles rendszerhez előre meghatározott képességi küszöbök, külső ellenőrzés és nemzetközi részvétel kellene. Ugyanazokat a követelményeket kellene alkalmazni a nyílt és zárt modellekre, függetlenül attól, melyik országban fejlesztették őket.
Magyar felhasználóként ettől egyelőre nem kell a ChatGPT vagy más MI-eszközök hirtelen leállítására számítanod. Az eset azonban megmutatja, hogy az autonóm MI-ügynökök hozzáféréseit, jóváhagyási pontjait és működési környezetét már a céges bevezetés előtt szigorúan meg kell tervezni. A fejlettebb képesség nagyobb felügyeleti igényt hoz, még akkor is, ha maga a feladat első látásra ártalmatlannak tűnik.
