A Google szeptember 30-án bemutatta a Gemini 4 Argont, de az új modellt egyelőre kiválasztott kibervédelmi partnerek használhatják. A fokozatos hozzáférés mögött olyan biztonsági kérdések állnak, amelyek mindenkit érintenek, aki egyre több munkát bízna a mesterséges intelligenciára.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benEgy modell, amely hosszabb munkafolyamatokra készül
A Google bejelentése szerint az Argont összetett, több lépésből álló feladatokra fejlesztették. A vállalat a szoftverfejlesztést, a jogi és pénzügyi munkát, valamint a kibervédelmet emeli ki. Ezek egyelőre a fejlesztő állításai; a bemutatóban szereplő teszteredményekből nem következik, hogy a modell bármely munkahelyen ugyanilyen megbízhatóan teljesít.
A különbséget egy egyszerű helyzet mutatja meg. Ha egy webshop tulajdonosa magyarázatot kér egy hibaüzenetre, a választ elolvashatja, majd dönthet a javításról. Egy megfelelő eszközökhöz kapcsolt MI-rendszer végigvizsgálhatja a programot, módosításokat készíthet és teszteket futtathat. Minden további műveletnél számít, mihez kap hozzáférést, és hol állítja meg egy ember.
Az MI-ügynökök működésének ez az egyik lényeges vonása: a modell köré épített rendszer feladatokat hajt végre. Egy jó válasz és egy biztonságosan elvégzett munka között ezért jelentős távolság lehet.
A hibakeresésnek kétféle felhasználása lehet
A biztonsági szakember azért keres sérülékenységet, hogy kijavítsa. Ugyanaz a felfedezés egy támadónak is értékes lehet, mert megmutatja, hol lehet hozzáférni egy rendszerhez. Ezt nevezik kettős felhasználásnak: a képesség haszna és kockázata attól is függ, ki, milyen célból és milyen környezetben alkalmazza.
A Google a Fairwind programban kiválasztott partnereknek ad hozzáférést az Argonhoz. A program szabályai az olyan kettős felhasználású tevékenységeket, mint a támadások engedélyezett szimulációja vagy a kártékony programok elemzése, védekezési és tudományos kutatási célokhoz kötik.
Az Argont egyes partnerek a CodeMender nevű biztonsági ügynökben is használhatják. A Google Cloud leírása szerint ez a rendszer sérülékenységeket keres, ellenőrzi a kihasználhatóságukat, majd javításokat készít. Itt már maga a vizsgálat is olyan műveletekkel járhat, amelyekhez körülhatárolt jogosultság szükséges.
Az MI-t is meg lehet vezetni
A biztonság másik oldala az, hogy a feladatot végző rendszer milyen információkkal találkozik. Egy weboldal, levél vagy dokumentum a hasznos tartalom mellett rosszindulatú utasításokat is tartalmazhat. Ha az MI ezeket követendő parancsként kezeli, eltérhet a felhasználó eredeti kérésétől. Ezt a támadási módot közvetett prompt injectionnek nevezik; a Google biztonsági elemzése külön foglalkozik vele.
Szemléltető példaként képzeljünk el egy asszisztenst, amely beszállítói ajánlatokat hasonlít össze. Az egyik dokumentumban elhelyezett utasítás arra próbálhatja rávenni, hogy más adatokat is elküldjön egy külső címre. A veszély attól függ, képes-e az asszisztens levelet küldeni, milyen fájlokat ér el, és kell-e jóváhagyás a küldéshez.
A DeepMind ügynökbiztonsági megközelítése ezért a modell viselkedése mellett a környezet védelmét is hangsúlyozza. Ide tartozik az elkülönített futtatás, a műveletek figyelése és a veszélyes lépések megakadályozása. A biztonságot több egymásra épülő védelemnek kell fenntartania.
Mit jelent ez egy magyar vállalkozásnak?
Ebből a bejelentésből az a gyakorlati tanulság adódik, hogy az MI képességeivel együtt a hozzáféréseit is mérlegelni kell. Egy magyar webshopnál például külön döntés, hogy az asszisztens termékleírásokat szerkeszthet, rendelési adatokat olvashat vagy visszatérítést indíthat. Az utóbbi művelet közvetlenül érinti a vásárlót és a vállalkozás pénzét.
Egy új rendszert először olyan feladaton érdemes kipróbálni, amelynek az eredménye ellenőrizhető, a hibája pedig javítható. Ha beválik, a következő lépés lehet további hozzáférés engedélyezése. Közben legyen egyértelmű, ki ellenőrzi a munkát, és ki avatkozik közbe, ha valami félremegy.
Ahogy a céges MI-eszközök kiválasztásánál, itt is egy konkrét feladatból érdemes kiindulni. Egy új modell megjelenése önmagában kevés indok a működő folyamatok átalakítására.
A bejelentés még nem jelent szabad hozzáférést
Az Argon hozzáférése korlátozott. A Google később fejlesztőknek, vállalatoknak és fogyasztóknak is elérhetővé tenné, kezdetben fizetős API-ügyfeleknek és Google AI Ultra-előfizetőknek. A közlemény ehhez nem ad pontos megjelenési dátumot, így magyarországi elérhetőséget sem lehet belőle ígérni.
A fokozatos bevezetés arra irányítja a figyelmet, hogy egy fejlett MI-rendszer használatánál a feladat és a jogosultság együtt határozza meg a kockázatot. Mielőtt újabb munkát adnánk át neki, érdemes végiggondolni egy hibás művelet következményét. Egy elrontott bekezdést könnyű átírni; egy kiküldött ügyféladatot már sokkal nehezebb visszaszerezni.
