Az MI-ügynökök már képesek szolgáltatásokat kiválasztani, API-kat kipróbálni és vásárlási döntéseket előkészíteni. A gépi pénztárcák megjelenésével hamarosan a fizetést is elvégezhetik. A cégeknek ezért a költési keret mellett felelősségi és jóváhagyási rendszert is ki kell alakítania.
Az MI-ügynök nem válik szerződő féllé
A Cloudflare Wallets terve szerint egy vállalati Account Wallethez több Virtual Wallet kapcsolható majd. Az MI-ügynök API-kulccsal férhet hozzá a saját virtuális pénztárcájához, amelyre költési limit, engedélyezett szolgáltatói lista és tranzakciónkénti maximum állítható be. A teljes szolgáltatás még nem érhető el, jelenleg csak az egyedi Wallet-handle foglalható le a Cloudflare bejelentése szerint.
A technológia önálló műveletvégzésre teszi képessé az MI-ügynököt, jogi személyiséget azonban nem ad neki. Az ügynök nem lesz a vállalat alkalmazottja, képviselője vagy szerződéses partnere a fogalmak jogi értelmében. A tranzakció mögött továbbra is az a személy vagy szervezet áll, amely létrehozta a pénztárcát, feltöltötte pénzzel és hozzáférést adott a rendszernek.
A vállalati MI-ügynök olyan szoftveres végrehajtó, amely előre meghatározott célok és jogosultságok alapján képes külső rendszerekben műveleteket végezni.
A külső következmények a vállalatnál maradnak
Ha egy vállalat létrehoz egy virtuális pénztárcát, elfogadja a szolgáltatási feltételeket és átadja az API-kulcsot az MI-ügynöknek, kifelé a vállalat biztosította a tranzakció lehetőségét. Egy hibás vásárlásnál ezért önmagában kevés érv, hogy a szolgáltatást a modell választotta ki.
Képzelj el egy kutatási ügynököt, amely ötven dolláros keretet kap adatforrások tesztelésére. Az ügynök húsz dollárért megvásárol egy gyenge minőségű adatcsomagot. A tranzakció megfelelt a pénzügyi korlátnak, a vásárlás üzletileg mégis értéktelen. Itt valószínűleg nincs illetéktelen fizetés, mert a rendszer az átadott hozzáféréssel és a beállított kereten belül járt el.
Más helyzetet teremt, ha egy rosszindulatú weboldal rejtett utasítása eltéríti az ügynök működését, majd egy támadó által irányított szolgáltatáshoz küldi a pénzt. Az OWASP az agentikus rendszerek fő veszélyei között említi az ügynök céljának eltérítését, az eszközhasználattal való visszaélést és a túl széles jogosultságokat. Ezeknél a technikai támadás, a hibás rendszerbeállítás és a szolgáltatói védelem hiánya együtt alakíthatja a felelősséget. Az egyedi ügy megítélése a szerződéses feltételektől, az alkalmazott védelemtől és az irányadó jogtól függ. Az OWASP agentikus biztonsági ajánlása ezért a jogosultságok szűkítését már a rendszer tervezésekor szükségesnek tartja.
A költési limit nem helyettesíti a felhatalmazást
Egy százdolláros heti limit azt rögzíti, mekkora lehet a pénzügyi veszteség. Arról nem rendelkezik, hogy az ügynök milyen célból, milyen adatokért vagy mely szerződéses feltételek mellett fizethet.
A pénzügyi jogosultságot ezért legalább az alábbi elemekkel érdemes körülírni:
- milyen terméket vagy szolgáltatást vásárolhat az ügynök;
- mely szolgáltatók szerepelnek az engedélyezett listán;
- mekkora összegig dönthet automatikusan;
- milyen esetekben kell emberi jóváhagyást kérnie;
- milyen adatot adhat át a vásárlás vagy regisztráció során;
- mely esemény váltja ki a pénztárca azonnali leállítását.
Különösen kockázatos az olyan általános utasítás, mint a keresd meg és vedd meg a legjobb adatforrást. A legjobb jelentheti a legolcsóbb, a leggyorsabb vagy a legtöbb adatot kínáló szolgáltatást. Az ügynöknek ebből kellene kikövetkeztetnie, melyik szempont fontos a vállalat számára.
A felhatalmazás használható formája ennél pontosabb. Meghatározhatja például, hogy az ügynök kizárólag uniós szolgáltatótól, legfeljebb tíz euróért, személyes adatot nem tartalmazó, kereskedelmi felhasználásra engedélyezett adatcsomagot vásárolhat.
Minden MI-ügynöknek szüksége van emberi gazdára
A működési felelősség könnyen eltűnik az informatika, a pénzügy, a beszerzés és a felhasználó üzleti területe között. Az informatikai csapat beállítja a hozzáférést, de nem feltétlenül tudja megítélni a vásárlás üzleti indokoltságát. A pénzügy látja az összeget, a megvásárolt adat jogszerűségét vagy minőségét viszont ritkán tudja ellenőrizni.
Minden pénzt költő MI-ügynökhöz ki kell jelölni egy üzleti felelőst. Neki kell meghatároznia az ügynök célját, jóváhagynia a megengedett szolgáltatáskategóriákat és rendszeresen felülvizsgálnia a tranzakciókat. Az informatikai és biztonsági terület ehhez hozzáférés-kezelést, naplózást, riasztást és leállítási lehetőséget biztosít.
A NIST generatív MI-kockázatkezelési profilja szintén azt javasolja, hogy a szervezetek dokumentálják az MI-kockázatok kezeléséhez kapcsolódó szerepköröket és kommunikációs útvonalakat. Egy incidens során pontosan tudni kell, ki függesztheti fel az ügynököt, ki értesíti a szolgáltatót, és ki vizsgálja meg a történteket.
Az MI-rendelet csak a felelősségi kép egyik része
Az uniós MI-rendelet nem ad általános választ arra, ki viseli egy MI-ügynök hibás vásárlásának költségét. A rendszer kockázati besorolása, felhasználási célja és működési környezete határozza meg, mely kötelezettségek alkalmazandók. Egy API-kat vásárló ügynök önmagában általában nem válik magas kockázatú MI-rendszerré.
Az MI-rendelet 4. cikke ugyanakkor előírja, hogy az MI-rendszerek szolgáltatói és alkalmazói tegyenek intézkedéseket az érintett munkatársak megfelelő MI-jártasságának támogatására. A pénzügyi jogosultságot beállító dolgozónak ezért értenie kell az ügynök korlátait, a manipulálható bemenetek veszélyét és az emberi beavatkozás módját.
Ha az ügynök személyes adatot tartalmazó szolgáltatást vagy adatállományt vásárol, a GDPR-követelmények is megjelennek. A vállalat adatkezelői felelőssége attól nem szűnik meg, hogy a beszerzési döntést szoftver hajtotta végre. Az Európai Adatvédelmi Testület szerint az MI-rendszerekhez kapcsolódó adatkezelési szerepeket már a használat megkezdése előtt rendezni kell, a kockázatkezelésben pedig az automatizált ellenőrzés és az emberi felügyelet együttesére van szükség. Az erről szóló EDPB-útmutató a teljes életcikluson át tartó ellenőrzést hangsúlyozza.
A biztonságos pilotnak teljes döntési nyomot kell hagynia
Egy MI-ügynök vállalati bevezetését alacsony összegű, szűk feladatú pilotként érdemes elindítani. Minden tranzakciónál meg kell őrizni, milyen célt kapott a rendszer, milyen forrásokat vizsgált meg, miért választotta az adott szolgáltatót, milyen feltételeket fogadott el, és mely szabály alapján indíthatta el a fizetést.
A naplózásnak a pénzügyi egyeztetést is támogatnia kell. A néhány centes mikrofizetések egyenként jelentéktelennek tűnhetnek, a könyvelés és a költségellenőrzés számára azonban ugyanúgy gazdasági események. A stablecoinos elszámolás további adózási, értékelési és bizonylatolási kérdéseket vethet fel az érintett ország szabályai szerint.
Az MI-ügynök akkor termel valódi üzleti értéket, ha az általa megtakarított munkaidő meghaladja a bevezetés, az ellenőrzés és a pénzügyi adminisztráció költségét. Ehhez egy egyszerű költési limit kevés. Pontos felhatalmazás, kijelölt felelős és visszakövethető döntési folyamat kell ahhoz, hogy a vállalat biztonságosan átengedhesse a fizetés gombját a rendszernek.
