A vállalati MI egyik kényelmetlen problémája eddig az volt, hogy a biztonság és az adatvédelem könnyen egymásnak feszülhet. Ha egy szolgáltató fel akarja ismerni, hogy valaki hosszabb időn keresztül veszélyes célra használja a modelljét, ehhez valamilyen módon össze kell kapcsolnia az egyes interakciókat. Egy érzékeny adatokkal dolgozó cég viszont éppen azt szeretné, hogy a szolgáltató a lehető legkevesebbet őrizzen meg.
Az OpenAI most azt állítja, hogy talált egy lehetséges kiutat ebből a helyzetből. A cég korai ügyfelekkel teszteli a Private Safety Processing nevű megoldást, amelynek célja a több interakción keresztül kialakuló veszélyes használati minták felismerése úgy, hogy közben megmaradhasson a Zero Data Retention, vagyis a nulla adatmegőrzés lehetősége. A rendszerről egyelőre kevés technikai részlet nyilvános, ezért ezt jelenleg inkább ígéretes iránynak, mint bizonyított megoldásnak érdemes tekinteni.
Miért fontos egyáltalán a nulla adatmegőrzés?
Az OpenAI API-jában bizonyos, erre jogosult vállalati ügyfelek Zero Data Retention beállítást használhatnak. Ilyenkor az ügyféltartalom kimarad az abuse monitoring naplókból, és az arra alkalmas végpontokon az alkalmazásállapot sem kerül tárolásra. A pontos működés végpontonként és funkciónként eltérhet, ezért egy ZDR-megállapodás önmagában nem jelenti azt, hogy a platform minden eleme automatikusan nulla adatmegőrzéssel működik.
Ez pénzügyi, egészségügyi, jogi vagy üzleti titkokkal dolgozó szervezeteknél nagyon is gyakorlati kérdés. Egy vállalat dönthet úgy, hogy erős modellt szeretne használni belső kódhoz, szerződésekhez vagy érzékeny kutatási anyagokhoz, miközben a tartalom szolgáltatói megőrzését szeretné minimalizálni.
A biztonsági rendszerek közben egyre nagyobb feladattal szembesülnek. A fejlettebb modellek már összetett kiberbiztonsági és más kettős felhasználású feladatokat is képesek megoldani. Egyetlen prompt önmagában sokszor kevés ahhoz, hogy meg lehessen állapítani, mi történik valójában. A használati mintázat több lépésből állhat össze.
Mit ígér a Private Safety Processing?
A nyilvánosságra került információk szerint a megoldás olyan biztonsági jeleket próbál létrehozni, amelyekből kockázatos használati minták észlelhetők anélkül, hogy az OpenAI hagyományos módon megőrizné az alapul szolgáló ügyféltartalmat.
Itt azonban érdemes óvatosnak lenni. A rendszer tesztelés alatt áll, és jelenleg nincs előttünk olyan részletes technikai dokumentáció, amelyből egy vállalati adatvédelmi vagy információbiztonsági csapat minden fontos kérdésére választ kaphatna.
Egy beszerzési döntésnél ezért továbbra is tisztázni kell, pontosan mely adatok kerülnek feldolgozásra, milyen biztonsági jel maradhat meg, kik férhetnek hozzá, és mely API-funkciók jogosultak ténylegesen ZDR-re.
A vállalati MI-verseny új frontja az adatkezelés
Az MI-szolgáltatók közötti verseny sokáig elsősorban a modellek képességeiről, sebességéről és áráról szólt. Ahogy egyre érzékenyebb munkafolyamatok kerülnek ezekre a rendszerekre, az adatkezelési feltételek közvetlen termékelőnnyé válhatnak.
Egy vállalat számára ugyanis hiába kiváló egy modell, ha a használat feltételei összeegyeztethetetlenek a saját szerződéses, adatvédelmi vagy biztonsági kötelezettségeivel.
A Private Safety Processing ezért akkor válik igazán érdekessé, ha az OpenAI bizonyítani tudja, hogy a két követelmény egyszerre teljesíthető. A veszélyes felhasználás felismerhető marad, miközben az ügyfelek érzékeny tartalma nem válik a biztonsági megfigyelés árává.
