Az MI biztonságának megítéléséhez azokra is szükségünk van, akik belülről ismerik a rendszerek hibáit. A megszólalás körüli bizonytalanság azonban elvághatja az információ útját a fejlesztő és azok között, akiket a veszély érinthet.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benEgy figyelmeztetésnek el is kell jutnia valakihez
Képzeljünk el egy fejlesztőt, aki tesztelés közben észreveszi, hogy egy MI-rendszer bizonyos helyzetekben megkerüli a biztonsági korlátozásokat. Jelzi a hibát, de nem tartja elegendőnek a választ. Mielőtt máshoz fordulna, újraolvassa a szerződését. Vajon egy külső figyelmeztetéssel megsértené a kötelezettségeit? Ez szemléltető helyzet, de jól mutatja, hogyan válhat a technikai problémából személyes döntés.
A Washington Post november 3-i beszámolója szerint DeepMind-dolgozók a kritikát korlátozó kikötések eltörlését kérik; a Google szerint kilépés után nem érvényesíti ezeket, új szerződéseit módosította.
A vita társadalmi jelentősége túlmutat egy munkáltató és munkavállalói kapcsolatán. Egy szolgáltatás használójaként jellemzően a bemutatott képességeket és a közzétett biztonsági információkat látjuk. Annak megítéléséhez, hogy ezekből mi hiányozhat, fontosak lehetnek a fejlesztés során szerzett tapasztalatok is. A megszólalás feltételei ezért a felhasználók tájékozódását is befolyásolhatják.
A titoktartás és a védett bejelentés különböző helyzet
Egy vállalatnak indokolt érdeke lehet az ügyféladatok, a forráskód vagy a még nem nyilvános fejlesztések védelme. A cég bírálatát korlátozó megállapodás viszont a megszólalás tartalmát érinti. A kettőt érdemes külön vizsgálni; üzleti titok felfedése nélkül is lehet szakmai aggályt megfogalmazni, és egy aggály közlése során is sérülhetnek védendő adatok.
A brit kormány munkavállalói útmutatója szerint a jogilag védett visszaélés-bejelentést szerződéses kikötés sem akadályozhatja meg. A védelemnek ugyanakkor feltételei vannak: számít a közérdek, a jelzett probléma jellege és a közlés megfelelő csatornája. Ebből nem következik, hogy minden nyilvános céges kritika automatikusan védett.
A gyakorlati nehézség éppen a határ felismerése. Aki bizonytalan a saját helyzetében, annak a megszólalás előtt jogi segítségre lehet szüksége. Ez időt és pénzt igényelhet, miközben a jelzett rendszer tovább működik. Ebből az következik, hogy a világos előzetes szabályok a hibák időbeni feltárását is segíthetik.
A jogsértésnél korábban is felmerülhet aggály
Az MI-ről szóló szakmai figyelmeztetés tárgya lehet egy nehezen tesztelhető képesség vagy egy lehetséges visszaélés is. Ezeknél előfordulhat, hogy a szakember még nem tud konkrét jogsértést megnevezni. A megelőzéshez ettől még fontos lehet megvizsgálni, mire alapozza az aggodalmát.
Ezt a problémát vetette fel az MI-vállalatok jelenlegi és korábbi munkatársainak 2024. június 4-i nyílt levele. Az aláírók szerint a hagyományos bejelentővédelem nem fedi le megfelelően az összes, még nem szabályozott kockázatot. Ellenőrizhetően anonim jelzési lehetőséget és a kockázatokkal kapcsolatos kritika védelmét kérték, az üzleti titkok megfelelő megóvásával.
Ez az aláírók álláspontja, önmagában nem bizonyít eltitkolt veszélyt. Használható szempontot ad viszont az ellenőrzéshez; van-e olyan útja a szakmai kételynek, amelyen akkor is továbbjuthat, ha a közvetlen vezető már lezártnak tekinti az ügyet?
Egy magyar munkahelyen is eldőlhet, meghallják-e a jelzést
Szemléltetésként vegyünk egy magyar céget, ahol az ügyfélszolgálat MI-vel készít válaszokat. Egy munkatárs észreveszi, hogy a rendszer visszatérően hibás tájékoztatást javasol. Ha a jelzését egyszerű ellenállásként kezelik, a következő hibát talán már nem hozza szóba. A belső ellenőrzéshez ezért az is hozzátartozik, hogyan fogadják a kellemetlen tapasztalatokat.
Magyarországon a 2023. évi XXV. törvény szabályozza a panaszokat, közérdekű bejelentéseket és a visszaélés-bejelentés kereteit. A konkrét védelem feltételeit az adott helyzetben kell vizsgálni; egy közösségi médiás bejegyzés védettségét nem lehet pusztán a jó szándékból levezetni.
A napi működésben világos felelősségi rend segíthet: ki vizsgálja meg a hibát, ki dönthet a használat felfüggesztéséről, és hová fordulhat tovább a jelző munkatárs? Az MI-felelős szerepéről szóló cikkünk is ehhez ad szempontokat.
Felhasználóként érdemes hasonló kérdést feltennünk a szolgáltatónak. A biztonsági ígéret mellé milyen vizsgálatot, hibajelzési lehetőséget és követhető javítási folyamatot kapunk? A külső MI-felügyelet korlátai mellett a megszólalás lehetősége is része annak, mennyit tudhatunk egy rendszerről. A figyelmeztetés akkor válik használhatóvá, ha valaki érdemben megvizsgálhatja, és az eredménye eljut az érintettekhez.
