Amikor egy chatbot elutasít egy erőszakos kérést, könnyű azt hinni, hogy a rendszer magától ismeri fel a veszélyt. A háttérben azonban emberek vizsgálják és címkézik azokat a tartalmakat, amelyeket a legtöbben néhány másodpercig sem szeretnének látni.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benA biztonságos MI-hez veszélyes tartalom is kell
Egy mesterségesintelligencia-modellnek meg kell tanulnia, hogyan különböztesse meg az ártalmatlan szöveget a fenyegetéstől, a gyűlöletbeszédtől vagy a szexuális erőszaktól. Ehhez példákra van szüksége.
A tanítás során emberek olvasnak el mondatokat, néznek végig képeket vagy videókat, majd megjelölik, milyen káros tartalom szerepel bennük. Egy szöveg besorolható például erőszakos fenyegetésként, önkárosításra buzdító tartalomként vagy gyermekek kizsákmányolásához kapcsolódó anyagként. A chatbot később ezekből a címkékből tanulja meg, milyen válaszokat kell visszautasítania, és mely tartalmaknál szükséges figyelmeztetnie a felhasználót.
A biztonság tehát részben olyan emberek munkáján alapul, akik naponta találkoznak az internet legfelkavaróbb részeivel.
A kedves állatképek után jön a valódi munka
A tartalommoderátori feladatok sokszor ártalmatlan gyakorlással kezdődnek. A betanítás során hétköznapi fényképeket, termékeket vagy állatokat kell felismerni és kategóriákba rendezni. A tényleges projekt indulásakor azonban egészen más anyagok jelenhetnek meg. Gyilkosságokról, nemi erőszakról, holttestekről vagy gyermekek bántalmazásáról szóló szövegeket és felvételeket kell feldolgozni.
A munka nem egyszeri találkozást jelent. Ugyanaz a dolgozó egy műszak alatt sok tucat vagy akár több száz felkavaró tartalmat láthat. A következő napon pedig folytatódik az egész.
A képernyő előtt ülő ember feladata közben látszólag egyszerű marad. Meg kell jelölnie a megfelelő kategóriát, rövid leírást kell adnia, majd továbblépnie a következő tartalomra.
A psziché viszont nem feltétlenül lép tovább ugyanilyen gyorsan.
Amikor a munka hazamegy a dolgozóval
A tartalommoderátorok beszámolóiban rendszeresen megjelenik az álmatlanság, a szorongás, a rémálom és a társas helyzetek kerülése. Egyesek arról számolnak be, hogy egy idő után féltek tömegbe menni, bezárkóztak, vagy már a korábbi személyiségükre sem ismertek rá. A megtekintett tartalmak emlékei munkaidő után is visszatérhetnek. Egy videó vagy történet újra megjelenhet álmokban, váratlan helyzetekben, illetve akkor, amikor a dolgozó a saját gyermekére vagy családjára néz. Súlyosabb esetben tartós pszichés tünetek alakulhatnak ki, amelyek miatt az érintett terápiára szorul. A legrosszabb az, hogy néha a munkából való kilépés sem feltétlenül zárja le a következményeket.
A tartalommoderálás pszichés veszélye abban rejlik, hogy a dolgozó nemcsak információt dolgoz fel, hanem az emberi szenvedés ismétlődő képeivel találkozik.
A titoktartás tovább növeli az elszigeteltséget
Sok adatdolgozót szigorú titoktartási megállapodás köt. Nem beszélhetnek arról, melyik technológiai vállalatnak dolgoznak, milyen projekten vesznek részt, vagy pontosan milyen tartalmakat látnak. Egyes munkahelyeken még a kollégákkal folytatott beszélgetéseket is korlátozzák. A dolgozók nem oszthatják meg nyilvánosan a tapasztalataikat, és gyakran a családjuknak sem mondhatják el részletesen, hogy mi történik velük.
Ez a rendszer különösen nehézzé teszi a segítségkérést. Nehéz feldolgozni egy traumatikus élményt, ha annak részleteiről tilos beszélni.
A titoktartás üzleti szempontból érthető lehet, amikor érzékeny adatokról vagy fejlesztési információkról van szó. Más a helyzet, amikor a szabályok a munkakörülmények, az egészségügyi károk vagy a visszaélések nyilvánosságra kerülését is akadályozzák.
Ki felel a dolgozókért?
Az adatmunka gyakran hosszú alvállalkozói láncon keresztül jut el a tartalommoderátorhoz. A nagy technológiai cég megbíz egy külső szolgáltatót, amely további helyi vállalkozásokat vagy digitális platformokat vonhat be. A dolgozó hivatalosan így nem annak a vállalatnak az alkalmazottja, amelynek a modelljét tanítja. Ha pszichés károsodás történik, könnyen elmosódik a felelősség.
A közvetítő hivatkozhat arra, hogy csak a munkát szervezte. A technológiai cég azt mondhatja, hogy nem ő foglalkoztatta közvetlenül a moderátorokat. A dolgozó közben ugyanannak a rendszernek a kockázatait viseli, miközben alig van beleszólása a feltételekbe.
A felelős MI-fejlesztés ezért nem szűkíthető a modell pontosságára vagy a felhasználói adatvédelemre. Ide tartozik az is, hogy milyen körülmények között dolgoznak azok, akik a rendszer biztonságát megteremtik.
Több kell egy rövid wellness-szünetnél
A pszichológiai támogatás sok helyen kimerül néhány tanácsban, rövid szünetekben vagy alkalmi konzultációban. Ezek önmagukban kevesek lehetnek, ha a dolgozónak naponta órákon át extrém tartalmat kell feldolgoznia.
Érdemi védelemhez korlátozott munkaidőre, rendszeres szakmai támogatásra és a feladatok rotációjára lenne szükség. Fontos lenne továbbá a kiszámítható fizetés, a következmények nélküli segítségkérés és annak lehetősége, hogy a dolgozó visszautasíthasson bizonyos tartalmakat.
A szakszervezeti szerveződés szintén védelmet adhatna. A beszámolók szerint azonban több országban a dolgozók félnek csatlakozni, mert attól tartanak, hogy elveszítik a munkájukat.
A tiszta felület mögött marad a piszkos munka
A felhasználó egy rendezett chatbotablakot lát. Beír egy mondatot, a rendszer válaszol, és szükség esetén udvariasan megtagadja a problémás kérést. A megtagadás mögött olyan emberek döntései állhatnak, akik korábban végigolvasták vagy végignézték a káros tartalmakat, majd megmutatták a modellnek, hol húzódjon a határ.
Ez a munka szükséges lehet, a jelenlegi feltételei azonban nem tekinthetők magától értetődőnek. A biztonságosabb MI ára nem lehet az, hogy a háttérben dolgozók egészségét feláldozhatónak tekintjük.
