Ülsz egy online meetingben. A kamera látja az arcodat, a mikrofon hallja a hangodat. A háttérben futó rendszer közben azt próbálja megállapítani, mennyire vagy lelkes, feszült, elégedett vagy frusztrált. A végén akár egy értékelés is készülhet rólad.
Technikailag ez már régóta lehetséges. Az Európai Unió viszont olyan problémásnak tartja a munkahelyi érzelemfelismerést, hogy az AI Act szerint főszabály szerint tilos.
A döntés mögött különösen érdekes felismerés áll. Az MI által kiosztott érzelmek tudományos megbízhatósága is kérdéses.
Mit jelent egyáltalán az érzelemfelismerő MI?
Az AI Act érzelemfelismerő rendszernek azt az MI-t tekinti, amely biometrikus adatokból próbálja azonosítani vagy kikövetkeztetni valaki érzelmeit vagy szándékait. Ide tartozhat például a boldogság, harag, szégyen, izgatottság vagy elégedettség becslése.
A rendszer figyelheti az arcot, a hang jellemzőit vagy más testi és viselkedési jeleket. Egy felhúzott szemöldök vagy hangosabb beszéd önmagában még nem érzelemfelismerés. A határ ott jelenik meg, amikor a gép ezekből már arra következtet, hogy például dühös vagy bizonytalan vagy.
A rendelet a fizikai állapotokat is külön kezeli. A fáradtság felismerése például nem automatikusan tartozik az érzelemfelismerés fogalmába. Ez különösen fontos olyan biztonsági alkalmazásoknál, amelyek egy sofőr vagy pilóta kimerültségét próbálják észlelni.
Az arcod nem biztos, hogy elárulja, mit érzel
Az EU jogalkotója szokatlanul keményen fogalmazott a technológia tudományos alapjairól. Az AI Act indokolása szerint ezeknél a rendszereknél problémát jelent a korlátozott megbízhatóság, a pontatlanság és az, hogy az eredmények nehezen általánosíthatók.
Ugyanaz az arckifejezés eltérő helyzetekben mást jelenthet. Kulturális különbségek is számítanak, sőt ugyanaz az ember sem mindig ugyanúgy mutatja ki ugyanazt az érzelmet.
Munkahelyen ez különösen veszélyes kombináció. A munkáltató eleve erősebb pozícióban van, egy algoritmus által kiosztott címke pedig könnyen objektív ténynek tűnhet.
Képzeljük el, hogy egy rendszer egy állásinterjú vagy videóhívás alapján alacsony lelkesedést jelez. A munkavállaló lehet egyszerűen fáradt, introvertált, koncentrál vagy más kulturális kommunikációs mintát követ. A vezető előtt viszont már ott van egy szám.
Ezt már több mint egy éve tiltja az EU
Az AI Act 5. cikke tiltja az olyan MI-rendszerek forgalomba hozatalát, üzembe helyezését és használatát, amelyek munkahelyi környezetben emberek érzelmeit próbálják kikövetkeztetni. A kivétel a kifejezetten orvosi vagy biztonsági célú használat.
Ez a tilalom 2025. február 2. óta alkalmazandó az Európai Unióban.
Egy munkáltató tehát nem oldja meg a problémát egyszerűen azzal, hogy tájékoztatja a dolgozókat a rendszer működéséről. Az érzelemfelismerés munkahelyi tilalma külön szabály.
Ettől még nem tűnik el a munkahelyi megfigyelés
A jogi határ ennél szűkebb. Az AI Act nem tilt minden olyan MI-rendszert, amely munkavállalókkal kapcsolatos adatokat elemez.
Teljesítménymutatók, munkaidő-adatok vagy más munkavállalói monitoring rendszerek továbbra is létezhetnek, bár használatukra adatvédelmi, munkajogi és más AI Act-szabályok vonatkozhatnak. Egyes foglalkoztatási MI-rendszerek ráadásul magas kockázatú kategóriába tartozhatnak.
Az érzelemfelismerés körüli vita ezért nagyobb kérdést mutat meg. Egyre több emberi tulajdonságot próbálunk adattá alakítani, majd pontszámot rendelünk hozzá.
A munkahelyen azonban egy 72 százalékban frusztrált alkalmazott könnyen valóságosabbnak tűnik, mint maga az ember. Az EU ezen a ponton már meghúzta a határt.
