A mesterséges intelligencia hatalmát gyakran robotokkal és önálló gépekkel próbáljuk elképzelni. A mindennapi életünket azonban jóval előbb alakíthatják át azok a rendszerek, amelyek hitelről, munkáról, támogatásról vagy felvételről hoznak döntést.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benA bürokrácia valójában bizalmi rendszer
A bürokrácia több egyszerű papírmunkánál. Szabályok, nyilvántartások és eljárások segítségével teszi lehetővé, hogy egymást nem ismerő emberek együttműködjenek.
Egy bank azért fogad el betétet és ad hitelt, mert dokumentumokkal igazolható, kinek milyen joga és kötelezettsége van. A szerződés azért működik, mert jogszabályok, bíróságok és végrehajtható eljárások állnak mögötte. Egy egyetem meghatározott feltételek alapján választja ki a hallgatóit.
Ezeknek a rendszereknek a közös nyelve az adat. Űrlapok, szabályzatok, szerződések, pontszámok és nyilvántartások mozgatják őket. Ez pontosan az a környezet, amelyben az MI különösen hatékonyan működik.
Miért érzi otthon magát itt az MI?
Egy ember nem képes egyszerre több ezer oldalnyi szabályzatot, ügyféladatot és korábbi döntést fejben tartani. Egy MI-rendszer gyorsan összevetheti ezeket, felismerhet mintákat, majd ajánlást készíthet.
Ez adminisztratív segítségként indulhat. Az MI rendezi a dokumentumokat, ellenőrzi a hiányzó adatokat vagy összefoglalja az ügyet. A következő lépésben már pontszámot ad, kockázatot becsül és javaslatot tesz a döntésre.
A határ könnyen elmosódik. Egy ember formálisan jóváhagyhatja az eredményt, közben nincs ideje vagy megfelelő tudása annak érdemi ellenőrzésére. Ilyenkor a döntés papíron emberi, a tényleges mérlegelést azonban a rendszer végezte el.
Amikor egy ajánlás meghatározza az életet
Az Európai Unió MI-rendelete többek között az oktatásban, a foglalkoztatásban, az alapvető szolgáltatásokhoz való hozzáférésben és az igazságszolgáltatásban alkalmazott rendszereket sorolhatja a magas kockázatú kategóriába. Ezeken a területeken egy gépi értékelés alapvető jogokat és életesélyeket érinthet.
Egy hibás toborzási modell miatt valaki el sem jut az állásinterjúig. Egy pontatlan hitelbírálat kizárhatja a lakáshitelből. Közigazgatási környezetben a téves adat vagy rosszul kialakított szabály támogatás, ellátás vagy engedély elvesztését eredményezheti.
Az MI nem feltétlenül elfogultabb az embernél. A veszély abból fakad, hogy egyetlen hibás módszer rövid idő alatt emberek ezreire alkalmazható.
A pénzügy már mutatja a valódi tétet
A pénzügyi szektorban az MI javíthatja a csalások felismerését, a kockázatelemzést és a piaci stressz előrejelzését. Az átláthatatlan modellek, a nehezen ellenőrizhető adatok és a néhány technológiai szolgáltatótól való függés új sérülékenységeket is létrehozhat.
Különösen nagy gondot okozhat, ha több bank és befektető hasonló modellek alapján reagál ugyanarra a helyzetre. Az egyes döntések észszerűnek tűnhetnek, összességük mégis felerősítheti a piaci mozgást.
Az emberi felügyelethez valódi jogkör kell
Az uniós szabályozás emberi felügyeletet követel meg a magas kockázatú rendszereknél. Ennek célja, hogy az illetékes személy megértse a rendszer korlátait, felismerje a hibás eredményt, és szükség esetén felülírhassa vagy leállíthassa a működését.
Egy szervezetnek ezért négy kérdést kell tisztáznia:
- Mely döntéseket befolyásolja ténylegesen az MI?
- Ki felel az eredmény ellenőrzéséért?
- Képes-e ez a személy a gépi javaslatot felülbírálni?
- Hogyan kérhet magyarázatot vagy jogorvoslatot az érintett?
A képernyőn elhelyezett jóváhagyás gomb önmagában kevés. A felügyelethez idő, hozzáférhető információ és számonkérhető felelősség szükséges.
A változás apró lépésekkel érkezik
Az MI valószínűleg nem egyetlen látványos pillanatban veszi át az intézmények működését. Először iratot rendez, majd rangsorol, pontoz, ajánlást készít, végül egyre ritkábban kér emberi beavatkozást.
Minden egyes automatizálásnál el kell dönteni, hol maradjon meg az ember mérlegelési joga. Mire a rendszer hivatalosan is döntéshozóvá válik, ezt a jogot könnyen elveszíthetjük anélkül, hogy észrevettük volna.
