A mesterséges intelligenciáról legtöbbször úgy beszélünk, mint munkaeszközről, üzleti lehetőségről vagy új technológiai kényelemről. A Magnifica Humanitas körüli vita ennél nehezebb kérdést vet fel. Mi történik, ha az MI a hatalom, a háború és a globális verseny eszközévé válik?
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benAz MI nemcsak eszköz, hanem hatalmi kérdés
A Vatican Newsban megjelent elemzés szerint XIV. Leó pápa Magnifica Humanitas című enciklikája nem kizárólag vallási dokumentumként olvasható. Olyan etikai szövegként is, amely a mai világ egyik legnehezebb problémáját veszi komolyan.
Hogyan lehet közös felelősségben gondolkodni, amikor az országok, cégek és technológiai szereplők egyre erősebben versenyeznek egymással?
Ez a kérdés a mesterséges intelligenciánál különösen éles. Az MI nemcsak azért fontos, mert gyorsabbá teheti a munkát, segíthet szöveget írni, képet készíteni vagy adatot elemezni. Azért is fontos, mert beépülhet döntési rendszerekbe, biztonsági folyamatokba, katonai technológiákba, politikai kommunikációba és információs műveletekbe.
Az MI etika nem azt jelenti, hogy félünk a technológiától, hanem azt, hogy nem engedjük eltűnni mögüle az emberi felelősséget.
A háború nyelve könnyen beköltözik a technológiába
A Magnifica Humanitas körüli értelmezés egyik legerősebb pontja a háború normalizálásának kritikája. A szöveg szerint a világban újra erősödik az a gondolkodás, amely a fegyverkezést, a nyomásgyakorlást és az erő logikáját természetes politikai eszközként kezeli.
Ez nem távoli diplomáciai kérdés. A technológiai versenyben ugyanez a logika jelenik meg, csak más formában. Kiberképességekben, algoritmikus befolyásolásban, információs manipulációban, automatizált döntési rendszerekben. A konfliktus ma már nemcsak tankokkal és rakétákkal zajlik, hanem adatokkal, modellekkel, célzással, figyelemmel és bizalomrombolással is.
Az MI itt nem semleges háttértechnológia. Attól függően, mire használják, lehet segítség, kontrolleszköz, megfigyelési infrastruktúra vagy döntési fegyver. A gond nem az, hogy az MI hibázik. Hanem, ha senki nem vállalja a felelősséget azért, mire használják.
Az MI lefegyverzése nem a fejlődés leállítása
A MI lefegyverzése gondolat könnyen félreérthető. Nem arról van szó, hogy le kellene állítani a fejlesztéseket vagy minden technológiai újítást gyanakvással kellene figyelni. De gondoljuk át, milyen célokat szolgál a fejlesztés.
Ha az MI kizárólag piaci, katonai vagy geopolitikai verseny tárgya lesz, akkor a legerősebb szereplők érdekei határozzák meg az irányt. Ebben a logikában az ember könnyen adatponttá, célcsoporttá, kockázati tényezővé vagy optimalizálható erőforrássá válik.
A közös felelősség ezzel szemben azt kérdezi, ki ellenőrzi a rendszert, ki viseli a következményt, ki marad kiszolgáltatott, és van-e olyan határ, amelyet a hatékonyság kedvéért sem lépünk át.
Ez nem technológiaellenes álláspont. Ez józan önvédelem.
A klímaválság ugyanarra a vakfoltra mutat
A Magnifica Humanitas gondolati íve nem választja le egymásról a háborút, a szegénységet, az éhezést, a klímaválságot és a technológiát. Ezek nem külön polcokra tett problémák. Egymást erősítik.
Egy háború élelmiszerválságot okozhat. A klímaváltozás migrációs nyomást növelhet. A digitális infrastruktúra energia- és vízigénye új terheket rakhat a környezetre. Az MI-rendszerek működtetése sem anyagtalan folyamat, még akkor sem, ha a felhasználó csak egy tiszta képernyőt lát maga előtt.
Ezért a technológiai fejlődést nem elég kényelmi vagy gazdasági oldalról nézni. Meg kell vizsgálni azt is, hogy milyen emberi és környezeti árat fizetünk érte, és kinek a nevében hozzuk meg ezeket a döntéseket.
Miért számít ez egy hétköznapi felhasználónak?
Könnyű azt gondolni, hogy az MI-kormányzás a nemzetközi szervezetek, államok és nagyvállalatok dolga. Részben valóban az. De a felelősség kisebb szinteken is megjelenik.
Egy cégben akkor, amikor MI-eszközt vezetnek be anélkül, hogy tisztáznák, ki ellenőrzi az eredményt. Egy iskolában akkor, amikor a diák teljesítményét olyan rendszer értékeli, amelynek működését senki nem érti igazán. Egy munkahelyen akkor, amikor az MI által készített döntéselőkészítés mögül eltűnik az emberi mérlegelés.
A közös felelősség nem nagy szavak gyűjteménye. Annak felismerése, hogy a technológia következményeit az emberek viselik.
A közös felelősség nem naiv gondolat
A Magnifica Humanitas egyik fontos üzenete, hogy a béke, az emberi méltóság és a technológiai felelősség nem külön témák. Ugyanannak a kérdésnek a részei: tudunk-e még úgy gondolkodni, hogy a másik ember nem akadály, nem adat, nem ellenség és nem eszköz.
Ez nem könnyű gondolat egy olyan korban, amely mindent versenyben, teljesítményben és befolyásban mér. Mégis itt kezdődik az MI etikája. Nem a szabályzatoknál, hanem annál a döntésnél, hogy a technológiát emberi felelősség alá rendeljük-e.
A mesterséges intelligencia korában az egyik legfontosabb emberi képesség az lehet, hogy nem felejtünk el többes számban gondolkodni.
