2024-ben több mint négymilliárd ember mehetett szavazni világszerte. Miközben az MI már nem csak a kampányokat generálta, hanem eldöntötte, kit érjen el, kit ne, és ki higgyen kinek. A Montreal AI Ethics Institute legfrissebb jelentése brutális képet fest arról, hogyan alakítja át a mesterséges intelligencia a demokráciát és miért van itt az ideje végre komolyan venni a dolgot.
Deepfake-kampányok, klónozott hangok és a „super-election” éve
2024 lett a „super-election” éve. India, az EU, az Egyesült Királyság, Dél-Afrika, Mexikó, Indonézia, és az USA – összesen 4 milliárd ember szavazhatott. És mit láttunk?
Szintetikus robothívásokat, klónozott hangokat, fabrikált videókat. De ami még rosszabb, egy olyan alacsony intenzitású digitális szennyáradatot, ami úgy mérgezte meg a feedeket, hogy az emberek már semmiben sem bízhattak meg.
Indiában politikai szereplők ipari szinten klónoztak hangokat és generáltak személyre szabott MI-videókat több tucat nyelven. Vírusos Bollywood deepfake-ek mentek tömegével. És aztán jött a csúcs: elhunyt vezetők avatárjai „tértek vissza”, hogy utódaikat támogassák.
Dél-Afrikában Joe Biden állítólagosan azzal fenyegetőzött, hogy szankciókat vezet be, ha az Afrikai Nemzeti Kongresszus hatalomra kerül. Természetesen soha nem mondtott ilyet, de a deepfake videó mégis milliókhoz ért el.
És közben? A Meta eldöntötte, hogy megszünteti a fact-checkereket (tényellenőrzés) a Facebookon és az Instagramon. Igen, jól olvasod. Pont akkor, amikor a legnagyobb szükség lenne rájuk.
A globális dél országaiban a kockázat még nagyobb. Az intézményekbe vetett bizalom törékeny, limitált a sajtószabadság, és a pontos információhoz való hozzáférés is egyenlőtlen. Még minimális mennyiségű MI-generált dezinformáció is felbillentheti a politikai helyzetet, lázíthat etnikai feszültségeket vagy csökkentheti a részvételt.
Amikor a chatbot ír a képviselőtestületnek és szó szerint senki sem veszi észre
Linda Solomon Wood, a Canada’s National Observer alapítója brutális esetet hozott nyilvánosságra. Egy Rory White nevű újságíró által készített „Civic Searchlight” nevű eszköz felfedezte, hogy kanadai önkormányzati tanácstagok ugyanazokat a mondatokat mondják szó szerint, több ezer kilométerre egymástól.
Nem véletlenül.
Egy KICLEI nevű csoport MI-chatbotot használt, hogy elárassza a kanadai önkormányzatokat klíma-dezinformációval. A KICLEI név szándékosan utánozza az ICLEI-t, a legitim nemzetközi fenntarthatósági hálózatot. Az MI-generált levelek úgy tűntek, mintha környezetvédő szervezettől érkeznének, valójában viszont anti-klíma propagandát terjesztettek.
Patrick Wilson tanácstag Cochrane-ben tulajdonképpen bevallotta:
„Nem sokat tudok erről az oldalról, amiből idézek, de szerintem jobbak a szavaik, mint az enyémek.”
A hatás? Városok visszavonták a klímavédelmi ígéreteiket. Thorold és Ontario kilépett a Partners for Climate Protection programból. Projektek leálltak. Támogatások veszélybe kerültek. Építőipari munkahelyek tűntek el.
És ez csak egy példa. A Civic Searchlight most már ingyenesen elérhető újságírók, kutatók és civilszervezetek számára, mert a demokrácia védelme hálózati hatást igényel.
Már nem is a fake news a legnagyobb gond
Seher Shafiq, a Mozilla Foundation szakértője rávilágít egy még alattomos problémára: az MI nemcsak a kampányt manipulálja, hanem magát a választói részvételt is.
Kanadában a szavazói listák „valószínű támogatók” alapján működnek. A kampányok azokat keresik meg, akik már eleve hajlamosak rájuk szavazni. Marginalizált közösségek – bevándorlók, alacsony jövedelmű háztartások – ritkán szavaznak, ezért sosem kerülnek fel a listára. És mivel nem kerülnek fel a listára, a jelöltek nem is keresik meg őket. És mivel nem keresik meg őket, még kevésbé mennek el szavazni.
Ez egy önbeteljesítő feedback-hurok, amit az MI tovább mélyít.
Most képzeld el, hogy MI-alapú közvélemény-kutatások is bekerülnek a képbe. Csak azok véleményét mérik, akik amúgy is aktívak az online térben. A többiek láthatatlanok maradnak. Az eredmény? A közérzet-elemzések nem tükrözik a valóságot, mert a leginkább érintetteket meg sem kérdezik.
A 2022-es ontarioi tartományi választáson történelmi mélyponton volt a részvétel: 43%. Sokan úgy gondolták, „nincs értelme szavazni, úgyis Doug Ford nyer”. A közvélemény-kutatások önbeteljesítő jóslatai lettek.
Az MI most ezt a folyamatot automatizálja, skálázza, és láthatatlanná teszi.
Mi a megoldás?
27 nagy techcég – köztük az OpenAI, a Google, a Meta és a TikTok – aláírt egy „Tech Accord”-ot 2024-ben, amelyben ígéretet tettek, hogy küzdenek a választási MI-manipuláció ellen. A kritikusok azonnal megjegyezték: önkéntes és egyenetlen.
Az EU viszont komolyan vette a dolgot. Az EU AI Act 2024. augusztus 1-jén lépett hatályba, deepfake-kel kapcsolatos explicit kötelezettségekkel, transzparencia-előírásokkal és kockázatcsökkentési intézkedésekkel. Európa nem önkéntes megállapodásokra, hanem kötelező erejű törvényekre alapoz.
De ez csak az első lépés. A Montreal AI Ethics Institute négy kulcsfontosságú tényezőt emel ki, amelyek eldöntik, hogy a demokráciák alkalmazkodnak vagy elbuknak az MI korában:
- Szabályozási alapok terjesztése: Európán kívül más országok is bevezetnék-e a kötelező szabályokat a nyilvánosságra hozatalra, címkézésre és felelősségre vonásra?
- Hitelességi infrastruktúra: A vízjelezés és egyéb megjelölések gyorsan fejlődnek, de ha nem lesznek univerzálisak, interoperábilisak és független felügyelők által ellenőrizhetők, csak újabb hamis biztonságérzetet fognak kelteni.
- Platform-elszámoltathatóság a gyakorlatban: Az önkéntes megállapodások csak első lépések voltak. A következő fázis az, hogy a platformok valóban közzéteszik-e az adatokat, nyitottak-e auditokra, és következetesen kezelik-e a különböző régiókat és nyelveket.
- Alulról jövő demokratikus ellenálló képesség: A leginkább alábecsült tényező. Független médiába, fact-checking hálózatokba és közoktatásba történő befektetés éppoly fontos, mint a technikai védelem.
A digitális terep, ahol minden megtörténik
Cory Doctorow mondta ki a lényeget:
a probléma nem az, hogy az internet a legfontosabb, hanem hogy az internet az a terep, ahol minden más – egyenlőtlenség, népirtás, rasszizmus – zajlik és terjed.
Az MI nem a demokrácia végét jelenti. De ha hagyjuk, hogy maga alá gyűrjön minket, akkor nem a technológia nyert, hanem mi vesztettünk. Mert nem voltunk elég figyelmesek, elég kritikusak, elég bátrak ahhoz, hogy határokat húzzunk.
És most nem arról van szó, hogy betiltsunk minden MI-t. Hanem arról, hogy tartsuk számon azokat, akik visszaélnek vele. Hogy támogassuk a közösségi szervezeteket, amelyek digitális írástudást tanítanak. Hogy befektessünk a független médiába. Hogy jogi kereteket hozzunk létre, amelyek büntetik a manipulációt.
Mert ha nem tesszük, akkor a következő választáson már nem is mi döntünk, hanem egy algoritmus.
