Az MI által generált képek és videók zavarba hozzák a latin-amerikai ügyészeket, miközben a bíróságok maguk is mesterséges intelligenciát vetnek be, hogy csökkentsék az ügyhátralékot.
Röviddel azután, hogy júniusban a kolumbiai elnökjelöltet, Miguel Uribe Turbayt lelőtték egy politikai rendezvényen, több száz videó árasztotta el a közösségi médiát. Sok közülük hamis volt: mesterséges intelligenciával készült deepfake-felvételek, amelyek megnehezítették a nyomozást. A rendőrségnek és az ügyészeknek órákat kellett eltölteniük azzal, hogy ellenőrizzék és cáfolják ezeket a hamis videókat. Végül egy tinédzsert vádoltak meg az üggyel összefüggésben.
Világszintű küzdelem a deepfake tartalmakkal
A mesterséges intelligencia gyors terjedése átalakítja Latin-Amerika igazságszolgáltatását: segíti az ügyhátralék csökkentését és az áldozatok jogérvényesítését. Ugyanakkor komoly sebezhetőségeket is felszínre hoz: tömeges visszaélés a technológiával, a torzító algoritmusok és a gyenge felügyelet mind-mind veszélyeztetik a rendszert, miközben a szabályozás nehezen tart lépést az innováció ütemével.
„A hatóságoknak jelenleg nincs kapacitásuk arra, hogy ezeket az ügyeket mélyebben értelmezzék annál, mint hogy egy bizonyíték valódi-e vagy sem.”
Ezt Lucia Camacho, a Derechos Digitales digitális jogvédő szervezet szakértője jelentette ki. Úgy véli, ez akadályozza az áldozatokat abban, hogy megfelelő jogi védelmet és a technológiát értő bírákat kapjanak.
A világ bíróságai mindenhol küzdenek a deepfake-ek okozta károkkal, amelyek pénzügyi csalásokban, választások manipulálásában, illetve nem beleegyezéssel terjesztett szexuális tartalmakban egyaránt megjelennek. Az OECD szerint jelenleg több mint 1300 szabályozási kezdeményezés fut 80 országban és nemzetközi szervezetben, de ezek közül sok még nem törvény, és nem mindegyik terjed ki a deepfake-ekre.
A Security Hero adatai szerint 2019 és 2023 között világszerte 550%-kal nőtt a deepfake-videók száma. Bár Latin-Amerika az összes deepfake kevesebb mint 1%-át állítja elő, Mexikó, Chile, Brazília és Kolumbia a legnagyobb növekedést mutató országok közé tartoznak.
Törvények születnek, de gyengék a határok
Egyes országok már léptek. Dél-Korea és Ausztrália külön bűncselekményként kezelik a deepfake-visszaéléseket, az Egyesült Államokban pedig nemrég elfogadták a „Take It Down Act”-et, amely bünteti a beleegyezés nélküli deepfake-ek létrehozását és terjesztését. Latin-Amerikában Brazília tavaly tiltotta be a deepfake-ek használatát választási kampányokban, Peru és Kolumbia pedig olyan MI-törvényeket fogadott el, amelyek súlyosbító körülményként kezelik a deepfake-hamisítást. Argentínában egy új törvényjavaslat akár hatéves börtönbüntetést is kilátásba helyez az MI által generált tartalmak készítőinek.
Ugyanakkor a helyi szabályozások sokszor gyengébbek, mint az európai minták.
„A szövegezés túl elvont, és kevés a valós nemzeti vagy regionális perspektíva – nemcsak az AI szabályozásában, hanem abban is, hogyan lehetne a technológiát a helyi igényekhez igazítani”
– állítja Franco Giandana, az Access Now elemzője.
Bíróságok, amelyek ChatGPT-t használnak
A kolumbiai bírák 85%-a használ ingyenes ChatGPT-t vagy Microsoft Copilotot. derül ki a Universidad de los Andes 2025-ös kutatásából. Eközben Chilében, Argentínában és Mexikóban – ahol a deepfake még nincs szabályozva – az ügyészeknek nehéz dolguk van: nem tudnak ítéletet elérni olyan esetekben, ahol diákok készítettek és osztottak meg mesterséges intelligenciával generált pornográf képeket lány osztálytársaikról.
Mexikóban tavaly decemberben egy bíró felmentett egy húszéves férfit, akit azzal vádoltak, hogy több mint ezer nőről és kiskorúról készített MI-generált szexuális képeket. A döntés indoka: „nem volt elegendő bizonyíték” az érintettségére. Az ügyet az áldozatok jogi csapata fellebbezte, miközben a férfit másik eljárásban öt évre ítélték gyermekpornográfia birtoklásáért.
Argentínában egy 18 éves férfi 16 osztálytársáról készített pornográf deepfake-videókat, a lányok valódi nevét is felhasználva. Mivel ez nem számít konkrét bűncselekménynek, a védelem a digitális visszaélésekre és a pszichológiai károkra építette a vádat. Bár a hatóság elrendelte a képek eltávolítását az oldalakról, a neveket továbbra is meg lehet találni néhány oldalon. „A kár megmaradt” – mondta José M. D’Antona ügyvéd.
Az MI hibázik és emberek fizetnek érte
A szabályozatlan MI-használat más károkat is okoz. A régióban a rendőrség egyre gyakrabban használ arcfelismerő rendszereket, de ezek nem mindig pontosak.
Brazíliában João Antônio Trindade Bastost a rendőrség tévesen azonosította egy bűnözőként egy futballmeccsen, és tízezer ember előtt hurcolták el a stadionból. Kiderült: a rendszer hibázott. Hasonlóan, egy női fesztiválozót is letartóztattak egy másik személy bűnéért. Mindketten később szabadon távozhattak.
A hibák oka: az algoritmusokat főként fehér populációkon képzik, így gyakran tévesen azonosítanak őslakos, afro-latin vagy női arcokat
– mondta Dilmar Villena, a perui Hiperderecho szervezet igazgatója. Chilében pedig az Urban Criminal Prediction Systemet éri kritika, mert „piszkos adatokból” dolgozik: olyan rendőrségi nyilvántartásokból, amelyekben rasszizmus és szelektív jogalkalmazás is megjelenik.
Felipe Rocha, a brazil Lapin kutatóintézet munkatársa szerint „az ilyen rendszerek állami fegyverként működhetnek saját polgáraik ellen, ezért szigorú szabályozásra van szükség”. Júniusban Brazília igazságügyi minisztériuma olyan rendeletet adott ki, amely engedélyezi az MI használatát bűnügyi nyomozásokban, de tiltja a távoli biometrikus azonosítást közterületen. kivéve, ha emberélet van veszélyben vagy eltűnt személyt keresnek.
Az önszabályozás marad az egyetlen út
Miközben a szabályozás próbál lépést tartani, Latin-Amerika bíróságai maguk is egyre gyakrabban vetnek be mesterséges intelligenciát, hogy rendszerezzék az ügyeket vagy automatizálják az adminisztrációt.
2023-ban egy kolumbiai bíró, Juan Manuel Padilla egy egyszerű ügyben tesztelte a ChatGPT-t: egy autista gyermek államilag finanszírozott orvosi ellátásáról kellett döntenie. Az ítélet precedenst teremtett, és azóta Kolumbia iránymutatásokat dolgozott ki a bírósági MI-használatra: csak rutinfeladatokban engedélyezett, emberi felügyelet mellett.
Brazíliában az SAJ Digital nevű rendszer segíti az ügyintézést, Argentínában a Prometea 190 napról egy órára csökkentette a jogi vélemények feldolgozási idejét, Kolumbia pedig a PretorIA rendszert használja, amely naponta több mint 2700 kérelmet szortíroz az állampolgári jogok védelmére.
Padilla bíró továbbra is használ MI-eszközöket, de szerinte a szigorú szabályozás önmagában nem elég:
„Az önszabályozás az egyetlen hatékony út. Egyetlen jogi keret sem lesz képes lépést tartani az MI sebességével.”
