Az amerikai hatóságok az MI-t vetik be az MI ellen. A belbiztonsági minisztérium kísérleti projektet indított, hogy az algoritmusok segítségével kiszűrje a mesterségesen generált gyermekbántalmazásos képeket.
Az MI két arca
Miközben a mesterséges intelligencia eddig soha nem látott mértékben árasztja el az internetet szintetikus, gyermekbántalmazást ábrázoló képekkel, az amerikai hatóságok most magát az MI-t vetik be a harcban. Az Egyesült Államok belbiztonsági minisztériumának Kiberbűnözés Elleni Központja (Cyber Crimes Center) kísérleti projektet indított, hogy az MI segítségével megkülönböztesse a valós áldozatokat ábrázoló képeket az MI által generált hamis tartalmaktól.
150 ezer dolláros szerződés
A központ 150 000 dolláros szerződést kötött a San Franciscó-i Hive AI nevű céggel. Ez a társaság egy olyan szoftvert fejlesztett, ami képes azonosítani, hogy egy tartalom mesterségesen készült-e. A szeptember 19-én közzétett hivatalos irat ugyan erősen kitakart, de a Hive társalapítója, Kevin Guo megerősítette, hogy az együttműködés célja a gyermekek szexuális bántalmazásáról készült képek (CSAM) azonosítása.
Soha nem látott mértékű növekedés
A National Center for Missing and Exploited Children adatai szerint 2024-ben 1325%-kal nőtt az MI-vel kapcsolatos ilyen esetek száma. A hatósági irat szerint a digitális tartalmak mennyisége „olyan szinten robbant, hogy automatizált eszközök nélkül már lehetetlen hatékonyan feldolgozni és elemezni az adatokat”. A nyomozók elsődleges célja továbbra is a valós bántalmazások megállítása. De a rengeteg hamis kép megnehezíti annak eldöntését, melyik esethez tartozik élő, valódi áldozat.
Az azonosítás életet menthet
Ha az MI képes felismerni, hogy egy kép valós személyt ábrázol-e, az drámaian növelheti a nyomozások hatékonyságát. A kormányzati dokumentum szerint az ilyen eszközök „biztosítják, hogy az erőforrásokat valódi áldozatok ügyeire fordítsák, ezzel maximalizálva a program hatását és védve a legsebezhetőbbeket”.
Egy technológia, több fronton
A Hive AI már most is számos tartalommoderációs megoldást kínál, amelyek képesek felismerni az erőszakot, a spameket, a szexuális tartalmakat és még a hírességeket is. 2024 decemberében az MIT Technology Review arról számolt be, hogy a cég deepfake-felismerő technológiát is értékesít az amerikai hadseregnek.
A gyermekvédelemben a Hive a Thorn nevű nonprofit szervezettel közösen fejlesztett eszközt kínál, amely hashelési technológiával egyedi azonosítót rendel a hatóságok által ismert CSAM-tartalmakhoz, és blokkolja azok újrafeltöltését. Ez ma iparági alapvédelemnek számít.
A valódi újdonság: az MI az MI ellen
Ezek az eszközök eddig csak a tartalmak típusát ismerték fel, de nem tudták eldönteni, hogy egy kép mesterségesen készült-e. A Hive új modellje pontosan erre képes. Bár nem kifejezetten gyermekvédelmi anyagokon lett betanítva, Guo szerint erre nincs is szükség:
„Vannak a képekben bizonyos pixelmintázatok, amelyek árulkodnak arról, hogy MI generálta őket. Ezek általánosan felismerhetők.”
Ezt a technológiát fogja a Cyber Crimes Center is tesztelni, három hónapos próbaidőszakban.
Verseny nélkül választották ki
A kormányzat indoklása szerint a Hive versenyeztetés nélkül kapta a szerződést. Mert már bizonyított más, kritikus felhasználási területeken. Egy 2024-es University of Chicago-tanulmány szerint a Hive megoldása négy másik MI-detektort is felülmúlt, és a cégnek már korábban is volt szerződése a Pentagon számára deepfake-azonosításra.
