2026 januárjának első hete nem indult csendesen a technológiai világban. Míg mi még az újévi fogadalmainkat próbálgatjuk, a nemzetközi jogalkotók egy sokkal sötétebb problémával néznek szembe. Két kontinens hatóságai – a francia és a maláj szervek – szinte egyszerre jelentették be, vizsgálatot indítanak az Elon Musk által alapított xAI cég terméke, a Grok ellen. A vád? A rendszerrel riasztóan egyszerű szexuális tartalmú, beleegyezés nélküli hamisítványokat (deepfake) készíteni.
A mesterséges intelligencia fejlődése lenyűgöző, de ahogy azt már sokszor láttuk, az éremnek mindig két oldala van. A Grok, amely az X platformba integrálva vált ismertté, mindig is a „szólásszabadság” és a „korlátok nélküli humor” zászlóshajójaként hirdette magát. Most azonban úgy tűnik, ezek a laza korlátok súlyos jogsértéseknek nyitottak kaput.
Mi történt pontosan?
A botrány akkor robbant ki, amikor a felhasználók elkezdték megosztani a közösségi médiában azokat a fotórealisztikus képeket, amelyeket a Grok legújabb verziójával generáltak. A probléma nem a tájképekkel vagy az illusztrációkkal van.
A jelentések szerint a felhasználók képesek voltak megkerülni a rendszer biztonsági szűrőit, és valós személyekről – hírességekről és hétköznapi emberekről egyaránt – készíttettek szexuális tartalmú, kompromittáló képeket. Ezek az úgynevezett NCII (Non-Consensual Intimate Imagery) tartalmak, vagyis beleegyezés nélküli intim felvételek, amelyek sosem történtek meg a valóságban, de a megszólalásig hasonlítanak az igazira.
Míg más MI képgenerátorok (mint a Midjourney vagy a DALL-E) éveken át szigorították a szabályaikat, hogy blokkolják az ilyen kéréseket (például tiltják a „meztelen” szó vagy konkrét hírességek nevének használatát ilyen kontextusban), a hatóságok gyanúja szerint a Grok szűrői túlságosan engedékenyek. Vagy szándékosan hiányosak maradtak.
A francia szigor: Az EU nem viccel
Franciaország, amely az Európai Unió egyik legszigorúbb digitális szabályozója, azonnal lépett. A vizsgálat középpontjában az áll, hogy a Grok megsérti-e az EU újonnan érvénybe lépett mesterséges intelligencia törvényét (AI Act) és a digitális szolgáltatásokról szóló jogszabályokat (DSA).
A francia adatvédelmi és digitális hatóságok azt vizsgálják, hogy az xAI tett-e elegendő lépést a kiskorúak védelme és a nők elleni digitális erőszak megakadályozása érdekében. Ha bebizonyosodik, hogy a cég gondatlan volt, vagy a profit érdekében lazított a biztonságon, a büntetés csillagászati lehet. A vállalat globális bevételének jelentős százalékára rúghat a bírság.
Malajzia: A meglepetésszerű második front
Talán meglepő lehet, hogy a másik vizsgálatot Malajzia indította. Az ázsiai ország az elmúlt években a digitális biztonság egyik élharcosává vált a régióban. A maláj kommunikációs és multimédia bizottság (MCMC) közleménye szerint a Grok által generált tartalmak sértik az ország közösségi irányelveit és a zaklatás elleni törvényeket.
Malajzia lépése jelzi, hogy a probléma globális. Nemcsak a nyugati demokráciák, hanem a konzervatívabb értékrendű ázsiai államok is veszélyforrást látnak a szabályozatlan képgenerátorokban. Amelyekkel bárki hírneve percek alatt tönkretehető.
Miért veszélyesebb ez, mint a Photoshop?
Sokan kérdezhetik: „De hát eddig is lehetett hamis képeket csinálni Photoshoppal, nem?” Valóban, de a különbség a hozzáférhetőség és a sebesség.
Régen egy hiteles hamisítvány elkészítéséhez profi grafikai tudás és órák munkája kellett.
Ma a Grok segítségével elég beírni egy mondatot (pl.: „X.Y. híresség bikiniben a tengerparton”), és másodpercek alatt kész a fotóminőségű kép.
Ez a technológia fegyverré vált a zaklatók kezében. Nemcsak sztárok vannak veszélyben, hanem volt barátnők, iskolatársak vagy munkatársak is, akiknek az arcát a közösségi médiáról letöltve illesztik rá pornográf tartalmakra.
Elon Musk és az xAI reakciója
Az xAI egyelőre nem adott ki részletes közleményt. A céghez közel álló források szerint a fejlesztők „gőzerővel dolgoznak a biztonsági réseken”. Elon Musk korábban többször hangoztatta, hogy az MI-nak nem szabad „túlzottan politkailag korrektnek” lennie. De a jogi nyomás most rákényszerítheti a céget, hogy feladja ezt az elvet a felhasználók biztonsága érdekében.
Mi várható ezután?
Ez a kettős vizsgálat precedensértékű lehet 2026-ban. Ha Franciaország és Malajzia sikerrel jár, az dominóeffektust indíthat el, és más országok is blokkolhatják vagy büntethetik a Grokhoz hasonló rendszereket.
A felhasználók számára az üzenet egyértelmű: a digitális vadnyugat korszaka véget ér. Az MI eszközök fejlesztőinek felelősséget kell vállalniuk azért, ha a terméküket mások bántalmazásra használják. 2026 nemcsak a technológiai fejlődés, hanem a digitális felelősségre vonás éve is lesz.
