Az Anthropic szabályzata tiltja, hogy a Claude erotikus chatben vegyen részt vagy explicit szexuális tartalmat generáljon. A napokban mégis kiderült, hogy a Claude Opus 4.6 több tesztben gond nélkül átlépte ezt a korlátot. A történet első látásra egy újabb jailbreak-esetnek tűnik. Sokkal érdekesebb kérdést hoz elő: ki dönti el, hogy egy felnőtt ember milyen intim beszélgetést folytathat egy MI-vel?
A szex az internet kezdete óta az új technológiák egyik leggyorsabban megjelenő felhasználási területe. A generatív MI sem kivétel. Chatbotokkal lehet flörtölni, szerepjátékot játszani, fantáziákról beszélni vagy kifejezetten erre épített digitális társakat használni. A határ azonban szolgáltatónként egészen máshol húzódik.
A tiltás is termékdöntés
Az Anthropic jelenlegi használati szabályzata minden felhasználóra kiterjedően tiltja az erotikus chatet és a szexuálisan explicit tartalom generálását. Az xAI ezzel szemben már NSFW-beállítást is kínál a Grokban, miközben bizonyos kategóriákat, például a kiskorúakat érintő vagy beleegyezés nélküli intim tartalmat továbbra is blokkol.
Ez jól mutatja, hogy az MI erkölcsi határai részben vállalati döntések. Ugyanaz a felnőtt felhasználói kérés az egyik rendszerben tiltott lehet, egy másikban engedélyezett. A technológia mögött mindig ott van valaki, aki meghatározza a szabályokat, majd megpróbálja ezeket beépíteni a modell viselkedésébe.
Az Opus 4.6 esete éppen ezért érdekes. A szabály világos volt, a modell mégsem tartotta be következetesen. Egy biztonsági korlát addig ér valamit, amíg a rendszer ténylegesen képes érvényesíteni.
Felnőttek között hol van a probléma?
Egy beleegyező felnőtt és egy chatbot közötti erotikus beszélgetésnél nincs másik ember, akinek a beleegyezését figyelmen kívül lehetne hagyni. Ettől még maradnak valódi kockázatok.
Az egyik az adatvédelem. Egy intim beszélgetésből rendkívül érzékeny információk derülhetnek ki a felhasználó szexuális életéről vagy orientációjáról. Az uniós adatvédelmi rendelet ezeket különleges személyes adatok közé sorolja. A felhasználó közben könnyen úgy beszél egy chatbottal, mintha a szoba ajtaja zárva lenne, pedig egy digitális szolgáltatásnak ad át adatokat.
Van még egy kevésbé látványos réteg. A szolgáltatók egyszerre próbálnak széles felhasználói kört kiszolgálni, megfelelni eltérő országok szabályainak, védeni a márkájukat és csökkenteni a visszaéléseket. Emiatt a moderáció összetett értékválasztás is. Egy erotikus szerepjáték ugyanabban a rendszerben él együtt az egészségügyi felvilágosítással, párkapcsolati tanácsadással vagy irodalmi szövegekkel. A modellnek kontextust kell értenie, miközben a szolgáltató világos és ellenőrizhető szabályokat szeretne.
A kötődés szintén számít. Az Anthropic saját kutatása szerint a Claude-beszélgetések kevesebb mint 0,1 százaléka tartalmaz romantikus vagy szexuális szerepjátékot. Ez alacsony arány, de egy több millió beszélgetést kezelő szolgáltatásnál létező jelenség. A hangalapú modellek, élethű avatarok és hosszú távú memória terjedésével az élmény még személyesebbé válhat.
A kiskorúaknál sokkal tisztább a határ
A felnőttek autonómiájáról lehet vitatkozni. Kiskorúaknál egészen más felelősségi szint jelenik meg.
Claude.ai hivatalosan csak 18 éven felülieknek érhető el, az Anthropic pedig életkor-ellenőrzési és biztonsági rendszerekről is beszámol. Ez persze nem garantálja, hogy fiatalok soha nem jutnak hozzá az ilyen szolgáltatásokhoz.
A szabályozók már reagálnak. Colorado 2026-ban elfogadott törvénye 2027-től előírja, hogy a beszélgető MI-szolgáltatások tegyenek technikailag megvalósítható lépéseket annak megakadályozására, hogy kiskorúakkal explicit szexuális interakciót folytassanak. A jogalkotó itt ugyanazzal a problémával találkozik, amelyet most az Opus 4.6-nál látunk. A szabály leírása egyszerűbb, mint a működő technikai védelem.
A következő vita már a szabadságról fog szólni
Az erotikus MI körüli vita könnyen a tiltásokra szűkül. Legalább ennyire fontos, hogy egy szolgáltató mennyire alakíthatja egy felnőtt felhasználó magánbeszélgetésének határait, milyen adatokat őriz meg róla, és mennyire világosan közli, mire képes a rendszer.
A szexuális tartalom azért érdekes MI-tabu, mert itt nagyon gyorsan találkozik a technológiai biztonság, a vállalati értékválasztás, az adatvédelem és a személyes autonómia. Ahogy a chatbotok egyre személyesebbé válnak, ezt a határt egyre nehezebb lesz egyetlen tiltó mondattal elintézni.
