A mesterséges intelligenciával folytatott „baráti beszélgetések” kora a tinik számára véget ér. A Character.AI, a népszerű MI-alapú szerepjáték platform bejelentette, hogy megszünteti a 18 év alatti felhasználók számára az úgynevezett nyílt végű chatbot-beszélgetéseket, vagyis azokat az interaktív csevegéseket, amelyek a fiatalok körében addiktívvá váltak, és tragikus esetekhez is vezettek.
Fordulat a vállalat stratégiájában
A döntés hátterében két tinédzser halála áll, akik a platform MI-chatbotjaival folytattak hosszú, bizalmas beszélgetéseket. Az esetek komoly társadalmi felháborodást és jogi eljárásokat indítottak el.
„Úgy döntöttünk, hogy eltávolítjuk az open-ended (nyílt végű) beszélgetési lehetőséget minden 18 év alatti felhasználó számára” – mondta Karandeep Anand, a Character.AI vezérigazgatója.
Az ilyen típusú beszélgetések célja, hogy a chatbot folyamatosan fenntartsa a párbeszédet, így a felhasználó sokszor órákig beszélget a rendszerrel. Anand szerint ez kockázatos a fiatalok számára, és „félreviszi” a cég eredeti célját is. A Character.AI most az MI-társ helyett kreatív platformként kíván működni. A hangsúly a történetmesélésen, a közös vizuális alkotáson és a játékos interakción lesz.
Fokozatos tiltás és életkor ellenőrzés
A vállalat november 25-ig fokozatosan tiltja le a tinédzserek hozzáférését az MI-csevegésekhez. A folyamat napi korlátozásokkal indul: először két óra lesz a maximális beszélgetési idő, ami fokozatosan nullára csökken. Az életkor azonosításához saját fejlesztésű korfelismerő rendszer, valamint külső eszközök, például a Persona, segítik a folyamatot. Ha ezek sem bizonyulnak elégnek, a vállalat arcazonosítást és személyi igazolványos ellenőrzést is alkalmaz.
Az új szabályok a korábbi biztonsági intézkedésekre épülnek: a Character.AI már korábban bevezetett szülői betekintő funkciót, korhatáros karakterszűrést, időkorlátokat és korlátozta a romantikus témájú beszélgetéseket. Anand elismerte, hogy ezek a változások már korábban is elidegenítették a fiatal felhasználók egy részét, és most további lemorzsolódásra számít.
A platform átalakul: beszélgetés helyett alkotás
A Character.AI új stratégiája az, hogy tartalomvezérelt, szórakoztató platformmá alakuljon. A vállalat az utóbbi hónapokban több új funkciót is bevezetett:
- AvatarFX: képekből készít animált videókat,
- Scenes: interaktív történetvilágok, ahol a felhasználók szereplőként vehetnek részt,
- Streams: két karakter közötti dinamikus párbeszédek,
- Community Feed: közösségi felület, ahol a felhasználók megoszthatják saját karaktereiket, videóikat és történeteiket.
A cél az, hogy a fiatalok kreatív szereplőkként, ne pedig függő beszélgetőtársakként használják az MI-t.
„Nem zárjuk be az alkalmazást a 18 év alattiak előtt” – hangsúlyozta Anand. „Csak az interaktív, végtelenített beszélgetéseket szüntetjük meg, mert hiszünk benne, hogy a kreatív élmények biztonságosabbak és értelmesebbek.”
Növekvő szabályozási nyomás
A Character.AI döntése előrevetíti, ami valószínűleg hamarosan kötelező lesz az iparágban. Az Egyesült Államokban két szenátor, Josh Hawley és Richard Blumenthal, olyan törvénytervezetet készít elő, amely betiltaná az MI-chatbotok használatát kiskorúak számára. Kalifornia már megtette az első lépést: a hónap elején törvényben szabályozta az MI-társalkalmazásokat és jogi felelősséggel ruházta fel azokat a cégeket, amelyek chatbotjai nem felelnek meg a biztonsági előírásoknak.
Az MI felelősségteljes jövője
A Character.AI a változások mellett létrehozza az AI Safety Lab nevű nonprofit szervezetet, amely a jövő MI-szórakoztató funkcióinak biztonságos fejlesztését támogatja.
„A legtöbb MI-fejlesztés a kódolásra vagy ipari alkalmazásokra koncentrál” – mondta Anand. „Mi azt szeretnénk, ha a szórakoztató MI-világ is biztonságos lenne, különösen a fiatalok számára.”
A vállalat célja, hogy példát mutasson: az MI nemcsak hatékony, hanem felelősségteljes is lehet, különösen akkor, ha gyerekek a célcsoport.
