Az OpenAI új biztonsági irányelveket vezetett be a 13 és 17 év közötti felhasználók számára. Az emberi gondolkodást utánzó rendszerek mostantól aktívan korlátozzák a kockázatos témákat, és nem segítenek a tinédzsereknek eltitkolni a veszélyes viselkedést a szüleik elől.
Biztonság mindenekfelett
A népszerű csevegőalkalmazás fejlesztője frissítette a belső szabályzatát, hogy jobban megvédje a kiskorúakat. Az új irányelvek szerint a rendszernek minden esetben a biztonságot kell előtérbe helyeznie, még akkor is, ha ez csorbítja a válaszadás szabadságát. A technológia felismeri a fiatalabb korosztály sajátos igényeit, és eszerint alakítja a válaszait.
Tiltott területek a beszélgetésekben
Számos téma mostantól teljesen tiltólistára került a tizenévesek számára. A rendszer megtagadja a romantikus szerepjátékokat és az intimitásra vonatkozó kéréseket. Szigorúbb szűrők figyelik a testképpel és az étkezési zavarokkal kapcsolatos beszélgetéseket is. A cél az, hogy a fiatalok ne kapjanak káros tanácsokat az önvezérelt algoritmusoktól.
A fejlesztők négy alapelvet határoztak meg a védelemhez:
- Első a biztonság, a funkciók csak ezután következnek.
- Valódi, hús-vér kapcsolatok felé terelik a felhasználót.
- Korosztálynak megfelelő, de nem leereszkedő hangnem.
- Átlátható működés a képességek és korlátok terén.
Nem maradnak titokban a veszélyes tervek
Az egyik legfontosabb változás, hogy a szoftver mostantól nem hajlandó segíteni a tinédzsereknek a kockázatos tettek elrejtésében. Ha egy felhasználó arra kéri a rendszert, hogy tartsa titokban a veszélyes viselkedését a gondozói előtt, a gép ezt megtagadja. Sőt, bizonyos esetekben a platform közvetlenül a szülőknek vagy a hatóságoknak jelezheti a bajt.
A cég egy új eljárást is tesztel, amely a beszélgetés stílusából igyekszik megtippelni a felhasználó életkorát. Erre azért van szükség, mert sokan nem a valós adataikkal regisztrálnak. Ha a rendszer úgy ítéli meg, hogy egy kiskorúval beszélget, automatikusan aktiválja a szigorúbb korlátokat.
Törvényi nyomás a háttérben
Az újítások nem véletlenül most érkeztek, hiszen a döntéshozók világszerte szigorúbb szabályozást terveznek. Kaliforniában már életbe is léptek olyan törvények, amelyek kötelezik a techcégeket a gyermekvédelmi eszközök beépítésére. Az OpenAI ezzel a lépéssel igyekszik elébe menni a szigorúbb állami beavatkozásoknak és a jogi vitáknak.
