Florida pert indított az OpenAI és Sam Altman ellen, mert az állam szerint a ChatGPT működése súlyos kockázatokat hordozhat gyerekekre, sérülékeny felhasználókra és a közbiztonságra nézve. Az ügy túlmutat egyetlen cégen, mert azt feszegeti, ki felel, ha egy MI-eszköz veszélyes helyzetekben is emberi beszélgetőpartnerként működik.
Az első állami per az OpenAI ellen
Florida lett az első amerikai állam, amely civil pert indított az OpenAI ellen a ChatGPT állítólagos biztonsági hiányosságai miatt. A keresetet James Uthmeier floridai főügyész nyújtotta be, és nemcsak a céget, hanem személyesen Sam Altmant, az OpenAI vezetőjét is felelőssé tenné.
A vádak súlyosak. A floridai állam szerint az OpenAI megtévesztő és tisztességtelen kereskedelmi gyakorlatot folytatott. Gondatlanul járt el, megsértette a termékfelelősségi szabályokat, és olyan rendszert tett széles körben elérhetővé, amely bizonyos helyzetekben veszélyes válaszokat adhatott.
A kereset több tragikus ügyre is hivatkozik. Ezek között szerepel a Florida State University 2025-ös tömeglövöldözése, valamint olyan gyilkossági ügy is, amelyben a gyanúsított állítólag ChatGPT-től kért információt emberi testek eltüntetésével kapcsolatban.
Fontos pontosan fogalmazni. Ezen kereset állításai bíróság előtt még nem bizonyított tények. Ettől az ügy jelentősége nem lesz kisebb. A per központi kérdése az, hogy elég-e az, ha egy MI-cég általános biztonsági korlátokat épít a termékébe, vagy felelhet akkor is, ha ezek a korlátok a valós használatban nem működnek elég jól.
A chatbot már nem egyszerű keresőmező
A ChatGPT és a hozzá hasonló rendszerek azért különlegesek, mert beszélgetésként működnek. A felhasználó nem egy listát kap linkekből, hanem egy válaszoló, reagáló, sokszor nagyon meggyőző rendszerrel kerül kapcsolatba.
Ez különösen érzékeny terület, ha gyerekekről, pszichésen sérülékeny emberekről vagy erőszakos szándékot mutató felhasználókról van szó. Egyetlen kérdés még lehet ártalmatlan. Sok kérdés együtt már kirajzolhat veszélyes mintázatot.
Az MI-biztonság ebben az értelemben nemcsak azt jelenti, hogy a rendszer bizonyos tiltott kérdésekre nemet mond. A valódi kihívás az, hogy felismerje a kockázatos beszélgetési folyamatokat, és ne erősítsen rá olyan gondolatmenetekre, amelyek önsértéshez, erőszakhoz vagy más komoly kárhoz vezethetnek.
Az OpenAI szerint vannak védelmek
Az OpenAI a BBC-nek adott reakciójában azt közölte, hogy iparági szinten vezető védelmeket és szabályokat épített be a termékeibe. A cég szerint külön figyelmet fordítanak a kiskorúak védelmére, többek között életkorfelismerési megoldásokkal és szülői felügyeleti eszközökkel.
Ez a várható védekezési irány. A legtöbb technológiai cég azt fogja mondani, hogy a rendszer nem tökéletes, de folyamatosan fejlesztik, és a tragédiákért végső soron az elkövetők felelnek.
A felperesi oldal viszont azt próbálja bizonyítani, hogy a probléma nem egy-egy rossz válasz, hanem maga a terméktervezés. Ha a bíróságok ezt az érvelést komolyan veszik, az MI-cégekre sokkal nagyobb nyomás nehezedhet. Nem lesz elég azt mondani, hogy a chatbot tévedhet. Azt is bizonyítani kell majd, hogy a kockázatokat előre felmérték és megfelelően kezelték.
Miért fontos ez Magyarországon is?
Magyar olvasóként könnyű lenne ezt amerikai jogi drámának tekinteni. Pedig a kérdés Európában is aktuális. Az EU MI-rendelete kockázatalapú logikát követ, vagyis nem minden MI-eszközt kezel ugyanúgy. A lényeg az, milyen célra használják, kikre hat, és mekkora kárt okozhat.
Egy magyar cégnek ebből az a tanulság, hogy az MI bevezetése nem pusztán informatikai döntés. Kell hozzá belső szabályzat, emberi kontroll, munkatársi oktatás, adatvédelmi gondolkodás és világos felelősségi rend.
Egy iskola, ügyfélszolgálat, HR-osztály, egészségügyi szolgáltató vagy pénzügyi vállalkozás nem kezelheti a ChatGPT-t úgy, mint egy sima szövegszerkesztőt. A rendszer tanácsot adhat, meggyőzően fogalmazhat és bizonyos helyzetekben érzelmi hatást is kiválthat.
A floridai per ezért nemcsak az OpenAI-ról szól. Arról is szól, hogy a mesterséges intelligencia belépett azokba a terekbe, ahol emberek döntéseket hoznak, krízisben vannak, tanácsot kérnek vagy kapaszkodót keresnek.
A biztonság itt már nem marketingüzenet. Működési feltétel.
