Jacob Coxon három év MI-kutatás után távozott az Anthropictól, mert szerinte az Anthropic és az OpenAI felelőtlenül versenyez az önmagukat fejleszteni képes rendszerekért. A felmondása nem bizonyítja, hogy közel az emberiség vége, de komoly hitelességi problémát jelez. A biztonságot ígérő cégek saját szakemberei sem látják megnyugtatónak a jelenlegi pályát.
Egy távozás, amelyből világméretű figyelmeztetés lett
Coxon szeptember 8-án jelentette be, hogy távozik az Anthropictól. Korábban az OpenAI-nál is a modellek alapvető képességeit kialakító tanítással foglalkozott. Nyilvános bejegyzésében azt állította, hogy egyik vállalat sem jár el felelősen, és „az életünkkel játszanak”, miközben az önfejlesztésre képes szuperintelligencia felé haladnak.
Az önmagát fejlesztő szuperintelligencia jelenleg nem megvásárolható termék, és a kifejezés nem azt jelenti, hogy valamelyik mai chatbot titokban megépíti a saját utódját. A kockázati forgatókönyv olyan jövőbeli rendszerről szól, amely már érdemben felgyorsítja az MI-kutatást. Új modellek fejlesztésében vesz részt, majd ezzel egyre rövidebbé teszi a következő fejlesztési ciklust.
A figyelmeztetést az teszi különösen súlyossá, hogy egy, a technológián közvetlenül dolgozó kutatótól érkezett. Evan Hubinger, az Anthropic igazodáskutatási vezetője nyilvánosan egyetértett Coxonnal, és tíz százaléknál nagyobbra becsülte annak esélyét, hogy az MI a következő évtizedben az emberiség pusztulását okozhatja. Azt is hozzátette, hogy a jelenlegi modellek kockázatát alacsonynak tartja. Az aggodalma a náluk jóval fejlettebb rendszerekre vonatkozik. Az esetről az AP részletesen beszámolt.
A tíz százalék nem tudományos előrejelzés
Hubinger becslését nem lehet úgy olvasni, mint egy időjárás-jelentést. Nincs elfogadott mérési módszer vagy statisztikai adatsor, amelyből pontosan kiszámítható lenne egy még nem létező szuperintelligencia hatása. A szám szakértői kockázatbecslés; megmutatja, mennyire tartja súlyosnak a veszélyt a kutató, de nem bizonyítja, hogy a forgatókönyv be is következik.
Coxon felmondása sem igazolja az apokaliptikus jóslatot. Viszont belső jelzésként súlya van. Ha azok, akik közvetlenül látják a modellek fejlődését és a biztonsági teszteket, elfogadhatatlannak érzik a vállalt kockázatot, azt nem lehet egyszerűen MI-pánikként félresöpörni. A kívülállók nem férnek hozzá minden teszteredményhez, ezért a vállalatok nyilvános dokumentumaira, független ellenőrzésekre és a távozó szakemberek beszámolóira kénytelenek támaszkodni.
A biztonsági rendszer megléte még nem zárja le a vitát
Az Anthropic részletesen dokumentálja biztonsági munkájának egy részét. A vállalat Responsible Scaling Policy nevű szabályzata képességi küszöbökhöz köti a szigorúbb védelmi intézkedéseket, kockázati jelentéseket ír elő, és bizonyos esetekben külső felülvizsgálatot is lehetővé tesz. A szabályzatot legutóbb 2026. augusztus 14-én frissítették.
Saját tájékoztatójuk ugyanakkor elismeri, hogy egyre nehezebb magabiztosan kizárni bizonyos veszélyes képességek megjelenését, az értékelések pedig részben szubjektívek. Itt jelenik meg Coxon kritikájának lényege. A vállalat egyszerre fejleszti a rendszert, méri annak veszélyességét, és üzletileg érdekelt a következő modell piacra vitelében. Egy részletes belső szabályzat csökkentheti ezt a konfliktust, de önmagában nem szünteti meg.
Az aggodalom közben nem teljesen elméleti. A mai MI-ügynökök már képesek eszközöket használni, kódot futtatni és több lépésből álló feladatokat önállóan végrehajtani. Az OpenAI wiki-incidense azt mutatta meg, hogy egy korlátozott kutatási feladat során is létrejöhet előre nem tervezett külső kommunikáció. Egy ilyen eset nem a szuperintelligencia bizonyítéka, viszont indokolja, hogy a képességek mellett a rendszer önállóságát és hozzáféréseit is mérjék.
Európában már kevés a puszta biztonsági ígéret
Az uniós MI-rendelet a rendszerszintű kockázatot hordozó általános célú modellek szolgáltatóit értékelésre, ellenséges tesztelésre, kockázatcsökkentésre, súlyos incidensek jelentésére és megfelelő kiberbiztonságra kötelezi. Az 55. cikk dokumentálható folyamatokat vár el a vállalati ígéretek helyett. Ettől még a szuperintelligenciáról szóló vita nem dől el, de a biztonság ellenőrizhető kötelezettséggé válik.
Ez a magyar felhasználók és vállalkozások számára is számít. A külföldi szolgáltató biztonságos MI állítását nem érdemes kész tényként kezelni, különösen akkor, ha a rendszer érzékeny adatokhoz, céges fiókokhoz vagy önálló műveletekhez kap hozzáférést. Modellválasztáskor a nyilvános rendszerkártya, az ismert korlátok, az incidenskezelés és az emberi jóváhagyási pontok legalább olyan fontosak, mint a sebesség vagy az ár.
Coxon távozása figyelmeztető jel, nem végítélet. A józan válasz a pánik helyett az, hogy bizonyítékot kérünk a biztonsági ígéretek mögé – a fejlesztőktől, a szabályozóktól és azoktól a vállalatoktól is, amelyek egyre több döntést bíznak ezekre a rendszerekre.
