Dario Amodei szerint az Anthropic soha nem támogatta a nyílt súlyú MI-modellek általános betiltását. A vállalat vezetője a kínai technológiai előretörést és a veszélyes képességű modellek ellenőrizetlen terjedését külön problémaként kezeli.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benMiért kellett megszólalnia az Anthropic vezetőjének?
A vita azt követően erősödött fel, hogy az Nvidia, a Microsoft, a Meta, a Google, az OpenAI, a Hugging Face, a Mistral és számos más technológiai vállalat nyílt levélben kérte az amerikai döntéshozókat a széles körű korlátozások elkerülésére. Az Anthropic nem csatlakozott a kezdeményezéshez, ezért többen azzal vádolták, hogy saját zárt modelljeit védené a nyílt versenytől.
Amodei július 27-én közölt válaszában egyértelműen kijelentette, hogy a vállalat nem kezdeményezte a nyílt súlyú modellek betiltását. A veszélyes képességekkel nem rendelkező változatokat közjónak nevezte, amelyek kedvezőbb hozzáférést biztosítanak a vállalkozásoknak, fejlesztőknek és kutatóknak.
A nyílt súlyú MI-modell paraméterei letölthetők, módosíthatók és saját infrastruktúrán futtathatók. Ettől még nem feltétlenül nyílt forráskódú, mivel a fejlesztő a tanítási adatokat, a forráskódot vagy a teljes fejlesztési folyamatot továbbra is titokban tarthatja.
Amodei két veszélyt különít el
Az első kockázat geopolitikai. Amodei attól tart, hogy egy autoriter állam az Egyesült Államoknál erősebb MI-rendszert épít, majd katonai fölényre, megfigyelésre vagy belső elnyomásra használja. Kínát tartja a legnagyobb képességű szereplőnek, bár állítása szerint az aggodalom más autoriter kormányokra is vonatkozik.
Ebben a forgatókönyvben a modell hozzáférési formája másodlagos. A legveszélyesebb rendszer akár teljes titokban is készülhet, majd kizárólag katonai és hírszerzési szervek használatába kerülhet.
A második kockázat a fejlett modellek kibertámadásokban vagy biológiai fegyverek előállításában történő felhasználása. A nyílt súlyok itt növelhetik a veszélyt, mert a biztonsági korlátozások eltávolíthatók, a használat pedig nem követhető. A brit AI Security Institute szerint egy közzétett modell másolatai már nem vonhatók vissza, és magánrendszereken is futtathatók.
A nyílt modellek támogatói máshogy látják a biztonságot
Az iparági nyílt levél aláírói szerint a hozzáférhető modellek erősítik a versenyt, csökkentik a szolgáltatófüggést, és lehetővé teszik, hogy a védők a támadókéval összemérhető eszközöket használjanak. A kutatók több helyen vizsgálhatják a sérülékenységeket, a vállalatok pedig saját infrastruktúrán kezelhetik adataikat.
Amodei vitatja, hogy a széles hozzáférés minden helyzetben a védekező oldalt segítené jobban. Egy biológiai támadás előkészítése gyors lehet, a védekezéshez szükséges gyógyszerfejlesztés és gyártás viszont éveket igényelhet. Ezt az állítást egyelőre kockázati forgatókönyvként kell kezelni, nem bizonyított következményként.
Globális biztonsági teszteket javasol
Az Anthropic vezetője három intézkedést támogat. Korlátozná a legfejlettebb chipek és chipgyártó berendezések kínai hozzáférését, fellépne az ipari méretű, jogosulatlan modelldesztilláció ellen, valamint kötelező biztonsági vizsgálatot írna elő minden kellően erős modellnél.
A desztilláció során egy modell válaszait egy másik rendszer fejlesztésére használják. Ez bevett technikai módszer, ezért a jogszerű fejlesztés és a szerződésszegő, üzletszerű modellmásolás között pontos határt kell húzni.
A javasolt tesztelés az ország eredetétől és a nyílt vagy zárt hozzáféréstől függetlenül vonatkozna a legerősebb modellekre. Amodei szerint ehhez Kína részvétele is szükséges lenne.
Magyar és európai felhasználóként azért érdemes figyelni a vitára, mert az amerikai döntések a világszerte elérhető modellek választékát, árát és önálló üzemeltethetőségét is meghatározhatják. A jelenlegi álláspontok alapján széles körű tiltás helyett képességalapú ellenőrzés körvonalazódik, a konkrét küszöbök és végrehajtási szabályok azonban még hiányoznak.
