Ha zenét hallgatunk, ritkán gondolunk bele, hogy a kattintásaink hova vezetnek. Pedig a streaming ma már nem pusztán kényelmi szolgáltatás: hatalmas pénzeket mozgat, és ezzel iparágakat – újabban állítólag – háborúkat is finanszíroz. Amikor kiderült, hogy Daniel Ek, a Spotify társalapítója és vezérigazgatója több százmillió eurót fektetett a német Helsing nevű, mesterséges intelligencia alapú haditechnológiai startupba, a zenei világban elszakadt a cérna.
A bojkott első hulláma
A The Fader július 29-i cikke nyomán vált világossá: nem egyetlen elszigetelt esetről van szó, hanem valódi mozgásról. A Deerhoof nevű indie-rock csapat állt ki elsőként, amikor nyíltan kimondta:
Nem akarjuk, hogy a zenénk embereket öljön.
Pár nappal később az ausztrál King Gizzard & the Lizard Wizard jelentette be Instagramon, hogy levette katalógusát, valami olyasmi poszttal, hogy nyomást kell gyakorolni ezekre az ördörgi (Dr. Evil) techbratyókra. Sorra követték őket mások: a Xiu Xiu, a Hotline TNT, az énekes-dalszerző Leah Senior, az ausztrál Dr Sure’s Unusual Practice. De egy egész kiadó, a Kalahari Oyster Cult is.
Maclay Heriot
Aztán a napokban a Massive Attack is csatlakozott. Azt mondják a Spotify az eddigi gazdasági kizsákmányolást most morális teherrel is tetézi, mert a rajongók pénzéből és a zenészek kreatív munkájából végső soron halálos, disztópikus technológiák épülnek.
A rajongók pénzéből és a zenészek kreatív munkájából végső soron halálos, disztópikus technológiák épülnek.
A tiltakozás nem a semmiből érkezett. A Spotify-t az elmúlt évben már így is keményen támadták az MI által generált „ghost artist”-ok miatt, amelyek elvonták a bevételeket a valódi művészektől. Valamint a nevetségesen alacsony jogdíjak miatt. A fegyverkezési befektetés csak újabb lapáttal tett rá erre a halomra és a gazdasági sérelemből erkölcsi botrány lett.
A helyzet azért szimbolikus, mert nyilvánvalóvá válik, hogy a kultúra sem steril tér. A streamingből származó pénzek útja nem áll meg a lejátszási listáknál. Ha az alapító a profitját autonóm fegyverekbe fekteti, akkor minden előfizetés, minden meghallgatás, minden kattintás morális szavazattá válik. A dallamokból fegyverek lettek.
Amikor a gép dönt életről és halálról
Az autonóm fegyverek ma már nem a sci-fi lapjairól kacsintanak vissza, hanem katonai költségvetések sorait töltik ki. Drónok, amelyek önállóan választanak célpontot; algoritmusok, amelyek másodpercek alatt átfésülik a harctéri adatokat; rendszerek, amelyek képesek kikapcsolni az emberi mérlegelést. Az, ami eddig a katonai döntés morális terhét jelentette, áthelyeződik az algoritmus feketedobozába.
A hadviselés etikáját évszázadok óta a jus in bello elve szabályozza. Már Szent Ágoston és Aquinói Tamás is megfogalmazták: a háború lehet igazságos, de csak akkor, ha szabályai vannak. A jus in bello három fő követelményt állít: különbséget kell tenni katona és civil között; arányosnak kell lennie a támadásnak; és a szükségtelen szenvedést mindenáron kerülni kell. Ezek nem puszta jogi paragrafusok, hanem a civilizáció védekező falai a háború barbárságával szemben.
Az „ötperces háború” rémképe
Tilesch György már 2021-ben, a Mesterség és intelligencia – Vegyük kezünkbe sorsunkat az MI korában című könyvében figyelmeztetett: a jövő háborúi nem tankok és rakéták lassú mozgásában, hanem percek alatt zajló, többfrontos digitális offenzívákban öltenek testet. Az „ötperces háború” kifejezés pontosan azt jelenti, amit sugall: egy ország megbénítása annyi idő alatt, amíg mi a reggeli kávénkat elkortyoljuk.
A forgatókönyv hátborzongatóan egyszerű. Az első az információs támadás: deepfake-videók, botokkal felerősített álhírek, amelyek a politikai vezetők hitelességét egy perc alatt porig rombolják. Ez nem jövő, hanem jelen: a technológia készen áll, a közösségi média pedig tökéletes terep a pánik gyors terjedéséhez. A következő lépés egy zsarolóvírus, amely percek alatt megfekteti az ország alap-infrastruktúráját: áram, víz, internet, mobilhálózat. És amíg a polgárok sötétben és víz nélkül maradnak, drónrajok gyülekeznek a város felett, arcfelismerő algoritmusokkal pásztázva a tömeget, keresve a potenciális ellenállás gócpontjait.
Ez a háború nem csatateret, hanem totális bénultságot jelent. Az ENSZ Biztonsági Tanácsának tagjai talán még a fogkeféért nyúlnának, amikor már kész a puccs. Nem klasszikus invázióról van szó, inkább egy vállalati hatalomátvételről: infrastruktúra-felvásárlás, digitális lefoglalás, lakossági megfélemlítés. Éppen ezért olyan nehéz felismerni és reagálni rá. Nem hullanak bombák, nincsenek tankok az utcán, csak egy lassú, digitális elsötétülés, amely ellen a közvélemény sem tiltakozik azonnal. Mert nincs, ami látszódjon.
Magyarország dilemmái
Magyarország NATO-tagként nem állhat félre. A honvédelmi stratégia 2030-ig a régió meghatározó erejévé akarja tenni a Magyar Honvédséget. Ennek része a 4iG és az Egyesült Arab Emírségek állami védelmi cége, az EDGE közös projektje is: loitering muníciók (öngyilkos drónok), légvédelmi rendszerek és drónforgalom-irányító szoftverek fejlesztése.
Ezek mind az MI-re építenek. A kérdés: hogyan tudunk részt venni a NATO-technológiák integrációjában úgy, hogy közben az etikai és jogi felelősséget is vállaljuk? Ha egy magyar részvételű műveletben autonóm rendszer téved, ki viseli a jogi-erkölcsi következményeket? A gyártó cég, a programozó, a hazai döntéshozó vagy a NATO? A nemzetközi jog és katonai gyakorlat ma még a „ember a döntési láncban” elvén igyekszik alapulni, de a gyakorlat – különösen a szenzorok, a szoftverek és a döntéstámogató rendszerek elterjedésével – gyorsan változik.
Mit tehetünk?
A nemzetközi közösség próbálkozik. Az ENSZ évekkel ezelőtt megpróbálta lefektetni az autonóm fegyverek tilalmát, de az Egyesült Államok, Oroszország és Izrael ellenállása miatt az LAWS-keretrendszer holtan született. A NATO most „felelős AI-elvek” mentén próbál haladni, hangsúlyozva, hogy az embernek a döntési láncban maradnia kell. De a fegyverkezési verseny gyorsabb, mint a jogalkotás.
Civilként a legfontosabb fegyverünk a tudatosság. Hogy felismerjük: amikor zenét hallgatunk, amikor alkalmazást fizetünk, amikor adóforintjaink védelmi fejlesztésbe áramlanak, mind részei vagyunk ennek a történetnek. A döntéseink nyomán nemcsak piacok, hanem hadszínterek is formálódnak.
Mit gondolsz? Elfogadható, hogy zenénk, adóink, döntéseink fegyvereket finanszíroznak, ha cserébe kevesebb katonát veszítünk? Vagy ragaszkodjunk ahhoz, hogy életről és halálról mindig ember döntsön? Írd meg nekünk, vitázz velünk.
