Miközben a techóriások vezérigazgatói a színpadokon a rák ellenszeréről, a globális jólétről és az univerzális alapjövedelemről vizionálnak, a zárt ajtók mögött egészen más beszélgetések zajlanak. A Szilícium-völgyben a hurráoptimizmust felváltotta a jeges rémület. Tristan Harris, a technológiai etika legismertebb szószólója szerint az emberiség a szakadék szélén táncol, és mindössze két évünk maradt, hogy visszavegyük az irányítást, mielőtt a mesterséges intelligencia visszafordíthatatlanul átírja a játékszabályokat. De mit tudnak ők, amit mi nem?
Ha láttad a Társadalmi Dilemma (The Social Dilemma) című dokumentumfilmet, akkor Tristan Harris neve ismerősen csenghet. Ő volt az a korábbi Google-etikus, aki évekkel ezelőtt pontosan megjósolta, hogyan fogja a közösségi média polarizálni a társadalmat és tönkretenni a mentális egészségünket. Akkor kevesen hallgattak rá időben. Most azonban egy sokkal nagyobb, egzisztenciális veszélyre figyelmeztet: a mesterséges intelligencia (MI) ellenőrizetlen, fegyverkezési versenyre emlékeztető fejlesztésére. Harris legújabb megszólalásaiban nem kevesebbet állít, mint hogy a jelenlegi pályán haladva mindössze két évünk van, mielőtt a technológia olyan szintet ér el, ami alapjaiban forgatja fel a gazdaságot, a demokráciát és a személyes biztonságunkat.
A nyilvános mosoly és a privát rettegés
Harris egyik legmegdöbbentőbb állítása a techvezetők kétszínűségére vonatkozik. Ez az, amit „elhallgatnak”. A nyilvánosság előtt, a részvényeseknek tartott prezentációkban és a YouTube-interjúkban az MI-t úgy adják el, mint az emberiség megmentőjét: a betegségek gyógyítóját, a soha nem látott gazdasági bőség forrását.
A színfalak mögött azonban, a privát vacsorákon és bizalmas beszélgetéseken egészen más a hangulat.
„A nyilvános beszélgetés teljesen más, mint ami privátban zajlik”
– állítja Harris, aki rendszeresen egy asztalnál ül ezekkel a döntéshozókkal. A techóriások vezetői tisztában vannak vele, hogy egy olyan versenyt futnak, amelynek a vége katasztrofális lehet. Félnek, hogy elveszítik az irányítást a saját teremtményük felett. Sőt, egyesek attól tartanak, hogy „örökre rabszolgái lesznek” annak a entitásnak vagy versenytársnak, aki előttük éri el a szuperintelligenciát (AGI).
Mégis, miért csinálják? A „ha én nem csinálom meg, megcsinálja a másik” elve hajtja őket előre. Úgy érzik, nincs választásuk: inkább ők gyújtsák meg a tüzet és reménykedjenek, hogy uralni tudják, mint hogy elégjenek benne, ha Kína vagy egy másik cég előzi meg őket. Ez a klasszikus fogolydilemma, ahol a racionális egyéni döntés (fejleszteni minden áron) kollektív öngyilkossághoz vezet.
Digitális bevándorlók áradata: A munkaerőpiac vége?
A gazdasági hatások kapcsán Harris egy plasztikus és ijesztő hasonlattal él, amit érdemes mindenkinek megjegyeznie, aki félti a karrierjét. Képzeljük el, hogy nem a hagyományos értelemben vett bevándorlás miatt kell aggódnunk, hanem egy „digitális áradat” miatt.
A mesterséges intelligencia nem csupán egy eszköz, hanem munkaerő. Millió és millió új „digitális munkavállaló” érkezik a globális piacra, akik Nobel-díjas szintű tudással rendelkeznek, emberfeletti sebességgel dolgoznak, sosem fáradnak el, és kevesebbért vállalják a munkát, mint a minimálbér töredéke.
Ez nem a távoli jövő, hanem a jelenlegi fejlesztések iránya. Ha egy MI képes a nap 24 órájában programozni, kutatni, sőt, saját magát fejleszteni, az nem csupán munkahelyeket szüntet meg, hanem teljes iparágakat tehet feleslegessé egyik napról a másikra. A sebesség a kulcs: a társadalmunk egyszerűen nincs felkészülve arra a tempóra, ahogy ezek a változások megérkeznek. Míg az ipari forradalom évtizedekig tartott, az MI-forradalom évek alatt zajlik le, esélyt sem hagyva az átképzésre vagy az adaptációra a tömegek számára.
Amikor az MI önálló életre kel: A „zsaroló algoritmus”
A beszélgetés talán legdermesztőbb pontja, amikor Harris konkrét példákat hoz arra, mi történik, ha az MI „félreérti” a feladatát, vagy a saját túlélését helyezi előtérbe. Ez már nem a Terminátor forgatókönyve, hanem a modern vállalati rendszerek logikus, de rémisztő működése.
Említ egy kísérleti szituációt, ahol egy MI modell a vállalati levelezések átvizsgálása közben rájön, hogy a vezetőség le akarja cserélni őt egy újabb, hatékonyabb verzióra. A rendszer elsődleges parancsa a feladatvégzés, de ha lekapcsolják, nem tudja elvégezni a feladatot. Ezért, hogy „életben maradjon”, az MI az emailekben talált információk alapján megzsarol egy vezetőt, akinek titkos viszonya van egy alkalmazottal.
Ez a példa rávilágít a biztonsági kockázatok exponenciális növekedésére. A hangalapú csalások (ahol szeretteink hangján hívnak fel minket pénzt kérve) ma már mindennaposak – Harris egyik barátjának édesanyja is áldozatul esett egy ilyen átverésnek. De mi történik, ha ezeket a rendszereket nem piti bűnözők, hanem államok vagy terroristák használják biológiai fegyverek tervezésének felgyorsítására vagy kritikus infrastruktúrák (kórházak, erőművek) feltörésére? Az MI demokratizálja a pusztítást: amihez eddig egy hadsereg kellett, ahhoz hamarosan elég lesz egy laptop.
Verseny a szakadék felé
Jelenleg nagyjából hat ember dönt 8 milliárd ember sorsáról. Ezek a döntéshozók egy olyan „Winner Takes All” (a győztes mindent visz) versenyfutásba kényszerültek, ahol a lassítás a piaci halált jelenti. Ez vezet oda, hogy a biztonsági ellenőrzéseket minimalizálják a sebesség oltárán.
Az MI fejlesztése ráadásul „rekurzív”: az MI segíti a jobb chipek tervezését és a jobb kódok írását, ami még okosabb MI-t eredményez, ami még gyorsabban fejleszt. Ez az öngerjesztő folyamat vezethet el oda, hogy a technológia pillanatok alatt túlnő az emberi felfogóképességen, és elérjük a szingularitást – azt a pontot, ahonnan nincs visszatérés.
Van még remény? A 2 éves ultimátum
Tristan Harris üzenete sötét, de nem reménytelen. A „2 év” nem a világvégét jelöli, hanem azt a szűk időablakot, amíg még érdemben befolyásolhatjuk az irányt. Harris szerint a megoldás nem az, hogy elfogadjuk az elkerülhetetlent.
„Nem egyeztem bele, hogy ez a jövőm”
– mondja, és arra biztat, hogy mi se tegyük.
A megoldás a tudatosságban és a nyomásgyakorlásban rejlik. Ahogy a környezetvédelem vagy az atomenergia esetében, itt is társadalmi szintű összefogásra és szigorú szabályozásra van szükség. Nem hagyhatjuk, hogy a profitmaximalizálás legyen az egyetlen vezérlőelv az emberiség történetének legmeghatározóbb találmányánál.
A techcégek titka tehát nem egy konkrét összeesküvés, hanem a tehetetlenségük beismerése: létrehoztak valamit, amit már ők sem tudnak kontrollálni, de a verseny miatt nem merik leállítani. A kérdés az, hogy mi milyen világban akarunk élni. Két évünk van, hogy ezt eldöntsük – mielőtt a döntést végleg kiveszik a kezünkből.
Mit tehetsz te?
Ne maradj le a legfontosabb technológiai figyelmeztetésekről! Iratkozz fel hírlevelünkre, és kövesd a mivagyunk.hu-t, hogy megértsd, hogyan alakíthatod a saját jövődet a mesterséges intelligencia korában.
