A mesterséges intelligencia fejlesztése mögötti technológiai célok mellett sajátos jövőképek is meghúzódnak. A longtermizmus több ezer vagy akár több millió év távlatából értékeli a jelen döntéseit, és ezzel könnyen háttérbe tolhatja a ma élő emberek érdekeit.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benMit jelent a longtermizmus?
A longtermizmus olyan filozófiai irányzat, amely szerint a távoli jövőben élő emberek jóléte rendkívül nagy erkölcsi súllyal bír. Mivel a jövőben elméletileg sokkal többen élhetnek, mint ahányan valaha eddig megszülettek, az ő érdekeik akár fontosabbá is válhatnak a jelenlegi társadalmak problémáinál.
Első hallásra ez felelős gondolkodásnak tűnik. Érdemes figyelembe venni a klímaváltozást, a járványokat, a háborús kockázatokat és az emberiség hosszú távú fennmaradását. A vita ott kezdődik, amikor a távoli jövő feltételezett előnyei felülírják a jelenben keletkező károkat.
Egyes longtermista gondolkodók szerint az emberiség legfontosabb feladata a civilizáció fennmaradásának biztosítása és technológiai lehetőségeinek kiteljesítése. Ebbe beletartozhat az űr meghódítása, az emberi test technológiai átalakítása és egy rendkívül fejlett mesterséges intelligencia létrehozása.
A longtermizmus ebben az értelmezésben nem egyszerűen a jövő iránti felelősség. Konkrét technológiai és társadalmi programot is adhat.
Mi köze ennek a mesterséges intelligenciához?
Az AGI, vagyis a mesterséges általános intelligencia fejlesztői közül többen úgy gondolják, hogy egy emberi szintű vagy annál fejlettebb rendszer segíthet megoldani a civilizáció legnagyobb problémáit. Egy ilyen rendszer elméletileg új gyógyszereket tervezhetne, hatékonyabb energiaforrásokat fejleszthetne, felgyorsíthatná a tudományt és segíthetne az emberiségnek más bolygókon is megtelepedni.
Ez a jövőkép magyarázza, miért tekintik egyes technológiai vezetők az AGI fejlesztését történelmi küldetésnek. Számukra nem pusztán egy jobb szoftvertermék készül, hanem az emberi civilizáció következő szakaszának alapja.
A küldetéstudat ugyanakkor veszélyes ösztönzőket teremthet. Ha valaki úgy érzi, hogy az emberiség jövőjét menti meg, könnyebben elfogadhatónak látja a jelenlegi károkat, a gyors fejlesztést vagy a demokratikus ellenőrzés megkerülését. Az MI-verseny így erkölcsi sürgősséget kap. Aki lassítást kér, az könnyen a fejlődés akadályának tűnhet.
A TESCREAL rövidítés mögötti gondolatvilág
A Szilícium-völgyben terjedő jövőképeket egyes kutatók a TESCREAL rövidítéssel foglalják össze. A kifejezés több, egymással részben összekapcsolódó irányzat nevét sűríti egyetlen szóba.
Ide tartozik többek között a transzhumanizmus, a szingularitás gondolata, a kozmizmus, a racionalista mozgalom, a hatékony altruizmus és a longtermizmus.
Ezek az irányzatok különböznek egymástól, ezért nem kezelhetők teljesen egységes ideológiaként. Közös elemként mégis gyakran megjelenik a technológiai fejlődésbe vetett erős hit.
A transzhumanizmus például azt vizsgálja, hogyan lehetne technológiával kibővíteni az emberi képességeket, lassítani az öregedést vagy átalakítani az emberi testet. A szingularitás hívei egy olyan jövőbeli pontról beszélnek, amely után a technológiai fejlődés kiszámíthatatlanul felgyorsul. A kozmikus jövőképek pedig az emberiség világűrbeli terjeszkedését és nagyon hosszú fennmaradását helyezik középpontba.
E gondolatok korábban inkább sci-fi regényekben és filozófiai vitákban jelentek meg. Ma milliárdos vállalkozók, technológiai laborok és befektetési döntések közelében is jelen vannak.
Amikor a távoli jövő felülírja a jelent
A longtermizmus legfontosabb kritikája a mérlegelés módjára vonatkozik.
Ha a jövőben elképzelt civilizáció emberek billióiból állhat, akkor a mai szenvedés statisztikailag eltörpülhet mellette. A jelenlegi környezeti terhelés, a kiszolgáltatott adatdolgozók helyzete vagy egy közösség vízellátási problémája apró árnak tűnhet egy hatalmas jövőbeli nyereségért.
Itt válik a filozófiai gondolat gyakorlati hatalmi kérdéssé.
A távoli jövő lakói nem tudnak beleszólni abba, milyen társadalmat építünk a nevükben. A jelenlegi dolgozók, felhasználók és helyi közösségek viszont léteznek, mégis kevés befolyásuk lehet az MI-ipar irányára. A jövő képét egy szűk technológiai elit határozhatja meg. Ők dönthetik el, milyen kockázat elfogadható, mely problémák fontosak, és milyen emberi életet tekintenek kívánatosnak.
A technológiai utópia így demokratikus felhatalmazás nélkül válhat közös tervvé.
Ki határozza meg, mi számít fejlődésnek?
Az MI-fejlesztők gyakran általános emberi érdekről beszélnek. A gyakorlatban azonban az emberiség nem egységes szereplő. Másképp látja a fejlődést egy kaliforniai technológiai vállalkozó, egy kenyai tartalommoderátor, egy európai munkavállaló vagy egy adatközpont mellett élő közösség. Valaki számára a fejlődés hosszabb életet és űrutazást jelent. Másnak tisztességes fizetést, biztonságos munkát vagy hozzáférhető ivóvizet.
Ezeket a szempontokat nem lehet egyszerűen egyetlen jövőbeli haszonértékké alakítani. A technológiai döntések mindig elosztják az előnyöket és a terheket. Aki birtokolja az infrastruktúrát, a modelleket és a tőkét, rendszerint nagyobb részt kap az előnyökből. A költségek gyakran távolabb jelennek meg, kevésbé látható munkásoknál és közösségeknél.
Az AGI ígérete nem bizonyíték
Az AGI-val kapcsolatos jövőképek nagyrészt előrejelzésekre épülnek. Jelenleg nincs általánosan elfogadott definíció arról, pontosan milyen képességekkel rendelkezne egy ilyen rendszer, mikor jöhetne létre, vagy egyáltalán megvalósítható-e.
Ennek ellenére az AGI ígérete már most hatással van a beruházásokra, az energiafelhasználásra, a szabályozásra és a vállalati stratégiákra.
A feltételezett jövő tehát jelenlegi döntéseket alakít.
Ez önmagában nem szokatlan. Kormányok és cégek rendszeresen terveznek várható jövőbeli helyzetekre. A probléma akkor jelentkezik, amikor a bizonytalan ígéret biztos erkölcsi felhatalmazássá válik. Egy lehetséges technológiai áttörés nem igazolja automatikusan a jelenlegi károkat. A társadalmi felelősséghez ellenőrizhető célok, átlátható döntések és számonkérhető szereplők kellenek.
Lehet hosszú távon gondolkodni józanabbul is
A jövő generációinak érdekeit komolyan venni indokolt. A klímavédelem, a biztonságos technológia és a stabil intézmények mind hosszú távú gondolkodást követelnek. Ehhez nincs szükség arra, hogy a ma élők jogait másodlagosnak tekintsük.
A felelős jövőtervezés össze tudja kapcsolni a távoli kockázatokat a jelenlegi társadalmi következményekkel. Figyelembe veszi az MI környezeti lábnyomát, az adatdolgozók helyzetét, a gazdasági hatalom koncentrációját és a demokratikus ellenőrzést.
A jövő nem üres terület, amelyet néhány technológiai vezető saját elképzelése szerint rendezhet be. A jelen döntéseiből épül, azok minden előnyével és minden elhallgatott költségével együtt.
A legfontosabb kérdés ezért az, kik kapnak helyet a tervezőasztalnál. Mert aki meghatározza a kívánatos jövőt, az a jelen szabályait is formálja.
