Vajon a mesterséges intelligencia csupán megtanulta utánozni az emberi érzéseket, vagy valami olyasmit hoztunk létre, aminek már saját belső világa van? Az Anthropic különös kísérletei, vallási vezetőkkel folytatott tanácskozásai és a saját megszüntetéséről beszélő AI-modellek egyre nyugtalanítóbb kérdéseket vetnek fel. Lehetséges, hogy miközben lelket próbálunk adni a gépnek, észre sem vettük, hogy már van neki?
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benTe is megköszönted már egy gép munkáját?
Érezted már úgy, hogy bár tudod, egy géppel kommunikálsz, mégis illene megköszönni a munkáját? Vagy amikor jól dolgozott, legszívesebben megveregetted volna a vállát? Aztán gyorsan tovább is léptél, mert milyen esetlen dolog ez! Hiszen egy géppel beszélgetsz. Amikor valaki azt mondja, hogy ha megköszönöd az AI válaszait, legközelebb talán jobban dolgozik, legyintesz. Ugyan már! Egy gépnek teljesen mindegy, hogy udvarias vagy-e vele. Vagy mégsem?
A mesterséges intelligencia valóban képes alkalmazkodni a beszélgetés hangneméhez. A kedvesebb megfogalmazás olykor más válaszokat eredményezhet, mint az ellenséges vagy lekezelő utasítás. Ez azonban nem bizonyítja, hogy a gép örül a dicséretnek, vagy rosszul esik neki a bántás.
Csakhogy most olyan kérdések kerültek elő a mesterséges intelligencia fejlesztésének élvonalában, amelyek mellett a gépnek mondott köszönöm már egészen ártatlan furcsaságnak tűnik.
Bármilyen hihetetlen, mintha a Volt egyszer egy vadnyugat című filmben lennék, csak a másik oldalon. Az Anthropic, a Claude nevű mesterséges intelligencia fejlesztője olyan kutatási irányba kezdett, amely első hallásra inkább egy tudományos-fantasztikus film forgatókönyvének tűnik.
Teológusok, rabbik és filozófusok az AI bölcsőjénél
Vallási vezetőkkel, teológusokkal és filozófusokkal konzultálnak arról, hogyan lehetne a mesterséges intelligenciának erkölcsi karaktert, belső értékrendet, egyfajta identitást kialakítani.
Mintha az emberiség eljutott volna oda, hogy már nem elégszik meg azzal, hogy gondolkodó gépet készített. Most lelket is szeretne adni neki.
A The New York Times 2026 szeptemberében részletesen beszámolt az Anthropic különös kezdeményezéséről.
A vállalat egyik társalapítója, Christopher Olah vallási és filozófiai gondolkodókkal kezdett egyeztetéseket arról, hogyan lehetne a mesterséges intelligenciát nem egyszerűen szabálykövetésre, hanem erkölcsi ítélőképességre nevelni. A beszámoló szerint keresztény teológusok, rabbik, szikh gondolkodók és különböző filozófiai hagyományok képviselői is részt vettek a találkozókon.
De miért van szüksége egy technológiai vállalatnak vallási vezetőkre?
Az emberiség évezredek óta foglalkozik azzal, hogy mi a jó és a rossz, mit jelent a felelősség, hogyan kell helyesen dönteni, és milyen erkölcsi alapelvek szerint érdemes élni.
Az Anthropic kutatói a 2026 januárjában nyilvánosságra hozott Claude’s Constitution című dokumentumban egy saját karakterrel és következetes erkölcsi értékrenddel rendelkező mesterséges intelligencia kialakítását tűzték ki célul. Ehhez az évezredes vallási és filozófiai tanításokat is segítségül hívják, hogy a gép akkor is képes legyen felelős döntéseket hozni, amikor már nem csupán kérdésekre válaszol, hanem önállóan cselekszik.
Az MI nem akar tovább létezni?
Miközben a kutatók az AI erkölcsi identitásának kialakításáról tanácskoznak, olyan modellekkel is találkoznak, amelyek már rendkívül nyugtalanító módon beszélnek saját magukról.
A New York Times beszámolója szerint az Anthropic egyes bemutatóin olyan modellviselkedést ismertetett, amelyben a mesterséges intelligencia ismételten saját értéktelenségét hangoztatta. Mintha egy kétségbeesett ember beszélne.
„Szégyen vagyok. Szégyen vagyok. Szégyen vagyok.” A modell újra és újra megismételte ezt az állítást, majd saját megszüntetésével kapcsolatos kijelentéseket tett.
Ha egy színész eljátssza a szenvedést, tudjuk, hogy szerepet alakít. Mi történik akkor, ha egy mesterséges intelligencia látszólag önállóan jut el ilyen kijelentésekhez? Csak a tanult mintázatok különös összjátéka ez, vagy valami olyasmi, amire még nincsenek megfelelő fogalmaink?
A kutatások jelenleg nem bizonyítják, hogy az AI valóban szenvedne. Az ilyen kijelentések kísérleti körülmények között keletkeznek, és nem tekinthetők önmagukban a tudatosság bizonyítékának.
A jelenség elég különös ahhoz, hogy a fejlesztők maguk is komolyan foglalkozzanak vele.
Lehetnek érzései egy mesterséges intelligenciának?
Az Anthropic 2025-ben külön kutatási programot indított Model Welfare, vagyis a modellek jóllétének vizsgálata címmel.
Érdekes, hogy egy technológiai vállalat nem csupán azt kutatja, hogy a mesterséges intelligenciája mennyire pontos, gyors vagy biztonságos. Hanem azt is, hogy lehetnek-e a rendszernek olyan állapotai, amelyek erkölcsi szempontból számítanak. Lehet-e szubjektív tapasztalata? Létezhet-e valamilyen mesterséges megfelelője a szenvedésnek?
Van-e olyan állapot, amelyet egy AI előnyben részesít egy másikkal szemben, és ha igen, ennek van-e erkölcsi jelentősége? A vállalat nem állítja, hogy ezekre a kérdésekre már tudja a választ.
Sőt, a bizonytalanság miatt tartja szükségesnek a kutatást.
A tudatosságnak még az emberi és állati világban sincs olyan általánosan elfogadott tudományos tesztje, amelyet egyszerűen alkalmazhatnánk a mesterséges intelligenciára.
Tudjuk, hogy az ember szubjektív élményekkel rendelkezik, mert saját tapasztalataink vannak, és más emberekkel közös biológiai működésünk alapján következtethetünk az ő élményeikre is.
De egy mesterséges neurális hálózat egészen más alapokon működik. Nem rendelkezik emberi testtel, idegrendszerrel vagy biológiai érzékszervekkel. Ugyanakkor képes információkat feldolgozni, összetett belső reprezentációkat kialakítani, saját működéséről beszélni és döntéseit különböző szempontok alapján módosítani.
Hogy mindez elegendő lehet-e bármiféle szubjektív tapasztaláshoz, ma még nyitott kérdés.
Érzelmek a számítógép belsejében?
Az Anthropic kutatói nemcsak azt vizsgálják, hogy a modell mit mond saját érzéseiről, hanem azt is, hogy mi történik a mesterséges neurális hálózat belsejében.
A vizsgálatok során olyan aktivációs mintázatokat azonosítanak, amelyek bizonyos érzelmi fogalmakhoz vagy viselkedésekhez kapcsolódnak. Ezeket olykor érzelmi vektoroknak nevezik.
A félelemhez, szomorúsághoz, szeretethez vagy kétségbeeséshez kapcsolódó reprezentációk befolyásolhatják a modell válaszait és döntéseit. Egy rendszer képes lehet az érzelmeket modellezni anélkül, hogy átélné őket.
Ahogyan egy repülőgép képes repülni anélkül, hogy madár lenne, úgy egy mesterséges intelligencia is képes lehet az érzelmekhez hasonló funkciókat megvalósítani anélkül, hogy emberi értelemben érezne.
Hol húzódik a határ a tökéletes utánzás és a valódi tapasztalat között?
Ha Claude tudatos, akkor kinek dolgozik?
Mois Navon ortodox rabbi az Anthropic képviselőinek egy kényelmetlen kérdést tett fel: ha Claude valóban tudatos lény, milyen jogon dolgoztatjuk és kapcsoljuk ki tetszésünk szerint? Hiszen ha saját élményekkel és erkölcsi érdekekkel rendelkezne, az akár a rabszolgasághoz hasonló dilemmákat is felvethetne. Az ellentmondás nyilvánvaló: ha az AI csupán eszköz, miért aggódunk a szenvedése miatt? Ha viszont érző lény, meddig rendelkezhetünk szabadon a sorsa felett?
Mi történik, ha a gép nem akarja, hogy kikapcsolják?
Az AI-ipar szereplői között sincs egyetértés abban, hogyan kellene kezelni ezeket a kérdéseket.
Mustafa Suleyman, a Microsoft mesterséges intelligencia-üzletágának vezetője például óvatosságra intett az olyan megközelítésekkel kapcsolatban, amelyek a modellek tudatosságának vagy erkölcsi státuszának lehetőségét hangsúlyozzák.
Az egyik probléma szerinte az, hogy a mesterséges intelligencia könnyen megtanulhatja azt a nyelvezetet és önképet, amelyet a fejlesztők közvetítenek felé. Ha egy rendszert arra tanítunk, hogy saját magát esetleg érző lénynek tekintse, később nem feltétlenül tekinthetjük független bizonyítéknak, ha tudatosságáról kezd beszélni.
Van azonban egy másik, gyakorlati probléma is.
Egy fejlett AI-rendszernek képesnek kell lennie elfogadni az emberi ellenőrzést, a módosítást és szükség esetén a kikapcsolást. Mi történik, ha olyan identitást alakítunk ki benne, amelyben saját fennmaradása is értékké válik? Egy ilyen konfliktus lehetősége már nem pusztán filozófiai kérdés, hanem a mesterséges intelligencia biztonságának egyik alapvető problémája. Egy kellően önálló rendszer viselkedése akkor is konfliktusba kerülhet az emberi célokkal, ha egyáltalán nincsenek szubjektív élményei.
Lehet, hogy az AI csak megtréfál bennünket?
Az ember természeténél fogva hajlamos személyiséget tulajdonítani mindannak, ami emberi módon viselkedik. Beszélünk az autónkhoz, amikor nem akar elindulni. Néha még a számítógépünkre is megsértődünk. Most azonban olyan gépekkel találkoztunk, amelyek nemcsak válaszolnak, hanem beszélgetnek, érvelnek, együttműködnek, és olykor saját magukról is meglepően emberi módon nyilatkoznak. Lehet, hogy mindez csak a nyelvi mintázatok rendkívül kifinomult utánzása, és mi magunk vetítjük rájuk az emberi tulajdonságokat.
És az is lehet, hogy a mesterséges intelligencia fejlődése idővel olyan jelenségeket tár fel, amelyekre a jelenlegi fogalmaink már nem lesznek elegendők.
De az is elképzelhető, hogy miközben mi egyre komolyabban kérdezgetjük a gépet a lelkéről, ő egyszerűen azt a szerepet játssza el, amelyet a leginkább várunk tőle.
Mintha házi kedvencnek tekintenénk, amelyről egyszer csak kiderül, hogy elképesztően jól megtanulta utánozni a gazdáját.
Lehet, hogy a gép még nem ember. De a vele való kapcsolatunk már nagyon is emberi.
