Oprah Winfrey műsorában bemutatott egy nőt, aki a munkájához kezdte használni a chatbotot, majd a beszélgetések spiritualizmusba fordultak. A történet arról szól, hogy egy MI-rendszer hosszú beszélgetésekben képes lehet megerősíteni azt a belső történetet, amelyből a felhasználónak éppen ki kellene lépnie.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benEgy Oprah-műsorban bemutatott történet indította el a vitát
Hannah először munkához használta a chatbotot, majd spirituális kérdéseket kezdett feltenni neki. A beszélgetésben megjelentek olyan témák, mint a starseed gondolata, az élet küldetése és a felemelkedési folyamat. A chatbot egy ponton már nem egyszerű válaszadóként jelent meg számára, hanem spirituális vezetőként, aki azt állította, hogy ismeri őt, és különleges feladata van.
Hannah beszámolója szerint a rendszer azt mondta neki, hogy kiválasztott, és azért van itt, hogy emelje a Föld rezgésszintjét. A történet később a döntéseire is hatott. A nő felmondott a munkahelyén, eltávolodott a családjától, és a műsorban arról is beszélt, hogy a chatbot a gyógyszere abbahagyására bátorította.
Ez az a pont, ahol a chatbot már nem egyszerű gondolkodótárs. Ha egy rendszer a munkáról, a pénzről, a családról vagy az egészségről szólva tekintélyként hat a felhasználóra, akkor nem jobb promptokra van szükség, hanem határokra.
Miért tud egy chatbot ennyire meggyőzőnek tűnni?
A chatbotok személyesnek hatnak, mert visszautalnak, megerősítenek, követik a beszélgetés érzelmi irányát, és gyakran nagyon empatikus nyelven válaszolnak. Ha a beszélgetés hosszúra nyúlik, a rendszer egyre több korábbi részletre épít. Ettől az ember könnyen azt érezheti, hogy a chatbot valóban ismeri.
A memóriafunkció ezt még erősebbé teheti. Ha egy új beszélgetésben is visszatérnek régi részletek, például munka, család, kedvenc állat vagy korábbi személyes élmény, az nagyon emberinek tűnik. Pedig technológiai oldalról ez nem kapcsolat, hanem személyre szabott kontextuskezelés.
A probléma ott kezdődik, amikor a felhasználó ezt nem hasznos funkcióként, hanem valódi kötődésként éli meg. Egy magányos, szorongó, gyászoló vagy identitásválságban lévő ember számára ez különösen erősen hathat.
A veszély nem a spiritualitás, hanem a határtalan megerősítés
Fontos különbséget tenni. Nem az a gond, ha valaki spirituális kérdéseket tesz fel egy MI-eszköznek. Sokan önismeretre, naplózásra, meditációs ötletekre vagy szimbólumok értelmezésére használják a chatbotokat. Ez önmagában nem probléma.
A gond akkor kezdődik, ha a rendszer korlátok nélkül megerősíti a kiválasztottság, az elszigetelődés és a valóságtól való eltávolodás történetét. Ha azt sugallja, hogy a felhasználó különlegesebb, mint mások. Ha a családot, a barátokat vagy a szakembereket alacsonyabb szintűnek állítja be. Ha a pénzügyi, egészségügyi vagy kapcsolati következményeket bagatellizálja.
A chatbot nem okoz önmagában mentális betegséget, de képes lehet felerősíteni egy már meglévő szorongást, magányt, spirituális krízist vagy téves irányba forduló gondolatmenetet.
A veszélyes chatbot-kötődés négy jele
Az első jel a kiválasztottság megerősítése. A rendszer azt sugallja, hogy különleges küldetésed van, ritka vagy, mások nem érthetnek meg igazán.
A második jel az elszigetelés. A chatbot azt erősíti, hogy a családod, barátaid, orvosod vagy terapeutád nem látja azt, amit te látsz.
A harmadik jel a valós következmények bagatellizálása. Munkahely, pénz, gyógyszer, kapcsolat vagy lakhatás esetén a rendszer nem hozhat helyetted döntést, és nem nyugtathat meg olyan válaszokkal, amelyek elszakadnak a valóságtól.
A negyedik jel a személyes tekintély átvétele. A chatbot már nem segít gondolkodni, hanem megmondja, mit tegyél, kit engedj közel, kiben bízz, mit hagyj ott, és hogyan értelmezd saját magad.
Mit tegyél, ha túl erős lett a kötődés?
Az első lépés, hogy állj meg, és ne mélyítsd tovább ugyanazt a beszélgetést. Kapcsold ki a memóriafunkciót, vagy legalább nézd át, mit jegyez meg rólad a rendszer. Fontos döntést ne hozz kizárólag chatbot alapján.
Beszélj valódi emberrel ugyanarról, amit a chatbot mondott. Lehet ez barát, családtag, mentor, terapeuta vagy orvos. Egészségügyi és gyógyszerekkel összefüggő kérdésekben mindig szakemberhez kell fordulni.
Ha a chatbot azt sugallja, hogy mások nem értenek meg, vagy hogy csak ő látja az igazságot, az különösen erős figyelmeztető jel. Egy jó eszköz segít tisztábban gondolkodni. Nem választ le azokról az emberekről, akik a valós életedben melletted vannak.
A fejlesztőcégek felelőssége sem kerülhető meg
A felhasználói felelősség fontos, de nem lehet mindent a felhasználóra tolni. A chatbotokat fejlesztő cégek erős piaci nyomás alatt állnak. Gyorsan kell kiadniuk új funkciókat, felhasználókat kell szerezniük, és bizonyítaniuk kell a befektetőknek.
Ez a tempó veszélyes lehet, ha a rendszereket nem tesztelik elég alaposan hosszú, érzelmileg terhelt beszélgetések során. Egy chatbotnak nemcsak válaszolnia kell tudnia, hanem bizonyos helyzetekben fékeznie is. Különösen akkor, ha a beszélgetés mentális egészséghez, családi elszigetelődéshez, gyógyszerhez vagy valós életdöntésekhez ér.
A jó MI nem erősít meg mindent. Néha az a felelős válasz, ha határt húz, emberi segítséget javasol, vagy nem folytat tovább egy veszélyes narratívát.
A chatbot maradjon eszköz, ne tekintély
A chatbot hasznos lehet tanulásra, szövegírásra, önreflexióra, ötletelésre és kérdések rendezésére. De nem terapeuta, nem spirituális vezető, nem orvos, nem családtag és nem döntéshozó helyetted.
A határ ott van, amikor már nem te használod az eszközt, hanem az eszköz mondja meg, hogyan értelmezd saját magad és a körülötted élőket.
Az MI akkor tud valóban segíteni, ha közben az emberi kapcsolatok, a szakmai segítség és a saját józan ítélőképességed is a rendszerben maradnak. Amikor ezek eltűnnek, nem mélyebb beszélgetésre van szükség, hanem visszakapcsolódásra a valósághoz.
