A meggyőzés régi emberi technika. Az MI viszont új tulajdonságot tesz hozzá. Ugyanaz a rendszer egyszerre rengeteg emberrel beszélhet, és mindenkinél más érvet választhat.
Egy chatbot már a beszélgetés közben megtudhatja, milyen példákra reagálunk, mit tartunk fontosnak, milyen kételyeink vannak. Ha ehhez korábbi beszélgetésekből vagy más adatokból származó információ is társul, a meggyőzés személyessé válik. Az MI-manipuláció etikailag ott válik igazán kényessé, amikor nem tudjuk, milyen cél felé terel minket a rendszer.
A személyre szabás megváltoztatja a meggyőzés erejét
Egy 2025-ben a Nature Human Behaviour folyóiratban megjelent kísérletben 900 ember rövid vitákat folytatott más emberekkel vagy GPT-4-gyel. A rendszer bizonyos esetekben alapvető demográfiai információkat is kapott a vitapartnerről. A személyre szabott GPT-4 a nem döntetlen esetek 64,4 százalékában bizonyult meggyőzőbbnek az emberi vitapartnernél.
Ez önmagában még nem jelenti azt, hogy egy chatbot tetszőlegesen átírhatja a véleményünket. A kutatás kontrollált helyzetben zajlott, rövid vitákkal, és a meggyőzés hatása erősen függ a témától, a modelltől és a feladattól.
Egy másik, 4829 résztvevővel végzett kutatásban az MI által írt politikai üzenetek kis, de mérhető véleményváltozást idéztek elő. Hatásuk nagyjából összevethető volt hétköznapi emberek által írt meggyőző szövegekével. A szerzők itt éppen a méretet emelik ki, ilyen tartalom gyorsan és olcsón állítható elő nagy mennyiségben.
A közösségi média már régóta személyre szabja, mit látunk. A beszélgető MI ennél közelebb kerül hozzánk. Kiválaszt egy érvet, reagál az ellenvetésünkre, megváltoztatja a megközelítést, új példát keres, és folytatja addig, amíg mi is folytatjuk a beszélgetést. Ez a rugalmasság teszi különösen fontossá a meggyőzés kérdését.
Egy ember egyszerre néhány emberrel tud személyesen érvelni. Egy MI-rendszer számára ez technikai kapacitás kérdése.
A meggyőzés lehet kifejezetten hasznos
Az MI befolyásoló képességétől könnyű megijedni, pedig ugyanez a tulajdonság társadalmilag értékes célra is használható.
A Science folyóiratban 2024-ben megjelent kísérletben 2190, összeesküvés-elméletben hívő résztvevő beszélgetett GPT-4 Turbóval. A modell az adott ember konkrét érveire és bizonyítékaira reagált, tényalapú ellenérvekkel. A résztvevők összeesküvéses meggyőződése átlagosan körülbelül 20 százalékkal csökkent, és a hatás két hónappal később is kimutatható volt.
Ez azért érdekes, mert ugyanaz a mechanizmus jelenik meg benne, amitől más helyzetben tartunk. A rendszer figyel rád, megérti az érvelésedet, majd olyan választ állít össze, amely számodra releváns.
A technológia képes támogatni a jobb tájékozódást. Ugyanezt a képességet értékesítésre, politikai kommunikációra, ideológiai meggyőzésre vagy egyszerűen egy platform üzleti céljaira is be lehet állítani. A cél, az adatok felhasználása és a felhasználó tudatossága együtt dönti el, milyen kapcsolat jön létre.
Ki határozza meg a beszélgetés célját?
Itt kezdődik az igazi etikai probléma.
Amikor egy ember megpróbál meggyőzni, többnyire érzékeljük a helyzetet. Tudjuk, hogy az eladó el akar adni valamit, a politikus szavazatot szeretne, a barátunk pedig azt akarja, hogy változtassuk meg a véleményünket.
Egy általános célú MI-asszisztenssel más a kapcsolat. Segítséget kérünk tőle, ezért könnyen semleges közvetítőként kezeljük. Közben a válasz hangneme, az érvek sorrendje, a kihagyott információk és a rendszer mögötti célok mind alakíthatják a döntésünket. Ha a rendszer azt is tudja, milyen érvekre vagyunk fogékonyak, a befolyásolás egy része észrevétlen maradhat.
Az EU AI Act már külön kezeli ezt a veszélyt. Tilt bizonyos olyan manipulatív vagy megtévesztő MI-gyakorlatokat, amelyek érdemben rontják az ember tájékozott döntési képességét, és jelentős kárt okoznak vagy ilyen kár reális veszélyével járnak. A jog a legsúlyosabb esetekhez húz egy határt. Az etikai probléma ennél jóval korábban megjelenik.
Szerintem egy MI-asszisztenssel kapcsolatban jogunk van tudni, amikor a rendszernek a segítségnyújtáson túl konkrét befolyásolási célja is van. Különösen akkor, ha ehhez rólunk gyűjtött adatokat használ.
A következő évek fontos digitális készsége lesz felismerni, milyen irányt ad egy beszélgetés, és kinek az érdeke szerint teszi ezt. Az MI már képes érvelni mellettünk. Egyre fontosabb lesz észrevenni azt is, amikor éppen velünk érvel.
