Egy magabiztos válasz, egy ismerős arc vagy egy felháborító videó könnyen meggyőzhet bennünket, miközben alig tudunk valamit az információ eredetéről. Bányász Pétert és Bányász-Váczi Kincső Borókát az AIéjszakája előtt arról kérdeztük, hogyan alakul a bizalmunk a mesterséges intelligencia korában, mi befolyásolja a technológia használatát, és hogyan őrizhetjük meg az önálló mérlegelésünket.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benAmikor a magabiztos válasz hitelesnek tűnik
Dr. Bányász Péter a Nemzeti Közszolgálati Egyetem Kiberbiztonsági Kutatóintézetének vezetője, Bányász-Váczi Kincső Boróka az egyetem Ludovika Oktatásfejlesztési Irodájának munkatársa. Kutatásaikban az MI és a kiberbiztonság emberi összefüggéseivel foglalkoznak: a technológia elfogadásával, a bizalommal és a megtévesztés lehetőségeivel.
A fotót készítette: Szilágyi Dénes
A fotót készítette: Szilágyi Dénes
mivagyunk.hu: Mindketten foglalkoztok az MI és a kiberbiztonság emberi oldalával. Hogyan lett ebből közös kutatási területetek? Volt olyan tapasztalat vagy felismerés, amely különösen felkeltette az érdeklődéseteket az iránt, hogyan befolyásolja a technológia a gondolkodásunkat?
2022 decemberében közösen kezdtük el felfedezni a ChatGPT-t, és hamar világossá vált számunkra, hogy milyen sok ponton kapcsolódik a kutatási érdeklődésünkhöz. A kísérletezés közben a technológia lehetőségei mellett egyre inkább az foglalkoztatott bennünket, hogy mi történik velünk, amikor használjuk. Mitől érzünk megbízhatónak egy választ? Mikor kérdőjelezzük meg? És mikor fogadjuk el egyszerűen azért, mert összeszedetten, magabiztosan van megfogalmazva?
Különösen izgalmas volt felismerni, milyen könnyen összekapcsolódhat bennünk a gördülékeny megfogalmazás a hozzáértés benyomásával. Egy válasz meggyőzőnek tűnhet akkor is, ha ellenőrzésre szorul. Innen természetesen jutottunk el a bizalom, a befolyásolás és a dezinformáció kérdéseihez. Hogyan ítéljük meg az információkat, és milyen szerepet játszanak ebben az érzelmeink, az előzetes meggyőződéseink vagy a közösségeink?
A közös kutatásainkban ezért a technológiát mindig az emberi és társadalmi környezetével együtt vizsgáljuk.
Péter: Mivel én, elsősorban a kiberbiztonság humán aspektusait, ezen belül a dezinformációt és a social engineeringet kutatom, már a kezdetektől egyértelművé vált számomra, milyen könnyű ezeket az eszközöket az emberek megtévesztésére felhasználni. A generatív mesterséges intelligencia ugyanis olyanok számára is lehetővé teszi például meggyőző adathalász e-mailek megírását vagy akár kártékony kódok létrehozását, akik korábban sem programozási, sem más releváns tudással nem rendelkeztek. Ez már akkor is megijesztett. Mert úgy éreztem, hogy a technológia gyakorlatilag liberalizálja a bűnözést, jelentősen csökkenti a belépési küszöböt, miközben növeli a támadások hatékonyságát és méretét. Gyakran mondom, hogy két dolgot utálok nagyon, az embereket és a technológiát. Nyilvánvaló azonban, hogy a technológia önmagában nem rossz. Akkor válik veszélyessé, amikor az ember rossz célokra használja. Nem véletlen, hogy a kiberbűnözés elképesztő mértékben növekedett, és ezzel együtt a belőle származó profit is. A ChatGPT 3.5-ös verziója 2022 novemberének végén jelent meg. Már egy hónappal később olyan iparági jelentések láttak napvilágot, amelyek arról számoltak be, hogyan használták a kiberbűnözők a ChatGPT-t csalásokhoz, adathalászathoz, adatlopáshoz és ransomware-kampányokhoz. A kiberbiztonságban ezért döntő jelentőségű, hogy kinek hiszünk, mire kattintunk, mit osztunk meg, vagy milyen kérésnek teszünk eleget. Bennünket az érdekel, hogyan lehet úgy élni a technológia lehetőségeivel, hogy közben megőrizzük az önálló mérlegelésünket.
Mitől válik elfogadhatóvá egy új technológia?
Kincső: Én Péterrel együtt kezdtem el használni a generatív MI-eszközöket. Folyamatosan figyeltük az újdonságokat, kipróbáltuk a különböző alkalmazásokat, és elő is fizettünk több szolgáltatásra. Már a kezdetektől lenyűgözött bennünket, hogy ezek az eszközök milyen gyorsan fejlődnek, mennyire sokféle feladatra alkalmazhatók, és hogyan képesek átalakítani a tanulás, a munkavégzés, a kommunikáció és a kreatív alkotás folyamatait.
Ugyanakkor hamar felfigyeltem arra is, hogy az új lehetőségek és a gyermeki kísérletezőkedv ellenére sokan a környezetemben nem értékelik, nem szeretik, vagy kifejezetten elzárkóznak az új technológiáktól. Ez azért volt érdekes számomra, mert a technológia elfogadása nem pusztán azon múlik, hogy egy eszköz technikailag mennyire fejlett vagy hasznos. Az emberek döntéseit jelentősen befolyásolja az is, hogy mennyire érzik az adott technológiát érthetőnek, könnyen használhatónak, megbízhatónak és a saját életükhöz illeszkedőnek. Fontos szerepet játszik továbbá a környezet véleménye, a korábbi tapasztalat, a változásokkal szembeni általános attitűd, valamint az is, hogy az adott személy mennyire érzi magát kompetensnek a technológia használatában.
Kutatásomban alapvetően a Technológiaelfogadási Modellt, vagyis a TAM-ot vizsgáltam, ezért a technológiaelfogadási modellek bemutatását is ezzel kezdem. A TAM azt vizsgálja, hogy milyen tényezők befolyásolják egy új technológia elfogadását, kipróbálását és rendszeres használatát. Két alapvető tényezőt emel ki, az észlelt hasznosságot és az észlelt könnyű használatot. Az észlelt hasznosság azt jelenti, hogy a felhasználó mennyire gondolja úgy, hogy az adott technológia javítja a teljesítményét, időt takarít meg, vagy hatékonyabbá teszi a munkáját. Az észlelt könnyű használat pedig arra vonatkozik, hogy mennyire tűnik egyszerűnek, átláthatónak és könnyen megtanulhatónak az eszköz alkalmazása.
A későbbi modellek ezt a képet tovább árnyalták. Az UTAUT-modell például az észlelt hasznosság és a használat egyszerűsége mellett figyelembe veszi a társas hatást. Vagyis azt, hogy a környezetünkben élők, munkatársaink vagy vezetőink támogatják-e az új technológia használatát. Emellett fontos szerepet kapnak a támogató feltételek is, rendelkezésre áll-e megfelelő eszköz, internetkapcsolat, képzés, technikai segítség és intézményi háttér. Ezek a tényezők jól mutatják, hogy a technológia elfogadása nem kizárólag egyéni döntés, hanem társadalmi és szervezeti folyamat is.
A generatív MI esetében különösen fontos az észlelt bizalom és a kockázat kérdése. Hiába látja valaki, hogy egy MI-eszköz gyorsan képes szöveget írni, összefoglalni, ötleteket adni vagy adatokat rendszerezni, ha közben attól tart, hogy pontatlan információkat közöl, elveszi a munkáját, sérti a magánszféráját, vagy etikailag problémás módon használható. A használatot az is akadályozhatja, ha valaki úgy érzi, hogy az MI alkalmazása csökkenti a saját teljesítményének értékét, vagy hogy a technológia használata miatt elveszíti az önállóságát és a szakmai kontrollját. Ezek a pszichológiai és társadalmi tényezők sokszor erősebbek lehetnek, mint a technológia objektív előnyei.
A kezdeti lelkesedéstől a mindennapi használatig
A technológia elfogadásának megértéséhez a Gartner-féle Hype görbe is hasznos keretet ad. A Hype görbe azt mutatja be, hogyan változik egy új technológiával kapcsolatos társadalmi és piaci várakozás az idő előrehaladtával. Első szakasza a technológiai kiváltó esemény, amikor egy új fejlesztés, kutatási eredmény vagy termék megjelenik, és felkelti a figyelmet. Ebben a szakaszban még kevés a gyakorlati tapasztalat, de a lehetőségek rendkívül ígéretesnek tűnnek.
Ezt követi a felfokozott várakozások csúcsa. Ilyenkor a technológiával kapcsolatban gyakran túlzott elvárások alakulnak ki. A média, a vállalatok és a felhasználók egyaránt hajlamosak úgy tekinteni az új megoldásra, mint amely rövid időn belül minden problémát megold. A generatív MI esetében ez abban is megmutatkozott, hogy sokan azonnali, teljes körű automatizációt vártak, miközben kevés figyelem jutott a hibákra, a korlátokra, az adatvédelmi kérdésekre és a szükséges emberi ellenőrzésre.
A következő szakasz a kiábrándulás mélypontja. Ekkor a felhasználók szembesülnek azzal, hogy a technológia nem minden esetben működik tökéletesen. Nem old meg minden feladatot, és használatához gyakran új készségekre, időre és alkalmazkodásra van szükség. A generatív MI esetében ilyen csalódást okozhatnak a téves vagy kitalált válaszok, a következetlenségek, a nem megfelelő stílusú szövegek, illetve az, hogy az eszköz eredményeit mindig ellenőrizni kell. Ez a szakasz sok emberben megerősítheti az elutasítást, különösen akkor, ha eleve bizonytalanok vagy bizalmatlanok voltak az új technológiával szemben.
A kiábrándulás után következik a megvilágosodás emelkedő szakasza. Itt a felhasználók és a szervezetek fokozatosan megtanulják, hogy a technológia mire alkalmas valójában, milyen feltételek mellett használható hatékonyan, és mely feladatokban nem érdemes rá hagyatkozni. A túlzó várakozásokat reálisabb tapasztalatok váltják fel. A generatív MI ebben a szakaszban már nem csodaszerként jelenik meg, hanem olyan eszközként, amely bizonyos feladatokban jelentősen növelheti a hatékonyságot, más esetekben viszont emberi szakértelmet, ellenőrzést és felelősségvállalást igényel.
A görbe utolsó szakasza a termelékenység fennsíkja. Ekkor a technológia beépül a mindennapi gyakorlatba, kialakulnak a használat szabályai, és a felhasználók reális képet alkotnak az előnyeiről és korlátairól. A technológia már nem feltétlenül számít újdonságnak, hanem a munkafolyamatok természetes részévé válik. A generatív MI esetében ez például azt jelentheti, hogy az emberek rendszeresen használják ötletelésre, szövegvázlatok készítésére, fordításra, összefoglalásra vagy adminisztratív feladatok támogatására, miközben tudják, hogy a végső döntés és az ellenőrzés továbbra is az ember felelőssége.
A technológiaelfogadási modellek és a Hype görbe egymást kiegészítve segítenek megérteni, miért reagálnak az emberek ennyire eltérően ugyanarra az innovációra. A Hype görbe elsősorban a kollektív várakozások és csalódások időbeli változását mutatja, míg a technológiaelfogadási modellek azt magyarázzák, hogy egy adott személy vagy csoport miért fogadja el, utasítja el vagy használja csak korlátozottan az eszközt. Valaki például a felfokozott várakozások időszakában lelkesen kipróbálhatja a generatív MI-t, de a kiábrándulás szakaszában felhagyhat vele, mert túl nehéznek vagy megbízhatatlannak találja. Más viszont ugyanebben az időszakban kezd el rendszeresen kísérletezni vele, mert felismeri a gyakorlati hasznát, és rendelkezik a szükséges tudással, támogatással és bizalommal.
Megdöbbentő volt számomra felismerni, hogy egy innovatív technológia önmagában még nem feltétlenül ösztönzi az embereket a kipróbálásra. A technológiai lehetőség és a tényleges használat között több lépcső húzódik, szükség van érdeklődésre, megfelelő információra, bizalomra, motivációra, könnyen érthető használatra és olyan környezetre, amely támogatja a kísérletezést. Sokakban pszichés gátak, félelmek és megszokások működnek, amelyek akkor is visszatartják őket, ha világosan látható, és empirikus bizonyítékok támasztják alá, mennyi lehetőséget kínál az MI, illetve mennyi felesleges munkát lehetne vele megspórolni. Ezért vált számomra fontossá annak vizsgálata, hogy az emberek nemcsak mit gondolnak a technológiáról, hanem hogyan alakul ki bennük az elfogadás, milyen pontokon akadnak el, és milyen feltételek segíthetik őket abban, hogy az új eszközöket tudatosan, kritikusan és valóban hasznosan alkalmazzák.
A hitelesség számonkérése és a források ellenőrzése
mivagyunk.hu: Közös kutatásotokban a 2024-es amerikai elnökválasztáshoz kapcsolódó online beszélgetéseket is vizsgáltátok. Mi lepett meg benneteket leginkább abban, ahogyan az emberek eldöntik, kinek és minek hisznek? Mit érdemes ebből annak is megértenie, aki egyszerűen csak végigpörgeti a napi hírfolyamát?
Az volt különösen elgondolkodtató, milyen hangsúlyosan jelent meg maga a hitelesség kérdése. Nyolcvan YouTube-videó összesen több mint 52 ezer hozzászólását vizsgáltuk, ráadásul nemcsak a kommentek tartalmát elemeztük, hanem hálózatelméleti megközelítést is alkalmaztunk, azt vizsgáltuk, hogyan terjednek az egyes állítások és narratívák, mely hozzászólások kapcsolódnak egymáshoz, illetve azonosíthatók-e olyan kiemelt csomópontok, amelyek különösen aktívan alakítják vagy próbálják megváltoztatni a diskurzus irányát. A szemantikus elemzés és a hálózati mintázatok együtt különösen izgalmas képet rajzoltak ki. A leggyakoribb kifejezések között ott voltak a tényekre, a hazugságokra és a tényellenőrzésre utaló szavak. A hozzászólók tehát sokat foglalkoztak azzal, hogy mi igaz, és melyik szereplőnek vagy médiumnak lehet hinni.
Ebből ugyanakkor még nem következik, hogy valóban ellenőrizték is az állításokat. A kommentek alapján azt láttuk, miről beszéltek; azt már nem tudtuk közvetlenül megmérni, hogyan jutottak a meggyőződésükre. Számunkra éppen ez az egyik fontos tanulság, a hitelesség számonkérése és a következetes forrásellenőrzés két külön dolog.
A hétköznapi hírfolyamolvasásban ezért érdemes a saját mércénkre is figyelni. Ugyanolyan alapos bizonyítékot várunk egy nekünk tetsző állításhoz, mint egy olyanhoz, amely bosszant bennünket? Attól, hogy sokan helyeselnek egy bejegyzés alatt, még nem kapunk több, egymástól független bizonyítékot. Egy kommentszekció hangulata pedig nem azonos a teljes társadalom véleményével.
A hivatkozott közös tanulmány: Politikai kommunikáció a mesterséges intelligencia korában: a 2024-es amerikai elnökválasztás tartalmainak narratív hálózata.
Mielőtt továbbküldenénk egy felháborító videót
mivagyunk.hu: Egy megtévesztő tartalom akkor is meggyőző lehet, ha egyébként tudjuk, hogy léteznek MI-vel készített hamis képek és videók. Mi tesz bennünket fogékonnyá rájuk, és milyen egyszerű szokás segíthet megállni egy pillanatra, mielőtt elhiszünk vagy továbbküldünk valamit?
A hamisítás lehetőségéről tudni és egy konkrét helyzetben felismerni a megtévesztést nagyon különböző feladat. Amikor a hírfolyamot nézzük, gyakran fáradtak vagyunk, sietünk, és csak néhány másodpercet szánunk egy tartalomra. Különösen könnyen magával ragadhat valami, ami felháborít, megijeszt, vagy pontosan azt mondja, amit már eleve gondolunk. Egy ismerős arc vagy egy megbízhatónak tartott ismerős megosztása tovább erősítheti a hitelesség benyomását.
A deepfake-ek korában azonban nemcsak a tartalom állítása, hanem maga a bizonyíték is manipulálható. Egy videóban valaki olyasmit mondhat, amit soha nem mondott, egy hangfelvétel egy ismert személy hangját utánozhatja, egy fénykép pedig olyan eseményt ábrázolhat, amely valójában nem történt meg. Ezért a „láttam a saját szememmel” már nem feltétlenül jelent biztos bizonyítékot. A bizalomnak nem a látványon vagy a hang ismerősségén, hanem az ellenőrizhető forrásokon és a körülményeken kell alapulnia.
Érdemes ezért bevezetni egy egyszerű szokást, ha egy tartalom azonnali megosztásra késztet, előbb keressük meg az eredeti forrását. Ki állítja ezt, mire alapozza, és mit találunk róla a bejegyzésen kívül? Több oldal is átveheti ugyanazt az ellenőrizetlen állítást, ezért a sok találat önmagában még nem jelent független megerősítést. Nézzük meg a közzététel dátumát, a teljes videót vagy hangfelvételt, és keressünk megbízható, egymástól független forrásokat. Hasznos lehet a kép vagy videó visszakeresése is, mert így kiderülhet, hogy korábban, más esemény kapcsán készült.
A technikai jelekre is figyelhetünk, de ezek önmagukban nem mindig döntőek. Gyanús lehet a természetellenes szájmozgás, a furcsa pislogás, az arc és a fények következetlensége, a torz hang, a szokatlan háttérzaj vagy az, ha a videó feltűnően rövid és nincs hozzá ellenőrizhető kontextus. Ugyanakkor a mesterséges intelligencia gyors fejlődése miatt nem érdemes kizárólag arra hagyatkozni, hogy „észrevesszük-e” a hibát. A legfontosabb védelem a forráskritika és a megosztás előtti lassítás.
Az is segít, ha megkérdezzük magunktól, miért szeretném ezt most rögtön továbbküldeni? Tájékoztatni akarok, vagy inkább levezetni a felháborodásomat, esetleg megmutatni, hogy igazam volt? Ez a rövid önellenőrzés teret ad a mérlegelésnek. És teljesen rendben van az is, ha egyelőre nem tudjuk eldönteni, mi igaz, ezért nem osztjuk meg.
A bizalom a deepfake korában nem azt jelenti, hogy mindenkiben vagy mindenben kételkedünk. Inkább azt, hogy megtanuljuk megkülönböztetni a bizalmat a hiszékenységtől. Megbízhatunk emberekben és intézményekben, miközben bizonyítékokat kérünk, kérdéseket teszünk fel, és készek vagyunk módosítani a véleményünket, ha új információ jelenik meg. Ez a fajta tudatos bizalom lassabb lehet, mint az azonnali reakció, de sokkal ellenállóbbá tesz a manipulációval szemben.
Hol húzódnak az etikus hallgatói MI-használat határai?
mivagyunk.hu: Mivel készültök az AI Éjszakájára? Elárulnátok egy olyan példát vagy felvetést, amely megmutatja, miért érdemes meghallgatni benneteket, és akár a saját online szokásainkat is újragondolni utána?
Egy egyetemisták körében végzett kérdőíves felmérés eredményein keresztül azt vizsgáljuk, hogyan használják a hallgatók a mesterséges intelligenciát a tanulmányaik során, milyen célokra veszik igénybe, és mit tekintenek etikus, illetve etikailag kifogásolható használatnak. A mesterséges intelligencia egyre több hallgató mindennapjaiban jelenik meg, használhatják például információkeresésre, ötletelésre, szövegek javítására, fordításra, összefoglalás készítésére, programozási feladatok támogatására vagy akár teljes beadandó szövegek létrehozására is. Ezek a felhasználási módok azonban nem feltétlenül ítélhetők meg azonos módon. Más etikai megítélés alá eshet, ha valaki egy nehezen érthető fogalom magyarázatát kéri az MI-től, mintha változtatás nélkül bead egy teljes, mesterséges intelligencia által generált dolgozatot.
A kutatásban a tervezett viselkedés modelljét és a Big Five személyiségjellemzőit vettük alapul, hogy részletesebben megértsük, milyen tényezők befolyásolják a hallgatók MI használatával kapcsolatos döntéseit. A tervezett viselkedés modellje szerint egy adott viselkedés kialakulásában fontos szerepet játszik az egyén attitűdje, vagyis az, hogy pozitívan vagy negatívan viszonyul az adott cselekvéshez. Emellett meghatározó lehet a szubjektív norma is, mit gondol a hallgató arról, hogy oktatói, évfolyamtársai, barátai vagy családtagjai elfogadhatónak tartják-e az MI használatát. Szintén lényeges az etikus viselkedési szándék, vagyis az, hogy az egyén mennyire törekszik arra, hogy az MI használata során az etikai szempontokat figyelembe véve, felelősen és szabályosan járjon el.
A Big Five modell segítségével azt is vizsgáljuk, hogy az olyan személyiségvonások, mint a nyitottság, a lelkiismeretesség, az extraverzió, a barátságosság és az érzelmi stabilitás vagy labilitás milyen kapcsolatban állhatnak az MI használatával. A nyitottabb személyiséggel rendelkező hallgatók például könnyebben kísérletezhetnek új technológiákkal, míg a lelkiismeretesség összefügghet a szabályok követésével, a feladatok önálló elvégzésével és a források megfelelő feltüntetésével. Az érzelmi terheltség vagy a magasabb szorongás ugyanakkor befolyásolhatja azt is, hogy valaki stresszes helyzetben mennyire támaszkodik külső segítségre. Fontos azonban hangsúlyozni, hogy ezek a személyiségjellemzők önmagukban nem határozzák meg a viselkedést; inkább olyan tényezők, amelyek a konkrét élethelyzettel, a társas környezettel és az egyéni értékrenddel együtt alakítják a döntéseket.
Beteg gyerek, munkahelyi krízis és közelgő beadandó
Az etikus használatról könnyű általánosságban beszélni, és elvi szinten sokan egyetértenek abban, hogy a hallgatóknak önállóan kell dolgozniuk, tiszteletben kell tartaniuk az akadémiai integritás szabályait, valamint jelezniük kell, ha egy feladat elkészítésében mesterséges intelligenciát is igénybe vettek. A mindennapi életben azonban gyakran olyan összetett helyzetek adódnak, amelyek próbára teszik ezeket az elveket. A döntések ilyenkor nem mindig egyszerűen „helyes” vagy „helytelen” kategóriákba sorolhatók, mert az egyénnek több, egymással versengő szempontot kell mérlegelnie, a saját felelősségét, a határidők betartását, a családi és munkahelyi kötelezettségeit, az egészségi körülményeket, valamint az egyetemi szabályokat.
Képzeljünk el egy hallgatót, akinek beteg a gyermeke, a munkahelyén éppen krízishelyzet alakult ki, közben pedig közeleg egy egyetemi beadandó határideje, és a feladat elmulasztása akár a kurzus teljesítését is veszélyezteti. Ebben a helyzetben a hallgató egyszerre több szerepnek próbál megfelelni, szülőként, munkavállalóként és egyetemistaként is helyt kell állnia. Az időhiány, a fáradtság és a stressz jelentősen csökkentheti azt a kapacitását, amelyet egyébként a feladat önálló megoldására tudna fordítani. Ilyenkor már nem egyszerűen arról kell dönteni, hogy „használjuk-e” a mesterséges intelligenciát, hanem arról is, hogy milyen mértékben, milyen célra és milyen átláthatóság mellett tesszük ezt.
Etikailag más megítélés alá eshet például, ha a hallgató az MI segítségével felépíti a dolgozat vázlatát, nyelvileg javítja a saját maga által megírt szöveget, vagy magyarázatot kér egy nehezen érthető témához. Ezekben az esetekben az MI inkább támogató eszközként működik, miközben a gondolkodás, az érvelés és a végső döntések továbbra is a hallgatóhoz kötődnek. Más a helyzet akkor, ha a hallgató a teljes feladatot az MI-re bízza, majd a létrehozott szöveget saját munkájaként adja be, anélkül hogy ellenőrizné annak tartalmát vagy jelezné a technológia használatát. Ez nemcsak azért problémás, mert sértheti az egyetemi szabályokat, hanem azért is, mert félrevezető képet adhat a hallgató tudásáról és teljesítményéről. További kockázatot jelenthetnek a mesterséges intelligencia által generált téves információk, kitalált hivatkozások, egyoldalú megfogalmazások vagy nem megfelelően kezelt személyes adatok.
A felmérés eredményein keresztül azt szeretnénk bemutatni, hogyan gondolkodnak a hallgatók ezekről a dilemmákról, és mennyire különböznek a véleményeik az egyes felhasználási helyzetekben. Vizsgáljuk, hogy mely területeken használják leginkább az MI-t, amiből kirajzolódhat a használat mértéke és típusa. Ezek a területek azért fontosak, mert az eltérő felhasználási területek eltérő súllyal esnek latba az etikus vagy nem etikus MI-használat megítélésekor.
Az előadás célja, hogy árnyaltabb képet adjon a hallgatói MI-használatról, és elkerülje az egyszerűsítő következtetéseket, amelyek minden technológiai segítséget csalásként, vagy éppen minden MI-használatot ártalmatlan támogatásként értelmeznek. A mesterséges intelligencia etikus alkalmazása nem kizárólag az egyéni döntéseken múlik, hanem az intézményi szabályokon, az oktatói elvárások egyértelműségén, a hallgatók digitális és információs műveltségén, valamint azon is, hogy az egyetemek milyen támogatást nyújtanak a nehéz élethelyzetben lévő hallgatóknak. A kutatás során a nők és a férfiak között is vizsgáltuk az esetleges különbségeket, ami érdekes nemi mintázatok kirajzolódásához járulhat hozzá. A kutatás eredményei segíthetnek annak megértésében hogyan alakítják a személyes jellemzők és a társas normák, azt, hogy a hallgatók mit tekintenek etikusnak, felelősnek és elfogadhatónak a mesterséges intelligencia használata során.
A saját véleményünktől a technológia feletti kontrollig
mivagyunk.hu: Mi az az egy kérdés, amit szerinted mindenkinek fel kellene tennie magának az MI korában?
Kincső: „Mi változtatná meg a véleményemet?” Szerintem ez a kérdés azért fontos az MI korában, mert segít felismerni, mennyire vagyunk valóban nyitottak a megértésre. Érdemes az MI-t nemcsak arra kérni, hogy erősítse meg vagy tökéletesítse, amit adunk neki, hanem arra is, hogy kritikusan vizsgálja meg, mutasson rá a hiányosságokra, az ellentmondásokra és azokra a szempontokra, amelyekre mi magunk talán nem gondoltunk. Ez nem pusztán a komfortzónánkból való kilépést jelenti. Arról is szól, hogy hajlandóak legyünk szembesülni a saját feltételezéseinkkel, és elfogadjuk, a gondolataink nem mindig teljesek vagy hibátlanok. Ha semmilyen bizonyíték nem lenne elég ahhoz, hogy felülvizsgáljuk az álláspontunkat, akkor könnyen csak megerősítést keresnénk. Az MI akkor lehet igazán hasznos társ a tanulásban és a gondolkodásban, ha nem csupán kényelmes válaszokat ad, hanem segít meglátni a vakfoltjainkat, új kérdéseket feltenni, és olyan lehetőségekkel szembesít, amelyek korábban kívül estek a látóterünkön.
Péter: Esetemben inkább a technológiai pesszimizmus, az adatgyűjtés, a fejlődő technológiák és a technológiahasználat fenntarthatósági ára felől közelítenék. Technológiai pesszimizmus alatt azt értem, hogy nem magától értetődően tekintünk minden új technológiára fejlődésként, hanem azt is vizsgáljuk, milyen veszélyeket, függőségeket és társadalmi károkat okozhat. Ha a technológiai vállalatok nemcsak a figyelmünket, hanem a gondolataink irányát is befolyásolják, a humán–gép interfészek pedig egyre inkább a kiberpunk disztópiák világát idézik, fel kell tennünk a kérdést, hová vezet mindez az ember és a társadalom számára, különösen a hatalmi viszonyok szempontjából? Humán–gép interfésznek nevezünk minden olyan technológiát, amely közvetlen kapcsolatot teremt az ember és egy gép vagy digitális rendszer között. Ilyen lehet például egy agyi jeleket érzékelő eszköz, egy viselhető szenzor vagy akár egy olyan rendszer, amely a testből származó adatok alapján reagál a felhasználóra. Ezek az eszközök nemcsak segíthetik az embert, hanem azt is lehetővé tehetik, hogy a vállalatok vagy más intézmények egyre részletesebben figyeljék és értelmezzék testi, érzelmi vagy mentális állapotunkat.
Az adatgyűjtés ezért nem pusztán kényelmi szolgáltatásokat tesz lehetővé, hanem viselkedésünk előrejelzését, befolyásolását és piaci vagy politikai célú alakítását is. Amikor egy alkalmazás rögzíti, mire kattintunk, mennyi ideig nézünk egy tartalmat, hol tartózkodunk, vagy milyen eszközöket használunk, ezekből az adatokból következtetni lehet szokásainkra, érdeklődésünkre és döntéseinkre. A fejlődő technológiák ára ráadásul nemcsak pénzben mérhető. Ide tartozik az energia- és erőforrás-felhasználás, a környezeti terhelés, a magánszféra elvesztése és az autonómia, vagyis az önálló döntési képesség fokozatos beszűkülése. Ha a technológia használatának feltételeit néhány nagyvállalat határozza meg, akkor a társadalmi döntések feletti ellenőrzés is egyre inkább ezekhez a szereplőkhöz kerülhet.
A humán–gép interfészek új képességeket ígérnek, de közben felvetik azt a kérdést is, hogy ki birtokolja az emberi testből és elméből származó adatokat, ki férhet hozzájuk, és ki dönthet a felhasználásukról. Egy ilyen rendszerben az ember könnyen nem felhasználóvá, hanem folyamatosan mérhető, értékelhető és irányítható erőforrássá válhat. Ezért nem elég azt vizsgálni, hogy egy technológia mire képes; azt is meg kell kérdeznünk, kinek az érdekeit szolgálja, milyen társadalmi egyenlőtlenségeket erősít, és milyen határokat kell szabnunk neki ahhoz, hogy ne a technológia alakítsa át észrevétlenül az emberi szabadság, a közösség és a hatalom fogalmát.”
Az interjúalanyokról
Bányász-Váczi Kincső Boróka a Nemzeti Közszolgálati Egyetem Ludovika Oktatásfejlesztési Irodájának munkatársa, kutatója. Kutatási területe a mesterséges intelligencia és a kiberbiztonság humán aspektusai. Kutatásaiban azt vizsgálja, hogy az új technológiák miként hatnak az emberek viselkedésére. Eredményeit hazai és nemzetközi konferenciákon, valamint tudományos publikációkban mutatja be rendszeresen. Több hazai szakmai szervezet aktív tagja, köztük a Hírközlési és Informatikai Tudományos Egyesület Információbiztonsági Szakosztályának.
Dr. Bányász Péter a Nemzeti Közszolgálati Egyetem oktatója és kutatója, a Kiberbiztonsági Kutatóintézet vezetője. Kutatási és oktatási tevékenységének fókuszában a kiberbiztonság humán aspektusai, a közösségi média, a dezinformáció, valamint a mesterséges intelligencia biztonsági és társadalmi kérdései állnak. Több szakmai és tudományos szervezetben tölt be vezető szerepet, emellett aktívan részt vesz hazai és nemzetközi kutatási, oktatásfejlesztési és szakpolitikai együttműködésekben.
Az AIéjszakája 2026. november 27-én lesz Veszprémben. A mivagyunk.hu az esemény médiapartnere; a további előadói interjúkat és programajánlókat az AIéjszakája gyűjtőoldalán találod.
