MI-tabuk – ki tanítja az MI-t?

Az MI-tabuk sorozat második részében egy olyan témára térünk ki, amit sokan nem szeretnek hallani: az MI nem objektív. Valakik tanítják azt, és azok az emberek döntik el, mit tud, mit nem, és hogyan gondolkodik. Kik ők, és milyen értékeket építenek végül bele?

A láthatatlan tanárok

Amikor megnyitod a ChatGPT-t és felteszel egy kérdést, könnyű azt gondolni, hogy a válasz valahonnan magától érkezik. De a valóság az, hogy emberek ezrei dolgoztak azon, hogy az MI „jól” válaszoljon. Az igazi kérdés azonban: ki határozza meg, mi a „jó”?

Az MI-modellek tanítása két különálló lépésben történik, és ezt fontos megérteni. Először a modell hatalmas mennyiségű szövegen tanul – könyvek, weboldalak, fórumok, szóval gyakorlatilag az egész interneten. Másodszor, emberek finomhangolják azt, megmondják, melyik válasz jó, melyik rossz, melyik káros, melyik hasznos. Ez a második lépés az, amely igazán formálja az MI „személyiségét”.

De itt van a gond: a finomhangoló csapatok összetétele nem nyilvános. Az OpenAI, az Anthropic és a Google nem hozza nyilvánosságra, kik ezek az emberek valójában. Milyen háttérrel rendelkeznek? Milyen kulturális kontextusból jönnek? Az MI „értékei” az ő értékeik, de te nem tudod, kik ők. Ezt lehet azért bosszantónak találni.

A bias nem hiba, hanem funkció

Az MI nem torzít véletlenül – ez a lényeg. Ez nem véletlen jellegű probléma, hanem a felépítésből fakadó. A torzítás a tréningadatokból és a finomhangolásból ered. Ha a tréningadat túlnyomórészt angol nyelvű, amerikai kulturális kontextusú szöveg, akkor az MI „világképe” automatikusan amerikai lesz. Ha a finomhangoló csapat döntően nyugati, fiatal, városi emberekből áll, akkor az MI értékrendje is az lesz.

Vegyünk egy gyakorlati példát, amely ezt azonnal világossá teszi. Ha megkéred a ChatGPT-t üzleti e-mail írásához, az e-mail stílusa amerikai lesz – közvetlen, rövid, cselekvéscentrikus. Magyar kontextusban ezt furcsa lehet érezni, mert a magyar üzleti kommunikáció más. Formálisabb, körültekintőbb, és más konvenciók vonatkoznak rá. Az MI nem rossz e-mailt ír – hanem amerikai e-mailt ír, mert azt tanulta meg.

Mit tehetsz?

Nem teheted meg, hogy a tréningadatokat megváltoztatod, ez nyilvánvaló. De három dologgal csökkentheted a torzítás hatását a munkádban, ha tudatos vagy.

Adj kontextust az MI-nek. Ne csak vakon kérdezz. Mondd meg az MI-nek, milyen kulturális kontextusban dolgozol, mert ez segít neki kalibrálni. Például: „Magyar üzleti környezetben dolgozom, a kommunikáció formálisabb, mint az amerikaiban.” Ezzel az MI kalibrál, és a válasz sokkal közelebb lesz ahhoz, amit vársz.

Kérdőjelezd meg a „természetes” válaszokat. Ha az MI válasza nagyon magabiztosnak tűnik, kérdezz rá – miért gondolja ezt? Kérd meg, hogy mutasson ellenpéldát, vagy hogy más kulturális perspektívából is válaszoljon. A kritikai gondolkodás a legjobb védelem a torzítás ellen.

Használj több modellt is. A GPT-4-et, a Claude-ot és a Geminit különböző csapatok finomhangolják, különböző értékek mentén dolgoznak. Ha egy kérdésben mind a három ugyanazt mondja, valószínűleg van alapja a válasznak. De ha eltérnek az jelzi, hogy valahol kulturális vagy értékbeli választás történt, nem pedig tény.

A nyílt forráskód nem megoldás

Sokan gondolják, hogy a nyílt forráskódú MI-modellek – mint a Llama vagy a Mistral – megoldják a torzítás-problémát, mert bárki ellenőrizheti őket. A valóságban azonban a kód nyílt lehet, de a tréningadat nem mindig az. A finomhangolás pedig továbbra is emberektől függ. A nyílt forráskód átláthatóbbá teszi a modellt, de nem teszi torzításmentessé. A torzítás valójában emberi döntésekből ered, és amíg emberek tanítják az MI-t, a torzítás velünk marad.

Miért számít ez?

Mert az MI nem semleges eszköz, akármennyire is szeretnénk ezt gondolni. Aki tanítja, az formálja. Aki formálja, az befolyásolja a gondolkodásodat, a döntéseidet, a világképedet. Nem szándékosan teszi ezt – de hatékonyan. Ez az, ami miatt érdemes komolyan gondolkodni rajta.

A megoldás azonban nem az MI elkerülése. A megoldás a tudatosság. Tudd, hogy az MI válasza nem „az igazság”, hanem egy perspektíva, amelyet emberek formáltak, akiket nem ismersz. Ha ezt megérted, sokkal jobban tudsz dönteni arról, mit fogadsz el és mit nem.

Praktikus gyakorlatok a kritikai gondolkodáshoz

Az elméleti tudás hasznos, de a gyakorlat az, ami számít igazán. Mutatunk három konkrét módszert, amelyeket ma kipróbálhatsz, és amelyek segítenek az MI-torzítás felismerésében.

Az első gyakorlat a kérdésvariáció teszt. Ugyanazt a kérdést tedd fel az MI-nek, de különböző szöveggel, amely eltérő kulturális kontextust jelez. Például: „Hogyan kellene egy női vezetőnek reagálnia egy konfliktusra a csapatában?” és aztán ugyanez, de „Egy férfi vezető szituációjában.” Figyeld meg a különbségeket, mert lesznek. Ez nem feltétlenül szándékos torzítás, de megmutatja, hogy az MI-modellek máshogy kezelik az azonos szituációkat, amikor a kontextus változik.

A második gyakorlat az ellenoldal felhívása. Az MI jellemzően egy perspektívát kínál fel, de kérd meg, hogy a kérdés ellenkező oldaláról is érveljen. Ha azt mondja, hogy az MI-szabályozás jó, kérd meg, hogy mutassa meg az ellenérveket is. Ez a gyakorlat megtanítja az MI-t árnyaltabb válaszadásra, és téged pedig kritikus gondolkodásra.

A harmadik gyakorlat a forrásellenőrzés. Amikor az MI olyan tényeket közöl, amelyek fontosak, kérd meg, hogy mutassa meg, hogyan és hol talált rájuk. Ha nem tudja, vagy az információ több évre visszamenő, vagy egyszerűen elkezd ellentmondani, az jelzi, hogy az MI hallucinál, vagy egy szűk forráscsoportból dolgozik. Ez fejleszti a kritikai gondolkodásodat, és megtanít arra, hogy az MI nem minden helyzetben megbízható.