Évtizedeken át azt mondtuk, hogy nem kell értened egy technológia működését ahhoz, hogy használd. Nem kell tudnod, hogyan működik a mobilhálózat vagy az internet. A mesterséges intelligenciánál azonban ez az elv már csak részben igaz.
A régi technológiáknál elég volt megtanulni a kezelést
Amikor telefonálsz, nem kell ismerned a rádióhullámok működését. Amikor megnyitsz egy weboldalt, nem szükséges értened a hálózati protokollokat. Ezeknél a technológiáknál a belső működés ismerete általában nem változtatja meg alapvetően azt, hogyan értelmezed az eredményt.
A mesterséges intelligencia más helyzetet teremt.
Egy generatív MI-rendszer nem egyszerűen továbbítja az információt. Választ állít elő, összefoglal, következtet, javaslatot tesz, átfogalmaz, értékel, sőt egyre több esetben cselekszik is.
Ezért a rendszer működéséről alkotott mentális modellünk közvetlenül befolyásolja azt, mennyire tudjuk helyesen használni.
Nem programozni kell megtanulnod
Ehhez nem kell matematikussá vagy fejlesztővé válnod. Nem kell ismerned a neurális hálók minden részletét, és nem kell tudnod saját nyelvi modellt építeni.
A fontosabb kérdés az, hogy érted-e a rendezőelveket.
Tudod-e például, hogy egy nyelvi modell nem ugyanúgy tud valamit, mint egy ember? Hogy a válaszát a kapott kontextus alapvetően befolyásolja? Hogy egy gördülékenyen megfogalmazott mondat önmagában semmit nem mond annak igazságtartalmáról?
Ha szeretnéd pontosabban látni ezeket a határokat, korábban összeszedtük, mire nem képes a mesterséges intelligencia.
Az MI-jártasság nem a technológia megépítésének képessége, hanem annak megértése, hogy mire támaszkodhatsz a rendszer használata közben, és mire nem.
Ez már nem technikai tudás. Inkább egy újfajta általános műveltség.
Aki nem érti a rendszert, rosszabbul is használja
A mesterséges intelligenciával való munka egyik alapja a kontextus. Ha kevés vagy pontatlan információt adsz, sok esetben gyengébb eredményt kapsz. Ha nem mondod el a célt, a körülményeket és a korlátokat, a modell kénytelen kitölteni a hiányzó részeket.
Ha ezt nem érted, könnyű arra jutni, hogy az MI rossz.
Pedig lehet, hogy nem maga az eszköz a probléma, hanem az a feladat, amelyet kapott.
Ugyanez igaz az ellenőrzésre. Ha azt feltételezed, hogy a rendszer adatbázisként működik, másképpen fogod kezelni a válaszait, mint akkor, ha tudod, hogy szöveget generáló rendszerrel beszélsz, amely bizonyos helyzetekben téves állítást is rendkívül magabiztosan képes megfogalmazni.
A védekezéshez még fontosabb a rendszerértés
Az MI működésének alapvető megértése azonban nemcsak azért fontos, hogy jobb eredményt kapjunk.
Azért is, hogy felismerjük a veszélyt.
Egyre kevésbé hagyatkozhatunk arra, hogy egy fénykép, hangfelvétel vagy videó önmagában bizonyíték. Az MI segítségével előállított csalások, hamis tartalmak és személyre szabott manipulációk pontosan azért működhetnek jól, mert a befogadó nem feltétlenül tudja, mire képes már a technológia.
Nem kell deepfake-et készítened ahhoz, hogy védekezni tudj ellene. De tudnod kell, hogy létezik, mennyire könnyen előállítható, és milyen jelek alapján érdemes kételkedned.
Az MI korszakában a rendszerértés alapkompetencia
A digitális korszak sokáig arról szólt, hogy megtanuljuk kezelni az új eszközöket. Az MI-korszak ennél többet kér.
Meg kell tanulnunk helyesen gondolkodni róluk.
Nem kell tudnod, hogyan építették a mesterséges intelligenciát. De tudnod kell, milyen elvek szerint működik, hogyan tévedhet, mit jelent a kontextus, miért szükséges az ellenőrzés, és mikor nem szabad automatikusan megbíznod benne.
Mert amikor egy technológia már nemcsak eszköz a kezedben, hanem információt értelmez, választ ad és döntéseket befolyásol, a működésének megértése többé nem technikai kíváncsiság.
A saját ítélőképességed része.
