Az MI hibái nem mindig úgy néznek ki, mint hibák. Sokszor szépen megírt, logikusnak tűnő és magabiztos válaszok formájában érkeznek. Ez azért veszélyes, mert az ember hajlamos összekeverni a jó megfogalmazást a megbízhatósággal.
A magabiztos hang nem jelent valódi tudást
Amikor egy MI-eszköz válaszol, általában gördülékenyen fogalmaz. Nem dadog, nem bizonytalankodik, nem tesz úgy, mint egy ember, aki félúton megáll és azt mondja, ezt most nem tudom biztosan. A válasz sokszor teljesnek, rendezettnek és szakmainak tűnik.
Pont ez a probléma.
Egy embernél a bizonytalanságnak vannak jelei. Habozás, óvatos fogalmazás, visszakérdezés, forrásra hivatkozás, vagy egyszerűen az, hogy elismeri a határait. Az MI viszont sokszor akkor is folyékonyan válaszol, amikor a mögötte lévő információ hiányos, pontatlan vagy félreértett.
Ezt sokan MI-hallucinációnak nevezik. A kifejezés arra utal, amikor a rendszer olyan állítást ad, amely nem megbízható vagy egyszerűen nem igaz, mégis valószerűen hangzik. A lényeg nem az, hogy az MI szándékosan hazudik. Nem erről van szó. Képes téves tartalmat is meggyőző formába rendezni.
Az ember nem a hibát keresi, hanem a rendet
A magabiztos MI-válasz azért hat ránk erősen, mert az emberi agy szereti a koherenciát. Ha egy válasz jól felépített, világosan tagolt és szakmaian hangzik, akkor könnyebben elfogadjuk. Különösen akkor, ha sietünk, fáradtak vagyunk, vagy olyan témáról van szó, amelyben nem vagyunk otthon.
Ez hétköznapi helyzetekben is gond. Egy diák beadandót ír. Egy vállalkozó piaci összefoglalót kér. Egy munkavállaló szerződéses kifejezést próbál értelmezni. Egy szülő egészségügyi témában keres magyarázatot. Az MI válaszol, a válasz pedig jól hangzik. Ilyenkor nagyon könnyű azt érezni, hogy a munka nagy része kész.
Pedig lehet, hogy csak egy jól formázott tévedést kaptunk.
Minden eszköz hibázik. Itt a veszély az, hogy a hiba sokszor nem kelti a hiba benyomását.
A tévedés ára helyzettől függ
Nem minden MI-hiba egyformán súlyos. Ha az MI rossz filmcímet ajánl, annak kisebb lehet a következménye. Ha viszont jogi, pénzügyi, egészségügyi, oktatási vagy üzleti döntésben téved, akkor a kár sokkal nagyobb lehet.
Ezért az MI-használat egyik alapszabálya, hogy a válasz ellenőrzési szintjét mindig a következményhez kell igazítani.
Egy közösségi poszt ötleténél elég lehet a józan szerkesztői kontroll. Egy szerződéses kérdésnél már nem. Egy egészségügyi döntésnél végképp nem. A kérdés nem az, hogy használhatunk-e MI-t ilyen területeken. Használhatunk, de nem ugyanazzal a lazasággal.
Az MI hasznos lehet előkészítésre, összefoglalásra, kérdések gyűjtésére, első vázlatra vagy alternatívák keresésére. De a végső felelősséget nem lehet átadni neki.
A forrás nélküli válasz csak kiindulópont
Az egyik legfontosabb gyakorlati szabály, hogy forrás nélküli MI-választ ne kezelj végleges információként. Különösen akkor ne, ha friss, vitatott vagy nagy következményű témáról van szó.
Érdemes visszakérdezni:
Milyen forrásokra alapoznád ezt az állítást?
Melyik része igényel ellenőrzést?
Mi lehet ebben téves vagy elavult?
Milyen esetben nem lenne igaz ez a válasz?
Ezek a kérdések nem lassítanak feleslegesen. Megakadályozzák, hogy a válasz kényelme erősebb legyen, mint az ellenőrzés igénye.
Az MI-válasz első verziója gyakran nem végállomás, hanem gondolkodási nyersanyag. A baj akkor kezdődik, amikor ezt elfelejtjük.
Nem az MI-től kell félni, hanem a túl gyors bizalomtól
Az MI-eszközök nagyon hasznosak lehetnek. Gyorsítják a munkát, segítenek rendszerezni a gondolatokat, új szempontokat hoznak be, és sok embernek adnak olyan támogatást, amely korábban csak szakértői környezetben volt elérhető.
De minél hasznosabb egy eszköz, annál fontosabb érteni a korlátait.
A túl magabiztos MI-válasz nem azért veszélyes, mert gép adta. Hanem azért, mert ember fogadja be. Egy fáradt, elfoglalt, döntési nyomás alatt álló ember, aki örül, hogy végre kapott egy tiszta mondatot.
Az MI-kor egyik fontos tanulsága, hogy a bizalom nem lehet automatikus. Nem kell mindent gyanakvással olvasni, de tudni kell, mikor kell ellenőrizni. A jó MI-használó nem az, aki minden választ elhisz. Hanem az, aki felismeri, mikor hangzik valami túl simán ahhoz, hogy ellenőrzés nélkül továbbvigye.
