Az AIéjszakája üzenőfalán arról indult beszélgetés, honnan tudunk ma hitelesen tájékozódni. Az orákulumprobléma és a bizánci hadvezérek története segít megérteni, miért érdemes a válaszok összehasonlítása mellett az információ eredetéig is visszamennünk.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benEgy kérdés az AIéjszakája üzenőfaláról
„Honnan tudunk ma hitelesen tájékozódni, ha nem az AI-tól?” – szól az AIéjszakája online üzenőfalának kérdése. A hozzászólások között két informatikai problémát kapcsoltam a hétköznapi tájékozódáshoz:
Eredeti forrásokból és hozzáértő szakemberektől, az MI segítségével is. Az orákulumprobléma arra kérdez rá, hogyan kap egy rendszer megbízható adatot a külvilágból. A bizánci hadvezérek problémája pedig arra, hogyan születhet közös döntés, ha egyes résztvevők félrevezetnek másokat. A tájékozódásban mindkettő számít, de az egyetértés még nem bizonyíték. Három chatbot is ismételheti ugyanazt a téves forrást. Érdemes visszakeresni, mire alapozzák az állítást.
A két fogalom technikai környezetből érkezik, mégis ismerős helyzeteket világít meg. Különösen akkor, amikor egy meggyőző választól már megnyugodnánk, pedig még azt sem tudjuk, honnan származik.
Az orákulumprobléma: hogyan jut be a külvilág a rendszerbe?
A blokkláncok világában orákulumnak nevezik azt a közvetítőt, amely külső adatot szolgáltat egy rendszernek. Egy program például automatikus kifizetést indíthat egy meghatározott időjárási esemény után, de ehhez valakitől értesülnie kell arról, mennyi eső esett. A program szabályainak következetes végrehajtása önmagában nem igazolja a kapott mérés helyességét. Az orákulumprobléma azt a nehézséget jelöli, hogyan biztosítható a külső adatok megbízhatósága és sértetlensége.
Képzeljünk el egy hibás csapadékmérőt. Hiába dolgozza fel több számítógép ugyanazt az adatot tökéletesen, a mérés továbbra is hibás marad. Megbízható adatközléshez a mérési módszert, az adat útját és a lehetséges hibaforrásokat is vizsgálni kell.
A tájékozódásra ezt analógiaként alkalmazhatjuk. Ha egy chatbot azt állítja, hogy egy kutatás bizonyított valamit, érdemes megnézni az eredeti publikációt. Lehet, hogy a hivatkozott vizsgálat jóval szűkebb megállapítást tett, amelyet egy köztes összefoglaló már felnagyított. A hivatkozás megléte csak a vizsgálódás kezdete; azt is ellenőrizni kell, valóban alátámasztja-e az állítást.
Az eredeti forrás is tévedhet, és lehet érdekelt abban, hogyan mutat be valamit. Az előnye, hogy közelebb visz az ellenőrizhető adathoz, a megismerhető módszerhez és ahhoz a személyhez vagy intézményhez, amely az állításért felelősséget vállal.
A bizánci hadvezérek: közös döntés félrevezető üzenetek között
A másik problémát Leslie Lamport, Robert Shostak és Marshall Pease 1982-es tanulmánya tette ismertté. A gondolatkísérletben egy várost körülvevő hadvezéreknek közös haditervben kell megállapodniuk. Üzenetekkel tartják a kapcsolatot, miközben néhány résztvevő szándékosan egymásnak ellentmondó információkat küldhet.
Az egyik hadvezér például támadást ígér az egyik társának, a másiknak visszavonulást jelez. A feladat olyan kommunikációs szabályok kialakítása, amelyek meghatározott feltételek mellett biztosítják, hogy a megbízható résztvevők azonos döntésre jussanak. Ez az elosztott számítógépes rendszerek működésének alapvető kérdése.
A párhuzamnak azonban van határa. A közös döntés elérése és egy külvilágra vonatkozó állítás igazolása külön feladat. Attól, hogy minden résztvevő ugyanazt az esőadatot fogadja el, még lehet rossz a csapadékmérő. A bizánci hibatűrés matematikai feltételeiből pedig nem vezethető le szabály arra, hány újságcikket vagy chatbotot kell megkérdeznünk.
Három válasz mögött is állhat egyetlen forrás
Hétköznapi példaként képzeljük el, hogy egy magyar szülő a gyereke iskolájára vonatkozó új szabályról olvas. Rákérdez három chatbotnál, és mindegyik ugyanazt válaszolja. Ha mindhárom ugyanarra az elavult közleményre támaszkodik, a válaszok egyezése nem ad három független megerősítést.
Ilyenkor az iskola aktuális tájékoztatóját kell megkeresni, ellenőrizni a dátumot és azt, pontosan kikre vonatkozik. Az MI segíthet a dokumentum felkutatásában és értelmezésében. A céges MI-tudásbázisoknál ugyanezért számít, melyik dokumentum érvényes, és ki felel érte.
A több forrás összevetése továbbra is értékes, különösen ha egymástól független bizonyítékokra épülnek. A szakértői egyetértés súlyát is az alapjául szolgáló módszerek és eredmények adják. A hasonló megfogalmazás önmagában keveset árul el ezekről.
Az AIéjszakája üzenőfalán te is megírhatod, milyen forrásban bízol, vagy mikor bizonytalanodtál el egy MI-válasz után. A november 27-i veszprémi eseményhez kapcsolódó interjúink és cikkeink itt olvashatók.
