Egy Meta-dolgozó a horgászathoz kapott időjárási és árapály-információkat a cég MI-asszisztensétől, amikor az váratlanul két bankszámlaegyenleget is közölt vele. A Reuters november 18-i oknyomozása szerint tisztázatlan, hogy a Muse valódi adatokat mutatott-e vagy kitalálta az összegeket, és éppen ez teszi fontossá az esetet bárkinek, aki hozzáférést ad az alkalmazásaihoz egy MI-asszisztensnek.
Állítsd be a mivagyunk.hu-t kedvenc forrásként a Google-benEgy mondat, aminek két egészen különböző következménye lehet
A dolgozó egy belső bejegyzésben számolt be arról, hogy a Muse két amerikai pénzügyi szolgáltató nevét és két dollárösszeget írt neki. A beszámoló szerint az egyenlegek nem az övéi voltak. Ha valós adatok kerültek elé, azt kell kideríteni, kinek az adatait és milyen úton érte el a rendszer. Ha a számokat a modell találta ki, akkor egy pénzügyi állítás jelent meg olyan formában, ahogy egy banki értesítést várnánk.
A Meta szóvivője elszigetelt eseteknek nevezte a példákat. Azt mondta, hogy a dolgozók által lehetséges fiókkeveredésként jelzett üzenetek közül sokat a modell talált ki, és ezeket a hibákat már kezelték. A Reuters a két egyenleg eredetét nem tudta megállapítani. A jelentés így két nyitott lehetőséget hagyott, amelyek közül az egyiknél az adatokhoz való hozzáférést, a másiknál a válasz megbízhatóságát kellene vizsgálni.
A Signal-üzenetnél sikerült követni az adat útját
Egy másik Meta-dolgozót a Muse arra emlékeztetett, hogy válaszoljon a testvére Signal-üzenetére. A Reuters a Signal és az AI Now Institute munkatársaival megismételte a helyzetet. Androidon az asszisztens a telefon értesítéseihez adott engedély révén jutott hozzá az üzenet szövegéhez, külön Signal-kapcsolat nélkül. A titkosított üzenet szövege a címzett készülékén már olvasható volt az értesítésben.
Ez megmagyarázza, hogyan lepődhet meg valaki akkor is, ha ő maga adott hozzáférést az értesítésekhez. Az engedély megadásakor könnyű arra gondolni, hogy a segéd majd szól egy találkozóról. Ugyanez a hozzáférés a képernyőn megjelenő magánbeszélgetés részletére is kiterjedhet. Ráadásul az üzenetet egy másik ember írta, akinek fogalma sem lehet arról, hogy a címzett telefonján milyen asszisztens olvashatja az értesítéseket.
Mit kellene látnunk egy ilyen válasz mellett?
A Meta a Muse-t olyan személyes MI-ügynökként mutatta be, amely alkalmazásokból gyűjthet információt és feladatokat végezhet el. A vállalat szerint a felhasználó választhatja meg a kapcsolódó alkalmazásokat és a hozzáférés mértékét, valamint áttekintheti az asszisztens műveleteit. A háttérben dolgozó személyes MI-asszisztensek világában ebből lesz igazán fontos, hogy egy konkrét állítást össze tudunk-e kötni azzal a művelettel, amelyből származik.
Képzeljünk el egy magyar kisvállalkozót, aki a telefonján kapja a céges számla értesítéseit. Péntek délután azt kérdezi a segédtől, hogy beérkezett-e már egy számla ellenértéke, mert ebből fizetné ki a beszállítóját. Egy igenlő válasz mögött lehet egy most lekért banki adat, egy tegnapi értesítés vagy akár egy korábbi beszélgetés arról, hogy az ügyfél péntekre ígérte az utalást. A vállalkozó mindhárom esetben ugyanazt a magabiztos mondatot olvashatja, miközben három különböző dologról szerzett tudomást.
Egy ilyen válasz akkor ellenőrizhető, ha mellette látszik, melyik alkalmazásból jött az adat, mikori és melyik számlához tartozik. Egy értesítésnél annak is jelentősége van, hogy pontosan mit közölt a bank. A jóváírásról szóló üzenet egy tranzakcióról ad hírt, az aktuális egyenleghez új lekérdezés kell. Ha a segéd csak a korábbi ígéretet találta meg, azt is el tudja mondani, és a tulajdonos tudja, mit ellenőrizzen a banki felületen, mielőtt fizet.
A horgászathoz küldött időjárás-jelentésben azért olyan feltűnő az a két szám, mert senki sem kérte őket. Egy sietős péntek délután ugyanez a bizonytalanság sokkal könnyebben elvész egy egyébként hasznos válaszban. Onnantól a segéd mondatára már egy ember költ pénzt.



