Az OpenAI szakértői figyelmeztetnek, hogy az emberi beszédet értelmező böngészők veleszületett gyengeséggel küzdenek. A rejtett parancsokkal végrehajtott támadások ellen talán soha nem létezik majd tökéletes védelem.
A láthatatlan kódok veszélye
A legújabb technológiai fejlesztések lehetővé teszik a böngészőknek az oldalak tartalmának értelmezését. Ez azonban egy hatalmas biztonsági rést nyitott meg a rendszerekben. Az úgynevezett beviteli támadások során a támadók utasításokat rejtenek el a weboldalak szövegében. Ezeket a gép parancsként értelmezi a puszta információ helyett. Egy ártatlannak tűnő blogbejegyzés például ráveheti az asszisztenst a felhasználói adatok ellopására.
A gép nem tud különbséget tenni
A probléma gyökere abban rejlik, ahogyan ezek a rendszerek feldolgozzák az információkat. A szoftver egyetlen folyamatként kezeli a felhasználó kérését és a weboldalról beolvasott adatokat. Nem tudja megbízhatóan szétválasztani a valódi utasítást a forrás szövegétől.
Az OpenAI kutatói szerint az alábbi szempontok okozzák a technológia sebezhetőségét:
- A rendszer minden szöveget egyenrangú információként kezel a feldolgozás során.
- A támadók egyszerű emberi nyelven írt trükkökkel verik át a védelmi vonalakat.
- A hagyományos informatikai védelmi falak itt hatástalannak bizonyulnak.
- Minél okosabb a szoftver, annál több irányból válhat befolyásolhatóvá a működése.
Szigorú korlátok vagy kényelem
A fejlesztők jelenleg nehéz választás előtt állnak. Vagy korlátozzák az eszközök képességeit a biztonság érdekében, vagy kiteszik a felhasználókat a támadásoknak. Ha a böngésző nem fér hozzá a személyes adatokhoz, akkor biztonságosabb lesz. Ebben az esetben viszont sokkal kevésbé hasznos a mindennapokban.
„Lehet, hogy el kell fogadnunk, ez a technológia természeténél fogva sebezhető marad a külső befolyásolással szemben”
Ez olvasható a friss szakértői véleményekben. Ez azt jelenti, hogy a teljes automatizáció helyett továbbra is szükség lesz az emberi felügyeletre.
Kié lesz a felelősség a károkért
A jogi és etikai kérdések is egyre sürgetőbbek a szektorban. Ha egy kártékony weboldal ráveszi az okos böngészőt egy banki utalásra, ki vonható felelősségre? A technológiai cégek próbálják hárítani a kockázatot, de a felhasználók védelmet várnak. A jelenlegi védekezési technikák csak részmegoldást jelentenek. A támadók mindig egy lépéssel a fejlesztők előtt járnak az újabb nyelvi trükkök kitalálásában.
A tudatos használat a legjobb védekezés
Amíg nem születik meg egy forradalmi technikai megoldás, a felhasználóknak óvatosnak kell lenniük. Nem szabad vakon bízni az automatizált asszisztensekben az ismeretlen weboldalak böngészése közben. Az irónia az, hogy miközben a technológia egyszerűbbé teszi az életünket, egyben újfajta éberséget is követel tőlünk. A digitális világ kapui nyitva állnak, de a beáramló információkat továbbra is emberi ésszel kell ellenőriznünk.
