Egy amerikai kórházban MI-alapú szoftvernek kellett volna kiszúrnia, hogy eltűnik a fentanil, de hónapokig nem jelzett. Az eset azért fontos magyar olvasóként is, mert az egészségügyi MI-rendszerek nálunk is egyre közelebb kerülnek a mindennapi ellátáshoz. Ki marad éber, amikor a technológia hibázik?
A kórházi MI nem varázspajzs
A Tennessee állambeli Erlanger Baroness kórházban az aneszteziológiai személyzet figyelt fel arra, hogy egy ápoló szolgálat közben zavartan viselkedik, akadozik a beszéde, nehezen marad ébren, és láthatóan nincs megfelelő állapotban. Később kiderült, hogy a férfi hónapokon át a műtétek után megmaradt fentanilt vitte el, és saját maga számára használt fel. A kórházban működött egy MI-alapú gyógyszermonitorozó rendszer, a Sentri7, amelynek éppen az lett volna a feladata, hogy az ilyen eltéréseket időben jelezze. A Tennessee Board of Nursing dokumentuma szerint a rendszer több olyan hiányt és következetlenséget sem jelölt meg, amelyeket jeleznie kellett volna.
Ez önmagában is súlyos ügy, de a történet igazi tanulsága nagyobb ennél. Az MI-rendszer nem ott hibázott, ahol laikusként talán várnánk. Nem egy ritka betegséget kellett felismernie, nem bonyolult diagnózist kellett felállítania, és nem milliónyi képfelvétel között kellett apró mintázatot keresnie. Egy erősen szabályozott, adatvezérelt kórházi folyamatban kellett volna észrevennie, hogy a gyógyszerkiadás és a dokumentált felhasználás között valami nem stimmel.
Ez a különbség fontos. Az MI-ről sokszor a látványos képességek jutnak eszünkbe, pedig a valódi kockázat gyakran az unalmas háttérfolyamatokban jelenik meg. Ott, ahol a vezetők azt gondolják, hogy a rendszer figyel, az emberek pedig lassan hozzászoknak ahhoz, hogy kevesebbet kérdezzenek.
Mit jelent a gyógyszereltérítés a kórházakban?
A gyógyszereltérítés azt jelenti, hogy egy egészségügyi intézményből jogellenesen, jellemzően belső szereplőn keresztül kerülnek ki ellenőrzött vagy veszélyes gyógyszerek. Ez érintheti a betegbiztonságot, a gyógyszerellátás pontosságát, a fertőzéskockázatot, valamint az intézmény jogi felelősségét is.
Az amerikai esetben fentanilról volt szó, amely rendkívül erős opioid fájdalomcsillapító. Az ilyen ügyek az Egyesült Államokban széles körben ismert problémát jelentenek, ezért az egészségügyi intézmények egyre inkább szoftveres ellenőrző rendszerekhez fordulnak. A Sentri7-hez hasonló megoldások az elektronikus gyógyszerszekrények, betegrekordok és dokumentációk adatait hasonlítják össze, majd kockázati jeleket keresnek.
Papíron ez nagyon logikus. Egy kórházban rengeteg gyógyszer mozog, sok ember ér hozzá a folyamathoz, és a manuális ellenőrzés lassú. Az MI-alapú monitorozás képes lehet gyorsabban találni mintázatot, mint egy túlterhelt emberi csapat. A gond ott kezdődik, amikor az intézmény úgy kezeli a rendszert, mintha az önmagában elegendő lenne.
A magyar egészségügynek is erről kell beszélnie
Magyarországon az egészségügyi digitalizációról legtöbbször két végletben beszélünk. Az egyik oldal a technológiától várja az áttörést, mert kevés az ember, sok az adminisztráció, és a rendszer túlterhelt. A másik oldal bizalmatlan, mert fél az adatkezeléstől, a gépi döntésektől és attól, hogy az emberi figyelem tovább szűkül.
A tennessee-i ügy pont azért hasznos magyar szemmel, mert nem engedi meg ezt a kényelmes kettősséget. Az MI valóban segíthet az egészségügyben, de csak akkor, ha pontosan tudjuk, milyen feladatot kap, milyen adatokból dolgozik, ki ellenőrzi, és mi történik, ha nem jelez.
Magyarországon is egyre több szakmai program foglalkozik az MI egészségügyi alkalmazásával. A Semmelweis Egyetem Egészségügyi Menedzserképző Központja 2026 májusában a digitális egészségügyi átalakulásról és a H-PASS projektről számolt be, amelyben az MI és a nagy nyelvi modellek egészségügyi szerepe is megjelent. Az MTA 2026 júniusára külön eseményt hirdetett a mesterséges intelligencia egészségügyi alkalmazási lehetőségeiről, ahol a klinikai gyakorlatban jelentkező nemkívánatos mellékhatások is témaként szerepelnek.
Ez jó irány, de a beszélgetésnek túl kell lépnie azon, hogy mire képes az MI. A kórházi valóságban a kérdés inkább így hangzik: hogyan vesszük észre, ha a rendszer csendben rosszul működik?
Az EU-s szabályozás sem váltja ki az éberséget
Az Európai Unió MI-rendelete kockázatalapú logikát követ, és az egészségügyi célú MI-szoftverek egy része magas kockázatú rendszernek minősülhet. Az Európai Bizottság egészségügyi MI-ről szóló tájékoztatója szerint az ilyen rendszereknél követelmény lehet a kockázatkezelés, a megfelelő adatminőség, az egyértelmű felhasználói tájékoztatás és az emberi felügyelet.
Ez erős keret, de a szabályozás önmagában nem oldja meg az intézményi kultúrát. Egy rendszer lehet megfelelőségi szempontból rendezett, közben a mindennapi használatban mégis félrecsúszhat. Rossz adatokból dolgozik. Nem illeszkedik jól az adott osztály működéséhez. A felhasználók nem értik a jelzéseit. A vezetés túl sokat vár tőle. Vagy éppen mindenki azt feltételezi, hogy ha nincs riasztás, nincs probléma.
A kórházi MI legnagyobb veszélye nem mindig a látványos tévedés. Néha az a legveszélyesebb, amikor a rendszer hallgat.
Mit kellene ebből megértenie egy magyar intézménynek?
Egy magyar kórháznak, magánklinikának vagy egészségügyi szolgáltatónak az MI bevezetésekor nem azzal kell kezdenie, hogy milyen modern a szoftver. A valódi kérdés az, hogy milyen felelősségi rend épül köré.
Négy dolgot mindenképpen tisztázni kell.
Elsőként azt, hogy milyen döntést támogat a rendszer, és hol marad kötelező az emberi ellenőrzés. Másodszor azt, hogy milyen adatokból dolgozik, és ezek mennyire pontosak az adott magyar intézményi környezetben. Harmadszor azt, hogy ki vizsgálja rendszeresen a téves negatív eseteket, vagyis azokat a helyzeteket, amikor a rendszernek jeleznie kellett volna, de nem tette. Negyedszer azt, hogy a munkatársak mernek-e szólni akkor is, ha a gép szerint minden rendben van.
Ez utóbbi a legemberibb, és talán a legfontosabb pont. Az Erlanger ügyben végül nem a szoftver észlelte a bajt, hanem a kollégák. Ez nem a technológia elleni érv. Inkább emlékeztető arra, hogy a kórház nem adatközpont, hanem emberek által működtetett, nagy kockázatú rendszer.
A jó egészségügyi MI mellett több emberi figyelem kell
Az egészségügyi MI-rendszer akkor hasznos, ha növeli az intézmény észlelőképességét. Ha viszont a személyzet figyelmét csökkenti, mert mindenki a szoftverre vár, akkor új kockázatot hoz létre.
Magyarországon most kellene ezt a tanulságot komolyan venni, még azelőtt, hogy az MI-rendszerek tömegesen beépülnek a betegutakba, az adminisztrációba, a diagnosztikába és a kórházi működésbe. A technológia lehet gyorsabb, következetesebb és fáradhatatlanabb, de nem rendelkezik intézményi ösztönnel. Nem látja a folyosói furcsaságokat. Nem érzi, ha valaki nincs jól. Nem vállal erkölcsi felelősséget.
Az MI az egészségügyben nem helyettesíti a bizalmat, hanem próbára teszi. Ahol van szakmai fegyelem, jó adat, erős belső kontroll és valódi emberi felügyelet, ott értékes eszköz lehet. Ahol ezek hiányoznak, ott csak egy újabb rendszer lesz, amelyre mindenki hivatkozhat, amikor már megtörtént a baj.
