Egy MI-vel készített levél rossz árat tartalmazott, a rendszer kitalált egy szolgáltatást, vagy bizalmas információ került illetéktelen címzetthez. Ilyenkor a gyors javítás önmagában kevés. Meg kell állítani a hiba terjedését, tájékoztatni kell az érintetteket, és rekonstruálni kell, hogyan jutott át a hibás eredmény az ellenőrzésen.
Először állítsd meg a hiba terjedését
Az első feladat az érintett MI-munkafolyamat felfüggesztése. Ha a rendszer automatikusan küld leveleket, ajánlatokat vagy értesítéseket, kapcsold ki a kiküldést. Ellenőrizd, kik kapták meg a hibás tartalmat, továbbították-e, illetve született-e már döntés annak alapján.
A javítás előtt őrizd meg az eredeti állapotot. Mentsd el az utasítást, az MI válaszát, a felhasznált adatokat, az időpontot és az elküldött változatot. Ezek nélkül később nehéz lesz megállapítani, hogy az MI tévedett, hibás bemenetet kapott, vagy az emberi ellenőrzés maradt el.
Az MI-incidens olyan hiba, amely kilépett a kísérleti vagy szerkesztési környezetből, és tényleges vagy lehetséges hátrányt okozott egy ügyfélnek, érintett személynek vagy a vállalkozásnak.
Egy pontatlan belső vázlat még nem feltétlenül incidens. A hibás ár kiküldése, másik ügyfél adatainak megjelenítése vagy egy automatikus elutasítás viszont már intézkedést igényel.
Mérd fel, milyen következménye lehet
A hiba súlyát a következménye alapján értékeld. Más választ igényel egy elírt dátum, mint egy téves pénzügyi számítás vagy kiszivárgott személyes adat.
Vizsgáld meg:
- érintett-e szerződéses vállalást, árat vagy határidőt;
- hozott-e az ügyfél döntést a hibás információ alapján;
- került-e veszélybe személyes vagy bizalmas adat;
- érintett-e valakit hátrányosan egy automatikus értékelés;
- visszavonható-e még az eredmény;
- hány ügyfélhez jutott el ugyanaz a hiba.
A kár hiánya nem teszi fölöslegessé a dokumentálást. A most időben észlelt hiba egy következő alkalommal nagyobb következménnyel járhat.
Az ügyfélnek világos tájékoztatás kell
A tájékoztatással addig várj, amíg a legalapvetőbb tényeket tisztáztad, de ne húzd az időt a teljes belső vizsgálat lezárásáig. Az ügyfélnek először azt kell tudnia, hogy melyik információ volt hibás, mit tekintsen helyesnek, és szükséges-e bármit tennie.
Az első üzenet tartalmazza:
- melyik korábbi közlés érintett;
- pontosan mi volt benne hibás;
- mi a helyes információ;
- milyen intézkedést tettél;
- mikor adsz további tájékoztatást.
Az MI-re mutogatás gyengíti a kommunikációt. Az ügyfél veled vagy a cégeddel áll kapcsolatban, ezért a javításért is neked kell felelősséget vállalnod. Az MI használatát akkor érdemes megnevezni, ha ez szükséges az eset megértéséhez, a szerződés előírja, vagy az ügyfél korábbi tájékoztatása hiányos volt.
Nem minden MI-hiba adatvédelmi incidens
Egy téves állítás vagy rossz számítás önmagában nem GDPR szerinti adatvédelmi incidens. Más a helyzet, ha személyes adat illetéktelenhez került, elveszett, megváltozott vagy jogosulatlanul hozzáférhetővé vált.
Az adatkezelőnek a kockázattal járó adatvédelmi incidenst lehetőség szerint a tudomásszerzéstől számított 72 órán belül be kell jelentenie a felügyeleti hatóságnak. Magas kockázat esetén az érintett személyek tájékoztatása is szükségessé válhat. A bejelentési kötelezettséget minden esetben külön kell értékelni.
Az MI-rendelet súlyos incidens fogalma szintén jóval szűkebb egy hétköznapi MI-hibánál. Elsősorban magas kockázatú MI-rendszereknél, jogszabályban meghatározott súlyos következmények esetén merülhet fel hatósági bejelentés. Az ilyen rendszer alkalmazójának a szolgáltatót és az illetékes piacfelügyeleti hatóságot is értesítenie kellhet.
Ágazati szabályok, szerződések és biztosítási feltételek további értesítési kötelezettségeket írhatnak elő.
Az esetet rekonstruálhatóan dokumentáld
Az incidensnyilvántartásban szerepeljen az alkalmazott MI-eszköz és modell, a bemenet, az eredeti kimenet, az emberi ellenőrzés folyamata, az érintett ügyfelek köre és minden megtett intézkedés.
A vizsgálat célja annak megértése, melyik kontroll hiányzott. Lehet, hogy az MI nem kapott megfelelő forrást, túl széles feladatot végzett, vagy az ellenőrző személy csak nyelvileg nézte át a szöveget. Automatikus kiküldésnél az is felmerülhet, hogy eleve rossz helyre került a jóváhagyási pont.
A folyamatot módosítsd, ne csak a hibás választ
A prompt átírása ritkán oldja meg önmagában a problémát. Szükség lehet kötelező forrásellenőrzésre, alacsonyabb automatizálási szintre, tesztkörnyezetre, szűkebb hozzáférésekre vagy új emberi jóváhagyási pontra.
Ehhez használható keretet ad a Mely MI-vel támogatott munkáknál legyen kötelező az emberi jóváhagyás? című cikkünk.
Az ügyfél bizalmát gyakran kevésbé sérti egy gyorsan felismert és tisztességesen kijavított hiba, mint a késlekedés vagy az elhallgatás. A jó incidenskezelés ott ér véget, ahol ugyanaz a hiba már nem tud ugyanazon az úton újra eljutni az ügyfélig.
