Az éves MI-felülvizsgálat: hat kérdés, fél nap
A szerző vállalja, hogy Önnel közösen végigmegy a hat éves MI-felülvizsgálati kérdésen, és minden lépésről kézzelfogható bizonyítékot készít.
Az éves MI-felülvizsgálat akkor hiteles, ha a szervezet belső kockázatértékelésének és változáskezelési naplójának megújítását az uniós keretrendszer – így a 9. és a 26. cikk – elvárásaival összehangolva végzi el, a szigorúbb előírást követve. A hangsúly a tervezéstől a működés közbeni bizonyítékgyűjtésre tolódik: a felülvizsgálat célja, hogy igazolja a rendszer folyamatos rendeltetésszerű működését és a korábban azonosított kockázatok kezelésének hatékonyságát. A cikk hat kérdés köré rendezve, fél nap alatt végigvihető struktúrát kínál ahhoz, hogy a felülvizsgálat ne sablonból, hanem a szervezet valós helyzetéből induljon.
Miért a felhasználás dönt, és nem az eszköz?
Az éves felülvizsgálat nem az eszközről szól, hanem arról, ahogyan a szervezet ténylegesen használja. Ugyanaz a technológia más kockázati profilt jelent más szervezetnél, más adatkezelésnél, más felhasználói körben. A szabályozás sem a megnevezéshez, hanem a felhasználás módjához és hatásához köti a kötelezettségeket. Ezért a felülvizsgálat kiindulópontja mindig a konkrét felhasználási eset, nem a katalógus vagy a beszerzési lista.
A szervezet gyakran úgynevez „MI-projektjei” mögé bújik, miközben a tényleges folyamatok már régen eltértek az eredeti dokumentációtól. A kockázatértékelés frissítése ezért nem adminisztratív pótcselekvés, hanem a működés visszatükrözése: mi történik valójában az adatokkal, ki és milyen döntéshozatalban támaszkodik a kimenetre. Csak ott lehet felelősen évente újranézni, ahol a felhasználás világosan le van írva, és a változásokat folyamatosan naplózzák.
A kiindulópont
Az éves felülvizsgálat egyik legnagyobb tévedése, hogy elegendő egyszer rábólintani a rendszerre. A valódi kérdés az, hogy mi változott az előző ciklus óta: adatforrásban, modellfrissítésben, felhasználói körben vagy szabályozói környezetben. Minden ilyen változás hatással lehet a kockázati szintre, ezért a felülvizsgálat a változáskezelés lenyomata is egyben. Ahol nincs nyoma az éves változásnak, ott a felülvizsgálat csak formalitássá silányul.
Végül a felülvizsgálat értéke abban mérhető, hogy milyen bizonyíték keletkezik róla: dátumozott értékelés, résztvevők, döntések és indoklás. A szabályozó és a belső kontroll felé egyaránt azt kell tudni kimutatni, hogy a szervezet nem egyszer, hanem rendszeresen újravizsgálta a felhasználás feltételeit. Ahol ez a bizonyíték hiányzik, ott a felülvizsgálat létezik, de nem teljesítette a célját.
Mit tudunk biztosan, és mit nem?
Az éves mesterségesintelligencia-felülvizsgálat nem technikai karbantartás, hanem kockázatkezelési rituálé: a célja annak igazolása, hogy a rendszer az év során bekövetkezett változások ellenére továbbra is a tervezettnek megfelelően működik. Az (EU) 2024/1689 rendelet 9. cikke a kockázatértékelés rendszeres felülvizsgálatát írja elő, a 26. cikk pedig az üzembe helyezés utáni felügyeletet és a piaci szereplők ezzel összefüggő kötelezettségeit rögzíti. E két előírás együtt adja a felülvizsgálat jogi gerincét, és egyben meghatározza, milyen típusú bizonyítékot kell a szervezetnek elő tudni állnia.
| Állítás | Mennyire biztos | Mire alapozzuk |
|---|---|---|
| A biztos pontok közé tartozik, hogy a felülvizsgálatot dokumentált módszertan szerint kell elvégezni, és annak ki kell terjednie a felhasználási kör, a bemeneti adatok és a releváns szabályozási környezet esetleges változásaira. | A kockázatértékelés frissítése rendszerint akkor indokolt, ha a rendszer funkcionalitása vagy üzemi környezete érdemben módosult, míg a kisebb, operatív jellegű változásokat a változáskezelési eljáráson belül lehet kezelni. | Az éves ritmus nem jelenti azt, hogy más ütemezés ne lenne lehetséges, de a jogszabály a rendszeres, tervezett áttekintést várja el igazolható formában. |
| Kevésbé lezárt kérdés, hogy meddig terjedjenek a felülvizsgálat határai egy szervezet teljes mesterségesintelligencia-portfóliójára, és mely esetekben kell az egyes rendszerekre külön-külön, illetve mikor együttesen elvégezni az értékelést. | Szintén formálódik még az a gyakorlat, hogy a felülvizsgálati bizonyítékok közül melyek tekinthetők elegendőnek a 26. | cikk szerinti felügyeleti kötelezettség teljesítéséhez, és melyek azok a kiegészítő elemek, amelyeket a szervezet önként vállal a belső kormányzás erősítése érdekében. |
| Összességében a felülvizsgálat sikerének mércéje nem a terjedelem, hanem a nyomon követhetőség: hogy a döntéshozók utólag is meg tudják állapítani, milyen információk alapján született meg az adott évi értékelés. | A változáskezelés, a kockázatértékelés frissítése és az üzembe helyezés utáni felügyeleti adatok akkor alkotnak egységes képet, ha ugyanarra a nyelvre, ugyanarra a módszertanra épülnek. | A cikk további részében ezt a hat kérdésből álló, fél napos struktúrát bontjuk ki, amely a tervezéstől a bizonyítékok lezárásáig végigvezeti a szervezetet egy konkrét felülvizsgálati cikluson. |
A négy szint, amit ismerni kell
A négy szint vagy fokozat, amit ismerni kell, egymástól elhatárolva. Az éves MI-felülvizsgálat egyik legfontosabb előkészítő lépése annak tisztázása, hogy a szervezeten belül hol húzódnak a mesterséges intelligencia alkalmazásának egyes szintjei. Ezeket a szinteket célszerű nem technológiai, hanem felhasználási és kockázati szempontból meghatározni, mert a felülvizsgálat során nem a szoftver jellemzőit, hanem annak üzleti és jogi hatásait kell mérlegelni. A szintek rögzítése egyúttal azt is megkönnyíti, hogy az évközi változásokat visszavezessük az eredeti besoroláshoz, és így a felülvizsgálat ne csupán egyszeri fotó, hanem összehasonlítható állapot legyen.
A szintek
A szintek egymástól való elhatárolása nem öncélú adminisztráció, hanem a felelősségi körök tiszta meghúzását szolgálja. Minden szinthez más jellegű bizonyíték szükséges, más szervezeti egység adja az adatokat, és más vezetői fórum dönt a besorolásról. Ha a szintek összemosódnak, akkor a felülvizsgálat könnyen parttalanná válik, mert nem lehet megmondani, ki mit ellenőriz, és milyen dokumentum támasztja alá az adott minősítést. Az elhatárolás ezért nemcsak a rendszert, hanem a döntéshozatali láncot is strukturálja.
Az éves felülvizsgálat során az egyes szinteket érdemes egymás után, de azonos módszertannal áttekinteni, hogy az összehasonlíthatóság fennmaradjon. Az (EU) 2024/1689 rendelet 9. cikke szerinti kockázatértékelési keretrendszer itt kapcsolódik be, mert a szintekhez rendelt kockázati besorolás az, ami a felülvizsgálat gerincét adja. A szintek elhatárolása tehát nem elvont kategória, hanem konkrét jogszabályi kötelezettségekhez rendelt csoportosítás, amely nélkül a felülvizsgálat nem tud megfelelni az uniós elvárásoknak. A bizonyítékoknak tartalmazniuk kell, hogy az adott szint besorolása az elmúlt évben bekövetkezett változások fényében is helytálló.
A kockázatértékelés frissítése a szintek felülvizsgálatának legkritikusabb eleme, mert a technológiai környezet és a felhasználási módok rendszerint változnak egy év alatt. Az (EU) 2024/1689 rendelet 26. cikke szerinti nyilvántartási kötelezettség biztosítja, hogy a szintekhez kapcsolódó döntések visszakereshetők és indokolhatók legyenek. A felülvizsgálat során minden szintnél dokumentálni kell, hogy a korábbi besorolás fenntartható, módosítandó vagy visszavonandó, és ezt a döntést konkrét bizonyítékokkal kell alátámasztani, nem pedig általános megállapításokkal. Az éves ciklus így válik zárt visszacsatolássá.
Összességében a szintek tiszta elhatárolása az éves felülvizsgálat előfeltétele, nem pedig annak végeredménye. A felülvizsgálat akkor tölti be a valódi funkcióját, ha a szintbesorolások a változáskezelés természetes részévé válnak, és az év során felmerülő eltérések azonnal beépülnek a nyilvántartásba. A négy szint egymástól elkülönített kezelése biztosítja, hogy a felülvizsgálat ne egyszerű adminisztratív feladat legyen, hanem a szervezet MI-stratégiájának tudatos, évről évre fejlődő dokumentuma. Ez a megközelítés teszi lehetővé, hogy a felülvizsgálat fél nap alatt elvégezhető, strukturált folyamattá váljon.
Négy határeset, ami valóban előfordul
Az éves felülvizsgálat nem egyenlő az éves leltárral. Kkv-környezetben a határ ott húzódik, hogy a rendszer használata közben keletkezett-e új kimenet, új adat vagy új döntéstámogatás. Ha a szervezet az év során ugyanazt a modellt ugyanarra a feladatra használta, és a felhasználói kör nem változott, a felülvizsgálat lényegében megerősítés. Ha viszont új üzleti folyamat kapcsolódott a rendszerhez, a felülvizsgálat már valódi változáskezelés, nem formalitás.
1. határeset
A belső fejlesztésű és a késztermékként vásárolt megoldás határesetét rendszerint a felelősségi lánc szabja meg. Amíg a szállító dokumentálja a tanítási adatok eredetét és a rendszer teljesítményét, a felülvizsgálat a saját felhasználási kontextusra szűkíthető. Amint a szervezet saját adaton finomhangol vagy saját logikát épít a köré, a kockázatértékelés ugyanúgy kiterjed a modellrétegre is, mintha házon belül készült volna. Ezt a pontot érdemes írásban, dátumhoz kötve rögzíteni.
2. határeset
A segédlet és a döntéshozó közötti határ a legritkábban kezelt eset. A felülvizsgálat szempontjából az a kérdés, hogy a kimenet bekerül-e emberi döntésbe, és ott milyen súllyal. Ha a javaslatot szakértő felülbírálja, a rendszer jellemzően alacsonyabb kockázati osztályban maradhat. Ha a javaslat automatikusan továbbítódik ügyfélnek, munkavállalónak vagy beszállítónak, a felülvizsgálatnak tartalmaznia kell a pontosság, az elfogultság és a megmagyarázhatóság friss bizonyítékait. A kettő közötti átmenet a gyakorlatban szinte soha nem éles.
3. határeset
A jogszabályi háttér itt is meghatározza a minimumot. Az (EU) 2024/1689 rendelet 9. cikke a kockázatkezelési rendszer folytonosságáról szól, a 26. cikk pedig a bevezetett rendszerek monitoringjáról. A határesetek elbírálásánál ezek a cikkek adják a kérdések vázát: van-e azonosított kockázat, van-e dokumentált mérés, van-e felelős a változáskezelésre. Ahol ezek a válaszok hiányoznak, a felülvizsgálat nem zárható le, és a következő ciklusra halasztás sem elfogadható megoldás.
4. határeset
Végül a bizonyíték formája dönt, nem a mennyisége. Egyetlen, jól dokumentált eset, amely megmutatja, hogyan reagált a rendszer egy váratlan inputra, többet ér, mint egy terjedelmes, de általános teljesítményjelentés. A felülvizsgálat célja, hogy a szervezet hitelt érdemlően tudja kimondani: a rendszer az év során úgy viselkedett, ahogy a kockázatértékelés feltételezte. Ha ez a mondat a felülvizsgálat végén nem írható le, a határesetekből valódi auditálási feladat lesz.
Mit tegyen a cég a döntés után?
A sorrend
Az éves felülvizsgálat nem a besorolás megismétlése, hanem a változás kezelése. Első lépésként a szervezet összegyűjti azokat a dokumentumokat, amelyek az előző ciklus óta keletkeztek: fejlesztési naplók, üzemeltetési jelentések, incidensfeljegyzések és a szállítói közlemények. Ebből a csomagból kell látszania, hogy az MI-rendszer használati módja, hatóköre vagy a felhasználói kör az elmúlt tizenkét hónapban miként módosult. A cél annak igazolása, hogy a korábban rögzített kockázati kép ma is érvényes, vagy ahol már nem, ott a változáskezelés azonnal elindult.
A második lépés a kockázatértékelés frissítése, mégpedig ugyanazon módszertan szerint, mint az eredeti besoroláskor. Ilyenkor a szervezet végigmegy a magas kockázatú felhasználási területek listáján, és minden egyes elemről külön feljegyzést készít arról, hogy mi változott, milyen új veszélyforrás jelent meg, és milyen mérséklő intézkedés maradt hatályban. Az (EU) 2024/1689 rendelet 9. cikke ehhez ad zsinórmértéket: a kockázatértékelést rendszeres időközönként felül kell vizsgálni, és a dokumentációnak alkalmasnak kell lennie az illetékes hatóságok előtti bemutatásra. A feljegyzések dátumát, szerzőjét és felülvizsgálati státuszát érdemes egyetlen nyilvántartásban vezetni.
Harmadik lépésként a szervezet a változáskezelési eljárást futtatja le a felismert eltérések mindegyikén. Ez azt jelenti, hogy a besorolás módosítása, a használati utasítások átírása vagy a belső képzés frissítése ugyanazon az útvonalon halad, mint bármely más, a rendszert érintő változtatás. Az (EU) 2024/1689 rendelet 26. cikke szerinti, a forgalomban részt vevő más szereplőkre háruló kötelezettségek itt is érvényesülnek, amennyiben a szervezet ilyen pozícióban van, hiszen az éves ciklusban az ellátási lánc tagjaira vonatkozó nyilatkozatokat is naprakészen kell tartani. A döntéshozatali jegyzőkönyvben rögzíteni kell, hogy az adott eltérés melyik kategóriába esett, és milyen jóváhagyás mellett zárult.
Az utolsó lépés a bizonylatolás, vagyis az előző évben gyűjtött bizonyítékok lezárása és a következő ciklus alapjainak letétele. A felülvizsgálatot végző személy vagy csoport aláírásával hitelesíti a kockázatértékelés frissítését, a változáskezelési döntéseket és a nyitva maradt, halasztott intézkedéseket. A teljes anyag egyetlen, kereshető mappába kerül, hogy az illetékes hatóság kérésére rövid határidővel elő lehessen hívni. Ily módon az éves felülvizsgálat nem egyszeri teher, hanem a megfelelési lánc következő láncszeme.
Az idővonal: mi történt, és mi van hátra
A felülvizsgálat nem légüres térben zajlik, hanem a szervezet saját belső ütemezéséhez és a külső jogi elvárásokhoz egyaránt igazodik. A belső oldalon az éves kockázatértékelés megújítása és a változáskezelési napló áttekintése adják a gerincét, a külső oldalon pedig az alkalmazandó uniós keretrendszer határozza meg, mit kell minimum teljesíteni. Ez a kettős horgony biztosítja, hogy a felülvizsgálat ne sablonból, hanem valós helyzetből induljon. Ahol a két oldal eltér, ott a szigorúbb irányadó.
Ami hátravan
A felülvizsgálat alapját az (EU) 2024/1689 rendelet 9. cikke adja, amely a kockázatkezelési rendszer kialakításáról és működtetéséről szól. Ez a rendelkezés írja elő, hogy a szolgáltatónak a kockázatokat azonosítania, értékelnie és lehetőség szerint mérsékelnie kell, és ennek a folyamatnak a teljes életcikluson átívelő, ismétlődő jellegűnek kell lennie. Az éves felülvizsgálat ebbe a keretbe illeszkedik, hiszen az évközi változások, incidensek és tanulságok rendszeres visszacsatolását szolgálja. A 9. cikk tehát nem egyszeri teendő, hanem folyamatos kötelezettség, amelyet éves szinten bizonyítani is tudni kell.
A felülvizsgálat másik tartóoszlopa az (EU) 2024/1689 rendelet 26. cikke, amely a piacfelügyeleti és uniós piacfelügyeleti hatóságok feladatait, valamint a tagállami hatóságok együttműködését rendezi. Ez a cikk egyrészt meghatározza, hogy a hatóság milyen információkhoz juthat hozzá egy ellenőrzés vagy bejelentés során, másrészt azt is, hogy a szolgáltatónak milyen dokumentációval kell rendelkeznie a megfelelés igazolására. A felülvizsgálat során ezért érdemes ugyanazzal a logikával rendezni a belső nyilvántartásokat, ahogyan egy hatósági megkeresés esetén rendeznénk. Aki a saját szempontja szerint rendezett, annak a 26. cikk szerinti ellenőrzés sem okoz meglepetést.
Összességében az idővonalat három szinten érdemes gondolkodni: a saját éves ciklus, az uniós keretrendszer kötelező lépcsői, és a változáskezelés eseményalapú naplója. A saját ciklus adja az ütemet, a 9. cikk adja a tartalmat, a 26. cikk adja a bizonyíthatóság mércéjét, a változáskezelés pedig az évközi eltérések hivatalos nyomvonalát. A felülvizsgálat akkor lesz fél nap alatt elvégezhető, ha ezek a szálak előre, rendezetten állnak össze, és nem a felülvizsgálat napján kell őket összekaparni.
A három leggyakoribb hiba
| Hiba | Miből fakad | Mi a helyes |
|---|---|---|
| A felülvizsgálatoknál rendre az a leggyakoribb hiba, hogy a szervezet az éves gyakoriságot adminisztratív teherként kezeli, nem pedig kockázatkezelési eszközként. | Ilyenkor a felülvizsgálat sablonosan, valódi áttekintés nélkül zárul, és az eredmény inkább egy lepecsételt űrlap, mint döntéstámogató anyag. | A tartós megoldás az, ha a felülvizsgálatot a kockázatértékelés frissítéséhez kötjük, és az éves ciklust a tervezett változások ütemezéséhez igazítjuk. |
| A második tipikus probléma a hatókör leszűkítése: a vizsgálat csak a technikai elemekre terjed ki, a szervezeti és emberi tényezők kimaradnak. | Ez azért veszélyes, mert a mesterségesintelligencia-rendszerek használatában a felhasználói kompetencia, a belső utasítások és a változáskezelés éppúgy hibalehetőséget hordoz, mint a modell pontatlansága. | A kiküszöböléshez a felülvizsgálati napirendet tudatosan kell összeállítani, hogy az adatminőség, a folyamatba épített emberi felügyelet és a panaszkezelési visszajelzések is terítékre kerüljenek. |
| A harmadik visszatérő hiba a dokumentálás hiányossága: a felülvizsgálatot elvégzik, de nem rögzítik, milyen bizonyítékok alapján születtek a következtetések. | Később, utólagos ellenőrzésnél vagy hatósági vizsgálatnál ez komoly hiányosságként jelenik meg, és aláássa a teljes folyamat hitelességét. | A megelőzés egyszerű: minden megállapítás mellé fel kell tüntetni a forrását, az értékelés módját és a felelős személyét, hogy a döntés visszakereshető legyen. |
| Végül a negyedik, kevésbé szembetűnő hiba a felülvizsgálat és a változáskezelés szétválasztása. | Előfordul, hogy a szervezet évente ugyanazt a kockázati képet nézi, miközben közben rendszerfrissítések, szervezeti átszervezések vagy jogszabályi változások történtek. | Az éves felülvizsgálat csak akkor látja el a rendeltetését, ha integrálja a változáskezelés során keletkezett információkat, és az új tények alapján frissíti a kockázatértékelést. |
Egy gyakorlati eset
A szervezet az éves felülvizsgálatot egy önálló belső projektként indította, amelynek célja nem a korábbi
A felülvizsgálatot hat kérdés köré szervezték, és mindegyikhez konkrét bizonyítékot rendeltek, így a folyamat ellenőrizhető és megismételhető maradt. Az első három kérdés a felhasználási környezetre, az adatminőségre és a kockázati szintre vonatkozott, a második három pedig a változáskezelésre, a dokumentáció frissítésére és a belső képzettségre. Minden kérdésnél meghatározták, hogy milyen típusú bizonyíték – például belső jegyzőkönyv, átvizsgálási nyilatkozat vagy módosítási napló – támasztja alá a választ. A bizonyítékokat egységes szerkezetben, dátum nélküli hivatkozással rögzítették, hogy a későbbi auditálás során visszakereshetők legyenek.
| Szakasz | Mi történt | Szám |
|---|---|---|
| Kiindulás | A lépések sorrendje tudatosan eltért a megszokottól, mert a csapat a felülvizsgálatot a kockázatértékelés frissítésével kezdte, nem a technikai dokumentáció átolvasásával. Ezt követte a változáskezelési napló áttekintése, amely megmutatta, hogy az év során milyen beavatkozások történtek a rendszer működésében. A harmadik lépés az volt, hogy az érintett üzleti területek vezetőivel közösen értelmezték a feltárt eltéréseket, és rangsorolták azokat a kockázatok szerint. Csak ezután került sor a szükséges dokumentációk, például a felhasználási utasítások és a felügyeleti eljárások átírására. A megközelítés lényege az volt, hogy a papír mindig a valóságot kövesse, és soha ne fordítva. | 1. |
| Lépések | Az eredmény nem egyetlen döntésben, hanem egy átfogó, naprakész helyzetképben öltött testet, amelyet a szervezet vezetése és a belső ellenőrzés egyaránt elfogadott. A felülvizsgálat kimutatta, hogy a korábbi kockázatértékelés egyes elemei már nem voltak arányosak a tényleges használattal, ezért azokat csökkenteni vagy éppen szigorítani kellett. A változáskezelési eljárásrend kiegészült az éves felülvizsgálat kötelező lefolytatásával, és a hat kérdésre adott válaszokat a továbbiakban a belső tudásbázisban is elérhetővé tették. A folyamat így nem lezárult, hanem beépült a szervezet szabályos működésébe, és a következő ciklusban már rutinszerűen alkalmazható. | 2. |
| Eredmény | A tapasztalatok megerősítették, hogy az éves felülvizsgálat értéke nem a terjedelmében, hanem a fegyelmezett kérdezésben és a dokumentált bizonyítékokban rejlik. A szervezet felismerte, hogy a rendszeres, strukturált áttekintés nélkül a kockázatértékelés fokozatosan elveszíti a kapcsolatot a valós üzemeltetési gyakorlattal. A hat kérdésből álló módszer azért vált be, mert egyszerre kényszeríti ki a tényfeltárást és a változások tudatos kezelését, miközben a (EU) 2024/1689 rendelet 9. cikke és 26. cikke szerinti követelmények teljesítése is nyomon követhető maradt. A módszertant a szervezet azóta más, hasonló jellegű rendszerekre is kiterjesztette, így a felülvizsgálat szervezeti kultúrává vált. | 3. |
Eredmény. Az eset anonimizált: az azonosító adatok megváltoztatva, a döntési út és a végeredmény változatlan.
Az ellenérv
Az állítás: Sokan az éves MI-felülvizsgálatot felesleges adminisztrációnak tartják, amely lassítja a működést és elvonja az erőforrásokat a valódi fejlesztéstől. Érvelésük szerint a rendszerek ritkán változnak olyan mértékben egy év alatt, ami indokolná a teljes körű újraértékelést, ráadásul a felülvizsgálat során keletkező dokumentáció gyakran papírmunkává silányul. Ez az ellenérv rendszerint abból fakad, hogy a felülvizsgálatot egyszeri megfelelési feladatként kezelik, nem pedig a kockázatértékelés frissítésének és a változáskezelés ellenőrzésének alkalmas eszközeként.
Ami ellene szól: A felülvizsgálat valódi értéke nem a dokumentációban, hanem a gondolkodási folyamatban rejlik. Az éves MI-felülvizsgálat során a szervezet újra szembesül a korábbi kockázati feltételezésekkel, összeveti azokat a tényleges használattal és működési tapasztalatokkal, valamint azonosítja azokat a változásokat, amelyek egy év alatt természetes módon bekövetkeznek. Az (EU) 2024/1689 rendelet 9. cikke a kockázatértékelés rendszeres felülvizsgálatát írja elő, ami azt jelenti, hogy a felülvizsgálat nem öncélú, hanem a megbízható működés fenntartásának egyik alapvető eszköze.
Amit erre mondani lehet: A változáskezelés szempontjából az éves felülvizsgálat természetes visszacsatolási pontot jelent, ahol a szervezet megállapíthatja, hogy a bevezetett módosítások valóban a várt hatást érték-e el. A felülvizsgálat során keletkező bizonyíték – legyen az a kockázati szint változása, az incidensek gyakorisága vagy a beavatkozások hatékonysága – képezi az alapját a következő évi tervezésnek. Az (EU) 2024/1689 rendelet 26. cikke a működés utáni felügyeleti kötelezettségek között nevesíti azokat a dokumentációs és értékelési feladatokat, amelyek biztosítják, hogy a rendszer a teljes életciklusa során megfeleljen a követelményeknek.
Amit a döntés után is ellenőrizni kell
| Mit nézünk | Milyen gyakran | Mit jelent, ha eltér |
|---|---|---|
| Az MI-rendszerek bevezetése után a felügyelet nem zárulhat le, hanem átalakul: a hangsúly a tervezési döntések utólagos visszaigazolásáról a működés közbeni bizonyítékgyűjtésre helyeződik. | Az éves felülvizsgálat célja, hogy a szervezet hitelesen tudja kimutatni: a rendszer továbbra is megfelel a rendeltetésének, és a korábban azonosított kockázatok kezelése valóban működik. | Ezt a képet nem elég szubjektív benyomásokra építeni, ezért a felülvizsgálatnak mérhető nyomokat kell hagynia. |
| A kockázatértékelés frissítése az éves ciklus egyik legfontosabb eleme, mert a használati környezet, a felhasználói bázis és a külső fenyegetettség egyaránt változhat. | A felülvizsgálat során ezért célszerű végigmenni azon forgatókönyveken, amelyeket az eredeti elemzés feltárt, és megnézni, hogy a hatásuk vagy a valószínűségük eltér-e a kiindulásként rögzítetttől. | A frissítés eredményét érdemes írásban, dátumhoz kötötten megőrizni, hogy a későbbi auditorok is lássák a gondolkodás menetét. |
| A változáskezelés az éves felülvizsgálat másik gerince, mert a legtöbb MI-rendszer nem statikus: a tanítóadatok, a modellverziók, az integrációs pontok és a szabályozói környezet egyaránt mozognak. | Az áttekintésnek ezért nemcsak technikai, hanem szervezeti és jogi szempontból is dokumentálnia kell, hogy mi változott az előző ciklus óta, és milyen döntések születtek ezek nyomán. | A változások hatását ugyanazzal a kockázati logikával kell értékelni, mint az eredeti bevezetésnél, hogy az összehasonlíthatóság fennmaradjon. |
| Végül a felülvizsgálatnak kitérnie azokra a visszajelzésekre is, amelyek a működés közben keletkeztek: a felhasználói panaszokra, az incidensekre, a téves vagy nemkívánatos kimenetekről szóló bejelentésekre. | Ezek együttesen rajzolják ki a rendszer valós teljesítményét, és táplálják a következő éves ciklus tervezését. | Az (EU) 2024/1689 rendelet 9. |
Mit tegyen holnap reggel?
Első lépésként jelöljenek ki egy felelőst az éves MI-felülvizsgálat koordinálására, és rögzítsék a feladatot a belső irányítási rendszerben. Ennek a személynek kell összegyűjtenie az év során keletkezett változásjelentéseket, kockázati eseményeket és auditmegállapításokat egy áttekinthető mappába. A felelős kijelölése önmagában is bizonyítja a szervezet elköteleződését a rendszeres felülvizsgálat mellett.
- 01
Második lépésben készítsenek elő egy hat kérdésből álló tematikát, amely lefedi a kockázatértékelés frissítését, a változáskezelési naplók áttekintését és a dokumentáció teljességét. Az (EU) 2024/1689 rendelet 9. cikke szerinti kockázatkezelési rendszer és a 26. cikk szerinti változáskezelési kötelezettségek egyaránt szerepeljenek a napirenden. A tematika előzetes kiküldése lehetővé teszi, hogy minden terület vezetője felkészülten érkezzen.
- 02
Harmadik lépésként ütemezzenek be egy legfeljebb fél napos ülést, ahol minden kérdéshez bizonyítékot rendelnek hozzá. A bizonyíték lehet jegyzőkönyv, képernyőkép, aláírt nyilatkozat vagy frissített kockázati mátrix. Fontos, hogy ne csak az elvégzett feladatokról, hanem a feltárt eltérésekről és a tervezett korrekciós intézkedésekről is döntés szülessen.
- 03
Negyedik lépésben a felülvizsgálat eredményét foglalják jegyzőkönyvbe, és határozzanak meg konkrét határidőket a hiányosságok pótlására. A jegyzőkönyv hivatkozzon az (EU) 2024/1689 rendelet érintett cikkeire, így a külső auditor számára is visszakereshető a megfelelés. Az így keletkezett dokumentum egyúttal a következő évi felülvizsgálat kiindulási alapja lesz.
A módszerről
- 01
A cikk szerkezete rögzített váz szerint készült; a jogszabályi hivatkozások előzetesen ellenőrzött listáról származnak.
- 02
Ahol a gyakorlat még formálódik, azt a szöveg kimondja, és nem közöl számot.
- 03
A cikk nem nevez meg szoftverterméket és nem tesz szállítói összehasonlítást.
Fogalomtár
Kulcs-megállapítások
- 01
Az éves felülvizsgálat nem az eszközről szól, hanem arról, ahogyan a szervezet ténylegesen használja. Ugyanaz a technológia más kockázati profilt jelent más szervezetnél, más adatkezelésnél, más felhasználói körben. A szabályozás sem a megnevezéshez, hanem a felhasználás módjához és hatásához köti a kötelezettségeket. Ezért a felülvizsgálat kiindulópontja mindig a konkrét felhasználási eset, nem a katalógus vagy a beszerzési lista.
- 02
A szervezet gyakran úgynevez „MI-projektjei” mögé bújik, miközben a tényleges folyamatok már régen eltértek az eredeti dokumentációtól. A kockázatértékelés frissítése ezért nem adminisztratív pótcselekvés, hanem a működés visszatükrözése: mi történik valójában az adatokkal, ki és milyen döntéshozatalban támaszkodik a kimenetre. Csak ott lehet felelősen évente újranézni, ahol a felhasználás világosan le van írva, és a változásokat folyamatosan naplózzák.
- 03
A szervezet az éves felülvizsgálatot egy önálló belső projektként indította, amelynek célja nem a korábbi értékelés megismétlése, hanem a rendszer aktuális állapotának tény szerinti feltérképezése volt. A kiindulópont az lett, hogy az előző évben dokumentált felhasználási módok, adatforrások és emberi felügyeleti pontok egy része időközben módosult, ezért a korábbi leírás már nem tükrözte a valóságos működést. A csapat ezért először a tényleges üzemeltetési körülményeket gyűjtötte össze, és csak ezután vetette össze azokat a korábbi felülvizsgálati jegyzőkönyvvel. A fókusz tehát a változások azonosításán volt, nem az újabb módszertani kísérleteken.
- 04
A felülvizsgálatot hat kérdés köré szervezték, és mindegyikhez konkrét bizonyítékot rendeltek, így a folyamat ellenőrizhető és megismételhető maradt. Az első három kérdés a felhasználási környezetre, az adatminőségre és a kockázati szintre vonatkozott, a második három pedig a változáskezelésre, a dokumentáció frissítésére és a belső képzettségre. Minden kérdésnél meghatározták, hogy milyen típusú bizonyíték – például belső jegyzőkönyv, átvizsgálási nyilatkozat vagy módosítási napló – támasztja alá a választ. A bizonyítékokat egységes szerkezetben, dátum nélküli hivatkozással rögzítették, hogy a későbbi auditálás során visszakereshetők legyenek.
- 05
Első lépésként jelöljenek ki egy felelőst az éves MI-felülvizsgálat koordinálására, és rögzítsék a feladatot a belső irányítási rendszerben. Ennek a személynek kell összegyűjtenie az év során keletkezett változásjelentéseket, kockázati eseményeket és auditmegállapításokat egy áttekinthető mappába. A felelős kijelölése önmagában is bizonyítja a szervezet elköteleződését a rendszeres felülvizsgálat mellett.
- 06
Második lépésben készítsenek elő egy hat kérdésből álló tematikát, amely lefedi a kockázatértékelés frissítését, a változáskezelési naplók áttekintését és a dokumentáció teljességét. Az (EU) 2024/1689 rendelet 9. cikke szerinti kockázatkezelési rendszer és a 26. cikk szerinti változáskezelési kötelezettségek egyaránt szerepeljenek a napirenden. A tematika előzetes kiküldése lehetővé teszi, hogy minden terület vezetője felkészülten érkezzen.
Gyakori kérdések
Milyen gyakran kell felülvizsgálni az MI-rendszereket, és miért pont évente?
Évente azért érdemes újranézni az MI-rendszereket, mert a használati környezet, a szabályozás és a felhasználói elvárások is változnak. Az éves ciklus segít abban, hogy a dokumentáció, a kockázatkezelés és az emberi felügyelet lépést tartson a tényleges működéssel, ne csak a bevezetéskori állapottal.
Mely területeket kell minden évben bizonyítottan átnézni?
Évente célszerű átvizsgálni a rendszer célját és hatókörét, a tanító- és bemeneti adatok minőségét, a kockázatértékelést, a teljesítménymutatókat, az emberi felügyeleti eljárásokat, valamint a panasz- és incidenskezelési folyamatokat. Ezekről írásos feljegyzés, dátum és felelős is kell.
Milyen bizonyítékot kell elmenteni a felülvizsgálatról?
A felülvizsgálatról jegyzőkönyv, jóváhagyási lista és intézkedési terv szükséges, dátummal és aláírókkal. Rögzíteni kell a felhasznált adatokat, a mérési eredményeket, a feltárt kockázatokat és a határidőket, hogy utólag is igazolható legyen a döntés.
Hogyan dokumentáljuk az adatváltozásokat és az adatminőséget?
Az adatváltozásokat verziószámmal, keltezéssel és forrásmegjelöléssel érdemes naplózni. A minőségről mintavételes ellenőrzés, hibastatisztika és az előző évhez viszonyított eltérés szerepeljen a feljegyzésben, hogy a tendencia követhető legyen.
Mit kell mérni a modell teljesítményénél évente?
A pontosság és a hibaarány mellett a csoportok szerinti eltérést, a hamis pozitív és hamis negatív arányt, valamint a valós üzemi környezetben mért eredményeket. A mérés módszerét, a tesztadatok körét és a küszöbértékeket is le kell írni.
Hogyan ellenőrizzük az emberi felügyelet érvényesülését?
Vissza kell nézni, hogy a beavatkozási pontokon ténylegesen történt-e emberi döntés, és ezt dokumentálták-e. Készíteni kell egy átfutási statisztikát: hány esetben, mennyi idő alatt, milyen jogosultsággal avatkoztak be a kijelölt személyek.
Mikor kell a kockázatértékelést mindenképp újra elvégezni?
A kockázatértékelést évente, valamint minden olyan változás után újra el kell végezni, amely érinti a felhasználási célt, a célcsoportot vagy a külső környezetet. Az eredményt össze kell hasonlítani az előző évivel, és a növekedett kockázatokra választ kell adni.
Hogyan kezeljük a felhasználói panaszokat és incidenseket?
A panaszokat és incidenseket évente összesítve kell átnézni: szám, téma, súlyosság, megoldási idő. A feltárt mintázatok alapján intézkedési tervet kell készíteni, és a lezárt ügyeket a felülvizsgálati jegyzőkönyvhöz csatolni.
Kiknek kell részt venniük az éves felülvizsgálaton?
Az éves felülvizsgálaton a rendszer üzemeltetője, egy független szakértő, az adatvédelmi vagy megfelelőségi felelős, valamint a döntéshozó vezető vegyen részt. A résztvevők nevét, szerepét és a döntéseiket szintén rögzíteni kell.
Milyen gyakori hibák csúszhatnak be az éves felülvizsgálatnál?
Gyakori hiba, hogy csak a pontosságot mérik, a csoportok közötti eltérést nem, illetve hogy a felülvizsgálat formálissá válik, nincs valódi döntés és felelős. Érdemes előre rögzíteni a felülvizsgálat célját, ütemezését és a kötelező bizonyítékok listáját.
Források
- (EU) 2024/1689 rendelet, 9. cikk – Előzetesen ellenőrzött hivatkozás. (2026)
- (EU) 2024/1689 rendelet, 26. cikk – Előzetesen ellenőrzött hivatkozás. (2026)
A felnőttképzés, az informatika és a mesterséges intelligencia metszetében dolgozik – a gyakorlati tapasztalatot köti össze a friss kutatással. Gyöngyös, Baranya és a Dél-Dunántúl.