Az ember-gép együttműködés új szabályai: hogyan ossza meg a feladatot az ember és a gép?
Az ember-gép együttműködés új szabályai nem a gép ember fölé emeléséről szólnak, hanem a felelősség és a döntés tudatos szétosztásáról. A cikk a humán-in-the-loop, humán-on-the-loop és humán-in-command háromszintű modelljét járja körül, és megmutatja, melyik folyamatnál melyik szint indokolt. Emberi felügyeletAz ember-gép együttműködés háromszintű modelljét az 0,5–50 MW AI-szakirodalom a beavatkozás mértéke szerint különbözteti meg, a felelősség pedig mindig az emberi szereplőnél marad. A gyakorlatban SZÜF-ön az a kérdés, melyik szint illeszkedik az adott folyamathoz, és hol van az a pont, ahol az embernek át kell vennie a döntést. A szabályozás ezt a magas kockázatú rendszereknél kötelezően írja elő, így a modell nem csupán elméleti keret.
A humán-in-the-loop mint aktív beavatkozási formaminden egyes döntésnél emberi jóváhagyást követel meg. Ez a szint akkor indokolt, ha a kimenet visszafordíthatatlan vagy nehezen javítható, és a felelősség egyértelműen az embernél van. keretrendszer-tanulmány Az alábbiakban minden állítás forrásolva van, a felhasznált források az (EU) 2024/1689 rendelet 14. cikkéhez kapcsolódnak. A cikk a humán-in-the-loop, humán-on-the-loop és humán-in-command modelleket ismerteti, és segít eldönteni, melyik folyamatnál melyik szintet érdemes alkalmazni. A szabályozási háttér az (EU) 2024/1689 rendelet, amely a magas kockázatú rendszereknél emberi felügyeletet ír elő. A forrásmegjelölések a cikk végén, külön blokkban találhatók. A cikk célja, hogy a szakemberek a gyakorlatban is alkalmazható keretet kapjanak.
- Fő engedély
- összevont keret: a három felügyeleti szint együttese
- Emberi felügyelet a rendszerben
- a SZÜF-ön
- Ki dönt, ki javít, ki irányít
- a felügyeleti szintek megválasztása
- Felügyeleti szint
- jellemzően alacsony kockázatú, kiszámítható folyamat
- Ember-gép együttműködés három szinten
- humán-in-the-loop, humán-on-the-loop, humán-in-command – bevezető áttekintés
- Szabályozási belépő
- Az (EU) 2024/1689 rendelet 14. cikk – emberi felügyelet a magas kockázatú rendszereknél
- Amit mi nem oldunk meg
- konkrét szoftvertermék neve, határidő vagy statisztikai adat
Melyik emberi felügyeleti szint illik egy adott folyamathoz?
A felügyelet nem egységes, hanem szintenként eltérő beavatkozási lehetőséget jelent három jól elkülöníthető modella humán-in-the-loop, a humán-on-the-loop és a human-in-command. A különbség nem a szigorúságban, hanem abban rejlik, hogy a folyamat kritikus pontján ki hozza meg a tényleges döntést – az ember vagy a gép. háromszintű emberi felügyeleti modell az AI-rendszerekbenamely az ember és a gép közötti felelősség-megosztás három világosan elkülöníthető szintjét – a humán-in-the-loop, a humán-on-the-loop és a humán-in-command megközelítést – egyetlen gondolati keretben rendezi; az [37] szabályozási oldal emberi oldal. A felügyeleti szint megválasztása a projekt indulásának feltétele, nem menet közben pótolható elem.
A leggyakoribb hiba a fordított gondolkodás: először a technológiát választják ki, és csak utána keresnek hozzá emberi felügyeleti modellt. A helyes irány fordított: előbb a folyamat kockázati besorolása, majd a szükséges beavatkozási mélység, végül a technikai megoldás. A magas kockázatú rendszereknél az (EU) 2024/1689 rendelet 14. cikke – a forrás a digitális stratégiát ismertető bizottsági oldalon érhető el – az emberi felügyeletet kötelező feltételként írja elő, nem utólagos kiegészítésként. A humán-in-the-loop szintet ott érdemes alkalmazni, ahol minden egyes döntést ember hagy jóvá; a humán-on-the-loop szintet ott, ahol a gép önállóan dolgozik, de az ember beavatkozásra kész; a humán-in-command szintet pedig ott, ahol a stratégiai irányítás marad emberi, a végrehajtás automatizált. melyik szintet mikor haladunk végig a három felügyeleti szinten – erre ad választ a következő szakaszok gondolatmenete.
Miért nem elég az „ember benne van valahol" megközelítés?
A felügyeleti modell addig működik, amíg a tervezéskor világos, mely döntés az emberé és melyik a gépé. A humán-in-the-loop modellben az ember minden egyes kimenetet jóváhagy, a humán-on-the-loop modellben a rendszer fut, az ember csak kivételes esetben avatkozik be, a humán-in-command modellben pedig az ember határozza meg a kereteket és felel a teljes folyamatért. Az (EU) 2024/1689 rendelet 14. gerinceamelyre a teljes felügyeleti struktúra ráépül.
A három szint három, egymásra épülő minőséget jelent: ritmust, kivételkezelést és keretalkotást. ember-gép együttműködés szintjeia háromszintű modell, amelyben az ember és a gép szerepe folyamatonként más-más felügyeleti keretrendszerés amely a magas kockázatú rendszereknél az (EU) 2024/1689 rendelet 14. cikke szerint kötelező. emberi felügyeletamely a high-risk rendszereknél egyértelműen megköveteli, hogy a tervezés, a működés és a felülvizsgálat során is biztosított legyen a megfelelő emberi beavatkozási lehetőség. emberi felügyeleta magas kockázatú rendszereknél kötelező előírásként.
A három szint sorrendje nem cserélhető fel. A gép oldalán működik a javaslattétel és a számítás, de az ember hozza meg a végső döntést: ez a keret határozza meg, milyen beleszólási joga marad a szakembernek az adott folyamatban.
A magas kockázatú rendszereknél az (EU) 2024/1689 rendelet 14. cikke emberi felügyeletet ír elő, ez a szabály nem a projekt tempójától függ, hanem a rendszer kockázati besorolásától. A humán-in-the-loop szint ezért nem opció, hanem kötelezettség, ha a gép kimenete közvetlenül érint jogokat vagy biztonságot.
A mellékelt ábra ezt a három szintet mutatja: az aktív beavatkozó ember-ín-the-loop, a felügyelő ember-ón-the-loop, és a végső döntéshozó ember-in-command. Az ábra segít eldönteni, melyik folyamathoz melyik szint illik.
Aki ezt a három szintet a folyamat kockázatához igazítja, nemcsak hatékonyabb, hanem szabálykövetőbb is: minden lépésnél tudja, hol áll a gép és az ember közötti felelősség határa.
A felügyeleti szint helyes megválasztása nemcsak bizalom, hanem szabályozási megfelelés kérdése is. Az (EU) 2024/1689 rendelet 14. cikke a magas kockázatú rendszereknél írja elő az emberi felügyelet kötelezettségét, és forrás: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai. Aki ezt a lépést kihagyja, az a későbbi engedélyeztetésnél és piacra lépésnél fizeti meg az árát, nem a tervezésnél. szabályozottan. Az ember és a gép szerepe nem verseny, hanem feladat-megosztás. A szabályozás ezt a felosztást rögzíti: a magas kockázatú rendszereknél az emberi felügyelet nem formális lépés, hanem a működés feltétele. Az (EU) 2024/1689 rendelet 14. cikke ezt írja elő.
Emberi felügyeleti szint
Az adott folyamatra vonatkozó döntés: ki és mikor avatkozik be. A humán-in-the-loopnál minden döntéshez emberi jóváhagyás kell. A humán-on-the-loopnál az ember csak kivételesen, eltérésnél lép be. A humán-in-commandnál az ember határozza meg a kereteket.
Human-in-the-loop, humán-on-the-loop
Egy folyamatra csak egy szintet érdemes rendelni. A magas kockázatú rendszereknél az (EU) 2024/1689 rendelet 14. cikke az emberi felügyeletet kötelezővé teszi. A szintet a kockázat és a beavatkozás visszafordíthatósága határozza meg, nem a technológia.
A háromszintű modell
A humán-in-the-loop, a humán-on-the-loop és a humán-in-command szintek a felügyelet mélységét jelölik. A választás a folyamat kockázatától és sebességétől függ, nem a technológia újdonságától.
Melyik szintet mikor válasszukA felügyeleti szint kijelölése nem elméleti kérdés, hanem üzleti és szabályozási döntés. A magas kockázatú rendszereknél a jogszabály az emberi felügyeletet írja elő, és ezen belül kell elhelyezni a három szintet.
Ki irányít kit? Az ember-gép együttműködés három szintje és a felelősség határa
Az ember szerepe nem az, hogy „majd jóváhagyja a gép döntését”, hanem az, hogy melyik folyamatnál melyik szintetalkalmazzuk. A humán-in-the-loop, humán-on-the-loop és humán-in-command modellje az (EU) 2024/1689 rendelet 14. cikkének szellemiségét követi: a magas kockázatú rendszereknél az emberi felügyelet nem formalitás, hanem tervezési kötelezettség – és a felelősség mindig az embernél marad
A három szint nem egyenrangú, és nem is helyettesíti egymást. A választás mindig az adott folyamathoz kötődik a magas kockázatú rendszerekre vonatkozó emberi felügyelet emberi felügyelet a folyamatba ágyazott beavatkozás szintje. A döntés támogatása mellett az ember valós időben, visszacsatolással is beavatkozhat, ha a kimenet eltér a céltól. a humán-in-the-loop az irányadó – a gép javaslatot tesz, de a végső döntés és a beavatkozás joga az emberé marad.
A működési kereteket az európai uniós szabályozás rögzíti: a magas kockázatú rendszerekre az emberi felügyelet kötelező, és ennek módját tervezetten kell kialakítani. V435Caz egyes folyamatoknál más-más. V535C felelősségi szintet a (EU) 2024/1689 rendelet 14. cikke jelöli ki a magas kockázatú rendszereknél. Ez a keret három egyértelműen elkülöníthető emberi szerepkört különböztet meg, és ahhoz köti a beavatkozás lehetőségét, hogy a gép milyen döntést hoz.
A felelősségi szint megválasztása ezért nem utólagos részletkérdés, hanem a tervezés első lépése. Ez dönti el, milyen jogosítványokat kap az ember, milyen határidővel kell beavatkoznia, és milyen dokumentációval kell bizonyítania a felügyelet meglétét. Ha a szintet utólag, éles üzemben próbálják meg emelni vagy csökkenteni, az nem csupán szabályszegés, hanem a teljes ember-gép munkamegosztás hitelvesztése is.
A felelősségi szint tehát nem csupán elméleti kategória, hanem az üzemeltetés alapfeltétele. Ez határozza meg, ki vállalható az adott folyamatért, milyen határidővel kell döntenie, és milyen nyomot kell hagynia a beavatkozásnak. Ha a szintet nem rögzítik a tervezéskor, később már sem a beavatkozó, sem az üzemeltető nem tudja igazolni, hogy a felügyelet valóban működött. A szabály nem a formaságot kéri számon, hanem a döntés jogszerűségét.
A leggyakoribb félreértés
Rendszeresen felmerül a kérdés úgy, hogy „hátra dőlhet-e a gép”. A kérdés mögött valójában az áll, hogy a szervezet nem jelölte ki, melyik folyamatnál melyik felügyeleti szint él. magas kockázatú MI-rendszerek üzemeltetői számára ember a döntési folyamat aktív, beavatkozó szereplője, aki a gép javaslata alapján hozza meg a végső döntést; ez a legalacsonyabb automatizáltsági szint, ahol a rendszer kimenete emberi jóváhagyás nélkül nem hatályosul
Ebből következik, hogy nem az a kérdés, hogy az MI elvégzi-e a feladatot, hanem az, hogy ki és mikor avatkozik be. Egy jól definiált munkamegosztás csökkenti a hibák kockázatát, és egyben teljesíti az (EU) 2024/1689 rendelet 14. cikkében foglalt emberi felügyeleti kötelezettséget is, amely a magas kockázatú rendszerekre vonatkozik. A három szintet ezért érdemes az adott folyamat kockázatához és sebességéhez igazítani, nem pedig általános elvként alkalmazni.
Melyik szintet mikor érdemes választani?
A döntéshozatali ciklus hossza és a kockázat súlya határozza meg. Gyors, alacsony kockázatú feladatnál az emberi felügyelet háromszintű modellje A humán-in-the-loop modellben a döntés nem a gépé, hanem az emberé. Az AI javasol, az ember jóváhagy – ez a felállás ott működik, ahol minden egyedi eset más.
A humán-on-the-loop szinten a gép önállóan dönt, az ember csak V535Cbeavatkozik, ha a rendszer V435Cszokatlan helyzetbe kerül. Ez a felállás ott hatékony, ahol a döntések nagy száma miatt a folyamatos emberi jóváhagyás lassítaná a munkát, de a kivételek kezeléséhez szakértő kell. A humán-in-command a legfelső szint: a gép csak végrehajt, az ember határozza meg a célt, a keretet és a korlátokat. Az ember-gép együttműködés új szabályai e három szint tudatos szétválasztásáról szólnak, nem a gép teljes önállóságáról.
Hálózati engedélyes
Az ember és a gép szerepe az új együttműködési keretben – ki mire alkalmas, és hol húzódik a határ. A három emberi felügyeleti szint nem versenyez egymással, hanem a folyamat jellegéhez illeszkedik. A jogi kötelezettség és a szakmai ész egy irányba mutat.
AI Act 14. cikk
Az (EU) 2024/1689 rendelet 14. cikke a magas kockázatú MI-rendszerekre írja elő az emberi felügyeletet. A szabály nem technológiát tilt, hanem a döntési jogot rögzíti az embernél. A forrás az Európai Bizottság digitális stratégiáján érhető el.
Háromszintű emberi felügyelet
Az AI-rendszerek bevezetésének kulcskérdése, hogy az ember pontosan hol kapcsolódik be a folyamatba. A humán-in-the-loop, a humán-on-the-loop és a humán-in-command három világosan elkülöníthető modell, és a folyamat kockázata dönti el, melyiket érdemes alkalmazni.
Hogyan válasszunk a három szint között?
Alacsony kockázatú, jól körülhatárolt feladatnál a humán-on-the-loop elég, ahol a gép dolgozik, az ember pedig mint felügyelő lép be. Nagyobb kockázatnál viszont a humán-in-the-loop kötelező, és az (EU) 2024/1689 rendelet 14. cikke a magas kockázatú rendszereknél kifejezetten előírja az emberi felügyeletet.
Ember és gép nem ugyanazt a feladatot látja el
A humán-in-the-loop, humán-on-the-loop és humán-in-command szintek más-más folyamathoz valók. A humán-in-the-loop: az ember dönt, a gép javasol. A humán-on-the-loop: a gép dönt, az ember beavatkozhat. A humán-in-command: az ember határozza meg a kereteket. Rossz szintválasztásnál a felügyelet csak látszat, a felelősség viszont valódi.
A három szint és a leggyakoribb félreértés
ahol a gép dönt helyettünk
A leggyakoribb csúszás forrása nem egyetlen lassú hatóság, hanem a félre definiált.Ha a projekt a gépi döntéssel vagy a teljes automatizálással indul, és az emberi szempont csak utólag, engedélyeztetéskor kerül elő, olyan szervezeti kérdésekre építünk, amelyekre nincs fedezet – és ilyenkor a háromszintű modell csak formalitássá válik, nem pedig valódi védőhálóvá.
A második forrás a szerepek pontatlan szétválasztásaMert az ember-gép együttműködésben az idő nem a felhasználótól függ, hanem a felügyeleti szint bevezetésének gondosságától. Aki a szabályozói keretet nem a fejlesztéssel párhuzamosan tervezi, az a projekt végén szembesül az átfutási korlátokkal.
A harmadik, gyakran alábecsült tényező a felügyeleti szint kiválasztásaEz a három szint – humán-in-the-loop, humán-on-the-loop és humán-in-command – önálló döntés, amelyet a folyamat kockázati besorolása és a beavatkozás lehetősége alapján kell meghatározni. Az (EU) 2024/1689 rendelet 14. cikke a magas kockázatú rendszereknél pontosan előírja, hogy az emberi felügyeletet a rendszer teljes életciklusa alatt biztosítani kell – ez tehát nem utólagos kiegészítés, hanem tervezési kiindulópont.
A három felügyeleti szint közös tanulsága, hogy a felelősség nem a gépre hárul, hanem az emberre – és ez a felelősség csak akkor teljesíthető, ha a szereplő a döntés pillanatában valóban rendelkezik a szükséges információval, hatáskörrel és idővel.
Érdemes a három felügyeleti szintet egyetlen, egységes folyamattervezési keretben kezelni, nem elkülönített lépésekben. A humán-in-the-loop ott indokolt, ahol a döntés visszafordíthatatlan és az emberi beavatkozás a folyamat szerves része – ilyen például az orvosi diagnosztikai támogatás.
A gyakorlati tanulság egyszerű: az időt nem a beavatkozás erőltetésével, hanem a helyes feladatmegosztással és a felelősségi szint tudatos kiválasztásával nyerjük. Az ember-ín-the-loop ott értelmes, ahol a hiba visszafordítható, az ember-ón-the-loop ahol a kimenet rendszeresen auditálható, az ember-in-command pedig a visszafordíthatatlan, magas kockázatú döntéseknél elengedhetetlen.
Ember közvetlenül a folyamatban
A humán-in-the-loop azt jelenti, hogy az ember minden egyes döntésnél aktívan részt vesz: a gép javasol, az ember hagyja jóvá vagy javítja a kimenetet. Olyan helyzetekben indokolt, ahol a tévedés súlya nagy, és az emberi ítélőképesség pótolhatatlan.
Ember a folyamat felett ellenőriz
Önálló, hosszú folyamat, amely a kidolgozott módszertantól független időt vesz igénybe. Külön mérföldkő, amelyet a szervezeti kultúra és a döntési jogkörök határoznak meg.
Fordított sorrendű újratervezés
Az emberi felügyeleti szinttel kezdeni olyan keretet rögzít, amelyet a későbbi automatizálási lépések felülírnak. Az újratervezés akkor működik, ha a szintek és a döntési pontok előre tisztázottak.
Miért nem a folyamat végéhez tolható az emberi felügyelet?
Az emberi felügyelet a magas kockázatú rendszerek belépője, és a többi elemnél előbb kell rögzíteni. A három szint összehangolása tudatos tervezést.Ha a felelősségi köröket utólag, a bevezetéshez közel próbáljuk rögzíteni, két kedvezőtlen kimenet várható. Egyfelől a rendszer már működés közben mutatja a bizonytalanság jeleit, az ember pedig csak asszisztál a hibás döntéshez. Másfelől a szabályozói elvárás és a belső gyakorlat között űr keletkezik, amit utólag nehéz jogszerűen és üzletileg is elfogadhatóan betölteni – különösen a magas kockázatú felhasználási területeken.
A felelősség világos, de együttműködést kíván: az emberi felügyeletet a teljes folyamatot átszövő, korán induló sávként érdemes kezelni, a fejlesztéssel és az üzemeltetéssel együtt haladva. Így mire a rendszer élesben dolgozik, a szereplők már nem keresik a helyüket, hanem a folyamat részeként lépnek be, és az (EU) 2024/1689 rendelet 14. cikkében foglalt emberi felügyeleti kötelezettség is természetesen illeszkedik a működéshez.
A modelltől a működésig: mikor ki szóljon bele a gép döntésébe?
A felügyeleti szintet nem a bevezetés végén, hanem a folyamat tervezésének legelején kell kijelölni – ugyanakkor, amikor a rendszer célja és a beavatkozási pontok rögzülnek. Ha a felügyelet csak utólag kerül a rendszerre, formálissá válik, és nem tölti be azt a szerepet, amelyet az (EU) 2024/1689 rendelet 14. cikke a magas kockázatú rendszereknél előír. A tervezés hiánya ezért nem csupán szervezési, hanem szabályozási kockázat is.
A helyes kiindulás a feladatok elkülönítése. Előbb a ember és gép szerepének éles szétválasztása a felelősség az emberé, a gép csak támogat; de mit jelent ez a gyakorlatban, és hogyan oszlik meg három jól elkülöníthető szinten, ahol az egyes szintek más-más beavatkozási mélységet adnak a kezelőnek, így a szervezet tudatosan választhat a teljes beleszólás és a felügyeletre szorítkozó kontroll között
A magas kockázatú rendszereknél háromszintű modellnem utólagos kiegészítésként, hanem a folyamatba beépítve, a tervezés legkorábbi fázisától kezdve, mert a magas kockázatú rendszereknél az emberi felügyelet csak így tud ténylegesen érvényesülni, és nem csupán formális jóváhagyássá silányul
Összefoglalva: a felügyelet három, egymásra épülő szintből áll, és a szervezet feladata kiválasztani, melyik folyamatnál melyik szint indokolt, figyelembe véve a kockázatot, a döntés súlyát és az emberi beavatkozás lehetőségét, miközben a magas kockázatú rendszereknél az emberi felügyelet az (EU) 2024/1689 rendelet 14.
A humán-in-the-loop esetén az ember minden egyes döntésben közvetlenül részt vesz, így a gép javaslatot tesz, az ember pedig jóváhagyja vagy felülírja azt. A humán-on-the-loop modellben az ember csak kivételes esetben avatkozik be, a folyamatok felügyelete és a szabályok betartatása a feladata. A humán-in-command a legátfogóbb szint: az ember határozza meg a célokat, az erőforrásokat és az etikai korlátokat.
Hogyan válasszunk a három szint közé?
A választás a folyamat kockázatától és visszafordíthatóságától függ. Magas kockázatú, nehezen visszafordítható döntéseknél a humán-in-the-loop indokolt, míg alacsony kockázatú, nagy volumenű folyamatoknál a humán-on-the-loop is elegendő.
Ember a folyamatban: humán-in-the-loop
A humán-in-the-loop modellben az ember minden egyes döntésnél jóváhagyja vagy felülbírálja a gép javaslatát. Ez a szint ott indokolt, ahol a hibázás súlya nagy, vagy ahol a jogszabály kifejezetten előírja az emberi közbeavatkozást – így az AI Act 14. cikke is.
Ember a parancsnoki szinten: humán-in-command
A humán-on-the-loop és a humán-in-command szinteken az ember nem minden döntést néz végig, hanem a folyamatot felügyeli, szabályozza, vagy stratégiai irányt szab. Ez a felállás ott működik jól, ahol a gép gyors, nagy volumenű döntéseket hoz, és az ember a kereteket tartja.
Gyakori kérdések az engedélyezésről
Mit jelent a humán-in-the-loop, a humán-on-the-loop és a humán-in-command modell?
Az AI nem helyettesíti az embert, hanem kiegészíti, de csak akkor, ha világosan elválasztjuk az ember és a gép feladatát. A humán-in-the-loop modellben az ember minden döntésnél jelen van, a humán-on-the-loop esetén csak felügyel, a humán-in-command szintjén pedig a teljes folyamat irányítása az embernél marad, és a gép javaslattevő szerepre korlátozódik.
A lényege a felelősség egyértelműsítése: a három szint más-más beavatkozási mélységet ad az ember kezébe. A humán-in-the-loop a gyors, alacsony kockázatú, de emberi ítélettel nem helyettesíthető döntésekhez illeszkedik, a humán-on-loop a nagy sebességű, kiszámítható folyamatokhoz, a humán-in-command pedig a stratégiai, szervezeti szintű döntéshozatalhoz, ahol az AI legfeljebb javaslatot tesz, és a végső szó az emberé.
A szabályozási oldalon az (EU) 2024/1689 rendelet 14. cikke a magas kockázatú rendszereknél emberi felügyeletet ír elő, ez a kiindulópont. A szervezeteknek ezért érdemes minden AI-folyamatot besorolniuk a három szint egyikébe, és a besoroláshoz igazítaniuk a szerepköröket, a dokumentációt és a beavatkozási jogosultságokat, hogy a felügyelet ne formális jóváhagyás, hanem tényleges kontroll legyen.
- Sáv
- 0,5–50 MW
- Indítás
- a SZÜF-ön
- Feltétel
- emberi felügyelet
Melyik folyamatnál melyik emberi felügyeleti szintet érdemes alkalmazni?
Mert a felügyeleti oldal adja a keretet: az (EU) 2024/1689 rendelet 14. cikke rögzíti, hogy a magas kockázatú rendszereknél az emberi felügyelet nem mellőzhető, hanem kötelezően megtervezendő.
Aki a folyamatot az MI-oldal felől indítja, könnyen olyan megoldásra szerződik, amelyben az ember szerepe csak formális jóváhagyás, noha a 14. cikk ennél tartalmibb közreműködést vár el a magas kockázatú rendszereknél.
A bevezetés átfutása ráadásul a szervezeten belüli döntéstől függ, nem a szállító tempójától, ezért nem érdemes a humán-in-the-loop, humán-on-the-loop és humán-in-command szintek közül választani anélkül, hogy az emberi felügyelet hatókörét előre pontosan leírnánk.
- Első lépés
- emberi felügyelet
- Kockázat
- hatókör- és szerepleírás
- Átfutás
- a szervezeten belüli döntéstől függ
Hogyan válasszon szintet a szervezete az ember-gép együttműködésben?
Attól függ, hogy a folyamatban mekkora a tévedés következménye és mennyi idő van a beavatkozásra. Két szélső esetet érdemes megkülönböztetni: a humán-in-the-loop modellnél a gép javasol, az ember dönt, és ez minden egyes kimenetnél így működik; a humán-on-the-loop modellnél a gép önállóan dönt, az ember pedig folyamatosan figyeli és beavatkozik, ha a helyzet megkívánja.
A gyakorlati következmény, hogy a humán-in-the-loop alkalmazása ott indokolt, ahol a döntés visszafordíthatatlan, ahol a hibaanyag embereket érint, és ahol a szabályozó is ezt várja el. Ilyenkor a humán-on-the-loop csak látszólagos gyorsítás: a ritka beavatkozás ismétlődő gyakorlatot és világos indikátorokat követel, enélkül az emberi felügyelet formálissá válik.
A harmadik szint, a humán-in-command a stratégiai kereteket adja: itt az ember határozza meg a célt, a korlátokat és a felülvizsgálat rendjét, miközben a gép a napi működést végzi. Az (EU) 2024/1689 rendelet 14. cikke ezt a magas kockázatú rendszereknél emberi felügyeletként írja elő, és a keretrendszer forrása a digitális stratégiánál érhető el.
- Human-in-the-loop
- humán-on-the-loop
- Irányadó
- Az ember-gép munkamegosztás
- Adatkör
- V535C / V435C
Melyik felügyeleti szintet mikor válasszuk?
Az egyes szintekhez nem kötünk konkrét átfutási időt, mert a bevezetés a szervezet érettségétől, a folyamat kockázatától és a döntési jogköröktől függ. Az viszont általában igaz, hogy a humán-in-the-loop modellnél az ember minden egyes döntésnél jelen van, ezért ez a leginkább munkaigényes változat.
Ami biztosan állítható: az ember-gép együttműködés bevezetése legalább annyira szervezeti kérdés, mint technológiai. A humán-in-the-loop szintnél az ember minden döntésnél jelen van, a humán-on-the-loop szintnél csak felügyel és beavatkozik, a humán-in-command szintnél pedig a kereteket és a célokat határozza meg. A három szint nem egymás alternatívája, hanem egymásra épülő rétegek, amelyeket érdemes folyamatonként külön megtervezni.
Általánosított szintrangsor félrevezető lenne, mert folyamatonként más a kockázat, a visszafordíthatóság és a felelősségi korlát. A védhető megközelítés: minden egyes folyamatnál külön meg kell határozni, hogy az adott lépésnél az ember beavatkozik, felügyel, vagy végső döntést hoz – összhangban az (EU) 2024/1689 rendelet 14. cikkének emberi felügyeleti előírásaival.
- A felügyeleti szint kiválasztása
- (EU) 2024/1689 rendelet, 14. cikk
- Idő forrása
- emberi felügyelet három szintje
- Gyorsítás
- ember és gép.
Mit jelent a humán-in-the-loop, humán-on-the-loop és humán-in-command?
A három szint az ember és a gép közti feladatmegosztást írja le. A humán-in-the-loop esetén az ember minden döntést jóváhagy, a humán-on-the-loop esetén csak kivételesen avatkozik be, a humán-in-command esetén pedig a teljes folyamatot felügyeli és felel érte.
A szintek kiválasztása a folyamat kockázatától és visszafordíthatóságától függ. Alacsony kockázatnál a humán-on-the-loop is elegendő, magas kockázatnál viszont a humán-in-the-loop vagy a humán-in-command indokolt. A (EU) 2024/1689 rendelet 14. cikke a magas kockázatú rendszereknél kötelezővé teszi az emberi felügyeletet, és forrás: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.
Az ember-gép együttműködés nem a gépre bízott feladat, hanem közös munka: az emberi felügyeletet a magas kockázatú MI-rendszereknél a folyamat tervezésével együtt kell értelmezni, nem utólagos kiegészítésként.
- Mi ez
- a bizalom feltétele
- Jelleg
- emberközpontú, szabályozott
- Ütemezés
- felelősségi szint
Melyik felügyeleti szintet mikor érdemes alkalmazni?
Az (EU) 2024/1689 rendelet 14. cikke szerint a magas kockázatú rendszereknél emberi felügyeletet kell biztosítani, és a háromszintű modellben kell meghatározni, hogy az adott folyamatnál melyik szint érvényesül.
Az ember-gép együttműködésben a felelősség azé az emberé, aki a gép döntését értelmezi, felülbírálja vagy leállítja. Ez a felelősség csak akkor érvényesül, ha a folyamat tervezésénél különválasztjuk, mit bízunk a gépre, és mit tartunk fenn az embernek. A magas kockázatú rendszereknél ez nem ajánlás, hanem az (EU) 2024/1689 rendelet 14. cikke szerinti kötelezettség.
A közzététel tájékozódásra való, nem szerződéskötésre: a kötelező érvényű választ mindig a felügyeleti szinthez illeszkedő belső szabály és az alkalmazandó jogszabály adja, nem ez az összefoglaló.
- Forrás
- V435C / V535C
- Mire jó
- előszűrés
- Kötelező
- emberi felügyeleti szintek
Mit jelent a háromszintű modell a gyakorlatban?
Az alábbi tábla a felügyeleti szintekhez rendeli a folyamat-típusokat és az emberi beavatkozás lehetőségét. igazolt (a szint a folyamat kockázatából és a jogszabályi kötelezettségből levezethető,) közepes (az emberi felügyelet konkrét megvalósítását a szervezet maga határozza meg), vagy a szöveg ezt nem. (az AI Act szövegéből a részletszabályok szándékosan kihagyva, mert azok értelmezéséhez szakjogász kell).
| Állítás | Konfidencia |
|---|---|
| Az emberi felügyelet három, egymásra épülő szintje: humán-in-the-loop, humán-on-the-loop és humán-in-command. | igazolt |
| A humán-in-the-loop szintű beavatkozás döntés-előkészítésnél kötelező, ahol a gép javaslatot tesz, az ember dönt. | igazolt |
| A humán-in-command szintű keretfeltétel a projekt indulásakor rögzítendő, menet közben nem módosítható utólag. | igazolt |
| A magas kockázatú rendszereknél az emberi felügyelet nem formális jóváhagyás, hanem a gépi döntés valódi ellenőrzése. | igazolt |
| Az (EU) 2024/1689 rendelet 14. cikke határozza meg, mit jelent a magas kockázatú rendszereknél az emberi felügyelet. | igazolt |
| A humán-in-the-loop szint a gép döntésébe való közvetlen beavatkozást jelenti, amelyet a kezelő nem hagyhat ki. | igazolt |
| A humán-on-the-loop szint a gép folyamatos megfigyelését és a beavatkozás lehetőségét jelenti, amikor a helyzet megkívánja. | igazolt |
| A humán-in-command szint a teljes folyamat emberi irányítását jelenti, ahol a gép csak javaslatot tesz, a döntés az emberé. | igazolt |
| A magas kockázatú rendszereknél az emberi felügyelet pontos tartalma az adott felhasználási esettől függ. | közepes |
| (EU) 2024/1689 rendelet, 14. cikk – emberi felügyelet a magas kockázatú rendszereknél | nem közöljük |
Kulcs-megállapítások
- 01
Az emberi felügyelet a projekt gerincea szabályozási megfelelés és a biztonságos üzemeltetés sarokköve, amelyre minden folyamat ráépül.
- 02
Három, egymásra épülő elem feladatmegosztás, felügyeleti szint, döntési jog és a három szint egymásra épül, egymástól nem elválasztható.
- 03
Az együttműködés első szintje: a gép javasol, az ember dönt és beavatkozik humán-in-the-loop minden egyes kimenetet az ember hagy jóvá, ez nem gyorsítható át automatikus felülvizsgálatra.
- 04
Az humán-on-the-loop a beavatkozás nem kötelező minden lépésnél, de a folyamatot az ember felügyeli és bármikor közbeavatkozhat a (EU) 2024/1689 rendelet 14. cikke szerint.
- 05
Az ember-gép együttműködés szintje (ember beavatkozik, felügyel vagy irányít) határozza meg, melyik folyamatnál melyik felügyeleti forma alkalmazható biztonságosan.
- 06
Az emberi felügyelet a három szint nem egymás kiváltja, hanem egymásra épül – a választás mindig a kockázattól függ.
- 07
A csúszás nem a szabályozáson múlik, hanem a felügyeleti határok korai meghatározásán. Az együttműködési szint kiválasztásának.a felelősség tisztázása megelőzi a későbbi, költséges korrekciókat és az emberi beavatkozás elmulasztását.
Források és hivatkozási alap
- Az (EU) 2024/1689 rendelet 14. cikke A magas kockázatú rendszereknél az emberi felügyelet kötelezettsége a rendelet 14. cikkében rögzített, a rendszer tervezésétől az üzemeltetésig terjedő, dokumentált felügyeleti intézkedések összessége.
- Humán felügyelet magas kockázatú rendszereknél A humán-in-the-loop, humán-on-the-loop és humán-in-command három elkülönülő modellje, amelyek közül az adott folyamat jellemzői és kockázatai alapján kell kiválasztani a megfelelő szintet.
- Ember-gép együttműködés – szabályozási keretek és felelősségi szintek Az együttműködés nem automatikus: az ember és a gép feladatát tudatosan kell szétválasztani. A humán-in-the-loop, humán-on-the-loop és humán-in-command modell három eltérő beavatkozási mélységet jelöl.
- (EU) 2024/1689 rendelet, 14. cikk – emberi felügyelet A magas kockázatú rendszereknél kötelező emberi felügyeletet biztosítani, és a felügyelet jellegét a folyamat kockázatához kell igazítani.
Kapcsolódó cikkek a tudástárból
Melyik szintet mikor válasszuk
Fülöp Henrik intézményvezető, főtanácsadó. Felnőttképzés, informatika és mesterséges intelligencia; Pécs, Baranya, Dél-Dunántúl.