Az ember-gép együttműködés új szabályai: hogyan ossza meg a feladatot az ember és a gép?
Melyik emberi felügyeleti szint illik egy adott folyamathoz?
A felügyeleti szint megválasztása a projekt indulásának feltétele, nem menet közben pótolható elem.
A human-in-the-loop szintet ott érdemes alkalmazni, ahol minden egyes döntést ember hagy jóvá; a human-on-the-loop szintet ott, ahol a gép önállóan dolgozik, de az ember beavatkozásra kész; a human-in-command szintet pedig ott, ahol a stratégiai irányítás marad emberi, a végrehajtás automatizált.
Miért nem elég az „ember benne van valahol” megközelítés?
A felügyeleti modell addig működik, amíg a tervezéskor világos, mely döntés az emberé és melyik a gépé.
A gép oldalán működik a javaslattétel és a számítás, de az ember hozza meg a végső döntést: ez a keret határozza meg, milyen beleszólási joga marad a szakembernek az adott folyamatban.
Az ember és a gép szerepe nem verseny, hanem feladat-megosztás.
Emberi felügyeleti szint
Az adott folyamatra vonatkozó döntés: ki és mikor avatkozik be.
A háromszintű modell
A human-in-the-loop, a human-on-the-loop és a human-in-command szintek a felügyelet mélységét jelölik. A választás a folyamat kockázatától és sebességétől függ, nem a technológia újdonságától.
Ki irányít kit? Az ember-gép együttműködés három szintje és a felelősség határa
A felelősségi szint megválasztása ezért nem utólagos részletkérdés, hanem a tervezés első lépése. Ez dönti el, milyen jogosítványokat kap az ember, milyen határidővel kell beavatkoznia, és milyen dokumentációval kell bizonyítania a felügyelet meglétét.
Ha a szintet nem rögzítik a tervezéskor, később már sem a beavatkozó, sem az üzemeltető nem tudja igazolni, hogy a felügyelet valóban működött.
Melyik szintet mikor érdemes választani?
A döntéshozatali ciklus hossza és a kockázat súlya határozza meg. Az AI javasol, az ember jóváhagy – ez a felállás ott működik, ahol minden egyedi eset más.
A human-in-command a legfelső szint: a gép csak végrehajt, az ember határozza meg a célt, a keretet és a korlátokat.
Háromszintű emberi felügyelet
Az AI-rendszerek bevezetésének kulcskérdése, hogy az ember pontosan hol kapcsolódik be a folyamatba.
Ember és gép nem ugyanazt a feladatot látja el
Rossz szintválasztásnál a felügyelet csak látszat, a felelősség viszont valódi.
A három felügyeleti szint közös tanulsága, hogy a felelősség nem a gépre hárul, hanem az emberre – és ez a felelősség csak akkor teljesíthető, ha a szereplő a döntés pillanatában valóban rendelkezik a szükséges információval, hatáskörrel és idővel.
Érdemes a három felügyeleti szintet egyetlen, egységes folyamattervezési keretben kezelni, nem elkülönített lépésekben. A human-in-the-loop ott indokolt, ahol a döntés visszafordíthatatlan és az emberi beavatkozás a folyamat szerves része – ilyen például az orvosi diagnosztikai támogatás.
Ember közvetlenül a folyamatban
A human-in-the-loop azt jelenti, hogy az ember minden egyes döntésnél aktívan részt vesz: a gép javasol, az ember hagyja jóvá vagy javítja a kimenetet. Olyan helyzetekben indokolt, ahol a tévedés súlya nagy, és az emberi ítélőképesség pótolhatatlan.
A modelltől a működésig: mikor ki szóljon bele a gép döntésébe?
A felügyeleti szintet nem a bevezetés végén, hanem a folyamat tervezésének legelején kell kijelölni – ugyanakkor, amikor a rendszer célja és a beavatkozási pontok rögzülnek.
A helyes kiindulás a feladatok elkülönítése.
A human-in-command a legátfogóbb szint: az ember határozza meg a célokat, az erőforrásokat és az etikai korlátokat.
Hogyan válasszon szintet a szervezete az ember-gép együttműködésben?
Attól függ, hogy a folyamatban mekkora a tévedés következménye és mennyi idő van a beavatkozásra. Két szélső esetet érdemes megkülönböztetni: a human-in-the-loop modellnél a gép javasol, az ember dönt, és ez minden egyes kimenetnél így működik; a human-on-the-loop modellnél a gép önállóan dönt, az ember pedig folyamatosan figyeli és beavatkozik, ha a helyzet megkívánja.
A harmadik szint, a human-in-command a stratégiai kereteket adja: itt az ember határozza meg a célt, a korlátokat és a felülvizsgálat rendjét, miközben a gép a napi működést végzi.
Mit jelent a human-in-the-loop, human-on-the-loop és human-in-command?
A három szint az ember és a gép közti feladatmegosztást írja le. A human-in-the-loop esetén az ember minden döntést jóváhagy, a human-on-the-loop esetén csak kivételesen avatkozik be, a human-in-command esetén pedig a teljes folyamatot felügyeli és felel érte.