Mesterséges intelligencia és felügyelet

Az ember-gép együttműködés új szabályai: hogyan ossza meg a feladatot az ember és a gép?

Melyik emberi felügyeleti szint illik egy adott folyamathoz?

A felügyeleti szint megválasztása a projekt indulásának feltétele, nem menet közben pótolható elem.

A human-in-the-loop szintet ott érdemes alkalmazni, ahol minden egyes döntést ember hagy jóvá; a human-on-the-loop szintet ott, ahol a gép önállóan dolgozik, de az ember beavatkozásra kész; a human-in-command szintet pedig ott, ahol a stratégiai irányítás marad emberi, a végrehajtás automatizált.

Miért nem elég az „ember benne van valahol” megközelítés?

A felügyeleti modell addig működik, amíg a tervezéskor világos, mely döntés az emberé és melyik a gépé.

A gép oldalán működik a javaslattétel és a számítás, de az ember hozza meg a végső döntést: ez a keret határozza meg, milyen beleszólási joga marad a szakembernek az adott folyamatban.

Az ember és a gép szerepe nem verseny, hanem feladat-megosztás.

Emberi felügyeleti szint

Az adott folyamatra vonatkozó döntés: ki és mikor avatkozik be.

A háromszintű modell

A human-in-the-loop, a human-on-the-loop és a human-in-command szintek a felügyelet mélységét jelölik. A választás a folyamat kockázatától és sebességétől függ, nem a technológia újdonságától.

Ki irányít kit? Az ember-gép együttműködés három szintje és a felelősség határa

A felelősségi szint megválasztása ezért nem utólagos részletkérdés, hanem a tervezés első lépése. Ez dönti el, milyen jogosítványokat kap az ember, milyen határidővel kell beavatkoznia, és milyen dokumentációval kell bizonyítania a felügyelet meglétét.

Ha a szintet nem rögzítik a tervezéskor, később már sem a beavatkozó, sem az üzemeltető nem tudja igazolni, hogy a felügyelet valóban működött.

Melyik szintet mikor érdemes választani?

A döntéshozatali ciklus hossza és a kockázat súlya határozza meg. Az AI javasol, az ember jóváhagy – ez a felállás ott működik, ahol minden egyedi eset más.

A human-in-command a legfelső szint: a gép csak végrehajt, az ember határozza meg a célt, a keretet és a korlátokat.

Háromszintű emberi felügyelet

Az AI-rendszerek bevezetésének kulcskérdése, hogy az ember pontosan hol kapcsolódik be a folyamatba.

Ember és gép nem ugyanazt a feladatot látja el

Rossz szintválasztásnál a felügyelet csak látszat, a felelősség viszont valódi.

A három felügyeleti szint közös tanulsága, hogy a felelősség nem a gépre hárul, hanem az emberre – és ez a felelősség csak akkor teljesíthető, ha a szereplő a döntés pillanatában valóban rendelkezik a szükséges információval, hatáskörrel és idővel.

Érdemes a három felügyeleti szintet egyetlen, egységes folyamattervezési keretben kezelni, nem elkülönített lépésekben. A human-in-the-loop ott indokolt, ahol a döntés visszafordíthatatlan és az emberi beavatkozás a folyamat szerves része – ilyen például az orvosi diagnosztikai támogatás.

Ember közvetlenül a folyamatban

A human-in-the-loop azt jelenti, hogy az ember minden egyes döntésnél aktívan részt vesz: a gép javasol, az ember hagyja jóvá vagy javítja a kimenetet. Olyan helyzetekben indokolt, ahol a tévedés súlya nagy, és az emberi ítélőképesség pótolhatatlan.

A modelltől a működésig: mikor ki szóljon bele a gép döntésébe?

Az ember-gép együttműködés új szabályai – illusztráció

A felügyeleti szintet nem a bevezetés végén, hanem a folyamat tervezésének legelején kell kijelölni – ugyanakkor, amikor a rendszer célja és a beavatkozási pontok rögzülnek.

A helyes kiindulás a feladatok elkülönítése.

Az ember-gép együttműködés új szabályai – illusztráció (2)

A human-in-command a legátfogóbb szint: az ember határozza meg a célokat, az erőforrásokat és az etikai korlátokat.

Hogyan válasszon szintet a szervezete az ember-gép együttműködésben?

Attól függ, hogy a folyamatban mekkora a tévedés következménye és mennyi idő van a beavatkozásra. Két szélső esetet érdemes megkülönböztetni: a human-in-the-loop modellnél a gép javasol, az ember dönt, és ez minden egyes kimenetnél így működik; a human-on-the-loop modellnél a gép önállóan dönt, az ember pedig folyamatosan figyeli és beavatkozik, ha a helyzet megkívánja.

A harmadik szint, a human-in-command a stratégiai kereteket adja: itt az ember határozza meg a célt, a korlátokat és a felülvizsgálat rendjét, miközben a gép a napi működést végzi.

Mit jelent a human-in-the-loop, human-on-the-loop és human-in-command?

A három szint az ember és a gép közti feladatmegosztást írja le. A human-in-the-loop esetén az ember minden döntést jóváhagy, a human-on-the-loop esetén csak kivételesen avatkozik be, a human-in-command esetén pedig a teljes folyamatot felügyeli és felel érte.

Fülöp Henrik portréja
Fülöp Henrik
intézményvezető, főtanácsadó

Fülöp Henrik intézményvezető, főtanácsadó. Felnőttképzés, informatika és mesterséges intelligencia; Pécs, Baranya, Dél-Dunántúl.