Felelős mesterséges intelligencia

Algoritmikus torzítás

A gépi tanulás a tréningadatokból dolgozik, ezért ahol az adatokban torzítás van, ott a modell is torzít. HR-toborzásban, hitelbírálatban és biztosítási árazásban ez nem elméleti kérdés.

Miért a fairness-mutató a kiindulópont?

A HR-toborzás, a hitelbírálat és a biztosítási árazás különösen érzékeny terület, mert itt a gépi döntés emberi sorsokat érint. A fairness-mutatók célja, hogy a torzítást mérhető formában tárják fel, és a korrekció tényleges hatása is számon kérhető legyen.

A torzítás négy, egymásra épülő fajtája a szelekciós, a mérési, az algoritmikus és a történelmi.

A fairness-mutatók ezt a kockázatot teszik számszerűsíthetővé: demographic parity, equal opportunity és disparate impact arányok segítségével kimutatható, ha a modell egy védett csoportot aránytalanul hátrányosan kezel. A korrekció egyik módja a re-weighting, amely a torzított példák súlyát úgy módosítja, hogy a tanítás során a védett csoportok hibája kiegyenlítődjön.

Az audittal érdemes kezdeni: feltérképezni, milyen csoportokra osztható az adat, és a fairness-mutatókat minden egyes szegmensre kiszámolni.

A fairness-mutatók célja

A mutatók a védett tulajdonság szerinti csoportok összehasonlításából számítanak értéket; ez a keret, amelyből az eltérés nagysága és iránya leolvasható.

Adatminőség és fairness

A mérést megelőzi az adatok, a változók és a védett tulajdonságok dokumentálása, mert fairness-mutatók e nélkül nem értelmezhetők.

Miért kerül a fókuszba a torzítás?

A modell nem attól lesz igazságos, hogy újabb adatot kap, hanem attól, hogy a torzítás forrását azonosítjuk és mérjük. A szelekciós, mérési, algoritmikus és történelmi bias együttesen határozza meg, milyen csoportok kapnak kedvezőbb vagy kedvezőtlenebb döntést. A re-weighting és a counterfactual fairness módszerei a korrekció kiindulópontjai.

A leggyakoribb tévhit

Sokan úgy kérdeznek, hogy „elfogult-e a modellünk”, és egy mutatóra számítanak válaszul. A fairness többdimenziós: más a szelekciós, mérési és algoritmikus torzítás kezelése, és a korrekció – re-weighting, counterfactual fairness – is eltérő terhet ró a csapatra.

A torzítás forrása többnyire nem maga az algoritmus, hanem az adat: szelekciós torzítás akkor keletkezik, amikor a minta nem reprezentatív, mérési torzítás akkor, ha a célváltozó pontatlan, történelmi torzítás pedig akkor, ha a múltbeli döntések egyenlőtlenségeit visszük tovább. Az algoritmikus torzítás ezekből építkezik, és a fairness-mutatók, valamint a külső audit ezt a hatást méri, míg a re-weighting és a counterfactual fairness korrekciós eszközöket kínál.

Hogyan ismerhető fel az algoritmikus torzítás?

A fairness-mutatók a védett tulajdonságok – nem, életkor, származás – szerinti eltéréseket számszerűsítik a modell kimenetében.

A re-weighting az adatok súlyozásával, a counterfactual fairness a „mi lett volna, ha” kérdéssel közelít.

A torzítás felismerésének helyes sorrendje és tipikus csúszásai

A szelekciós, mérési, algoritmikus és történelmi torzítást érdemes egyetlen módszertani keretben kezelni, nem elszigetelt lépésként.

A valódi védelmet a torzítás forrásánál, a tréningadatok szintjén kell megkezdeni, és onnan végighaladni a modell, a döntéshozatal, valamint az utólagos audit minden állomásán.

A torzítás nemcsak az adatokból öröklődik, hanem a modelltanítás és a kiértékelés során is felerősödhet. A fairness-mutatók ezért a teljes folyamat mentén mérnek, nem csupán a bemeneti oldalon. A korrekció így több ponton, összehangoltan történik.

A korrekció a felismerés után

A fairness-mutatók a kész modell kimenetét vizsgálják, és azt mérik, hogy a védett csoportok között milyen eltérés mutatkozik a pozitív osztályba sorolás valószínűségében. A re-weighting és a counterfactual fairness korrekciós technikák ezeket az eltérések csökkentésére szolgálnak, az adat-előkészítéstől a modell-finomhangolásig.

Így a rendszer élesítésének idejére nemcsak a pontosság, hanem a csoportok közötti egyenlőség is mérhető, és a korrekció – például re-weighting vagy counterfactual fairness – beépíthető a végleges modellbe.

Az adatoktól az auditig: mit mérjünk, mivel és mikor?

Algoritmikus torzítás: hogyan mérjük a fairness-mutatókkal – illusztráció

A helyes sorrend az adatok átvizsgálásával indul. Előbb a bias fajtáit, majd a mutatókat kell meghatározni.

Algoritmikus torzítás: hogyan mérjük a fairness-mutatókkal – illusztráció (2)

A torzítás három szinten jelenik meg: az adatokban, a modellben és a döntéshozatalban. A korrekció mindhárom szinten más eszközt igényel, de a kiindulópont közös: a fairness-mutatók rendszeres mérése és az audit.

Méltányossági mérőszámok és belső audit

A szelekciós, mérési és történelmi torzítás együttesen jelenik meg az algoritmus eredményében, ezért az audithoz elengedhetetlen a teljes adatcső vizsgálata.

Miért a tréningadatok átvizsgálásával kell kezdeni, nem a fairness-mutatók számolásával?

A torzítás forrása sokszor nem a modellben, hanem a tréningadatban rejlik: ahol a múltbeli döntések egyenlőtlenül oszlanak meg a csoportok között, ott a modell ezt a mintát tanulja meg, és a kimenetén ismétli tovább.

A fairness-audit ráadásul nem egyszeri feladat, hanem folyamatos karbantartás: ha a tréningadat összetétele elmozdul, a mutatók értéke is változik, ezért a mérést a modell éles üzeme alatt is rendszeresen meg kell ismételni.

Hogyan mérhető a torzítás?

A torzítás kimutatása fairness-mutatókkal: demográfiai paritás, egyenlő esély és kalibrációs eltérés. Ezek a mutatók azt vizsgálják, hogy a modell azonos jellemzők mellett hasonló kimenetet ad-e a védett csoportoknak. Az audit során ezeket az értékeket csoportonként hasonlítják össze, így a rejtett egyenlőtlenségek is láthatóvá válnak.

Hogyan ismerhető fel az algoritmikus torzítás a gyakorlatban?

A fairness-mutatók a modell viselkedését mérik, nem a szándékot. Számítanak a hozott adatok, a címkék, és hogy a védett csoportok hogyan jelennek meg a mintában.

Az audittal a teljes életciklust át kell vizsgálni: az adatgyűjtést, a címkézést, a tanítási mintát, a kiértékelést és a monitorozást is. Ha egy lépés kimarad, a torzítás csendben tovább él a rendszerben, és a korrigálás csak a felszínt takarítja. A rendszeres felülvizsgálat ezért nem egyszeri projekt, hanem működési feltétel.

Fülöp Henrik portréja
Fülöp Henrik
intézményvezető, főtanácsadó

Fülöp Henrik intézményvezető, főtanácsadó. Felnőttképzés, informatika és mesterséges intelligencia; Pécs, Baranya, Dél-Dunántúl.