Algoritmikus torzítás
A gépi tanulás a tréningadatokból dolgozik, ezért ahol az adatokban torzítás van, ott a modell is torzít. HR-toborzásban, hitelbírálatban és biztosítási árazásban ez nem elméleti kérdés.
Miért a fairness-mutató a kiindulópont?
A HR-toborzás, a hitelbírálat és a biztosítási árazás különösen érzékeny terület, mert itt a gépi döntés emberi sorsokat érint. A fairness-mutatók célja, hogy a torzítást mérhető formában tárják fel, és a korrekció tényleges hatása is számon kérhető legyen.
A torzítás négy, egymásra épülő fajtája a szelekciós, a mérési, az algoritmikus és a történelmi.
A fairness-mutatók ezt a kockázatot teszik számszerűsíthetővé: demographic parity, equal opportunity és disparate impact arányok segítségével kimutatható, ha a modell egy védett csoportot aránytalanul hátrányosan kezel. A korrekció egyik módja a re-weighting, amely a torzított példák súlyát úgy módosítja, hogy a tanítás során a védett csoportok hibája kiegyenlítődjön.
Az audittal érdemes kezdeni: feltérképezni, milyen csoportokra osztható az adat, és a fairness-mutatókat minden egyes szegmensre kiszámolni.
A fairness-mutatók célja
A mutatók a védett tulajdonság szerinti csoportok összehasonlításából számítanak értéket; ez a keret, amelyből az eltérés nagysága és iránya leolvasható.
Adatminőség és fairness
A mérést megelőzi az adatok, a változók és a védett tulajdonságok dokumentálása, mert fairness-mutatók e nélkül nem értelmezhetők.
Miért kerül a fókuszba a torzítás?A modell nem attól lesz igazságos, hogy újabb adatot kap, hanem attól, hogy a torzítás forrását azonosítjuk és mérjük. A szelekciós, mérési, algoritmikus és történelmi bias együttesen határozza meg, milyen csoportok kapnak kedvezőbb vagy kedvezőtlenebb döntést. A re-weighting és a counterfactual fairness módszerei a korrekció kiindulópontjai.
A leggyakoribb tévhit
Sokan úgy kérdeznek, hogy „elfogult-e a modellünk”, és egy mutatóra számítanak válaszul. A fairness többdimenziós: más a szelekciós, mérési és algoritmikus torzítás kezelése, és a korrekció – re-weighting, counterfactual fairness – is eltérő terhet ró a csapatra.
A torzítás forrása többnyire nem maga az algoritmus, hanem az adat: szelekciós torzítás akkor keletkezik, amikor a minta nem reprezentatív, mérési torzítás akkor, ha a célváltozó pontatlan, történelmi torzítás pedig akkor, ha a múltbeli döntések egyenlőtlenségeit visszük tovább. Az algoritmikus torzítás ezekből építkezik, és a fairness-mutatók, valamint a külső audit ezt a hatást méri, míg a re-weighting és a counterfactual fairness korrekciós eszközöket kínál.
Hogyan ismerhető fel az algoritmikus torzítás?
A fairness-mutatók a védett tulajdonságok – nem, életkor, származás – szerinti eltéréseket számszerűsítik a modell kimenetében.
A re-weighting az adatok súlyozásával, a counterfactual fairness a „mi lett volna, ha” kérdéssel közelít.
A torzítás felismerésének helyes sorrendje és tipikus csúszásai
A szelekciós, mérési, algoritmikus és történelmi torzítást érdemes egyetlen módszertani keretben kezelni, nem elszigetelt lépésként.
A valódi védelmet a torzítás forrásánál, a tréningadatok szintjén kell megkezdeni, és onnan végighaladni a modell, a döntéshozatal, valamint az utólagos audit minden állomásán.
A torzítás nemcsak az adatokból öröklődik, hanem a modelltanítás és a kiértékelés során is felerősödhet. A fairness-mutatók ezért a teljes folyamat mentén mérnek, nem csupán a bemeneti oldalon. A korrekció így több ponton, összehangoltan történik.
A korrekció a felismerés után
A fairness-mutatók a kész modell kimenetét vizsgálják, és azt mérik, hogy a védett csoportok között milyen eltérés mutatkozik a pozitív osztályba sorolás valószínűségében. A re-weighting és a counterfactual fairness korrekciós technikák ezeket az eltérések csökkentésére szolgálnak, az adat-előkészítéstől a modell-finomhangolásig.
Így a rendszer élesítésének idejére nemcsak a pontosság, hanem a csoportok közötti egyenlőség is mérhető, és a korrekció – például re-weighting vagy counterfactual fairness – beépíthető a végleges modellbe.
Az adatoktól az auditig: mit mérjünk, mivel és mikor?
A helyes sorrend az adatok átvizsgálásával indul. Előbb a bias fajtáit, majd a mutatókat kell meghatározni.
A torzítás három szinten jelenik meg: az adatokban, a modellben és a döntéshozatalban. A korrekció mindhárom szinten más eszközt igényel, de a kiindulópont közös: a fairness-mutatók rendszeres mérése és az audit.
Méltányossági mérőszámok és belső audit
A szelekciós, mérési és történelmi torzítás együttesen jelenik meg az algoritmus eredményében, ezért az audithoz elengedhetetlen a teljes adatcső vizsgálata.
Miért a tréningadatok átvizsgálásával kell kezdeni, nem a fairness-mutatók számolásával?
A torzítás forrása sokszor nem a modellben, hanem a tréningadatban rejlik: ahol a múltbeli döntések egyenlőtlenül oszlanak meg a csoportok között, ott a modell ezt a mintát tanulja meg, és a kimenetén ismétli tovább.
A fairness-audit ráadásul nem egyszeri feladat, hanem folyamatos karbantartás: ha a tréningadat összetétele elmozdul, a mutatók értéke is változik, ezért a mérést a modell éles üzeme alatt is rendszeresen meg kell ismételni.
Hogyan mérhető a torzítás?
A torzítás kimutatása fairness-mutatókkal: demográfiai paritás, egyenlő esély és kalibrációs eltérés. Ezek a mutatók azt vizsgálják, hogy a modell azonos jellemzők mellett hasonló kimenetet ad-e a védett csoportoknak. Az audit során ezeket az értékeket csoportonként hasonlítják össze, így a rejtett egyenlőtlenségek is láthatóvá válnak.
Hogyan ismerhető fel az algoritmikus torzítás a gyakorlatban?
A fairness-mutatók a modell viselkedését mérik, nem a szándékot. Számítanak a hozott adatok, a címkék, és hogy a védett csoportok hogyan jelennek meg a mintában.
Az audittal a teljes életciklust át kell vizsgálni: az adatgyűjtést, a címkézést, a tanítási mintát, a kiértékelést és a monitorozást is. Ha egy lépés kimarad, a torzítás csendben tovább él a rendszerben, és a korrigálás csak a felszínt takarítja. A rendszeres felülvizsgálat ezért nem egyszeri projekt, hanem működési feltétel.