Előző cikkemben bemutattam, hogy a mesterséges intelligencia (MI) alapú kiválasztásban mit jelent a HITL-elv és miért fontos alkalmazni. Ebben a cikkben pedig azt szeretném megismertetni, hogy az MI alkalmazása a kiválasztás–toborzás területén miért nem csupán technológiai kérdés, hanem kockázatkezelési és adatvédelmi feladat is. 

Mivel az MI-rendszerek közvetlen hatást gyakorolnak az érintettek munkavállalási esélyeire, ezért a jogalkotó és a szakmai közösség egyaránt fokozott elvárásokat fogalmaz meg a szervezetekkel szemben. Az Európai Unió megközelítése szerint a toborzási célú MI magas kockázatú alkalmazás, amelynél kötelező a strukturált kockázatkezelés. Compliance szempontból a kockázatelemzés nem egyszeri kötelezettség, hanem folyamatos tevékenység, a felelős működés alapja.

A kockázatelemzés célja annak feltárása, hogy az MI-rendszer:

• milyen negatív hatással lehet az érintettek jogaira,
• milyen jogi és etikai kockázatot jelent a szervezet számára,
• milyen kontrollintézkedések szükségesek a kockázatok csökkentésére.

Compliance-szemléletben ez azt jelenti, hogy már a rendszer bevezetése előtt fel kell mérni, milyen hatással lehet a megoldás a jelöltek jogaira, az egyenlő bánásmód elvére és a szervezet jogi kitettségére. A kockázatelemzést ennek megfelelően több ponton kell elvégezni:

1. Bevezetés előtt (ex ante) – eszközválasztáskor és tervezési fázisban.
2. Élesítéskor – validáció és pilot eredmények értékelése.
3. Működés közben – rendszeres felülvizsgálatok, auditok, újratanítások után.
4. Változás esetén – új adatforrás, új modell, új célcsoport vagy új jogszabályi környezet esetén.

Az MI rendszerek ugyanis idővel változnak, új adatokkal tanulnak, és ezáltal új kockázatokat is jelenthetnek.

Mint ahogy arról már korábban is írtam, az MI-alapú kiválasztás kockázatai több dimenzió mentén értelmezhetők. Jogi szempontból kiemelt kérdés a diszkrimináció tilalma, az automatizált döntéshozatal korlátainak betartása, valamint a jelöltek megfelelő tájékoztatása. Etikai oldalról az esélyegyenlőség, az emberi felülvizsgálat lehetősége és a döntések magyarázhatósága kerül előtérbe.

Technológiai kockázatot jelenthetnek a torz vagy nem reprezentatív tanítóadatok, a modell teljesítményének romlása vagy az, ha a HR túlzott mértékben hagyatkozik az automatizmusokra. Mindezek végső soron reputációs és üzleti kockázattá is válhatnak, hiszen egy diszkriminációs ügy vagy átláthatatlan kiválasztási gyakorlat komolyan ronthatja a munkáltatói márkát.

E kockázatok közül az egyik legkritikusabb az elfogultság, azaz a bias kérdése. Bias akkor keletkezik, amikor az MI-rendszer szisztematikusan eltérő módon kezeli a jelölteket bizonyos csoportokhoz való tartozásuk alapján. Ez sokszor nem tudatos tervezés eredménye, hanem a múltbeli HR-döntésekből származó adatok, illetve közvetett – úgynevezett proxy – változók hatása.

A bias-tesztelés célja annak feltárása, hogy a rendszer kimenetei aránytalanul előnyösek vagy hátrányosak-e egyes csoportok számára. Ennek során azt vizsgáljuk, kiket rangsorol előrébb a rendszer, kiket hív be interjúra, és vannak-e statisztikailag értelmezhető eltérések a különböző demográfiai csoportok között. 

Vizsgálandó dimenziók:

• nemek szerinti kiválasztási arány,
• életkori csoportok,
• karrierszakaszok.

Példa:
Ha az algoritmus a szenior jelölteket következetesen alacsonyabb pontszámmal értékeli, az életkoron alapuló indirekt diszkriminációt jelezhet. 

Bias-tesztelés szükséges: bevezetés előtt, rendszeresen (legalább évente), és minden jelentős modellmódosítás után.

A fairness audit (méltányossági felülvizsgálat) ennél tágabb megközelítést alkalmaz. Nemcsak a modell számításait elemzi, hanem a teljes kiválasztási folyamatot. A vizsgálat kiterjed arra, hogy a kiválasztási kritériumok valóban szükségesek-e az adott munkakörhöz, hogy az algoritmus által használt jellemzők mennyire indokolhatók üzleti és szakmai szempontból, valamint hogy a HR-szakemberek milyen mértékben tudják felülvizsgálni vagy korrigálni az MI ajánlásait. 

A fairness audit során vizsgáljuk: a kiválasztási kritériumok üzleti indokoltságát,

• a modell által használt jellemzők relevanciáját,
• az emberi döntéshozók szerepét és beavatkozási lehetőségeit,
• a jelöltek számára biztosított jogorvoslati és magyarázati lehetőségeket.

A fairness audit célja annak igazolása, hogy a rendszer nemcsak technikailag „fair”, hanem jogilag és etikailag is védhető döntéseket támogat. A fairness audit eredményeit dokumentálni kell, és szükség esetén az adatforrásokat felül kell vizsgálni, a modellt újra kell tanítani, és az értékelési logikát is módosítani kell. 

Az MI-alapú kiválasztás elválaszthatatlan része az adatvédelmi megfelelés, ezen belül az adatvédelmi hatásvizsgálat, azaz a DPIA (Data Protection Impact Assessment). Ezek a rendszerek tipikusan nagyszámú jelölt személyes adatait kezelik (lásd: milyen adatokat kezel az MI -önéletrajz, teszteredmény, videóinterjú-, és milyen célból), profilalkotást végeznek, és a döntések jelentős hatással lehetnek az érintettek életére.

A DPIA célja annak feltérképezése, hogy az adatkezelés milyen kockázatokat jelent a jelöltek jogaira nézve, és milyen technikai és szervezési intézkedésekkel csökkenthetők ezek a kockázatok. Ide tartozik az adatminimalizálás, az átlátható tájékoztatás, az emberi beavatkozás biztosítása és a megfelelő jogorvoslati lehetőségek kialakítása 

A DPIA-t nevezhetjük egy élő dokumentumnak is, hiszen rendszert érintő változások esetén a dokumentációt rendszeresen frissíteni kell, különösen modellfrissítés vagy új MI-funkciók bevezetésekor. A DPIA különösen fontos az olyan környezetben, ahol az MI-alapú kiválasztás az Európai Unió jogrendje alatt működik, mivel itt az adatvédelmi és alapjogi megfelelés kiemelt elvárás.

Az MI-alapú toborzás-kiválasztás kockázatelemzése nem egy adminisztratív, „kipipálandó” feladat, hanem komplex compliance tevékenység, amely jogi, etikai, adatvédelmi és üzleti szempontokat egyaránt integrál. A bias-tesztelés és fairness audit biztosítja a döntések tisztességességét, míg a DPIA az érintetti jogok védelmét. A felelős szervezetek számára ezek a folyamatok nemcsak jogi védelmet, hanem versenyelőnyt és bizalmat is teremtenek a munkaerőpiacon.