Korábban megjelent cikkemben írtam arról, hogy mennyire fontos a mesterséges intelligencia (MI) etikus használata a HR területen. Kiemeltem azt a tényt, hogy az MI döntéstámogató eszköz, nem döntéshozó, ezért mindenképpen alkalmazni kell a „Human-in-the-loop” elvet, vagyis az emberi felülvizsgálat kötelezettségét. De mit is jelent ez a gyakorlatban?
A toborzás–kiválasztás területén az automatizáció és a mesterséges intelligencia alkalmazása mára széles körben elterjedt. CV-szűrő rendszerek, alkalmassági pontozások, chatbot-alapú előinterjúk és videóelemző megoldások támogatják a HR munkáját. Ezek az eszközök hatékonyságot, gyorsaságot és egységességet ígérnek.
Compliance és etikai szempontból azonban egy alapvető kérdés minden ilyen megoldásnál megkerülhetetlenné vált: ki hozza a döntést valójában – az ember vagy a rendszer?
Erre a dilemmára ad választ a Human-in-the-loop (HITL) elv, amely mára nemcsak „best practice”, hanem egyre inkább jogi és szervezeti elvárás is.
A Human-in-the-loop elv a HR kiválasztási folyamatokban azt jelenti, hogy az automatizált rendszerek kizárólag döntéstámogató szerepet töltenek be, míg a végső, érdemi döntést minden esetben ember hozza meg. Compliance szempontból ez nem egyszerűen technikai beállítás, hanem kontrollmechanizmus, amely biztosítja
- az egyenlő bánásmód érvényesülését,
- a diszkrimináció megelőzését,
- az elszámoltathatóságot,
- és a jelöltek alapvető jogainak védelmét.
A HR-ben különösen érzékeny területről beszélünk, hiszen egy kiválasztási döntés jelentős hatással van az érintett személy életére, mert elutasítás, előszűrésből kizárás vagy alkalmassági rangsorolás történik.
Miért vált a HITL compliance-kérdéssé?
Az európai adatvédelmi és AI-szabályozás egyértelmű irányt jelöl ki. A GDPR már jelenleg is korlátozza az olyan automatizált döntéshozatalt, amely joghatással vagy jelentős hatással jár az érintettre, megfelelő emberi felülvizsgálat nélkül.
Ezt az irányt erősíti tovább az EU AI Act, amely a toborzási és kiválasztási AI-rendszereket magas kockázatú alkalmazásként kezeli. A jogi megfelelés mellett azonban legalább ilyen fontos az etikai dimenzió:
- az algoritmusok múltbeli adatokból tanulnak,
- ezek az adatok gyakran hordoznak rejtett torzításokat,
- az automatizmus önmagában nem képes kontextust, élethelyzetet vagy atipikus karrierutakat értelmezni.
A Human-in-the-loop célja éppen ezeknek a kockázatoknak a kezelése.
Mit vizsgál egy compliance szakértő a HITL kapcsán?
1. A döntési pontok azonosítása
Első lépésként feltérképezzük, hol születik döntés a jelöltről: előszűrés, rangsorolás, interjúra hívás vagy elutasítás. Nem minden automatizmus jelent kockázatot, de minden olyan pont, ahol a jelölt „kieshet” a folyamatból, compliance szempontból kiemelt figyelmet igényel.
2. Az emberi kontroll valódisága
Kulcskérdés, hogy az emberi szerep: érdemi mérlegelést jelent-e, vagy csupán formális jóváhagyást. Ha a HR szakember rutinszerűen elfogadja az algoritmus ajánlását, felülbírálási lehetőség és indoklási kötelezettség nélkül, akkor a HITL csak látszólagos, ami súlyos megfelelési kockázatot hordoz.
3. Magyarázhatóság és érthetőség
Az emberi döntés csak akkor tekinthető felelősnek, ha:
- a HR szakember érti, miért adott a rendszer alacsony vagy magas pontszámot,
- látja a fő értékelési szempontokat,
- látja, hogy milyen adatokat használt fel
- és kap értelmezhető visszajelzést, a rendszer nem „black box” jellegű.
Egy „black box” rendszer mellett ugyanis az emberi kontroll valójában ellehetetlenül, hiszen a döntési folyamat átláthatatlanná válik. Látjuk a bemenő adatokat (önéletrajzok) és a végeredményt (kiválasztott jelöltek) de nem tudjuk, hogy az algoritmus miért és milyen szempontok alapján hozta meg a döntést. Ez megnehezíti a hibák, az elfogultság vagy a diszkrimináció kiszűrését.
4. Dokumentáltság és auditálhatóság
Compliance alapelv: amit nem dokumentálnak, az nem védhető.
Ezért vizsgálni kell az algoritmus ajánlásának rögzítését, az emberi döntést, és az eltérés indokait. Ez kulcsfontosságú panaszkezelés, hatósági ellenőrzés vagy belső audit esetén.
5. Jelölti jogok érvényesülése
A HITL nemcsak belső kontroll, hanem a jelöltek felé is üzenet: van emberi felülvizsgálat, kérhető magyarázat, létezik jogorvoslati csatorna. Ez azért kiemelten fontos, mert közvetlen hatással van a munkáltatói márkára és a szervezet iránti bizalomra.
Mindezekből következik, hogy a Human-in-the-loop a HR kiválasztási folyamatokban nem technológiai kompromisszum, hanem tudatos compliance- és etikai állásfoglalás.
Azt üzeni, hogy a szervezet:
- nem hárítja át a felelősséget az algoritmusra,
- megőrzi az emberi mérlegelést,
- és tiszteletben tartja a jelöltek méltóságát.
A jövő HR-je nem AI-mentes lesz – hanem emberközpontú, felelősen automatizált. A Human-in-the-loop ennek az egyik legfontosabb biztosítéka.
Sorozatunk folytatódik.
(Képek: Pixabay, Pexels)
