AI en discriminatie bij werving: hoe voorkom je bias?

Kort antwoord: AI-tools voor werving en selectie kunnen onbedoeld discrimineren — bijvoorbeeld doordat ze patronen uit historische, scheve data overnemen. Voor hoog-risicosystemen (en werving is hoog-risico) eist de AI Act in artikel 10 dat trainingsdata relevant en representatief is en op bias wordt onderzocht, plus menselijk toezicht (art. 14). Daarbovenop gelden het gelijkebehandelingsrecht en de AVG. Bias tegengaan is dus een juridische plicht, geen goede bedoeling.

Hoe bias ontstaat

Een wervingsalgoritme leert van data uit het verleden. Als die data een scheef beeld bevat — bijvoorbeeld omdat bepaalde groepen historisch minder werden aangenomen — kan het model die scheefheid reproduceren of versterken. Het bekende voorbeeld is een cv-screeningtool die kandidaten benadeelt op kenmerken die met geslacht of herkomst samenhangen, zonder dat iemand dat zo bedoelde.

Wat de AI Act eist

Werving en selectie vallen onder bijlage III en zijn hoog-risico. Daardoor gelden onder meer:

• Datakwaliteit en bias-onderzoek (art. 10): de gebruikte datasets moeten relevant, voldoende representatief en zo veel mogelijk foutenvrij zijn, en expliciet worden onderzocht op mogelijke vertekeningen.
• Menselijk toezicht (art. 14): een mens moet de uitkomst kunnen beoordelen en corrigeren.
• Technische documentatie en logging: je moet kunnen aantonen hoe het systeem tot een uitkomst komt.

Het gelijkebehandelingsrecht en de AVG erbij

Los van de AI Act verbiedt het EU- en nationale gelijkebehandelingsrecht discriminatie bij de toegang tot werk — ook indirecte discriminatie via een ogenschijnlijk neutraal algoritme. En de AVG stelt eisen aan de verwerking van sollicitantgegevens (grondslag, transparantie, dataminimalisatie). Een discriminerende uitkomst kan dus langs drie sporen tegelijk onrechtmatig zijn.

Wat te doen

• Toets je data en uitkomsten op ongelijke effecten voor beschermde groepen (disparate impact), vóór en tijdens gebruik.
• Houd een mens in de lus bij beslissingen over kandidaten — zie AI bij werving en HR.
• Documenteer hoe het systeem werkt en welke bias-controles je deed.
• Leg afspraken vast met de leverancier over bias-testen en aansprakelijkheid.
• Train je recruiters in de beperkingen van het systeem — zie AI-geletterdheid.

Discriminatie door AI is een van de scherpste risico's in HR: het raakt grondrechten, valt onder het zwaarste regime van de AI Act, en wordt door toezichthouders nauwlettend gevolgd. De bias-controle hoort daarom vóór de uitrol, niet erna.