AI en non-discriminatie: het gelijkebehandelingsrecht naast de AI Act

Kort antwoord: Een AI-systeem dat groepen mensen systematisch anders behandelt, raakt twee regimes tegelijk. De AI Act stelt eisen aan datakwaliteit en bias-beheersing bij hoogrisico-systemen, maar het eigenlijke discriminatieverbod komt uit het gelijkebehandelingsrecht — en dat geldt ongeacht het risiconiveau van je systeem.

Twee regimes naast elkaar

De AI Act is productregulering: hij bepaalt hoe je een systeem veilig en zorgvuldig bouwt en op de markt brengt. Het gelijkebehandelingsrecht — onder meer de rasgelijkheidsrichtlijn (2000/43/EG) en nationale gelijkebehandelingswetten — verbiedt directe en indirecte discriminatie op gronden als afkomst, geslacht, leeftijd of handicap.

Die verboden golden al vóór de AI Act en blijven onverkort gelden. Een werkgever die met AI sollicitanten selecteert, of een bank die met een model krediet beoordeelt, kan dus discrimineren in juridische zin — los van of het systeem AI Act-conform is.

Directe en indirecte discriminatie

Directe discriminatie is zeldzaam in AI: je neemt een verboden grond expliciet als kenmerk. Veel groter is het risico op indirecte discriminatie: een ogenschijnlijk neutraal kenmerk (postcode, taalgebruik, gat in het cv) dat in de praktijk een beschermde groep benadeelt.

Indirecte discriminatie is verboden tenzij er een objectieve rechtvaardiging is die proportioneel en noodzakelijk is. Dat de bias "uit de data kwam" is geen rechtvaardiging. De verantwoordelijke voor het besluit moet kunnen uitleggen waarom een benadelend effect gerechtvaardigd is.

Wat de AI Act hier wél toevoegt

Voor hoogrisico-systemen — werving, kredietverlening, onderwijs, sociale voorzieningen — eist de AI Act onder meer representatieve datasets, onderzoek naar mogelijke bias en menselijk toezicht. Dat zijn instrumenten om discriminatie te vóórkomen, maar ze vervangen het verbod niet. Zie het overzicht van hoogrisico-verplichtingen.

Daarnaast verbiedt de AI Act enkele toepassingen volledig, zoals bepaalde vormen van sociale scoring; zie verboden AI-praktijken. En de AVG stelt eigen grenzen aan profilering en geautomatiseerde besluiten over personen.

Bewijslast en transparantie

In het gelijkebehandelingsrecht geldt vaak een verschoven bewijslast: wie een benadeling aannemelijk maakt, dwingt de tegenpartij te bewijzen dat er níét gediscrimineerd is. Bij een ondoorzichtig model is dat lastig — en juist daarom worden logging en uitlegbaarheid bewijsrechtelijk belangrijk. Transparantie naar betrokkenen kan bovendien voortvloeien uit artikel 50 van de AI Act.

Wat te doen

• Toets op indirecte effecten: meet uitkomsten per groep, niet alleen of een verboden grond in het model zit.
• Documenteer een rechtvaardiging voor elk benadelend effect dat overblijft — proportioneel en noodzakelijk.
• Houd bewijs: datasets, versies en beslislogs bepalen of je een vermoeden van discriminatie kunt weerleggen.
• Beleg verantwoordelijkheid bij een mens die het besluit kan uitleggen en corrigeren.
• Combineer de regimes: AI Act-conformiteit én een gelijkebehandelingstoets, niet het een óf het ander.

Wie alleen de AI Act afvinkt, dekt het discriminatierisico niet af. Het verbod staat los van het risiconiveau van je systeem.