Het verbod
Verboden is het gebruiken van systemen voor biometrische categorisering die personen individueel in categorieën indelen op basis van biometrische gegevens om hun ras, politieke opvattingen, lidmaatschap van een vakbond, religieuze of levensbeschouwelijke overtuigingen, seksleven of seksuele gerichtheid af te leiden [1]. Dat verbod geldt sinds 2 februari 2025 [2].
Wat biometrische categorisering is
Een AI-systeem dat personen op basis van hun biometrische gegevens in categorieën indeelt [3], bijvoorbeeld aan de hand van gezichtskenmerken in een video-interview.
Andere kenmerken
Deelt een systeem mensen in op andere gevoelige of beschermde kenmerken, dan kan het, voor zover deze categorisering niet onder een verbod valt, vanaf 2 december 2027 als hoog-risicosysteem onder bijlage III worden aangemerkt [4] [5]. Daarnaast blijven de AVG en andere toepasselijke verboden gelden [6].
Ook zonder AI-verordening
Gegevens waaruit afkomst, religie of seksuele gerichtheid blijkt, mag u in beginsel niet verwerken [6], en onderscheid op die gronden is verboden bij de aanbieding van een betrekking [7]. Vraag leveranciers van video-interviewtools welke kenmerken hun systeem uit beeld of stem afleidt.