Het verbod
Verboden is het in de handel brengen, het in gebruik stellen en het gebruiken van AI-systemen om emoties van een natuurlijke persoon op de werkplek en in het onderwijs af te leiden, behalve wanneer het systeem bedoeld is om uit medische of veiligheidsoverwegingen te worden ingevoerd [1]. Het verbod geldt sinds 2 februari 2025 [2].
Wat telt als emotieherkenning
Een systeem voor het herkennen van emoties stelt emoties of intenties vast of leidt ze af op basis van biometrische gegevens, zoals gezicht of stem [3]. Fysieke toestanden zoals pijn of vermoeidheid vallen er niet onder, en het alleen detecteren van een glimlach of een frons ook niet, tenzij dat wordt gebruikt om emoties af te leiden [4]. Een tool die uit een video-interview afleidt of een kandidaat enthousiast, nerveus of oprecht is, leidt emoties af.
Ook bij sollicitanten
Het verbod is niet beperkt tot medewerkers in dienst. De verordening verbiedt deze systemen in situaties die verband houden met de werkplek, vanwege de ongelijke machtsverhoudingen in de context van werk [6]. Behandel emotieherkenning in sollicitatiegesprekken, ook online, daarom als verboden; de enige uitzondering is een medische of veiligheidsreden [1].
Buiten de werkplek
Gebruikt u emotieherkenning buiten de werkplek en het onderwijs, dan is zij niet verboden, maar moet u de personen die eraan worden blootgesteld informeren over de werking van het systeem en de gegevens volgens de AVG verwerken [5].