Wat de verordening noemt
Bijlage III noemt AI-systemen voor het toewijzen van taken op basis van individueel gedrag of persoonlijke eigenschappen of kenmerken, en voor het monitoren en evalueren van prestaties en gedrag in arbeidsrelaties [1]. Die systemen gelden als hoog risico [2], vanaf 2 december 2027 [3].
Wanneer wel en wanneer niet
Het moet om een AI-systeem gaan: software die zelf uit data afleidt hoe zij output genereert [4]. Een routeplanner die ritten verdeelt op adres en tijdvenster, wijst taken niet toe op basis van persoonlijk gedrag. Een systeem dat het tempo of de foutmarge van een orderpicker weegt bij het verdelen van werk, doet dat wel. Een bijlage III-systeem zonder significant risico kan buiten de hoog-risicoregels vallen [5], maar niet als het personen profileert [11]. Het wegen van tempo of foutmarge is profilering: een geautomatiseerde evaluatie van beroepsprestaties of gedrag [12] [13].
Nu al: de ondernemingsraad
Voor een regeling over voorzieningen die geschikt zijn voor waarneming van of controle op aanwezigheid, gedrag of prestaties heeft u instemming van de ondernemingsraad nodig [6] [7], en ook voor een regeling over het verwerken van persoonsgegevens van personeel [8].
Nu al: geen automatische sancties
Neemt het systeem zelf besluiten die medewerkers in aanmerkelijke mate treffen, zoals het automatisch inroosteren op minder uren na een lage score, dan raakt dat het recht om niet aan uitsluitend geautomatiseerde besluiten te worden onderworpen [9].
Vanaf 2027: medewerkers informeren
Voordat u een hoog-risicosysteem op de werkplek gebruikt, informeert u de werknemersvertegenwoordigers en de betrokken werknemers [10].