Naar inhoud

Kennisbank · AI in HR

Wat betekent menselijk toezicht op een hoog-risico-AI-systeem voor HR in de praktijk?

Vanaf 2 december 2027 legt u het menselijk toezicht bij mensen met de nodige bekwaamheid, opleiding en autoriteit, die daarbij ondersteund worden. Zij moeten de werking kunnen volgen, bedacht zijn op te veel vertrouwen in de uitkomst, de output juist kunnen interpreteren en in elke situatie kunnen besluiten de uitkomst niet te gebruiken of terug te draaien. Een recruiter die alleen op akkoord klikt, voldoet daar niet aan.

Voorbereiden; geldt vanaf 2 december 2027Laatst geverifieerd:

Wie het toezicht houdt

U draagt het menselijk toezicht op aan natuurlijke personen met de nodige bekwaamheid, opleiding en autoriteit, die de nodige ondersteuning krijgen [1]. Autoriteit betekent dat die persoon ook echt van de uitkomst mag afwijken.

Wat die persoon moet kunnen

Het systeem moet zo worden geleverd dat de toezichthouder de capaciteiten en beperkingen begrijpt en de werking kan monitoren, zich bewust blijft van de neiging om te veel op de output te vertrouwen, de output juist kan interpreteren en in elke situatie kan besluiten de output te negeren of terug te draaien [2].

Wie wat regelt

De aanbieder ontwerpt het systeem zo dat effectief toezicht mogelijk is [3] en bepaalt welke maatregelen u als gebruiksverantwoordelijke uitvoert [4]. U volgt die maatregelen en de gebruiksaanwijzing. Deze plichten gaan in op 2 december 2027 [5].

In de praktijk

Wijs per proces een eigenaar aan, geef die tijd en instructie om afwijkende uitkomsten te onderzoeken, en leg vast hoe vaak de menselijke beslissing afwijkt van het systeem. Dat laat zien dat het toezicht echt is.

Waar Trusq dit op baseert

Deze gekeurde regels staan in Trusq en worden bij elke publicatie opnieuw ingelezen; verandert een regel, dan verandert deze pagina mee.

  • Menselijk toezicht AI Act 14, AI Act 26

Bronnen

  1. [1] AI Act art. 26, lid 2 (AI-verordening (EU) 2024/1689). Menselijk toezicht ligt bij personen met de nodige bekwaamheid, opleiding en autoriteit, met ondersteuning.
    Gebruiksverantwoordelijken dragen het menselijk toezicht op aan natuurlijke personen die over de nodige bekwaamheid, opleiding en autoriteit beschikken en de nodige ondersteuning krijgen.
    Bron, opgehaald op 3 oktober 2026.
  2. [2] AI Act art. 14, lid 4 (AI-verordening (EU) 2024/1689). De toezichthouders moeten capaciteiten begrijpen, automation bias kennen, output interpreteren en kunnen afwijken.
    4. Met het oog op de uitvoering van de leden 1, 2 en 3 wordt het AI-systeem met een hoog risico zodanig aan de gebruiksverantwoordelijke verstrekt dat natuurlijke personen die verantwoordelijk zijn voor het menselijk toezicht, in staat worden gesteld om waar passend en evenredig: a) de relevante capaciteiten en beperkingen van het AI-systeem met een hoog risico goed te begrijpen en de werking ervan naar behoren te kunnen monitoren, onder meer met het oog op het opsporen en aanpakken van onregelmatigheden, storingen en onverwachte prestaties; b) zich bewust te blijven van de mogelijke neiging om automatisch of te veel te vertrouwen op de output van een AI-systeem met een hoog risico (de zogenaamde “automation bias”), met name voor AI-systemen met een hoog risico die worden gebruikt om informatie of aanbevelingen te verstrekken voor beslissingen die door natuurlijke personen moeten worden genomen; c) de output van het AI-systeem met een hoog risico juist te interpreteren, bijvoorbeeld de beschikbare instrumenten en methoden voor interpretatie; d) in alle specifieke situaties te kunnen besluiten om het AI-systeem met een hoog risico niet te gebruiken of de output van het AI-systeem met een hoog risico op andere wijze te negeren, door een andere beslissing te vervangen of terug te draaien;
    Bron, opgehaald op 3 oktober 2026.
  3. [3] AI Act art. 14, lid 1 (AI-verordening (EU) 2024/1689). Hoog-risicosystemen worden zo ontworpen dat effectief menselijk toezicht mogelijk is.
    1. AI-systemen met een hoog risico worden zodanig ontworpen en ontwikkeld, met inbegrip van passende mens-machine-interface-instrumenten, dat hierop tijdens de periode dat zij worden gebruikt, op doeltreffende wijze toezicht kan worden uitgeoefend door natuurlijke personen.
    Bron, opgehaald op 3 oktober 2026.
  4. [4] AI Act art. 14, lid 3 (AI-verordening (EU) 2024/1689). De aanbieder bepaalt toezichtmaatregelen die passend zijn om door de gebruiksverantwoordelijke te worden uitgevoerd.
    b) door de aanbieder bepaalde maatregelen voordat het AI-systeem met een hoog risico in de handel wordt gebracht of in gebruik wordt gesteld en die passend zijn om door de gebruiksverantwoordelijke te worden uitgevoerd.
    Bron, opgehaald op 3 oktober 2026.
  5. [5] Verordening (EU) 2026/1744 art. 1, punt 40, onder b) (vervangt AI Act art. 113, derde alinea, punt c) (Verordening (EU) 2026/1744 (Digital Omnibus AI)). De hoog-risicoregels (hoofdstuk III, afdelingen 1 tot en met 3) gelden voor bijlage III-systemen vanaf 2 december 2027.
    hoofdstuk III, de afdelingen 1, 2 en 3, met uitzondering van artikel 6, lid 5, van toepassing met ingang van: i) 2 december 2027 voor wat betreft AI-systemen die op grond van artikel 6, lid 2, en bijlage III als AI-systemen met een hoog risico zijn aangemerkt, en
    Bron, opgehaald op 3 oktober 2026.

Gerelateerde vragen

Welke plichten hebben wij vanaf december 2027 als gebruiker van een hoog-risico HR-systeem?Mag software sollicitanten automatisch afwijzen zonder dat er een mens naar kijkt?Moeten onze medewerkers een AI-geletterdheidscertificaat of een verplichte cursus hebben?Wat moeten wij doen als een hoog-risico-AI-systeem voor HR niet goed werkt of een ernstig incident veroorzaakt?

Zie in een paar vragen welke regels uw organisatie raken.

Doe de impact- en kansenscan Of vraag een expert

Deze pagina geeft algemene informatie op basis van de wettekst. Zij is geen juridisch advies voor uw situatie.