Naar inhoud

Kennisbank · AI in HR

Wat moeten wij doen als een hoog-risico-AI-systeem voor HR niet goed werkt of een ernstig incident veroorzaakt?

Vanaf 2 december 2027 monitort u de werking aan de hand van de gebruiksaanwijzing. Heeft u reden om aan te nemen dat het gebruik een risico oplevert, dan informeert u zonder onnodige vertraging de aanbieder of distributeur en de markttoezichtautoriteit en onderbreekt u het gebruik. Een ernstig incident meldt u onmiddellijk, eerst aan de aanbieder en daarna aan de importeur of distributeur en de markttoezichtautoriteit; de aanbieder meldt het ook zelf bij de markttoezichtautoriteit.

Voorbereiden; geldt vanaf 2 december 2027Laatst geverifieerd:

Monitoren en ingrijpen

U monitort de werking op basis van de gebruiksaanwijzing. Kan het gebruik volgens die instructies een risico opleveren, dan informeert u de aanbieder of distributeur en de markttoezichtautoriteit en onderbreekt u het gebruik. Stelt u een ernstig incident vast, dan informeert u onmiddellijk eerst de aanbieder, en daarna de importeur of distributeur en de markttoezichtautoriteit [1]. Voor HR-systemen gelden deze plichten vanaf 2 december 2027 [2].

Wat een ernstig incident is

Een incident of gebrekkig functioneren dat direct of indirect leidt tot onder meer een schending van verplichtingen ter bescherming van de grondrechten [3]. Bij HR kan dat bijvoorbeeld een systeem zijn dat kandidaten op grond van afkomst of geslacht structureel lager scoort.

Wat de aanbieder doet

De aanbieder meldt ernstige incidenten bij de markttoezichtautoriteit [4], onmiddellijk na het vaststellen van een verband en uiterlijk 15 dagen nadat hij of de gebruiksverantwoordelijke ervan op de hoogte raakt [5]. Uw snelle melding aan de aanbieder is dus nodig om die termijn te halen.

Nu al regelen

Spreek met de leverancier af hoe u afwijkingen en incidenten meldt, en wie bij u bevoegd is het gebruik stop te zetten.

Waar Trusq dit op baseert

Deze gekeurde regels staan in Trusq en worden bij elke publicatie opnieuw ingelezen; verandert een regel, dan verandert deze pagina mee.

  • Gebruik volgens instructies en monitoring AI Act 26, AI Act 73

Bronnen

  1. [1] AI Act art. 26, lid 5, eerste alinea (AI-verordening (EU) 2024/1689). Gebruiksverantwoordelijken monitoren, melden risico's en onderbreken het gebruik; een ernstig incident melden zij onmiddellijk eerst aan de aanbieder en daarna aan de importeur of distributeur en de markttoezichtautoriteit.
    Gebruiksverantwoordelijken monitoren de werking van het AI-systeem met een hoog risico op basis van de gebruiksaanwijzingen en stellen in voorkomend geval de aanbieders in kennis overeenkomstig artikel 72. Wanneer gebruiksverantwoordelijken redenen hebben om aan te nemen dat het gebruik overeenkomstig de gebruiksaanwijzingen ertoe kan leiden dat dat AI-systeem een risico vormt in de zin van artikel 79, lid 1, stellen zij de aanbieder of distributeur en de betreffende markttoezichtautoriteit hiervan zonder onnodige vertraging in kennis en onderbreken zij het gebruik van dat systeem. Wanneer gebruiksverantwoordelijke een ernstig incident vaststellen, stellen zij ook onmiddellijk eerst de aanbieder hiervan in kennis, en vervolgens de importeur of distributeur en de betreffende markttoezichtautoriteiten van dat incident.
    Bron, opgehaald op 3 oktober 2026.
  2. [2] Verordening (EU) 2026/1744 art. 1, punt 40, onder b) (vervangt AI Act art. 113, derde alinea, punt c) (Verordening (EU) 2026/1744 (Digital Omnibus AI)). De hoog-risicoregels (hoofdstuk III, afdelingen 1 tot en met 3) gelden voor bijlage III-systemen vanaf 2 december 2027.
    hoofdstuk III, de afdelingen 1, 2 en 3, met uitzondering van artikel 6, lid 5, van toepassing met ingang van: i) 2 december 2027 voor wat betreft AI-systemen die op grond van artikel 6, lid 2, en bijlage III als AI-systemen met een hoog risico zijn aangemerkt, en
    Bron, opgehaald op 3 oktober 2026.
  3. [3] AI Act art. 3, punt 49 (AI-verordening (EU) 2024/1689). Definitie van ernstig incident, onder meer een schending van verplichtingen ter bescherming van de grondrechten.
    “ernstig incident”: een incident of gebrekkig functioneren van een AI-systeem dat direct of indirect leidt tot: a) het overlijden van een persoon of ernstige schade voor de gezondheid van een persoon; b) een ernstige en onomkeerbare verstoring van het beheer of de exploitatie van kritieke infrastructuur; c) een schending van de uit het recht van de Unie voortvloeiende verplichtingen ter bescherming van de grondrechten;
    Bron, opgehaald op 3 oktober 2026.
  4. [4] AI Act art. 73, lid 1 (AI-verordening (EU) 2024/1689). Aanbieders melden ernstige incidenten bij de markttoezichtautoriteiten.
    1. Aanbieders van in de Unie in de handel gebrachte AI-systemen met een hoog risico melden ernstige incidenten bij de markttoezichtautoriteiten van de lidstaten waarin dat incident heeft plaatsgevonden.
    Bron, opgehaald op 3 oktober 2026.
  5. [5] AI Act art. 73, lid 2 (AI-verordening (EU) 2024/1689). De melding volgt onmiddellijk en uiterlijk 15 dagen na kennisname.
    2. De in lid 1 bedoelde melding wordt gedaan onmiddellijk nadat de aanbieder een oorzakelijk verband tussen het AI-systeem en het ernstige incident of de redelijke waarschijnlijkheid van een dergelijk verband heeft vastgesteld en in ieder geval uiterlijk 15 dagen nadat de aanbieder of, in voorkomend geval, de gebruiksverantwoordelijke zich bewust wordt van het ernstige incident.
    Bron, opgehaald op 3 oktober 2026.

Gerelateerde vragen

Welke plichten hebben wij vanaf december 2027 als gebruiker van een hoog-risico HR-systeem?Wat betekent menselijk toezicht op een hoog-risico-AI-systeem voor HR in de praktijk?Welke afspraken maken wij met de leverancier van een AI-tool voor HR?

Zie in een paar vragen welke regels uw organisatie raken.

Doe de impact- en kansenscan Of vraag een expert

Deze pagina geeft algemene informatie op basis van de wettekst. Zij is geen juridisch advies voor uw situatie.