Menselijk toezicht ontwerpen: wat eist artikel 14 van de AI Act?

Kort antwoord: Artikel 14 van de AI Act verplicht aanbieders van hoogrisico-AI om hun systeem zó te ontwerpen dat een mens het tijdens gebruik effectief kan overzien en bijsturen. Toezicht moet daadwerkelijk werken: de toezichthouder moet de output begrijpen, weten wanneer hij erop mag vertrouwen, kunnen ingrijpen of stoppen, en niet blind meegaan met de machine (automation bias). Het is een ontwerpeis, geen vinkje achteraf.

Wat menselijk toezicht moet kunnen

Artikel 14 schrijft voor dat de aangewezen personen in staat moeten zijn om:

• de mogelijkheden en grenzen te begrijpen van het systeem en de werking ervan te monitoren, inclusief signalen van afwijkingen of disfunctioneren;
• automation bias te herkennen en tegen te gaan — de neiging om automatisch op de AI-output te vertrouwen, zeker bij systemen die aanbevelingen voor mensen genereren;
• de output correct te interpreteren, met kennis van de beschikbare hulpmiddelen en methoden;
• te besluiten de output niet te gebruiken, of deze te negeren, overrulen of terugdraaien;
• in te grijpen of het systeem te stoppen via een stopknop of vergelijkbare procedure die het systeem in een veilige toestand brengt.

Ontwerp, niet alleen procedure

De kern van artikel 14 is dat toezichtmaatregelen worden ingebouwd door de aanbieder — technisch in het systeem zelf, of als maatregel die de gebruiksverantwoordelijke moet treffen. Een gebruiksaanwijzing die zegt "controleer de uitkomst" is onvoldoende als het systeem die controle niet faciliteert. De maatregelen moeten in verhouding staan tot de risico's, de mate van autonomie en de gebruikscontext.

Toezicht hangt daarom samen met andere hoogrisico-eisen: zonder begrijpelijke gebruiksaanwijzing en transparantie kan een mens de output niet duiden, en zonder logging en registratie kan hij achteraf niet nagaan wat er gebeurde.

Het vier-ogen-principe voor sommige biometrie

Voor bepaalde biometrische identificatiesystemen op afstand stelt artikel 14 een strengere eis: er mag pas actie worden ondernomen op basis van de identificatie nadat minstens twee bekwame personen deze afzonderlijk hebben geverifieerd. Dit "vier-ogen-principe" geldt niet voor rechtshandhaving, migratie of grenstoezicht in specifieke uitzonderingsgevallen.

Wat te doen

• Wijs de toezichtrol concreet toe aan getrainde, bevoegde personen — niet "het team" in het algemeen.
• Bouw een werkende ingreep- en stopfunctie die het systeem veilig stilzet, en test die.
• Toon de grenzen van het systeem in de interface: betrouwbaarheidsscores, waarschuwingen, onzekerheidssignalen.
• Train tegen automation bias: laat toezichthouders oefenen met fout-situaties, niet alleen happy-path.
• Documenteer de maatregelen in de technische documentatie en de gebruiksaanwijzing.
• Verbind toezicht aan governance via je AI-governance-raamwerk en de tijdlijn van verplichtingen.

Menselijk toezicht is een van de kern-eisen uit het overzicht van hoogrisico-verplichtingen en weegt mee in de conformiteitsbeoordeling en CE-markering. Een stopknop die niemand kan bedienen, telt niet.