Nauwkeurigheid, robuustheid en cyberbeveiliging: artikel 15 van de AI Act

Kort antwoord: Artikel 15 van de AI Act verplicht aanbieders om hoogrisico-AI-systemen te ontwerpen en ontwikkelen zodat ze een passend niveau van nauwkeurigheid, robuustheid en cyberbeveiliging halen — en dat consistent presteren gedurende hun hele levensduur. Het systeem moet bestand zijn tegen fouten, storingen, onverwachte situaties en kwaadwillige aanvallen die de werking proberen te manipuleren.

Nauwkeurigheid: gemeten en gedeeld

Het systeem moet een passend nauwkeurigheidsniveau halen, en die nauwkeurigheid (met de relevante metrieken) moet worden vermeld in de gebruiksaanwijzing. "Passend" is contextafhankelijk: een diagnose-ondersteunend systeem kent andere drempels dan een spamfilter. De aanbieder moet de gehanteerde maatstaven kunnen onderbouwen en de prestaties meten — niet schatten.

Robuustheid: bestand tegen fouten en feedbackloops

Robuustheid betekent dat het systeem betrouwbaar blijft bij fouten, storingen en onverwachte invoer. Dat kan technisch (redundantie, fail-safes) of door de omgeving (back-upplannen). Artikel 15 vraagt bijzondere aandacht voor systemen die na inzet blijven leren: feedbackloops moeten zo zijn opgezet dat vertekende output niet als nieuwe invoer terugkomt en het systeem geleidelijk doet ontsporen. Robuustheid hangt samen met logging — zonder spoor zie je drift niet.

Cyberbeveiliging: ook AI-specifieke aanvallen

Hoogrisico-AI moet bestand zijn tegen pogingen van onbevoegden om het gedrag te wijzigen of misbruik te maken van kwetsbaarheden. Artikel 15 noemt naast klassieke beveiliging expliciet AI-specifieke dreigingen:

• data poisoning — het manipuleren van trainingsdata om het model te corrumperen;
• model poisoning — het saboteren van vooraf getrainde componenten;
• adversarial examples / model evasion — invoer die speciaal is ontworpen om het model te misleiden;
• vertrouwelijkheidsaanvallen — pogingen om model of data te onttrekken.

De maatregelen moeten passen bij de omstandigheden en risico's, en aansluiten op een breder AI-governance-raamwerk.

Wat te doen

• Definieer nauwkeurigheidsmetrieken vooraf en meet de prestaties op representatieve data; vermeld ze in de gebruiksaanwijzing.
• Test op robuustheid met edge cases, storingen en stress-scenario's, niet alleen happy-path.
• Beheers feedbackloops zodat het systeem niet langzaam ontspoort op zijn eigen output.
• Voer AI-specifieke dreigingsanalyses uit (poisoning, adversarial, evasion) bovenop standaard security.
• Bewaak prestaties na inzet en koppel terug naar risicobeheer en logging.
• Houd de tijdlijn van verplichtingen aan voor wanneer de eis bindend wordt.

Deze drie eigenschappen vormen samen één eis uit het overzicht van hoogrisico-verplichtingen en worden getoetst in de conformiteitsbeoordeling en CE-markering. Nauwkeurig op de testset is niet hetzelfde als robuust in de praktijk.