Transparantie van overheidsalgoritmes

Kort antwoord: Overheidsinstanties die hoog-risico AI-systemen inzetten zijn onder de EU AI-verordening (2024/1689) verplicht deze systemen vóór ingebruikname te registreren in een EU-database, betrokkenen te informeren dat een hoog-risico AI-systeem op hen wordt toegepast, en automatisch gegenereerde logs minimaal zes maanden te bewaren. Deze verplichtingen gelden per 2 augustus 2026. Nederland loopt voorop met een vrijwillig Algoritmeregister dat op dit moment 1.486 systemen bevat.

Wat de AI-verordening van overheden eist

Verordening (EU) 2024/1689 — de AI-verordening — trad op 1 augustus 2024 in werking. De transparantie- en registratieverplichtingen voor hoog-risico AI-systemen zijn van toepassing per 2 augustus 2026 (artikel 113).

De verordening onderscheidt twee actoren: aanbieders (die het systeem ontwikkelen of op de markt brengen) en gebruiksverantwoordelijken (die het systeem inzetten, waaronder overheidsinstanties). Voor de publieke sector zijn de verplichtingen uit drie artikelen direct relevant:

Artikel 13 — transparantie jegens gebruiksverantwoordelijken. Hoog-risico AI-systemen moeten zo ontworpen zijn dat hun werking voldoende transparant is. Aanbieders moeten volledige gebruiksdocumentatie leveren: doel en prestatiemaatstaven, nauwkeurigheidsstatistieken, bekende risico's voor grondrechten, instructies voor het interpreteren van uitvoer, en onderhoudsschema's.

Artikel 26 — verplichtingen van gebruiksverantwoordelijken. Overheidsinstanties die hoog-risico AI-systemen inzetten moeten: (1) het systeem gebruiken overeenkomstig de gebruiksinstructies; (2) automatisch gegenereerde logs bewaren gedurende ten minste zes maanden; (3) betrokkenen informeren dat zij te maken hebben met een hoog-risico AI-systeem; (4) de aanbieder onmiddellijk inlichten bij geconstateerde risico's.

Artikel 49 — registratie in de EU-database. Overheidsinstanties moeten zichzelf en het beoogde gebruik van elk hoog-risico AI-systeem uit Bijlage III registreren in de door de Commissie beheerde EU-database vóór ingebruikname. Systemen die worden ingezet voor rechtshandhaving, migratie en grensbeheer worden opgenomen in een beveiligde niet-openbare sectie.

Welke overheidstaken vallen onder hoog-risico (Bijlage III)

Bijlage III bij de AI-verordening benoemt de volgende publiekssectortoepassingen als hoog-risico: AI voor toewijzing van essentiële publieke diensten en uitkeringen (categorie 5a), AI bij rechtshandhaving en criminele risicobeoordeling (categorie 6), AI bij migratie- en asielbeoordelingen (categorie 7), en AI bij rechtspraak en democratische processen (categorie 8). Ook AI in het onderwijs (categorie 3) en bij kritieke infrastructuur (categorie 2) valt hieronder.

Het Nederlandse Algoritmeregister

Naast de EU-verordening heeft Nederland op 21 december 2022 het Algoritmeregister gelanceerd (algoritmes.overheid.nl). Dit openbare register bevat momenteel 1.486 algoritmen van meer dan 500 overheidsorganisaties. Registratie is vooralsnog vrijwillig; de Nederlandse overheid heeft aangekondigd dat registratie in de toekomst wettelijk verplicht wordt voor impactvolle algoritmen, waaronder hoog-risico AI-systemen. De Autoriteit Persoonsgegevens fungeert als coördinerend toezichthouder voor algoritmen en AI die risico's met zich meebrengen voor grondrechten.