Uitlegbaarheid en transparantie van overheidsalgoritmes: FRIA en algoritmeregister

Kort antwoord: Transparantie van overheidsalgoritmes kent twee assen. Collectief: openheid over wélke systemen draaien, via het algoritmeregister en de grondrechtentoets (FRIA, art. 27 AI Act). Individueel: uitleg aan de specifieke burger over een besluit dat hem raakt, via de Awb-motiveringsplicht en de AVG. De AI Act eist daarnaast dat hoogrisicosystemen begrijpelijk zijn en gelogd worden. Uitleg is een rechtsplicht, geen gunst.

Twee soorten transparantie

Het is cruciaal om collectieve en individuele transparantie te scheiden. Collectieve transparantie beantwoordt de vraag welke algoritmes een overheid gebruikt en met welk doel — dat is publieke verantwoording. Individuele transparantie beantwoordt de vraag waarom mijn besluit zo uitviel — dat is rechtsbescherming. Een vermelding in het register vervangt geen individuele motivering, en omgekeerd. Beide zijn nodig.

Het algoritmeregister

Het algoritmeregister is het collectieve transparantie-instrument: een openbaar overzicht van algoritmes die overheden inzetten, met informatie over doel, werking, data en waarborgen. Het maakt extern toezicht en maatschappelijke controle mogelijk. Voor hoogrisicosystemen sluit dit aan op de EU-databank uit de AI Act. Registratie is geen eindstation maar het beginpunt van controleerbaarheid.

De FRIA als gestructureerde toets

De grondrechtentoets — zie FRIA: art. 27 — dwingt een overheid om vóór ingebruikname systematisch in kaart te brengen welke grondrechten op het spel staan, welke groepen geraakt worden en welke waarborgen er zijn. De FRIA is daarmee zowel een interne risicotoets als een transparantieproduct: de uitkomst voedt het register en onderbouwt de inzet. Zie ook AI bij de overheid en algoritmische besluitvorming.

Uitlegbaarheid is techniek én recht

De AI Act eist dat hoogrisicosystemen zo zijn ontworpen dat hun werking voldoende transparant is (art. 13) en dat gebeurtenissen worden gelogd (art. 12). Technisch betekent dit: reconstrueerbare uitkomsten en navolgbare factoren. Juridisch betekent het dat een besluit deugdelijk te motiveren moet zijn (Awb) en dat de burger recht heeft op betekenisvolle informatie (AVG). Een model dat geen uitleg toelaat, is voor de overheid simpelweg niet bruikbaar voor besluiten met rechtsgevolg.

Wat te doen

• Scheid collectieve en individuele transparantie: vul beide in, niet één.
• Registreer tijdig in het algoritmeregister en de EU-databank voor hoogrisicosystemen.
• Voer de FRIA uit vóór ingebruikname en gebruik de uitkomst als transparantieproduct.
• Borg logging en reconstrueerbaarheid (AI Act art. 12-13), zodat besluiten Awb-proof te motiveren zijn.
• Geef de burger betekenisvolle uitleg over besluiten die hem raken, met de mogelijkheid die aan te vechten.

Transparantie is bij overheidsalgoritmes geen communicatie-oefening maar de voorwaarde voor rechtmatige inzet. Wat je niet kunt uitleggen, mag je niet beslissen.