AI in de rechtspraak en justitie: hoogrisico onder bijlage III

Kort antwoord: AI-systemen die bedoeld zijn om een rechterlijke autoriteit te ondersteunen bij het onderzoeken en uitleggen van feiten en het recht, of bij de toepassing van het recht, zijn hoogrisico onder bijlage III van de AI Act. Zuiver ondersteunende, administratieve taken vallen er niet onder. De kern blijft: de rechter beslist. AI mag voorbereiden en adviseren, maar niet oordelen.

Wat de AI Act onder "rechtsbedeling" verstaat

Bijlage III, punt 8, merkt als hoogrisico aan: AI bedoeld om een rechterlijke autoriteit (of namens haar) te helpen bij het onderzoeken en interpreteren van feiten en recht, of bij de toepassing daarvan op een concreet feitencomplex. Denk aan zaakanalyse, voorspelling van uitkomsten of geautomatiseerde dossiersamenvattingen die de inhoudelijke beoordeling raken. Het hoogrisicostempel brengt de volledige set hoogrisico-verplichtingen mee: risicobeheer, datakwaliteit, logging en menselijk toezicht.

Wat erbuiten valt

Niet elke AI in de rechtsketen is hoogrisico. Puur administratieve of organisatorische ondersteuning — planning, anonimisering, vertaling, documentbeheer zonder invloed op de rechtsbedeling — valt buiten punt 8. De grens ligt bij de vraag of het systeem de inhoudelijke beoordeling raakt. Een hulpmiddel dat alleen logistiek versnelt, is iets anders dan een model dat meeweegt in het oordeel.

De onafhankelijke rechter als grens

De rechterlijke onafhankelijkheid stelt een harde grens aan automatisering. Menselijk toezicht (art. 14 AI Act) is hier geen formaliteit: de rechter moet de werking van het systeem kunnen doorgronden, de uitkomst kunnen wegen en zonder drempel kunnen afwijken. Automation bias — de neiging een systeemuitkomst te vertrouwen — is in de rechtspraak bijzonder gevaarlijk, omdat het de motiverings- en afwegingsplicht uitholt. De uitkomst mag nooit het oordeel vervangen.

Transparantie en verdediging

Een verdachte of procespartij moet kunnen begrijpen of en hoe AI bijdroeg aan een beslissing, om die te kunnen aanvechten. Dat raakt aan eerlijk proces en equality of arms. Logging en uitlegbaarheid zijn daarom niet alleen compliance-eisen maar processuele waarborgen — zie uitlegbaarheid van overheidsalgoritmes. Voor de bredere overheidscontext, zie AI bij de overheid.

Wat te doen

• Classificeer per toepassing: raakt het systeem de inhoudelijke rechtsbedeling (hoogrisico) of is het puur administratief (erbuiten)?
• Borg effectief menselijk toezicht: de rechter moet kunnen begrijpen, wegen en afwijken — bewaak tegen automation bias.
• Houd AI adviserend: nooit de beslisser, altijd ondersteunend aan een gemotiveerd oordeel.
• Maak het traceerbaar: logging en uitleg zodat partijen de bijdrage van AI kunnen aanvechten.
• Voer een grondrechtentoets uit vóór ingebruikname — zie FRIA.

In de rechtspraak is AI hoogstens een instrument. Het oordeel — en de verantwoordelijkheid ervoor — blijft bij de mens in de toga.