AI in juridische dienstverlening: betrouwbaarheid en geheimhouding

Kort antwoord: Juridische AI valt voor advocaten en adviseurs meestal niet onder het hoogrisico-regime, maar staat onder druk van drie eisen: betrouwbaarheid (geen verzonnen jurisprudentie), geheimhouding (beroepsgeheim en AVG) en transparantie. Alleen wanneer AI rechters of justitiële autoriteiten ondersteunt bij feitenonderzoek of rechtstoepassing, kantelt het richting hoogrisico onder bijlage III.

Betrouwbaarheid en hallucinaties

Generatieve AI kan overtuigend ogende maar onjuiste uitspraken, citaten en jurisprudentie produceren. In een juridische context is dat geen randverschijnsel maar een kernrisico: een verzonnen arrest in een processtuk schaadt de cliënt en de beroepsbeoefenaar. De AI Act dwingt dit niet rechtstreeks af voor het reguliere advieswerk, maar de beroepsregels en zorgplicht doen dat wel. Elke AI-output hoort menselijk geverifieerd te worden tegen de bron.

Beroepsgeheim en geheimhouding

Het beroepsgeheim en de AVG botsen snel met cloudgebaseerde AI. Het invoeren van cliëntdossiers in een extern model is een gegevensverwerking en mogelijk een doorgifte naar een derde. Dat vereist een rechtsgrond, een verwerkersovereenkomst en waarborgen dat de invoer niet wordt gebruikt om het model te trainen of toegankelijk wordt voor derden. Zonder die waarborgen kan het gebruik het beroepsgeheim schenden, los van de AI Act.

Transparantie

Artikel 50 transparantie verplicht dat gebruikers weten wanneer zij met een AI-systeem communiceren en dat gegenereerde content als zodanig herkenbaar is. Voor juridische dienstverlening betekent dit openheid naar cliënten en naar de rechtbank: een AI-gegenereerd concept of een chatbot moet als zodanig kenbaar zijn. Verzwijgen ondermijnt zowel de transparantieplicht als het vertrouwen.

Wanneer wél hoogrisico

Bijlage III noemt AI-systemen die bedoeld zijn om een justitiële autoriteit te ondersteunen bij het onderzoeken en uitleggen van feiten en recht, of bij geschillenbeslechting, als hoogrisico. Dat raakt rechtspraak en ADR, niet het gewone advieswerk van een kantoor. Wie zulke systemen levert of inzet, valt onder de volledige hoogrisico-verplichtingen. Dezelfde gevoeligheid rond profilering speelt bij AI in de detailhandel.

Wat te doen

• Verifieer elke output tegen de primaire bron; vertrouw geen citaten of jurisprudentie blind.
• Bescherm het dossier: gebruik alleen modellen met contractuele waarborgen tegen training en toegang door derden.
• Regel de AVG: rechtsgrond, verwerkersovereenkomst en dataminimalisatie.
• Wees transparant naar cliënt en rechter over AI-gebruik.
• Toets op hoogrisico als je systemen levert aan rechtspraak of geschillenbeslechting.

Voor juristen is de grootste valkuil niet de AI Act maar de eigen zorgplicht: betrouwbaarheid en geheimhouding wegen zwaarder dan de letter van de verordening.