Bron: Trema 13 / najaar 2025

Het leek een onschuldig bericht dat de NVvR eind september naar de leden stuurde. ‘Werkt u al met AI?’ Enkele tientallen leden reageerden dat ze wel eens ‘iets’ met AI hadden gedaan, vooral in de vorm van een tekst of vertaling. Allemaal in de privésfeer en met gebruikmaking van eigen accounts, want – en dat moet maar meteen duidelijk zijn – rechters mogen in de uitoefening van hun ambt geen gebruik maken van openbare AI-tools zoals ChatGPT. Het schrijven van vonnissen of het samenvatten van dossiers vallen onder de zogeheten hoog-risico-categorie van de Europese AI-verordening (AI Act) en zijn aan strikte voorwaarden verbonden, zoals transparantie of risicobeheer, waaraan openbare tools als ChatGPT niet aan voldoen. ‘Een rechter moet kunnen motiveren hoe hij tot zijn oordeel komt,’ legt Jos Smits, programmamanager AI bij de Raad voor de rechtspraak, uit. ‘Hoe die AI-systemen precies werken weten we echter niet. Dus mag het niet.’

Nieuwsgierig

Kan het, mag het, is het verantwoord? Dat zijn de drie vaste vragen die binnen de overheid worden gesteld als het om het gebruik van kunstmatige intelligentie gaat. De rijksoverheid gaf begin dit jaar een handreiking uit voor het verantwoord inzetten van generatieve AI. Het ministerie van Justitie en Veiligheid is druk doende een eigen door AI gestuurde chatbot te ontwerpen met de naam Robin. De Raad voor de rechtspraak heeft sinds begin 2025 een eigen AI-strategie en een daarbij horend uitvoeringsprogramma. Doel daarvan is
om de mogelijkheden van AI voor de rechtspraak te verkennen, maar tegelijk te voorkomen dat technologie de fundamenten van de rechtsstaat uitholt.

‘Veel collega’s zijn nieuwsgierig en willen vooral weten hoe ze AI kunnen gebruiken om dossiers samen te vatten of snel jurisprudentie te kunnen verzamelen en analyseren,’ merkt Smits op. ‘Maar achter die praktische vragen gaat een werkelijkheid schuil die voor de rechtspraak nog veel wezenlijker is. Hoe zit het met de betrouwbaarheid van bewijs, hoe transparant is een bepaalde opsporingsmethode? Hoe verhoudt AI zich kortom tot rechtstatelijke beginselen als onafhankelijkheid en onpartijdigheid?’ 

Behoefte, inzicht, geletterdheid

De AI strategie van de rechtspraak is gebouwd op drie pijlers, legt Smits verder uit. Onderzocht wordt allereerst aan welke hulpmiddelen behoefte is, zoals een tool om samenvattingen en vertalingen te maken en ingewikkelde materie in begrijpelijke taal te herformuleren. Daarnaast moet er meer inzicht komen in de manier waarop procespartijen nu al AI gebruiken, bijvoorbeeld om automatisch pleidooien te genereren of, problematischer, bewijsmateriaal te manipuleren. Ten slotte is het belangrijk om de AI-geletterdheid van medewerkers te vergroten. Daartoe biedt SSR verschillende cursussen en e-learning programma’s aan, ook voor officieren van justitie. ‘Het is belangrijk dat alle rechtspraakmedewerkers leren herkennen wanneer AI een rol speelt en weten hoe ze met de risico’s omgaan,’ zegt Smits. ‘Daarbij gaan we uit van bepaalde waarden, zoals onafhankelijkheid, transparantie, onpartijdigheid en menselijkheid. AI mag die waarden niet verzwakken en moet die bij voorkeur versterken.’

Kindbrieven en persberichten

Om tegemoet te komen aan de wens om bepaalde toepassingen binnen de rechtspraak mogelijk te maken, ontwikkelt de rechtspraak een eigen systeem: Rechtspraak GPT. Dit model, dat al volop in de testfase zit, draait binnen een eigen beveiligde deel van de cloud en zal worden ingezet voor laag-risico-toepassingen, zoals het samenvatten of vertalen van teksten, het herschrijven van uitspraken in begrijpelijke taal (denk aan kindbrieven en persberichten) en het toegankelijk maken van juridische informatie. Rechtspraak GPT maakt gebruik van zogeheten blackbox modellen van OpenAI, en voldoet dus niet aan de eisen die gesteld worden aan hoog-risico-categorieën. Ook Rechtspraak GPT mag straks dus niet worden gebruikt voor alles wat te maken heeft met rechterlijke oordeelsvorming. Black box betekent dat niemand eigenlijk precies weet hoe kunstmatige intelligentie precies werkt. Zelfs ontwikkelaars kunnen zelflerende AI-systemen niet volledig doorgronden. Die onzichtbare logica is meteen het grootste probleem als het gaat om toepassing ervan in een magistratelijke omgeving. Nu al worden in de opsporing AI-gestuurde tools gebruikt, bijvoorbeeld om witwasconstructies bij cryptotransacties op te sporen. Hoe een machine bepaalde patronen herkent en hoe hij die classificeert als ‘verdacht’ is echter niet duidelijk. ‘Wat als een verdachte wordt aangehouden op basis van een algoritme waarvan niemand weet hoe het werkt?’ geeft Smits een voorbeeld. ‘Hoe kun je als rechter dan toetsen of het bewijs betrouwbaar is? Als blijkt dat een bepaald bewijs uit een niet te controleren systeem komt, kan een veroordeling ook na jaren alsnog over de kop gaan. Transparantie en uitlegbaarheid van AI-gestuurde systemen zijn dus niet alleen technische eisen, maar noodzakelijk om een eerlijk proces te blijven garanderen.’

Deepfakes

Vooral voor het bewijsrecht levert AI de nodige uitdagingen op. Deepfake-technologie maakt het immers mogelijk om beelden, stemmen en documenten te vervalsen die niet van echt te onderscheiden zijn. Dat kan gevolgen hebben voor de bewijslast. ‘Bewijs maar eens dat iets echt is, of juist vals.’ Het Nederlands Forensisch Instituut werkt inmiddels wel aan nieuwe detectietools, maar bewustwording binnen de rechtspraak blijft lastig, vindt Smits. Weliswaar houden veel individuele medewerkers de ontwikkelingen vrij goed in de gaten (zoals ook bleek uit de NVvR-uitvraag), maar op institutioneel niveau kan er nog wel een en ander verbeteren. Smits merkt dat in veel overlegstructuren en expertgroepen het onderwerp AI vaak blijft steken op vragen over compliance en praktische toepassingen, terwijl de wezenlijke juridische en ethische vraagstukken onderbelicht blijven. Daarom dringt Smits er bij alle gerechten op aan om AI serieus te nemen. ‘Scholing en dialoog zijn essentieel. SSR geeft trainingen op bijvoorbeeld het gebied van digitale ethiek en de Europese AI-verordening, maar het gaat ook om de onderlinge dialoog. De technische ontwikkelingen gaan zo snel dat ongemerkt de menselijke maat en de rechterlijke oordeelsruimte onder druk kunnen komen te staan. Als blijkt dat een bepaalt ondersteunend systeem 99 keer een advies geeft om linksaf te slaan, en dat advies klopt, dan wordt het best lastig om in het honderdste geval toch rechts te kiezen. Rechters moeten zich dat heel bewust zijn.’

Afhankelijk van Big Tech

Andere bronnen van aandacht en zorg zijn veiligheid en transparantie. Big Tech werpt wat dat betreft zijn schaduw ver vooruit. Smits: ‘De afhankelijkheid van commerciële technologiebedrijven is een wezenlijk risico. We weten bijvoorbeeld al dat veel AI-modellen van Amerikaanse bedrijven zijn getraind op datasets die grotendeels Engelstalig en Noord-Amerikaans zijn, met daarbij een ingebouwde culturele en juridische bias. Vraag ChatGPT naar een juridisch dilemma en je krijgt een ‘Angelsaksisch’ antwoord. Vraag naar een mooie vrouw en je krijgt een westers schoonheidsideaal voorgeschoteld. Die vooringenomenheid is niet zomaar te verwijderen uit het systeem. De angst dat subtiele vooroordelen zich op die manier ook in de rechterlijke oordeelsvorming nestelen, is wat dat betreft best begrijpelijk. Daar moeten we buitengewoon alert op zijn.’ De AI-agenda van de rechtspraak is daarom ook meer dan een technisch innovatieprogramma, benadrukt Smits. Het is een zoektocht naar een evenwicht tussen efficiëntie en rechtsstatelijke waarden. ‘De Raad voor de rechtspraak investeert niet voor niets in kennisplatforms, vooral ook op het gebied van ethiek. Ja, AI kan de rechtspraak toegankelijker maken, en sneller, maar kan nooit de menselijke maat vervangen. AI is uiteindelijk niets anders dan statistiek. AI leert patronen, maar kent geen rechtvaardigheid. We zullen dus zelf moeten bepalen hoe we AI in de rechtspraak willen gebruiken, want anders bepaalt de technologie het voor ons. En dan zijn we te laat.’

De AI-agenda van de rechtspraak: een samenvatting

De Raad voor de rechtspraak heeft sinds een jaar een eigen AI-agenda en ontwikkelt vanuit daar een breed programma met als doel het benutten van de kansen van kunstmatige intelligentie, zonder dat deze de kernwaarden van de rechtspraak ondermijnt. De strategie rust op drie pijlers: het ontwikkelen van veilige toepassingen (zoals RechtspraakGPT), het vergroten van weerbaarheid tegen AI-gebruik door anderen en het versterken van AI-kennis bij medewerkers. De rechtspraak onderkent de risico’s van bijvoorbeeld deepfakes, ondoorzichtige algoritmen en de afhankelijkheid van commerciële technologie. Belangrijkste boodschap: AI kan de rechtspraak toegankelijker maken, en sneller, maar kan nooit de menselijke maat vervangen.