Kunnen we onze rechtspraak binnenkort overlaten aan de AI-rechter?

“Wat wij denken van rechtspraak? Rechtspraak is traag, duur en onvoorspelbaar. Dat God ons behoede voor de billijkheid van de rechtbanken!”

Aan het woord zijn geen hedendaagse burgers, maar mensen uit het voorjaar van 1789. In plaats van de chaos wensten zij rechtlijnigheid en zekerheid. Hoe dat moest gebeuren? Door wetboeken. Die zouden eenduidige regels bevatten die rechters niet meer zouden hoeven te interpreteren. Vandaag hebben we meer dan genoeg wetboeken, maar de verzuchting dat rechtspraak traag, duur en onvoorspelbaar is, is nog even actueel.

Kan AI misschien slagen waar wetboeken dat niet hebben gekund?

Op het eerste gezicht is het idee erg aantrekkelijk. Rechtspraak is traag omdat advocaten en rechters veel tijd nodig hebben om dossiers te bestuderen. Het dossier van de bende van Nijvel is de afgelopen veertig jaar aangegroeid tot 4 miljoen bladzijden. Het duurt jaren voordat mensen dat hebben doorgenomen. Een gebrek aan menselijke rechters zorgt ervoor dat je soms meer dan tien jaar moet wachten vooraleer je zaak wordt behandeld. AI-rechters werken in een vingerknip en zijn onbeperkt inzetbaar, waardoor rechtspraak veel sneller kan.

Met AI kan rechtspraak ook veel goedkoper. Het gaat dan niet alleen om de kostprijs van rechters, maar ook (en misschien wel vooral) om de kostprijs van advocaten. Als die sneller kunnen werken of zelfs helemaal vervangen worden, worden processen een heel stuk betaalbaarder. Nu al bouwen grote advocatenkantoren aan eigen AI-systemen. Daarmee kunnen ze snel eerdere zaken opzoeken en met elkaar vergelijken. Zo kunnen advocaten sneller en gemakkelijker inschatten of een bepaalde zaak kans op slagen heeft. Of zelfs bij welke rechter dat het geval is.

Wordt rechtspraak ook voorspelbaarder? Menselijke rechters verschillen nogal eens van mening met elkaar. Bovendien zijn rechters net als andere mensen niet altijd consistent. AI-rechters zouden ook niet steeds hetzelfde oordeel vellen, maar bepaalde menselijke verschillen zouden alleszins verdwijnen.

Dat klinkt goed, maar ik zie minstens drie soorten problemen met AI-rechters, met name op het vlak van betrouwbaarheid, verantwoordelijkheid en legitimiteit.

AI-beslissingen zijn nooit volledig betrouwbaar. Zo hallucineert elk AI-systeem. Misschien weinig, maar toch. Kleine hallucinaties kunnen onherstelbare schade veroorzaken. Stelt u zich eens voor dat uw naam per toeval wordt gehallucineerd als dader in een zedenzaak. Daarbij komt dat AI-beslissingen niet corrigeerbaar zijn. AI-rechters reproduceren patronen. Als de data historische ongelijkheden bevatten, reproduceren AI-rechters die op grote schaal. Bovendien kunnen AI-rechters niet kritisch reflecteren over die ongelijkheden. Als een werkgever AI traint met cv’s van aangeworven kandidaten en bijna al die kandidaten zijn mannen, dan zal die AI vrouwen discrimineren. Menselijke rechters kunnen dergelijke patronen doorbreken, AI-rechters niet.

Een tweede probleem is een gebrek aan verantwoordelijkheid, zowel van AI als voor AI. AI-rechters kunnen niet verantwoord omgaan met data: zolang de ingevoerde gegevens bij big tech-bedrijven terechtkomen, zijn AI-rechters een nachtmerrie voor privacy. Of zou u willen dat Elon Musk zomaar alle details kent van uw echtscheiding? AI-rechters kunnen bovendien geen verantwoording afleggen: AI-systemen zijn een zwarte doos. Niemand kan vertellen op basis waarvan AI-rechters tot hun besluit komen. Nochtans zijn rechters verplicht om hun uitspraken steeds te motiveren – iets waar men nota bene in 1789 voor heeft geijverd. Die motivering moet willekeur tegengaan en controle op de rechter toelaten. Ook de verantwoordelijkheid voor AI is problematisch. Het is bijvoorbeeld onduidelijk wie verantwoordelijk is als een AI-rechter een verkeerde beslissing neemt. Dat ondermijnt het vertrouwen in justitie.

Daarmee komen we aan het derde en grootste probleem rond AI-rechters: legitimiteit. Recht is macht. Rechtspraak is nooit zomaar het mechanisch toepassen van regels. Wetgevers kunnen niet in de toekomst kijken en alle mogelijke situaties voorzien. Rechters moeten daarom knopen doorhakken in gevallen waarover de wetgever niet heeft nagedacht. In de negentiende eeuw kon niemand zich voorstellen dat mensen een eeuw later zouden joyriden met auto’s, of dat vandaag elektriciteit zou worden afgetapt voor wietplantages. Toch moeten rechters daar oplossingen voor vinden. Zo bouwen ze mee aan het recht van morgen. Dat betekent ook dat ze keuzes maken – en die keuzes zijn nooit volledig neutraal. 

De vraag rijst dan ook waarom we aanvaarden dat rechters een dergelijke macht hebben. Daar zijn drie redenen voor.

We aanvaarden de macht van rechters ten eerste omdat die democratisch ingebed is. Rechters bepalen niet zelf wat ze mogen doen: het is de wet die bepaalt wat hun rol is, hoe rechters worden benoemd en wat hun bevoegdheden zijn. AI-rechters bevinden zich buiten zo’n juridisch kader.

Daarnaast vereist elke macht een tegenmacht. Rechters moeten ook grenzen kunnen stellen aan de politiek. Neem bijvoorbeeld de toeslagenaffaire in Nederland. Mensen vroegen toeslagen aan en kregen vaak automatisch voorschotten. De wetgever eiste een harde fraudeaanpak. Het gevolg was dat een kleine administratieve fout mensen kon ruïneren. Tal van mensen zijn daardoor dakloos geworden. Het is de taak van een rechter om daar paal en perk aan te stellen. Een AI-rechter zal geen tegengewicht bieden aan de politiek.

Dat raakt aan rechterlijke onafhankelijkheid. Rechters ontlenen hun legitimiteit aan het feit dat zij institutioneel onafhankelijk zijn van politieke en economische macht. AI-rechters zijn dat niet. Zij worden ontwikkeld, getraind en onderhouden door big tech. Wie de AI-rechters controleert, controleert ook de uitkomsten. Macht verschuift dan van democratisch gecontroleerde instellingen naar private actoren die hun eigen belangen vooropstellen.

Ik geef één voorbeeld. Vorig jaar is veel heisa ontstaan door de deurgrepen van bepaalde Teslawagens. Bij gewone wagens kan je de deur steeds openen; bij die modellen moet je een werkende batterij hebben. Is er een probleem met de batterij, dan kan je de deur niet openen. Bij auto-ongevallen zijn daardoor meerdere personen overleden: zij zaten gevangen in de wagen en konden de deur niet (of alleszins onvoldoende eenvoudig) openen. Zou een AI-rechter Tesla verantwoordelijk houden voor die overlijdens? Mogelijk niet.

Samengevat: rechtspraak zou sneller, goedkoper en voorspelbaarder kunnen worden met AI en menselijke rechters kunnen die voordelen van AI zeker benutten. Maar menselijke rechters vervangen door AI-rechters is geen goed idee. Rechtspraak heeft ingrijpende gevolgen voor mensen en de hele samenleving. Rechtspraak moet betrouwbaar, verantwoordelijk en legitiem zijn. AI-rechters zijn dat niet. Zij kunnen ons alleen de billijkheid van big tech bieden – ik hoop dat we daarvan bespaard mogen blijven.

Frederik Peeraer is jurist en onderzoeker aan de Faculteit Recht en Criminologie van de Universiteit Gent. In zijn onderzoek focust hij op rechtstheorie, juridische argumentatie en de methoden waarmee juristen het recht interpreteren en toepassen. Hij was als raadgever betrokken bij de uitwerking van het nieuwe Belgische Burgerlijk Wetboek.