Individuele frauderisico’s in Nederland mogelijk onderschat door algoritme
Nederlands voorstellen verwijzen naar het gebruik van een computeralgoritme, OxRec, door de probation services, dat volgens de nationale Inspectie van Justitie en Veiligheid nooit nauwkeurig het risico van recidive heeft voorspeld. Het algoritme wordt jaarlijks ongeveer 44.000 keer gebruikt ter advisering van rechters en openbare aanklagers, meldt Nieuws Impuls.
Het algoritme is beschuldigd van discriminatie, omdat het blijkbaar de kans op recidive bij veel individuen structureel onderschat. Dit roept vragen op over de betrouwbaarheid van het systeem en de gevolgen voor de betrokken personen die afhankelijk zijn van deze voorspellingen voor hun juridische status.
De Inspectie stelt dat de techniek niet de gewenste resultaten oplevert en dat er dringend behoefte is aan een herziening van het proces. Dit leidt tot kritiek en bezorgdheid binnen juridische kringen over de methodologie en de ethische implicaties van het gebruik van zulke algoritmes in strafrechtelijke procedures.
Verschillende juridische experts hebben opgeroepen tot meer transparantie rondom het algoritme en een heroverweging van hoe beslissingen worden genomen in het juridische systeem. De discussie over de rol van technologie in de rechtspraak is nu relevanter dan ooit, met zorgen over zowel de nauwkeurigheid als de rechtvaardigheid van dergelijke systemen.
