Er algoritmer løsningen på domstolenes ressourceproblemer?

I USA og Asien hjælper algoritmen

Jesper Ryberg peger specifik på tre måder, man kan bruge algoritmer ved domstolene. En af måderne bruger størstedelen af de amerikanske stater allerede. Det er risikovurderinger af kriminelle via en algoritme, forklarer Jesper Ryberg.

Det vil sige, at algoritmen hjælper dommeren med at vurdere, hvor stor risiko, der er for, at en kriminel person eksempelvis falder tilbage i kriminalitet igen, og det bruges blandt andet til at vurdere, om personen skal varetægtsfængsles, indtil personen får sin endelige dom, eller om personen skal kunne få prøveløsladelse.

“Det er en måde, man kan bruge algoritmen på, altså som et hjælpemiddel til at skaffe nogle typer af information, man skal bruge som dommer, og som man eksempelvis normalt får hjælp af en læge til at indsamle,” siger Jesper Ryberg.

Den anden måde hvorpå en algoritme kan være med til at hjælpe dommere, ser vi eksempler på i Asien.

Her er der nemlig en algoritme, der er med til at anbefale straffen som en kriminel skal have.

“Algoritmen siger eksempelvis, at den her forbrydelse, den giver to års fængsel. Og så kan dommeren ved at inddrage algoritmens anbefalinger udmåle den endelige straf. Det har man gjort de første forsøg med i Malaysia,” fortæller han.

Til spørgsmålet om, hvorvidt algoritmen i både eksemplet med USA og Asien kan være med til at spare ressourcer, er svaret ifølge Jesper Ryberg i teorien ja.

man ville kun erstatte dommeren i den del af arbejdet, der handler om at udmåle en straf

For hvis en algoritme lynhurtigt kan sammenholde informationer og lave en risikovurdering, som man måske normalt skal have en læge ind over, som skal interviewe, så er der oplagt tid at spare.  

“På samme måde er der ressourcer at spare, hvis man forestiller sig, at man lynhurtigt kan få anbefalinger til, hvad den perfekte straf er,” siger han og tilføjer:

“Men om det virker i praksis, det er et langt mere kompliceret spørgsmål.”

For ifølge Jesper Ryberg, skal man huske, at en algoritme ikke i sig selv kan opfinde noget. Den skal fodres med data og informationer og på baggrund af det, kan den så træffe en beslutning.

“Det vil sige, at alle de der oplysninger om en konkret forbrydelse, de skal lægges ind i algoritmen før den kan spytte ud, at straffen bør være et halvt år,” siger han.

Derudover er der det praktiske i, hvem der skal lægge oplysningerne ind, og hvordan man gør.  

“Og hvor tidskrævende, det vil være, hvis man har en kompliceret sag, at få alle aspekter ind på den rigtige måde. Det ved man ikke særligt meget om endnu, og det er en ting, der er vigtig, hvis man snakker ressourcebesparelser,” siger han og fortsætter:

“Så hvor meget man vil vinde i dag af tid og ressourcer, det er der ikke noget helt klart svar på, hvis det drejer sig om den mere omfattende brug af algoritmer til at udmåle straffe eller vejlede dommere.”

Den tredje måde, en algoritme kan være behjælpelig ved domstolen på, er ifølge Jesper Ryberg ved at lade den erstatte dommeren fuldstændigt i en del af dommerens arbejde. Nemlig den del af arbejdet, der handler om strafudmåling.

“Man gør det ikke dag heller ikke i udlandet. Men man ville kun erstatte dommeren i den del af arbejdet, der handler om at udmåle en straf” siger Jesper Ryberg og forklarer, at erstatningen i princippet kan fungere i alle slags sager. For i forhold til beslutningen om, hvilken straf en given kriminel skal have, handler det om, at algoritmen skal arbejde med nogle tal, informationer om hvad lovgivningen siger, informationer om formildende eller skærpende omstændigheder og information om hvad præcedens på området er.

“Sådan nogle ting, kunne man sagtens forestille sig, at man kunne kvalificere på nogle måder, hvor algoritmen kunne gøre det. Så det er bestemt ikke utænkeligt, at man ville kunne få algoritmer til at udmåle straffe,” siger han og tilføjer:

“Her er det ikke utænkeligt at man kan spare ressourcer.”

Brug for mere forskning

Hvis man spørger Jesper Ryberg, om Danmark burde være længere fremme, når vi snakker om kunstig intelligens, er svaret dog nej. Også selvom, der ligger en masse muligheder ude i verden og i teorien, der kan tjene til inspiration.

“Det er helt typisk, at når der kommer nye teknologier, så vil der være fordele ved det, som gør, at det er interessant at gå i gang med at diskutere. Men der er også en masse ulemper,” siger han og fortsætter:

“Når det drejer sig om straffeområdet, og hvordan vores retssystem fungerer basalt set, så er det så vigtige områder, at det ville være et stort problem, hvis man introducerede den kunstige intelligens så hurtigt som muligt uden at kigge på, hvad det er for nogle ulemper og faldgruber, der kan være undervejs.”

Ifølge Jesper Ryberg mangler der stadig meget forskning og mange teoretiske diskussioner, før man er nået til en afklaring.

“Det er ikke bare noget, hvor man siger vupti og så snupper man det lige og introducerer dagen efter ved de danske domstole.”

To af de ting, han peger på som vigtige at holde sig for øje i samtalen om kunstig intelligens ved domstolene, er transparens og objektivitet.

Han fortæller som et eksempel på, hvorfor transparens er vigtigt, om den mand i USA, der blev dømt til seks års fængsel blandt andet med baggrund i en risikovurdering lavet af en algoritme, der sagde, at der var høj risiko for, at han ville falde tilbage i kriminalitet.

Den amerikanske mand ville gerne vide hvorfor, han blev vurderet som højrisiko. Men det kunne han ikke få at vide, for algoritmen var udviklet af et privat firma, og hvordan den fungerede er en forretningshemmelighed.

“Så sidder han der og har fået at vide, at han er farlig, og ingen kan svare på, hvordan man er nået frem til den konklusion. Det lever ikke op til almindelig retssikkerhed,” siger Jesper Ryberg og tilføjer:

“Det er bare for at sige, at det ikke er nok at have en algoritme, der kan give nogle svar, man skal også have en forklaring på, hvorfor netop de svar.”

Det andet, der er vigtigt i overvejelsen om, hvorvidt algoritmen skal overtage dele af dommerens arbejde, er om en given algoritme vil være mere objektiv end en menneskelig dommer.

“Dommere er ofte beskyldt for at være biased, og der håber man, at en algoritme kan være bedre. Fordi en algoritme ikke inddrager irrelevante forhold i vurderingen. Det kunne for eksempel være en persons hudfarve,” siger han og uddyber, at problemet er, at en del algoritmer også kan være bias. For fra forskning ved man i dag, at hvis man laver en algoritme og lægger alle tidligere sager ind, som algoritmen skal vurdere på baggrund af, og de tidligere sager så har været diskriminerende på forskellige måder, så bliver det samlet op i algoritmen og reproduceret.

“Så det betyder, at det ikke er så enkelt igen at lave en objektiv algoritme, og det kræver forskning og undersøgelser af, hvornår en algoritme er diskriminerende og hvornår den ikke er,” siger han og tilføjer, at der mangler vi forskning i dag.

Men hvad er så værst. De lang ventetider på grund af overbelastning eller en hurtigere ekspedering hjulpet på vej af algoritmer på bekostning af transparens og objektivitet. Til det svarer Jesper Ryberg:

“Jaa, det er et godt spørgsmål. Det kræver, at man inddrager nogle flere muligheder i sine overvejelser, fordi en ting er, at det er uheldigt med den her lange ekspeditionstid, for det er også en trussel mod retssikkerheden, at det kan tage lang tid, før ens sag bliver behandlet, og samtidigt kan der også være mange andre ulemper ved det. Men hvis man så indfører nogle algoritmer i stedet, så skal man først finde ud af, hvor store omkostningerne er ved at gøre det. Altså hvor stor er risikoen for, at algoritmerne er diskriminerende, og hvor store er omkostningerne ved, at vi ikke kan få den fulde forklaring på, hvordan en given algoritme er nået frem til et givent svar. Altså underminerer de her omkostninger retssikkerheden, eller bliver folk utrygge.”

“Og så er den anden ting, at når det drejer sig om ekspeditionstid, må man også stille sig det spørgsmål; er der andre måder, man få ekspeditionstiden ned på? Altså findes der andre redskaber? Eksempelvis ved at poste flere penge i sagerne eller ansætte flere mennesker.”

“Derfor er det ikke helt enkelt at sige jaja, hvis vi kan nedsætte ekspeditionstiden med en måned, kan vi godt gå lidt på kompromis med, at vi ikke kan forklare folk så meget, eller at vi bruger et halv-diskriminerende redskab. Det, tror jeg ikke, at der er mange, der vil sige ja til.”