Kronikk

Ut med dommeren, inn med roboten? | Camilla AC Tepfers og Håkon Haugli

  • Camilla AC Tepfers
    Partner og medgründer inFuture
  • Håkon Haugli
    Innovasjon Norge

Det er gjort studier ved Den europeiske menneskerettsdomstolen som viser at maskiner kan forutsi domsavgjørelsene korrekt i 79 prosent av sakene, skriver kronikkforfatterne. REUTERS/Vincent Kessler

Fremtidens dommere har antagelig maskinen som kollega.

Kronikk
Dette er en kronikk. Meninger i teksten står for skribentens regning.

Bindet over øynene på fru Justitia, symbolet på lov og rett, symboliserer upartiskhet. Når maskiner nå trer inn i rettssalene, er hensikten å sikre rettferdighet og likebehandling.

Roboter er faktabaserte og nøytrale, men de er ikke upartiske. Forskning viser at menneskelige dommere lar seg påvirke av irrelevante faktorer, men det gjelder også maskiner – som hverken er bedre eller verre enn (den menneskelige) programmeringen som ligger bak.

Det er et digitalt dilemma.

Kronikkforfatterne Camilla AC Tepfers og Håkon Haugli.

Vil la roboter avgjøre

Etter at Domstolskommisjonen la frem sin rapport i forrige uke, har diskusjonen gått høyt. Primært om forslaget om å legge ned tingretter. Mindre om et av de viktigste premissene bak forslaget, nemlig at kompleksiteten i sakene øker. Mer sammensatte og innviklede saker kan bane veien for maskiner inn i rettspleien.

Justis- og beredskapsdepartementet annonserte nylig at de ønsker å la roboter ta avgjørelser i UDI-saker. Hvor forsvarlig er det, når vi ikke kan etterprøve hvordan maskinene har «tenkt»?

På den annen side, menneskedommere lar seg påvirke av mye som ikke vedkommer saken, og som heller ikke lar seg etterprøve – og iblant er minst like vanskelig å forstå.

Les også

Dataprogram hos UDI gir familier opphold i Norge

Uvedkommende momenter

Studier viser hvordan dommere av kjøtt og blod blir influert. For eksempel er det uflaks å få asylsaken sin tatt opp rett etter en serie med berettigede søkere. Alle de forutgående innvilgningene får dommeren til å frykte at hen er for snill, og at tiden er inne for å stramme inn.

Det er også uflaks å få saken sin tatt opp rett før lunsj. Da går sannsynligheten for positivt utfall betydelig ned. Temperaturen i rettssalen, eller hvorvidt du har fødselsdag akkurat når du skal for retten, er andre eksempler på faktorer som kan spille inn.

Ambisjonen med maskinenes inntreden i rettssalene er å korrigere for dette og gjøre Justitia blind for slike uvedkommende momenter. Maskiner ser ikke kjønn, rase og sosioøkonomisk bakgrunn, og de blir ikke sinte av å være kalde, varme eller sultne.

Dessverre viser tidlige tester med maskiner som dommere at vi er langt fra det målet. De «dømmer» (heller ikke) rettferdig.

Bindet over øynene på fru Justitia, symbolet på lov og rett, symboliserer upartiskhet. Når maskiner nå trer inn i rettssalene, er hensikten å sikre rettferdighet og likebehandling, skriver kronikkforfatterne. Shutterstock

Maskiner kan være til nytte

I første omgang vil dermed maskinene ta over enklere rettsoppgaver. For eksempel vurderer EU å benytte roboter i gruppesøksmål, hvor flere krav springer ut fra samme faktagrunnlag. Da klipper og limer dommere gjerne fra tidligere dokumenter, og maskiner kan gjøre den jobben langt mer effektivt.

Det er imidlertid lite som tilsier at maskinene stopper der. Tvert imot tyder mye på at maskiner snart kan analysere rettsdokumenter like godt som eller bedre enn mennesker. For eksempel er det gjort studier ved Den europeiske menneskerettsdomstolen som viser at maskiner kan forutsi domsavgjørelsene korrekt i 79 prosent av sakene.

Maskiner skal nok ikke dømme på egen hånd ennå, men de kan være til nytte. Dommerne i Borgarting lagmannsrett slo nylig alarm om rettssikkerheten etter reformen hvor juryordningen er erstattet av fem meddommere og to fagdommere. Dommerne bekymrer seg blant annet for å måtte grave frem relevante rettskilder i pausene og for arbeidet med å ta notater og føre rettsbok underveis i forhandlingene.

Ikke våre likemenn

Kinesiske domstoler kjører piloter hvor roboter tar notater fra rettergangene i sanntid, ved hjelp av språkgjenkjenning, og så finner frem og setter sammen relevante rettskilder for dommerne.

Universitetet i Maryland har utviklet løgndetektoren DARE. Ved hjelp av maskinlæring tolkes mikrouttrykk og stemmebruk. Resultatet er at maskinen avdekker løgn bedre enn mennesker. Det kan være nyttig ved vitneforklaringer.

Forskere ved Universitetet i Toulouse ser på hvordan store datasett og maskinlæring kan anvendes for å guide menneskelige dommere til en mer rettferdig domsavsigelse.

Dilemmaet med å slippe maskiner inn på denne måten er at det kan bryte med vårt grunnleggende prinsipp om at vi skal dømmes av likemenn.

En fremtid der maskiner bestemmer over mennesker fremstår skremmende for mange av oss. Maskinene er ikke våre likemenn.

Selve hovedgrunnen til å avvikle juryordningen var at juryene ikke begrunner sine avgjørelser. Er det ikke da etisk betenkelig å bruke maskiner, basert på algoritmer de fleste av oss ikke kan forstå?

Kan avlaste og analysere

På den annen side, er det mindre etisk betenkelig ikke å anvende maskinene? For eksempel har Den britiske advokatforeningen nedsatt en egen kommisjon for å se på maskinenes inntreden i rettsbehandlingen. De peker på hvordan maskiner kan omdanne store datamengder til kunnskap og innsikt som ikke ville vært mulig å gjøre på noen annen måte.

Det blir bare viktigere etter hvert som kompleksiteten i sakene blir større.
Maskiner kan støtte advokater, fagdommere og meddommere. De kan for eksempel avlaste i saksforberedelser og analysere tidligere dommer. Og de kan kanskje gjøre forsvareren bedre til å argumentere. For eksempel konkurrerte IBMs Debater tidligere i år med den menneskelige verdensmesteren i debatt. Mesteren vant debatten, men publikum mente de lærte mer av Debaters argumenter.

Maskinen som kollega

Hvis maskiner kan bidra til økt rettferdighet, må forutsetningen være at de ikke blir den nye juryordningen, hvor dommer avsies uten begrunnelse. Transparens må derfor være et bærende prinsipp i fremtidens rettssaler, hvor også maskinene deltar.

Det amerikanske forskningsinstituttet DARPA har etablert prosjektet Explainable AI, nettopp for det formål. I EU forsøker man å gjøre noe av det samme med prosjektet AI4People.

Fremtidens dommere har antagelig maskinen som kollega. Den vil samle alle relevante rettskilder, sammenstille disse med sakens øvrige dokumenter, komme med forslag til dom og begrunne forslaget. De menneskelige dommerne kan så evaluere, gjøre sine endringer og fatte den endelige beslutningen. Det vil sannsynligvis gjøre det mindre risikabelt å være i retten rett før lunsj for den tiltalte.

Maskinen kan korrigere for dommerens manglende blodsukker, men ikke erstatte det gode skjønnet.


Denne kronikken inngår i en serie om digitale dilemmaer. De øvrige kronikkene finner du her:

  1. Les også

    Smerten ved digital endring er umiddelbar. Gevinsten kommer på sikt | Camilla AC Tepfers og Håkon Haugli

  2. Les også

    Digitaliseringen forsterker kjønnsgapet | Camilla AC Tepfers og Håkon Haugli

  3. Les også

    Europa inn i den digitale solnedgangen? | Camilla AC Tepfers og Håkon Haugli

  4. Les også

    Når forestillinger forkles som fakta på nettet | Camilla AC Tepfers og Håkon Haugli

  5. Les også

    Digitale meningsbobler er skadelige for demokratiet | Camilla AC Tepfers og Håkon Haugli

  6. Les også

    Skjermforbud er ikke svaret for skjør ungdom | Camilla AC Tepfers og Håkon Haugli

  7. Les også

    Kommer algoritmene for å ta oss? | Camilla AC Tepfers og Håkon Haugli

  • Få med deg debattene hos Aftenposten meninger på Facebook og Twitter.

Les mer om

  1. Roboter
  2. maskinlæring
  3. AI
  4. Rettssikkerhet
  5. Digitalisering
  6. Teknologi

Relevante artikler

  1. KRONIKK

    Kunsten må belønnes, ikke strømmetjenesten. Uten innhold eksisterer ikke bokbransjen.

  2. KRONIKK

    Kronikk av to fastleger: De pasientene som trenger det mest, tar minst kontakt. Fastlegeordningen må styrkes, ikke svekkes.

  3. KRONIKK

    Vi trenger en gründerdugnad for integrering!

  4. KRONIKK

    Hva er det helt konkret Erdogan planlegger for sikkerhetssonen i Syria? Jeg har sett på byggeplanene.

  5. KRONIKK

    Økonomiske sanksjoner kan gi kriminelle større spillerom

  6. KRONIKK

    Barnevernet kritiseres, men vi er flere som bærer ansvar for barnevernsbarna