Debatt

Er algoritmene farlige? | Kai A. Olsen

  • Kai A. Olsen
    professor i informatikk, Høgskolen i Molde, Universitetet i Bergen og HiOA

Med gode data kan algoritmer plukke ut det som er suspekt for ekstra kontroll for tollvesenet, skriver Kai A. Olsen. Foto: Solum, Stian Lysberg / NTB scanpix

Algoritmer har svakheter, men kan gjøre en god jobb i kontrollfunksjoner.

Debatt
Dette er et debattinnlegg. Meninger i teksten står for skribentens regning.

Bjørn Erik Thon i Datatilsynet skriver i sin kronikk i Aftenposten om algoritmer som må temmes. Bekymringen er at de nye algoritmene må læres opp på store mengder persondata, dernest er det vanskelig, i praksis ofte umulig, å gi en god begrunnelse for resultatet.

Jeg deler hans bekymring når algoritmene brukes til å bestemme lengden på fengselsstraffer eller å ta avgjørelser om prøveløslatelse. Nå viser også forskning at algoritmene ikke gjør det bedre enn helt vanlige mennesker.

Kai A. Olsen er professor i informatikk, Høgskolen i Molde, Universitetet i Bergen og OsloMet. Foto: Anders Hviid © HVIIDPHOTOGRAPHY

Både algoritmer og mennesker klarer å predikere om en løslatt igjen kommer i fengsel i to av tre tilfeller. Mennesker har også den fordelen at de kan begrunne sine valg.

Svakheten med algoritmene er at de ikke er bedre enn de data som de er opplært på. Derfor vil vi aldri være sikker på at en algoritme predikerer godt. Og selv om en vil hevde at algoritmen er objektiv, er den sjelden det. De data den bygger på kan være subjektive.

Dommerne som avgjorde lengden på fengselsstraffer tidligere kan for eksempel ha brukt rase som et kriterium, politiet kan ha gjort det samme når de anholdte mistenkte. Da vil algoritmen fort fange opp dette og fortsette tidligere praksis. Derfor blir det galt å bruke algoritmer til å sette lengden på en fengselsstraff.

Les også

Facebookdebatten: Å gjemme seg bak at «algoritmen sa det», er en uholdbar ansvarsfraskrivelse

I samfunnets interesse

Derimot kan algoritmene gjøre en god jobb i kontrollfunksjoner. Thon nevner Skatteetaten og Tollvesenet. Med gode data kan algoritmene plukke ut det suspekte, eller i hvert fall det som i utgangspunktet er suspekt for ekstra kontroll.

Dette er ikke nytt. Under en ekskursjon til den britiske tolletaten i 1973 ble vi vist inn i en hangar på Heathrow som var full av store datamaskiner. En øyeåpner for studenter som hittil kun hadde sett den ene store datamaskinen på NTH. Det maskinene på Heathrow gjorde var å plukke ut varer for tollkontroll. Kom de italienske eplene fra en ny leverandør, eller utenom den vanlige sesongen ble forsendelsen kontrollert.

Les også

Nå skal algoritmer og analyser av «big data» avgjøre hvem som blir sjekket ekstra nøye i tollen

I dag har vi mer data, raskere maskiner og kan gjøre jobben enda bedre.

Om Tollvesenet bare kan kontrollere én av mange biler vil det være viktig at de plukker ut de kjøretøyene der sannsynligheten for smugling er høyest. Det må være i samfunnets interesse. Dette får en til med automatisk avlesing av bilnummeret. Da kan algoritmene ta en avgjørelse basert på tidligere data.

Dersom kun de suspekte ble plukket ut for kontroll ville det åpenbart være et problem for personvernet. Løsningen er også å velge ut noen helt tilfeldig. Det kan også gjøres slik at kontrollørene heller ikke vil vite på hvilket grunnlag avgjørelsen er tatt.

Les også

Mennesker versus maskiner i helsetjenesten: Fastlegen så meg i øynene og sa at jeg hadde løyet. Hva skjedde?

Unngå å kaste bort ressurser

I utgangspunktet kan enhver kontroll, av skattemyndigheter, tolletat eller på flyplassen, sees på som en inngripen i personvernet. Men i et større perspektiv er de fleste av disse kontrollene der for å styrke vernet av samfunnet. Ja, selv skatteetaten er viktig her. De ekstra skattepengene en får inn på gode kontrollsystemer kan brukes til mange nyttige formål.

I globaliseringens tid, der vi tar ferien i Thailand, kjøper varer fra Kina og kan ha en konto i et annet land vil kontrollørene bare ha kapasitet til å se på en forsvinnende liten del av det hele. Da er det nødvendig å ta algoritmene i bruk. Når hensikten kun er å øke treffsikkerheten betyr det lite om algoritmene ikke er perfekte. I verste fall kaster en bort tid på en unødvendig kontroll.

  • Følg og delta i debattene hos Aftenposten meninger på Facebook og Twitter

Les mer om

  1. Personvern
  2. Tollvesenet
  3. Skatteetaten
  4. Globalisering

Flere artikler

  1. KRONIKK
    Publisert:

    Algoritmene må temmes

  2. DEBATT
    Publisert:

    Debatten om toll, kontroll og personvern fortjener flere nyanser

  3. KULTUR
    Publisert:

    Kunstig intelligens har store fallgruver. Nytt eksperiment skal hindre personvernbrudd og diskriminering.

  4. NORGE
    Publisert:

    «Storebror» ser deg i tollen. Skal ta syndere med algoritmer og analyser av «big data».

  5. NORGE
    Publisert:

    Politi, kemner og Nav gjorde Black Friday-kupp da de sjekket 220 varebiler

  6. DEBATT
    Publisert:

    Trenger vi leger, vi har jo datamaskiner?