Øyvind Østerud: Selvkjørende biler – hodeløs teknologi
Når de politiske bremsene svikter.
I Uviten skriver Nina Kristiansen, Kristian Gundersen, Øyvind Østerud og Simen Gaure hver uke om det de mener er dårlig forskning, flau formidling, kunnskapsløse politiske forslag og ren fusk.
Selvkjørende biler er snart over oss. Googles testbiler er alt på veiene. Volvo og mange andre er på vei. Et EU-direktiv er like om hjørnet. Regjeringen arbeider med å tilpasse lovverket. SAE International, som utvikler kjøretøystandarder, anslår at full automatisering, uten mulighet for overstyring av sjåfør, kommer om 10 år.
Under forutsetning av dagens trafikksystem, med et nært uendelig antall komplekse situasjoner, gjenstår en rekke utfordringer knyttet til sensorer og automatisert kjøring.
Produsentene lover at problemene blir løst, med bedre trafikkavvikling og færre ulykker som gevinst. Barn, blinde og alle andre kan kjøre bil alene.
Villig til å ofre deg?
I iveren er det en mer bortgjemt utfordring som har vært overlatt til de spesielt interesserte. Hva gjør en førerløs bil med de mange dilemmaene som uvegerlig oppstår i trafikken?
Hva gjør den når kollisjon er uunngåelig? Forskere ved MIT har laget en «moralmaskin» som ligger på nett. Der kan enhver teste sine valg i tenkte situasjoner og sammenligne seg med andre.
Hva gjør du om du må ofre deg selv og enda en passasjer for å unngå å drepe fem fotgjengere?
Er du mer villig til selvmord for å redde ti? Også om du har et barn i bilen? Hva om du må velge mellom ett barn på fortauet eller to gamle i veibanen? Hva om valgene gir ulik risiko for dødelig utfall?
Velger minst skade
Bilprodusenter og planleggere har et kjekt svar på alt dette. En førerløs bil blir programmert ut fra en såkalt nytteetisk algoritme – den velger det alternativet som alt i alt gir minst skade. Dette må standardiseres, selv om viktige nyanser kan gå tapt og noen valg kan bli urimelige. Slik er prisen for effektiv trafikk og færre ulykker.
En franskamerikansk forskergruppe har gjennomgått tre spørreundersøkelser. Et betydelig flertall aksepterer nytteetisk programmering av førerløse biler selv om passasjerene mister livet.
Nytteetisk ofring
Oppslutningen er langt mindre om en selv skal sitte i bilen. Mange ser gjerne at andre kjøper biler med nytteetisk ofring av passasjerene, men er adskillig mindre lystne på å kjøpe en slik bil selv. Dette er et vanlig funn. Det er flott om andre ofrer mye for det felles beste, men langt mindre fristende å være den som ofrer. Miljøproblemene har samme form.
Hva er så forskergruppens oppmuntring til produsentene? De gjør saken til et psykologisk spørsmål. «Selv om egeninteresse i utgangspunktet taler imot førerløse biler som er nytteetisk programmert, kan sosiale normer snart endre seg sterkt til fordel for dem».
Kanskje det. Her vil uansett djevelen sitte i detaljene – de konkrete standardene for valg når dilemmaene oppstår. Skal bilprodusentene avgjøre hvem som må dø? Nasjonal eller internasjonal lovgivning? Vi som kunder? Moralfilosofene? Flertallet, med varierende fantasi og sosiale normer i glideflukt?
Ansvaret forsvinner
Enkelte produsenter er beundringsverdig klare når det vanskelige spørsmålet om ansvaret for umulige valg, programmert inn i millioner av kjøretøyer, kommer opp. Bilfabrikken har selvsagt ansvaret!
Problemet er at føreransvaret forsvinner.
Når kjøretøyet er godkjent og fabrikken har ansvaret, er det i praksis ingen som har ansvaret. I tillegg kommer risikoen for teknisk svikt og de økte farene for sabotasje og hacking.
Dette vil bli livlig.
Les flere av våre Uviten-saker:
Nina Kristiansen: Vis frem jukserne!
Simen Gaure: Vi får aksept for faglig fusk fordi forskerne blir redde
Øyvind Østerud: Å tro at jo mer vi gir i bistand, jo mer reduserer vi verdens fattigdom, er rett og slett feil
Nina Kristiansen: Den vanskelige brystvorten
Kristian Gundersen: Den siste akupunkturnålen?
