Om ti år kan vi ha våpen som tenker selv

Våpen som selv velger ut og angriper mål er få år unna - om politikerne sier ja - sier norsk offiser. Vil de gi en mer human krigføring, eller mister mennesket kontrollen?

• Bør vi frykte våpen og våpensystemer som «tenker selv» – og som fyrer av uten at mennesket tar avgjørelsen?
• Eller er det bra for krigføring at menneskelige feil som panikk lukes ut – og at sjansen øker for at uskyldige liv blir spart?
• Onsdag lanseres «Når Dronene Våkner» (Cappelen Damm) – en bok skrevet av norske offiserer, andre militære eksperter og en feltprest.
• Aftenposten har plukket ut argumenter for og imot selvstyrte våpen – og ser hvor langt Norge er kommet.

Stephen Hawking og Elon Musk: Forby autonome våpen

I juli 2015 publiserte Institute of Future Studies en appell om å forby autonome våpen – våpen som «tenker» og handler selv. Appellen ble underskrevet av kjente forskere på kunstig intelligens.

Underskrev gjorde også Stephen Hawking (verdenskjent fysiker og matematiker), Elon Musk (Tesla-grunnlegger), Steve Wozniak (Apple-grunnlegger) og Noam Chomsky (verdenskjent forfatter og filosof).

Forklaringen er enkel.

Våpen som lever sitt eget liv gir ubehag. Tanken på maskiner som våpen, som bestemmer selv, og som «tenker» ufattelig mye raskere og mer presist enn mennesket, blir for alvor skremmende om de får evnen til å reprogrammere og forbedre seg selv.

Kan være i bruk om ca. 10 år

Fullt ut autonome våpen, som er i stand til å velge ut mål og angripe dem uten menneskelig inngripen eller oppsyn, eksisterer ikke i dag. Men militær teknologi preges i stadig økende grad av autonomisering, heter det i «Når Dronene Våkner».

Det anslås at slike våpen kan være i bruk kort tid etter 2030.

Men de kan også komme før, antyder oberst og medforfatter Gjert Lage Dyndal.

— Vi er midt i en teknologisk revolusjon, der vi har kommet langt på fullautomatiserte systemer. Om og når politikerne ser et prekært behov for å overføre teknologien til det militære, vil det gå raskt.

— Men robotisert krig kommer ikke før det er politisk ønsket, sier Dyndal.

• Les mer om hvor Norge står lenger ned i artikkelen.

Det begynte med avstandsvåpen – som forfatteren av Don Quijote fant umoralsk

Viljen til å lage langdistanse— og selvstyrte våpen handler om ønsket om å redusere risikoen for egne soldater. Spydet var et første skritt.

Bruk av buer og armbrøst var ifølge boken sett på som umoralsk og uridderlig. Miguel de Cervantes, som skrev Don Quijote, kalte artilleri for en djevelsk oppfinnelse, som tillot at en feiging kunne ta livet av de tapreste krigere.

Fra flyvende torpedoer til ubemannede motorbåter og V-1

• I 1917 utviklet den amerikanske marinen en såkalt «flyvende torpedo» for bruk mot landmål. Det var et fjernstyrt fly, lastet med eksplosiver, som detonerte ved treff. Men flyet ble aldri tatt i bruk.
• Under første verdenskrig bygget tyskerne store, bensindrevne motorbåter for bruk mot britiske landmål. De ble styrt av landbaserte kontrolltårn eller overflyende sjøfly. Men problemer med å koordinere dem gjorde at man i stedet satset på de mer utprøvde ubåtene.
• I 1943 kom V-1, et katapultutskutt fly som fungerte som et primitivt langdistansemissil. Da New York Times i juni 1944 rapporterte om angrepet, skrev de at England hadde blitt bombardert av roboter.
• Gjennombruddet kom på midten av 1990-tallet, med integrering av systemer for satellittnavigasjon— og kommunikasjon. Da kunne de fjernstyrte flyene gjennomføre rekognoseringsoppdrag med langt større rekkevidde, presisjon og nøyaktighet enn tidligere.
• I en forskningsrapport fra det amerikanske luftforsvaret hevdes det at maskinenes kapasitet innen 2030 vil ha nådd et nivå der mennesket vil være det svakeste leddet i systemet.

Det var første gang en drone tok liv

Den 3. november 2002 ble al-Harethi, en antatt al-Qaida leder som angivelig sto bak angrepet på krigsskipet USS «Cole» i 2000, drept i et amerikansk droneangrep i Jemen.

Hendelsen omtales ofte som første gang en fjernstyrt bevæpnet drone ble brukt til å drepe.

Angrepet i Jemen ble raskt vist til som begynnelsen på en ny ære av «krigføring med roboter», og ansett som en ren likvidasjon uten lov og dom. Det ble spurt er dette et udyr med egen vilje, skapt av mennesker?

I dag er de mest kjente dronene Predator og Reaper.

I mars skrev Aftenposten at norske fregatter har et automatisk selvforsvar. Med systemer som nettopp «tenker» raskere og beregnet raskere enn et menneske kan klare.

Hvor mange mennesker drepes av droner? Boken sammenligner med bruk av håndvåpen i tre land preget av krig og uroligheter:

Fordelene og farene ved selvstyrte våpensystemer

Fordelene:

• Autonome våpensystemer kan ifølge den nye boken redusere skader på sivile personer og eiendom som følge av menneskelige feil. De forventes å være langt mer presise enn mennesket.
• I motsetning til mennesker er ikke systemene drevet av panikk, hevn eller andre følelser når de fatter beslutninger. Dette regnes som en av de største årsakene til at det begås overgrep i krig.
• Enkelte hevder at disse våpensystemene vil bli bedre i stand til å håndheve krigens regler og krigens etikk enn det soldater er.
• I dag benyttes automatiserte landingssystemer i passasjerfly. Mange tenker ikke på at det er datamaskiner og ikke piloter som gjennomfører landingen.
• Ifølge boken er det grunn til å tro at mye av den moralske avsky som mange i dag føler overfor autonome våpensystemer vil endres etter hvert som samfunnet som helhet tar i bruk stadig mer autonome teknologiske systemer. Systemene blir mindre fremmed og skremmende.
• Et våpensystem kan designes for å identifisere og angripe mål autonomt, men holde igjen beslutningen om å benytte våpenmakt til det gis tillatelse fra høyere hold.

Farene:

• Flere påstår at om man slipper løs denne teknologien vil mennesket på ett eller annet tidspunkt miste kontrollen.
• At våpensystemet har evnen til å fatte beslutninger om å velge ut mål og skyte forutsetter en høy grad av kunstig intelligens. Det sies at man kan programmere inn hvem og hva som etisk og folkerettslig sett er å regne som legitime mål. Men hvem sitter med det rettslige ansvaret?
• Hvem skal holdes til ansvar når autonome våpen gjør feil? Er det politikere, produsenter eller offiserene som leder et angrep?
• Vil autonome våpen kunne skille mellom sivile og stridende, og gjøre riktige avveininger mellom militære og sivile tap?
• Spørsmålet er om dette er teknologisk gjennomførbart, og om slike systemer dermed noen gang vil bli moralsk akseptert.
• Når man ikke lenger opplever egne tap, og når egne soldater ikke lenger kommer hjem og forteller fra slagmarken, kan det bidra til en større avstand til krigens virkelighet. Den offentlige debatten svekkes.
• Det oppstår en fare for at krigføringen blir en teknologisk affære, løsrevet fra samfunnet som sender autonome våpen til krigssoner.
• Det finnes fortsatt ingen rettslig definisjon av autonome våpen. I boken beskrives atomvåpen som et våpen det ikke finnes enighet om at er i strid med generelle krigføringsregler. Selv om det er åpenbart at atomvåpen ikke kan etterleve forbudet mot vilkårlige angrep.
• Effekten av bruk av autonome våpen regnes som høyst usikker.

Derfor skremmer Stanley Kubricks film fra 1968

I Stanley Kubricks film «2001: En romodyssé har datamaskinen HAL 9000 blitt programmert til å styre romskipet Discovery på et oppdrag til Jupiter. Når datamaskinen oppfatter at mannskapet om bord er i ferd med å true oppdraget, beslutter den å ta livet av alle om bord.

Det er et slikt «i ytterste konsekvens»-perspektiv som skremmer.

• På område etter område kan roboter nå overta oppgaver som mennesket utfører i dag, skrev Aftenpostens teknologi-journalist Per Kristian Bjørkeng i januar i år:

Les også

Robotfremtiden er her – neste jul kjøper den julegavene dine!

Norge har kunnskapen – men har lagt militære ambisjoner på is

Hvordan ligger så Norge an med sitt droneprogram?

I rundt 15 år har Norge brukt den lille overvåkingsdronen Raven – blant annet i Afghanistan. Også i forsvarssjef Haakon Bruun-Hanssens anbefaling til fremtidens forsvar fra oktober i fjor er ambisjonene klare.

Norge bør melde seg på, var beskjeden fra Bruun-Hanssen.

Men siden har de som driver med droneprosjekter følt at ambisjonene er lagt på is – ikke minst som følge av at det meste av pengene i Luftforsvaret styres mot kjøpet av kampflyet F-35.

— Det er litt paradoksalt, men på teknologiutvikling er Norge langt fremme. Både for autonome systemer og teknologi som droner og ubemannede undervannsfartøyer, sier oberst og bokforfatter Gjert Lage Dyndal.

— Dette brukes mye i industri og havovervåking, over og under overflaten, sier han.

Norge likevel med i stort NATO-droneprosjekt på Sicilia

— Norge, blant annet Forsvarets forskningsinstitutt (FFI), har også bidratt kraftig i utviklingen av den militære dronen Hornet. Som har solgt stort i Storbritannia, sier Dyndal.

— Norge er også en viktig deltager når NATO anskaffer Global Hawk, som skal være operativ fra 2018, på Sicilia, sier han.

- Kan denne dronen utstyres med våpen?

— Det er begrenset, fordi prosjektet skal være akseptert av alle 28 NATO-land. Dette handler om overvåking innen det vi kaller radarteknologi, altså radar og bilder, ikke signaletterretning, som kan drive overvåking av kommunikasjon, internett og radio, sier Dyndal.

- Men i Forsvaret skjer det likevel lite, sier obersten.

— Her er det mye fokus på å gjenanskaffe våpensystemer som vi har hatt før. FFI har vært frustrert over at ikke Luftforsvaret har vært mer interessert. Vi blir neppe noen storforbruker av droner, men bør være med, som en del av NATO, sier han.

• En drone drepte nylig en IS-lederfigur:

Les også

USA bekrefter at Omar al-Shishani er død

• Droner brukes på en rekke fredelige områder – og hva er vel fredeligere enn et bibliotek?