Hva må gjøres for å styre teknologiutviklingen?

Vi trenger samfunnsinstitusjoner som utvikler teknologi med demokratisk mandat.

Som omtalt i Aftenposten skrev jeg under oppropet om en pause i treningen av kunstig intelligens (KI) til samfunnet bedre forstår hva som er i ferd med å skje.

Jeg mener det haster veldig med å få den forståelsen, og jeg har et forslag til hva vi bør gjøre. Vi må opprette nye tverrfaglige samfunnsinstitusjoner som med et demokratisk mandat, utvikler teknologi. La meg utdype hva jeg mener med det.

Kunnskapsskjevhet er problemet

Jeg skrev under brevet som ph.d. i informatikk, men jeg har alltid vært tverrfaglig orientert. Jeg har arbeidet i norsk og internasjonal programvareindustri. Inntil nylig arbeidet jeg med å skrive åpne standarder på Solid-prosjektet som ble startet av webens oppfinner Tim Berners-Lee. Erfaringer jeg har opparbeidet meg gjennom slikt arbeid, har gjort at jeg nå tenker mye mer på samfunn enn på kode.

Som nevnt i Aftenpostens artikkel, er jeg noe frustrert over at samfunnsdebatten er for fragmentert og sektoriell. Noen vil ha tiltak mot kunstig intelligens, noen vil sette aldersgrenser for sosiale medier, noen vil ha mer oppmerksomhet rundt personvernet, noen vil ha algoritmetilsyn, og så videre.

Jeg bekymrer meg også over alle disse tingene, men mener at det grunnleggende problemet er kunnskapsskjevhet mellom teknologiselskapene og samfunnet for øvrig. Vi klarer ikke regulere hverken KI eller sosiale medier så lenge den skjevheten er der.

Den digitale allmenningen

Selv om jeg mener vi må trekke i bremsen nå, vil jeg takke OpenAI for å ha publisert ChatGPT. Det var publisert nok rundt denne teknologien til at vi kunne startet denne debatten for lenge siden, men først da de bygget en god chatteløsning, ble samfunnet i stand til å ta debatten.

Dersom OpenAI hadde holdt seg til sin opprinnelige visjon om åpen teknologi, kunne ChatGPT blitt et godt tilskudd til kunnskapen samfunnet mangler. Infrastrukturen under ChatGPT er i stor grad åpen, for eksempel maskinlæringsrammeverket PyTorch, som styres av en uavhengig stiftelse. PyTorch brukes også av Facebook til alle deres prosjekter innenfor maskinlæring.

I internasjonal sammenheng snakkes det om digital commons, eller digitale allmenninger. PyTorch er et eksempel på en digital allmenning. Totalt er de digitale allmenningene meget store og spenner utover omtrent hele teknologilandskapet.

FNs generalsekretær António Guterres har utgitt «Our Common Agenda» der viktigheten av å styre allmenningene poengteres godt. Jeg vil gå et steg lenger: Jeg mener at samfunnet skal insistere på at der programvareteknologi setter normer i samfunnet, så må denne teknologien være i den digitale allmenningen.

Det vil gjelde en del teknologi, men ikke mesteparten.

Hvordan få styring?

ChatGPT havnet nesten i den digitale allmenningen, men det burde ikke vært opp til OpenAI å avgjøre dette. Det vil heller ikke være tilstrekkelig for samfunnet å oppnå styring over teknologien ved bare å ha den i allmenningen, ofte undergraver teknologiselskaper den på forskjellige måter. Ei heller bør denne styringen være opp til en enkelt regjering eller et sentralisert styringsorgan.

Nobelprisen i økonomi ble tildelt Elinor Ostrom i 2009 for studiet av allmenninger generelt. Norske bygdeallmenninger og samiske siidaer er eksempler på typer allmenninger Ostrom studerte, og hun forklarte hvordan de fungerer, når de fungerer godt. Alle allmenninger har til felles en tydelig styringsmodell.

Hun beskrev også kunnskapsallmenninger. De skiller seg ut ved at de er ikke-eksklusive og ikke-subtraktive. Det betyr at alle kan få tilgang til ressursene fra dem, og at det at jeg bruker en ressurs, ikke gjør dem noe dårligere for deg.

Dette peker på hovedpoenget mitt: Vi vil få styring ved at vi har personer som bidrar til utviklingen med et mandat fra sitt demokrati. Jeg vet av erfaring at i tillegg til kunnskapsmonopol, så henter industrien makt fra implementasjonskapasitet, altså at den som skriver koden, ender opp med mest makt.

Sammen med andre aktører kan demokratiet være med å utvikle og dermed få makt. Ved å gjøre dette kan demokratiet påvirke normene teknologien setter, langt mer direkte og mye raskere enn lov kan gjøre.

Makt og motmakt

Langt ifra alle digitale allmenninger styres godt, men mange gjør det fordi vi har mange tiår med erfaringer.

Likevel, de som styres godt, styres bare godt innenfor et snevert perspektiv. Perspektivet er gjerne bare å fremskaffe god innovativ programvare, mest for andre utviklere som dem selv. Derfor ser ikke folk flest noe særlig til digitale allmenninger, selv om vi alle bruker dem hver dag. Ved å bidra med tverrfaglige og demokratiske institusjoner kan dette rettes opp.

Det er også en rekke initiativer i verden. Norge har gitt et bidrag ved å starte Digital Public Goods Alliance sammen med FN. Alliansen søker å bruke konkrete digitale allmenninger i arbeidet med å nå bærekraftsmålene. Nikolai Astrup (H) var en av initiativtagerne.

Vi kan søke samarbeid, men vi må ikke. Det er her vi kan sette inn motmakt der teknologiselskapene er mektigst, men også svært sårbare, fordi vi får kunnskapen ut fra de lukkede rom.