Debatt

Kunstig intelligens vil ikke redde verden | Lene Pettersen

  • Lene Pettersen, forsker, Høgskolen i Oslo og Akershus, styreleder Senter for tverrfaglig medieforskning

På under 24 timer gikk Microsofts kunstige intelligens fra superkul til superrasist.

Debatt
Dette er et debattinnlegg. Meninger i teksten står for skribentens regning.

Antropologer har studert fenomenet kunstig intelligens i tiår, og til tross for stadig mer avansert teknologi er tidligere forskning fremdeles høyst gyldig.

Dystopiske fremtidsspekulasjoner om smarte maskiner som overtar jobbene våre, eller deres evne til å foreta strategiske beslutninger, har preget mangt et medieoppslag den siste tiden. Vi ser for oss et science fiction-scenario der skillet mellom menneske og maskin viskes ut, hvor mennesket står igjen som den tapende part.

Rasjonell - ikke smart

Kunstig intelligens er egentlig bare et annet ord for et svært stort arbeidsminne og regneferdigheter hverken du eller jeg kan måle oss mot.

Å ha en gedigen hukommelse, all verdens fakta og en enorm kalkulator for hånden er ikke ensbetydende med å være smart, men man kan være rasjonell. Og maskinene og datasystemene er nettopp rasjonelle, ikke analytiske, kloke, reflekterte, sosiale eller kreative.

Kreativ?

De lærde strides når de skal definere intelligens. IQ forbindes gjerne med menneskets oppfattelse og tenkning, evne til problemløsning og å tenke abstrakt eller til å utnytte tidligere erfaringer i nye situasjoner.

Kreativitet har inntil nylig vært fraværende i diskusjoner om intelligens. Den måles nesten alltid gjennom naturvitenskapelige tester. De med god hukommelse og logisk sans er vinnerne i tradisjonelle IQ-tester.

Arbeidsminnet er nærmest synonymt med konsentrasjon, fordi konsentrasjonen styrer vår oppmerksomhet ved problemløsning – den sorterer ut informasjon som er relevant for å løse oppgaven.

Uslåelige på logiske oppgaver

Senest på Dagsrevyen lørdag 7. januar fikk vi se hvordan det norske helsevesenet investerer tungt i intelligent teknologi. Dette er utvilsomt bra, men ingen maskiner har så langt funnet ut hvordan kreft kureres eller om Gud finnes.

Maskinene er derimot uslåelige på sannsynlighetsberegninger og til å løse svært kompliserte, logiske oppgaver. Hvis A så B. Hvis Yr melder ‘regn’ så ‘paraply’ og ‘slagstøvler’. Dersom ‘disse parameterne’, så invester i ‘disse aksjene’. Dersom ‘disse problemene’, så ta ‘disse beslutningene’.

Skiller ikke mellom kunnskap og fakta

I diskusjonen om kunstig intelligens overses et viktig skille mellom kunnskap og fakta. Kunnskap er tett sammenvevet med det enkelte menneskets tolkninger og verdier. Grammatikk, matematikk og logikk er kun normsystemer der vi alle er blitt enige om reglene. Forståelse, derimot, er uløselig knyttet til kontekst.

Med språkfilosofen Wittgenstein kan vi ta et barn og et eple for å illustrere poenget; Når moren peker på et eple og sier ‘grønn’ til barnet, hvordan kan barnet vite at det er fargen moren refererer til og ikke et annet ord for ‘eple’?

Barnet vet forskjellen, fordi det å snakke et språk handler om langt mer enn å forstå grammatiske regler. Når barnet lærer språket, læres også alt det som aldri blir sagt. Språket binder derfor praksiser og uuttalte regler sammen og slik forstår barnet hva som skal sorteres, tolkes og tillegges mening i den enkelte konteksten.

Teknikk vs. mennesker

I min egen forskning finner jeg to ytterpunkter for kunnskapsarbeid: De som jobber med å løse tekniske problemer og de som løser problemer knyttet til organisasjoner og mennesker.

Mens løsninger på førstnevnte gjerne finnes tilbake i tid (problemet er blitt løst tidligere, for eksempel rette en systemfeil), finnes det ikke én bestemt løsning på sistnevnte problem.

Sammensetningen av problemet har muligens aldri eksistert tidligere, det finnes ikke en gitt løsning, eller kanskje er problemet så abstrakt og komplekst at det er vanskelig å vite hva problemet som skal løses faktisk er. Løsningen ligger med andre ord frem i tid.

Mens førstnevnte kategori passer godt for IBMs supermaskin Watson som vant Jeopardy! I 2011, manuell oppgaveløsning på et samlebånd eller identifisering av en kreftsvulst, passer sistnevnte på dynamiske problemområder hvor mennesker og prosesser inngår, hvor det ikke er mulig å oppnå samme resultat med samme input. For eksempel vil en strategi for organisasjonsendring som fungerte i en fabrikk i Kina neppe gi samme resultater for NAV i Norge fordi konteksten, utgangspunktet, menneskene og organisasjonene er forskjellige.

  • Les om IBMs supermaskin her: Legene brukte flere måneder på kreftdiagnosen. Watson brukte ti minutter.

Rasist på rekordtid

I mars 2016 lanserte Microsoft et eksperiment i det de kalte «konvensjonell forståelse». Twitterkontoen Tay var et kunstig intelligent system. På under 24 timer gikk «hun» fra å være superkul til å bli en reinspikka rasist.

Ifølge nett-teknologimagasinet The Verge, som publiserte disse twittermeldingene fra «Tay», rant det inn rasistiske og kvinnefiendtlige kommentarer kort tid etter at Microsoft lanserte sin kunstig intelligente «chatbot» på Twitter i mars i fjor. Som en robot-papegøye gjentok Tay formuleringene i nye meldinger – og ble raskt fjernet fra nettet.

Tay plukket opp det andre sa i sin læringsprosess, men visste ikke hva en ‘Hitler’ eller ‘feminist’ var. Tay så kun grammatiske regler om substantiv, verb, adverb og adjektiv. Microsoft stengte twitterkontoen etter kort tid.

Kan gjøre læring morsommere

Det hjelper lite å kunne Wikipedia utenat eller klare å utføre svært kompliserte utregninger dersom du skal få fred i Syria. Og derfor vil digitale læringssystemer som den spillbasert læringsplattformen Kahoot! og såkalte massive åpne nettkurs (MOOC) aldri utstyre studentene med kritisk sans, forståelse og tolkningsmangfold, men de vil kunne gjøre læring av fakta morsommere og lettere å huske.

Overføring av verdier

En annen viktig dimensjon som i langt større grad må inn i diskusjoner om kunstig intelligens, er at hverken fakta, teknologier eller mennesker er uten verdier. Kunstig intelligens er, i likhet med alle datasystemer, modellert av dem som utvikler systemene – dataingeniørene. Dette var noe av hovedbudskapet til sosialantropologen Diana E. Forsythe som studerte nettopp kunstig intelligens på nittitallet.

Kunstig intelligens vil hverken redde verden eller gjøre deg og meg overflødige. Men den kan gjøre kjedelig rutinearbeid for oss.

Lene Pettersen er sosialantropolog med doktorgrad i strategi. Hun arbeider som forsker ved forskergruppen Teknologi og bærekraft, Forbruksforskningsinstituttet SIFO, Høgskolen i Oslo og Akershus (HiOA).

På Twitter: @LeneJPB

Les mer om

  1. Kunstig intelligens
  2. Teknologi
  3. Microsoft