Microsofts algoritmer skal ha oss til å se seksualisert innhold
Jeg søkte på «damer», «mann» og «gutter». Forslagene fra Bing var nedslående.
Bing er en søkemotor laget av Microsoft for å forbedre søkemulighetene på internett. Tirsdag kveld tipset en kollega meg om en artikkel i Tek.no, der det står: «Skriver du «Bilder» i søkefeltet i Windows 10 i dag, foreslår Microsofts søkefunksjon både bilder av det kvinnelige og mannlige kjønnsorgan og bilder av samleier.»
Dette trigget min nysgjerrighet. Jeg forsøkte flere søkeord i Bing, som «kvinner», «damer», «mann» og «gutter». Søkeforslagene fra Bing var nedslående. Jeg ble konsekvent oppfordret til å se seksualisert innhold av algoritmene til Bing (se skjermbilder av søk).
Søkeforslagene fra algoritmene til Bing var hverken barnevennlige eller kvinnevennlige. Forslagene fra Bing var tvert imot svært drøye. Hva skjer?
Ifølge Tek.no-artikkelen har Microsoft ved kommunikasjonsdirektør Karen Sylte Hammeren undersøkt saken, men de hadde tirsdag ikke kommet med noen forklaring på hvorfor det er slik.
Tar avgjørelser for deg
Forklaringen er såre enkel. Algoritmer har ikke sunn fornuft, heller ikke algoritmer laget av Microsoft. Algoritmer kan heller ikke språk, men statistikk om språk. Derfor skjer dette når du bruker Bing som søkemotor.
Algoritmene gir oss innhold basert på hva folk er interessert i, men den forsterker denne interessen gjennom å ta avgjørelser for deg og meg. Om Bings algoritmer observerer at mange kombinerer et søk på «damer» med sex, får neste bruker tips om at dette bør vi se på.
Googles søkemotor har slitt med lignende problemer. Søkte du i 2018 på «innvandrere er», fikk du i Google forslag om at «innvandrere er kriminelle». Søkte du «Jenter er», fikk du forslag om at «jenter er noe drit». Søkte du «tynne» fikk du forslag om «tynne jenter».
Dette har nå Google ryddet opp i. Microsoft har altså ikke gjort det. Onsdag morgen ser det hele noe bedre ut, men om du søker på «damer», er det fortsatt svært seksualisert.
Naive, dumme og farlige
Hva betyr dette? For bare få år siden var det få som snakket om algoritmer. Men i dag har algoritmene stor makt. Vi samhandler daglig med algoritmestyrte tjenester som tar valg og avgjørelser for oss.
Søkemotorer som Google og Bing, eller sosiale medier som Youtube, Instagram, Facebook og Twitter er ikke objektive og rettferdige tjenester, men tjenester som ønsker å skape engasjement. Gjennom stordataalgoritmer stimulerer de brukerengasjement, uavhengig av om engasjementet er godt eller dårlig, uavhengig om det handler om radikalisering eller fredsarbeid, porno eller feminisme.
Utstikkende ribbein. Matorgier. Barberblader. Så lenge folk sliter, vil det boble opp ubehagelige bilder i sosiale medier.
Algoritmer er naive, dumme og farlige. Maskinene og algoritmene blir stadig mer selvstendige og intelligente. Menneskene på sin side mister oversikt og kontroll. Vi må derfor stille større krav til de store teknologiaktørene.
Microsoft er et av verdens rikeste og mektigste selskaper. De er med på å designe og definere den nye, digitale offentligheten, også for oss i Norge. Kan vi overlate det ansvaret til dem?
