Debatt

Microsofts algoritmer skal ha oss til å se seksualisert innhold

  • Petter Bae Brandtzæg
    Petter Bae Brandtzæg
    Professor og sjefforsker

Søkemotorer som Bing er ikke objektive og rettferdige tjenester, men tjenester som ønsker å skape engasjement, skriver Petter Bae Brandtzæg. Foto: Andy Wong / AP / NTB

Jeg søkte på «damer», «mann» og «gutter». Forslagene fra Bing var nedslående.

Debatt
Dette er et debattinnlegg. Meninger i teksten står for skribentens regning.

Bing er en søkemotor laget av Microsoft for å forbedre søkemulighetene på internett. Tirsdag kveld tipset en kollega meg om en artikkel i Tek.no, der det står: «Skriver du «Bilder» i søkefeltet i Windows 10 i dag, foreslår Microsofts søkefunksjon både bilder av det kvinnelige og mannlige kjønnsorgan og bilder av samleier.»

Dette trigget min nysgjerrighet. Jeg forsøkte flere søkeord i Bing, som «kvinner», «damer», «mann» og «gutter». Søkeforslagene fra Bing var nedslående. Jeg ble konsekvent oppfordret til å se seksualisert innhold av algoritmene til Bing (se skjermbilder av søk).

Søk gjort av innleggsforfatter på Bing tirsdag kveld, 16. februar. Foto: Petter Bae Brandtzæg

Søkeforslagene fra algoritmene til Bing var hverken barnevennlige eller kvinnevennlige. Forslagene fra Bing var tvert imot svært drøye. Hva skjer?

Ifølge Tek.no-artikkelen har Microsoft ved kommunikasjonsdirektør Karen Sylte Hammeren undersøkt saken, men de hadde tirsdag ikke kommet med noen forklaring på hvorfor det er slik.

Tar avgjørelser for deg

Forklaringen er såre enkel. Algoritmer har ikke sunn fornuft, heller ikke algoritmer laget av Microsoft. Algoritmer kan heller ikke språk, men statistikk om språk. Derfor skjer dette når du bruker Bing som søkemotor.

Algoritmene gir oss innhold basert på hva folk er interessert i, men den forsterker denne interessen gjennom å ta avgjørelser for deg og meg. Om Bings algoritmer observerer at mange kombinerer et søk på «damer» med sex, får neste bruker tips om at dette bør vi se på.

Petter Bae Brandtzæg er professor i medier og kommunikasjon ved Universitetet i Oslo og sjefforsker ved Sintef Digital. Foto: Privat

Googles søkemotor har slitt med lignende problemer. Søkte du i 2018 på «innvandrere er», fikk du i Google forslag om at «innvandrere er kriminelle». Søkte du «Jenter er», fikk du forslag om at «jenter er noe drit». Søkte du «tynne» fikk du forslag om «tynne jenter».

Dette har nå Google ryddet opp i. Microsoft har altså ikke gjort det. Onsdag morgen ser det hele noe bedre ut, men om du søker på «damer», er det fortsatt svært seksualisert.

Naive, dumme og farlige

Hva betyr dette? For bare få år siden var det få som snakket om algoritmer. Men i dag har algoritmene stor makt. Vi samhandler daglig med algoritmestyrte tjenester som tar valg og avgjørelser for oss.

Søkemotorer som Google og Bing, eller sosiale medier som Youtube, Instagram, Facebook og Twitter er ikke objektive og rettferdige tjenester, men tjenester som ønsker å skape engasjement. Gjennom stordataalgoritmer stimulerer de brukerengasjement, uavhengig av om engasjementet er godt eller dårlig, uavhengig om det handler om radikalisering eller fredsarbeid, porno eller feminisme.

Les også

Utstikkende ribbein. Matorgier. Barberblader. Så lenge folk sliter, vil det boble opp ubehagelige bilder i sosiale medier.

Algoritmer er naive, dumme og farlige. Maskinene og algoritmene blir stadig mer selvstendige og intelligente. Menneskene på sin side mister oversikt og kontroll. Vi må derfor stille større krav til de store teknologiaktørene.

Microsoft er et av verdens rikeste og mektigste selskaper. De er med på å designe og definere den nye, digitale offentligheten, også for oss i Norge. Kan vi overlate det ansvaret til dem?

  • Få med deg debattene hos Aftenposten meninger på Facebook og Twitter
  1. Les også

    Flere skoler har advart: Hva er greia med Omegle?

  2. Les også

    Mine brystvorter vekker større oppmerksomhet enn hat og vold

Les mer om

  1. Bing
  2. Søkemotorer
  3. Microsoft
  4. Porno
  5. Barn

Flere artikler

  1. KULTUR
    Publisert:

    Australias Facebook-kamp inspirerer norske politikere: – Ingen grunn til å vente på EU

  2. KULTUR
    Publisert:

    Her truer Google-sjefen med å forlate Australia. Den oppsiktsvekkende krangelen kan få ringvirkninger verden over.

  3. DEBATT
    Publisert:

    Hvordan hjelpe høybegavede barn som sliter?

  4. DEBATT
    Publisert:

    En idé blir til

  5. DEBATT
    Publisert:

    Folkehelseinstituttet svarer på kritikken: «Bommer» er kanskje å ta i?

  6. DEBATT
    Publisert:

    Mor til barn med anoreksi: Min datters redning kom fra uventet hold