– Vi kan komme dit at menneskene ikke lenger er gåtefulle sjeler, men dyr som kan hackes. Maskinene kan komme til å kjenne oss bedre enn vi kjenner oss selv.

Professor Yuval Noah Harari snakker i den store kongresshallen på World Economic Forum i Davos om hvordan menneskeheten skal overleve det 21. århundret.

Algoritmene er rundt oss, og de blir flere. Harari mener slike automatiske beslutningsregler innebygd i datamaskiner allerede har overtatt mye for milliarder av mennesker.

– Facebook forteller oss hva vi skal mene, Google hva som er sant, Netflix hva vi skal se og Amazon og Alibaba hva vi skal kjøpe, sier han.

Farlig intelligens

Men det kan bli mye, mye verre.

Harari har et beksvart budskap om teknologisk sammenbrudd, land som blir utnyttede datakolonier, kunstig intelligens som kommer helt ut av kontroll og digitale diktaturer som får alle historiens tidligere diktaturer til å blekne.

– Dette er ingen profeti. Men det er en mulighet, sier han.

Utgangspunktet er blant annet 5G-teknologien med innebygde sensorer i ting, slik at det genererer enorme datamengder om oss brukere. Dette kan kombineres med kunstig intelligens. Da kan maskinene bli selvstendige.

Harari er en global kjendis blant lesende folk. Han har solgt over 20 millioner bøker om de store spørsmålene i våre liv.

Den nye klassen: De unyttige

Harari starter sitt foredrag forsiktig og gjenkjennelig om alle jobbene om blir borte.

– Tenk på en 50 år gammel lastebilsjåfør som mister jobben på grunn av selvkjørende biler. Det vil være nye jobber som dataingeniør og som yogainstruktør for ingeniørene. Men hvordan skal 50-åringen kunne omskolere seg til disse? spør han retorisk.

Kunstig intelligens er bare i startgropen. Harari frykter «en klasse av unyttige» som taper når økonomi og politikk ruller av gårde i stor fart.

– Opp gjennom historien har menneskene kjempet mot å bli utnyttet av de mektige. Men å være unyttig er verre enn å være utnyttet, sier han.

Han frykter et stort gap mellom en mektig, rik elite og den nye klassen av unyttige, med alle konsekvensene det kan få.

Biologi møter kunstig intelligens

Så forlater Harari det noenlunde lett gjenkjennelige og drar forsamlingen inn helsvart, mulig fremtid.

Han oppsummerer med en formel på den enorme skjermen bak seg. Formelen kombinerer biologisk informasjon, datamaskiner og store datamengder. Hva gir det?

Svar: Muligheten til å hacke mennesker. Hararis største frykt er innsamling av biologiske data for den enkelte. Da kan data for den menneske biologien kobles med andre stor datamengder og bruk av kunstig intelligens.

Dette kan brukes til gode ting, ja, som for eksempel bedre helse. Men det kan også gå veldig galt.

Kunstig intelligens brukt av Stalin

Koblingen mellom menneskelig biologi og kunstig intelligens kan også komme ut av kontroll. Det hele kan falle i hendene på det Harari kaller det 21. århundrets Stalin.

– Og vi har allerede en rekke søkere til denne jobben, sier han med styrke.

Noen med onde hensikter kan manipulere oss, påvirke oss og styre oss. Det digitale diktaturet er her. Mennesket slik vi kjenner det kan forsvinne.

Harari ber forsamlingen tenke på Nord-Korea om 20 år.

– Alle må gå med armbånd som identifisere dem. Sensorene i armbåndet sender data om hjertet, hjernen og blodet. Du klapper og smiler etter diktatorens tale, mens sensorene avslører at du er sint. Da er det rett i fangeleir neste dag, sier han.

Data bedre enn soldater

Dette kan også skje over landegrensene. Noen land blir det han kaller datakolonier. De produserer data, men behersker ikke kunstig intelligens.

Intelligensen er i Beijing eller San Francisco. Der vet noen alt om helsetilstanden, den mentale tilstanden, seksuallivet og korrupte handlinger hos menneskene i datakolonien.

– De vet dette om politikere, dommere og journalister. Den som har nok data, trenger ikke sende soldater for å invadere et land, sier han.

Invasjonen kan heller skje ved at noen utenfra manipulerer følelser og avgjørelser.

«Maskinen har sagt det»

Så tar Harari noen steg tilbake mot vår egen tid. Han advarer mot maskinenes innebygde regler.

– Vi kan risikere at algoritmene bestemmer om vi får jobben vi søker på, om vi får lån eller om sentralbanken skal øke renten. Hvis vi spør om avgjørelsen, så vil svaret være «at datamaskinen sa det», sier han.

Den menneskilge hjernen klarer ikke hamle opp med datakraften og datamengden som lå til grunn for avgjørelsen. Vi mister kontrollen over livet.

Harari går helt tilbake til samtiden.

– Hvor mange forstår det finansielle systemet? Jeg skal være raus og si 1 prosent. Hvor mange vil forstå det om et par tiår? Nøyaktig null prosent!

Mennesket ut av jungelen

Til slutt minner han om hva som står på spill.

– I tusenvis av år levde vi etter jungelens lov. Fred var midlertidig fravær av krig, sier han.

Nå er vi omsider ute av jungelen.

– Vi lever vi i den mest fredelige og fremgangsrike tiden i menneskehetens historie. Selvmord tar flere liv enn krig. Sukker tar flere liv enn krutt.

Harari vil ha regler for kunstig intelligens gjennom internasjonalt samarbeid. Han vil ikke ha et kappløp med kunstig intelligens og biologisk ingeniørvirksomhet.

Han holder det opp mot nasjonalismen som vokser frem.

– Den som er nasjonalist elsker sine medborgere. Den som gjør det, samarbeider med andre land. En god nasjonalist må også være en god globalist, sier han.

Hararis ideal er VM i fotball. Omrisset av en fotballbane kommer opp på den store skjermen bak ham.

– Fotball kombinerer innbitt nasjonalisme med felles regler. Dersom du liker fotball-VM, er du allerede en globalist.

Han lukker PC-en som står foran ham på talerstolen.

Her kan du lese Aftenpostens saker fra Davos-møtet 2020: