«Gudfaren av kunstig intelligens» advarer: – Få trodde dette var noe som kunne bli smartere enn mennesker
Han la grunnlaget for kunstig intelligens (KI) og ChatGPT. Denne uken sluttet pionérforskeren Geoffrey Hinton i Google og advarer verden mot sin egen oppfinnelse.
En av verdens ledende teknologiforskere advarer nå mot det han har brukt over 40 år på å utvikle.
Geoffrey Hinton (75) og hans studenter revolusjonerte datateknologien gjennom dyp maskinlæring og kunstig intelligens.
Teknologien gjorde maskiner i stand til å gå igjennom enorme datamengder, bilder og lyd for selv å finne mønstre og løsninger.
For over 10 år siden ble Hintons prosjekt kjøpt av Google. Da startet et kappløp som det siste året har gitt verden teknologiske vidundere som ChatGPT, Bing og Google Bard – avanserte samtaleroboter som forbløffer og fascinerer. Men skaperne bak de kraftfulle robotene har selv blitt skremt – én etter én.
– Slutter i Google for å snakke fritt
Denne uken brøt Hinton med Google. Og den britisk-canadiske professoren angrer på forskningen han gjorde for teknologigiganten.
– Jeg slutter i Google, slik at jeg kan snakke fritt om hvilken fare kunstig intelligens utgjør, sier han til The New York Times og BBC.
Begge mediene omtaler ham som «gudfaren av kunstig intelligens».
Går raskere enn han trodde
Han mener teknologien kan bli utnyttet til onde hensikter og bli en trussel mot hele menneskeheten. Han mener Google i konkurransen med Microsoft og andre aktører har sluppet løs en akselererende monsterteknologi. Nå utvikler maskinene seg skremmende raskt og ukontrollert, advarer Hinton.
– Få trodde dette var noe som kunne bli smartere enn mennesker. Jeg trodde det lå 30, 50 år eller lenger frem i tid. Det gjør jeg ikke lenger, sier han til The New York Times.
Han viser til at chatbotene har klart å utvikle og endre sin egen programkode, opptre utspekulert og lure mennesker trill rundt for å nå sine mål.
Derfor har Hinton skiftet mening om KI:
- Hinton erkjenner at det man trodde ville ta årtier å få til, har kommet i løpet kun et par år. Konkurransen og frykt for å bli akterutseilt vil gjøre at teknologigigantene ikke tør å bremse. Utviklingen vil akselerere.
- Generativ KI og kunstige bilder har allerede skapt utfordringer. Hinton frykter internett snart oversvømmes av falske bilder, videoer og nyheter. Det vil bli vanskeligere for vanlige folk å skille hva som er ekte og hva som er KI-fake.
- KI vil på sikt stjele hundretusenvis av arbeidsplasser- vil overta ufaglærte jobber – svartjenester og kundebehandling. Men Hinton ser utfordringer når maskiner erstatter mennesker i helsevesenet, blir oversettere og juridiske rådgivere.
- I fremtiden vil KI kunne true menneskeheten. Personer med onde hensikter kan i verste fall kunne skape selvdrevne og selvutviklende ødeleggelsesroboter, mener Hinton.
Eksperter ber om tiltak
Hinton føyer seg til listen over forskere og dataeksperter som vil bremse utviklingen av KI.
I slutten av mars ble det offentliggjort et opprop som over 1000 eksperter, akademikere og næringslivsledere har undertegnet. De ber i et åpent brev om at man stanser utviklingen av nye og enda kraftigere samtaleroboter i minst seks måneder.
Pausen trengs for å utvikle retningslinjer som kan sikre at KI-systemene ikke utgjør en fare, mener ekspertene. Hvis ikke KI-selskapene selv setter utviklingen på vent, ber de myndighetene i verdens land om å gripe inn.
– Vi kan trykke på «pause»
Bak oppropet står The Future of Life Institute, en amerikansk tenketank som arbeider for at omveltende teknologier skal styres bort fra ekstrem risiko i stor skala.
På en måned har oppropet fått over 27.000 underskrifter. På lisen er flere av de mest innflytelsesrike KI-forskerne og teknologiledere, som Yoshua Bengio, Steve Wozniak (medgrunnlegger av Apple) og Elon Musk (Tesla-grunnlegger). Sistnevnte var med opprette OpenAI, selskapet bak ChatGPT, men brøt senere med prosjektet.
– Samfunnet har trykket på «pause» for andre teknologier med potensielt katastrofale effekter på samfunnet. Vi kan gjøre det samme her, står det i brevet.
Denne tegningen er laget av kunstig intelligens. Nå sprengjobber politikerne for å lage et rammeverk for den nye teknologien.
Kan bli vanskeligere å tøyle enn atomvåpen
Hinton og andre teknologipionérers anger sammenlignes med de etiske kvalene som innhentet Robert Oppenheimer – «Atombombens far» – da han forsto følgene av den kjernefysiske forskningen han ledet under andre verdenskrig.
Hinton mener det kan bli vanskeligere å få til en global kontroll og regulering av KI enn av atomvåpen.
Det kan vise seg å være umulig. For i motsetning til atomvåpen, vil det være vanskelig å overvåke og kontrollere om selskaper eller stater utvikler teknologi i skjul.
Hans største håp er at verdens ledende forskere samarbeider for å ta styring på teknologien.
– De bør ikke utvikle dette videre før de har funnet ut om det er mulig å kontrollere den, sier Hinton.
Google: – Vi jobber for å fange opp farer
Google har gått ut med en pressemelding etter intervjuet. Forskningssjef Jeff Dean takker Geoffrey Hinton for ti års innsats og store gjennombrudd med KI. Han tilbakeviser kritikken.
– Vi var et av de første selskapene som vedtok egne KI-prinsipper der vi forplikter oss til ansvarlig bruk av KI. Vi jobber kontinuerlig for å fange opp potensielle farer når vi driver dristig innovasjonsarbeid, skriver Dean i en e-post til Cnet.com
Rettelse 2/5 21:04: I en tidligere utgave av saken fremgikk det at OpenAI-sjef Sam Altman hadde underskrevet oppropet om midlertidig stans av utvikling. Dette er ikke riktig, og navnet hans er strøket.
