Tror de kan redde liv med kunstig intelligens. Men trolig er det ulovlig.

Sørlandet Sykehus har utviklet et system som kan avverge alvorlige allergiske reaksjoner under operasjon. De håper det kan redde liv, men fagfolkene tør ikke ta det i bruk – av personvernhensyn.

10–15 prosent av alle pasienter som skal opereres, står i fare for å få betydelige allergiske reaksjoner på medikamentene de får. For å unngå det, bør kirurgene sjekke hundrevis eller tusenvis av sider i pasientjournaler før de løfter kniven. I praksis kan det være umulig med en grundig gjennomgang fordi pasienten må opereres umiddelbart.

Det nye systemet IKKS (Informasjonssystem for klinisk konseptbasert søk), som er utviklet av tre forskere ved Sørlandet Sykehus og Universitetet i Agder, finner ni av ti allergiske reaksjoner i journalen i løpet av sekunder.

Anestesioverlege Arthur Halvorsen er ikke i tvil om at han ønsker å ta i bruk IKKS i normal arbeidsflyt så fort som mulig.

– Vi har hatt flere eksempler på at programmet har funnet særdeles vanskelig tilgjengelig informasjon som lett kunne blitt oversett i en travel hverdag. Vi kan ikke med sikkerhet si at liv er reddet, men vi har i hvert fall unngått alvorlige allergiske reaksjoner, påpeker han.

Les også

Robot oversetter bokmål til nynorsk

Systemet er utviklet av anestesioverlege og førsteamanuensis Tor Oddbjørn Tveit sammen med PhD-kandidat Geir Thore Berge. Under forskningsprosjektet har de hatt tillatelse til å ta i bruk de ekstremt sensitive personvernbelagte opplysningene i pasientjournalene for at IKKS skal lære seg å forstå det kliniske språket. Men de 52 legene og sykepleierne som har hatt tilgang i prøveperioden, får ikke lov til å ta det i bruk. Tveit og Berge tror nemlig selv det er ulovlig.

Må se alt

Årsaken er at lovverket tilsier at hver enkelt lege eller sykepleier bare skal ha tilgang på de dataene de selv trenger. Men systemer basert på maskinlæring må ha tilgang til alle data på en gang når de trenes.

– Gjennom å se tusenvis av journaler skaffer en lege seg erfaring som gir pasientene bedre behandling. Det vi ønsker, er egentlig bare å gi systemet den samme tilgangen som en lege har gjennom karrieren, sier Berge.

Ingen systemer basert på kunstig intelligens er feilfrie, selv om de i noen tilfeller kan gjøre færre feil enn mennesker. I Danmark ble forsøk med et lignende system kalt IBM Watson stanset da Watson anbefalte en direkte livsfarlig behandling.

– Hvordan vet vi at ikke noe lignende kan skje med dette systemet?

– Vi må gå forsiktig frem. Vi har allerede sett eksempler på at leger og sykepleiere hos oss stoler for mye på systemet. Dette kan vi løse ved kompetanseheving, slik at fagfolkene forstår hva kunstig intelligens er og ikke er. IKKS er bare et supplement, påpeker Berge.

Full anonymisering ikke mulig

I utgangspunktet skulle man tro det var mulig å bruke en anonymisert utgave av journalen til å trene systemet. Men forskerne mener det i praksis ofte vil være umulig å avlese anonyme utgaver uten å se hvem det dreier seg om. Det gjelder særlig for personer som bor på mindre steder.

De to forskerne har forsøkt å hente råd fra både Datatilsynet, Norsk samfunnsvitenskapelig datatjeneste og Regional etisk komité i forbindelse med prosjektet. Ingen av juristene i Datatilsynet kunne gi noe klart svar på om det vil være lov å ta i bruk det nye systemet.

Tidligere måtte man ha tillatelse fra Datatilsynet for å lagre mange personopplysninger. Tilsynet påpeker at det nye personvernregelverket GDPR gjør at tilsynet ikke lenger gir konsesjoner. I stedet må den som vil lagre data selv finne et grunnlag i loven. Det har forskerne altså ikke klart. Seksjonssjef Camilla Nervik i Datatilsynet er ikke overrasket over at forskerne er i villrede.

Vanskelig å vite

– Vi kan ikke utelukke at et prosjekt som dette er lovlig. Men en klargjøring av regelverket er nok nødvendig. Slik situasjonen er i dag, klør folk seg i hodet. En særregulering av dette feltet ville gitt en stor gevinst, tror Nervik.

IKKS benytter en type kunstig intelligens kalt maskinlæring. Maskinlæring blir trolig viktig i mange lignende prosjekter i fremtiden. Berge og Tveit mener å ha funnet en løsning som kan gjøre de mange positive effektene av maskinlæring tilgjengelig for pasientene. Men det krever en lovendring.

Problemet ser ut til å være at alle pasienter aktivt må samtykke for at deres informasjon skal brukes til noe annet enn deres egen behandling. I dette tilfellet vil alles journaler bli brukt til å trene opp systemet. Dette bidrar både til forbedring av den enkeltes behandling, men også alle andres behandling.

De to forskerne foreslår derfor at helsetjenesten innfører begrepet datadonor. En datadonor er en som bidrar med sine opplysninger til å trene kunstig intelligente systemer. Forskerne ønsker at det skal være nok med passivt samtykke for å bli datadonor. Det betyr at alle skal ha rett til å reservere seg og trekke sitt samtykke. Men det må skje aktivt.

– Vi måtte ha ansatt et stort antall sekretærer for å innhente alle de nærmere 10.000 samtykkene som ville vært nødvendige for å få tillatelse med dagens lovverk. Samtidig ser vi behovet for å opprettholde tilliten til helsevesenets behandling av personvernopplysninger. Tilgang til slike data kan ikke være fritt frem for systemer som bruker maskinlæring. En manuell instans, som et personvernombud, bør derfor ha ansvar for å gi tillatelsen, mener de to.

Å endre lovverket vil ta tid. Inntil videre er det en risiko for at noen pasienter ikke får den optimale behandlingen, fordi lovene står i veien.

– Vi trenger en digital lovvask

Digitaliseringsminister Nikolai Astrup jobber nå med en «digital lovvask» fordi lovverket henger etter den teknologiske utviklingen.

Innen utgangen av året kommer han med en egen nasjonal strategi for kunstig intelligens. Aastrup påpeker også at det i neste års statsbudsjett blir bevilget 131 millioner kroner til den nye helseanalyseplattformen.

– Digitalisering er avhengig av tillit. Det er viktig å finne balansen som gjør at pasientene er trygge på å bidra, samtidig som vi kan tilgjengeliggjøre data og ta i bruk kunstig intelligens, sier Astrup.

– Hva tenker du om ideen om å gjøre alle de som ikke aktivt trekker seg til datadonorer, slik at bedre helsetjenester kan utvikle seg?

– Jeg kan ikke saksbehandle den saken her, men dette er et interessant innspill vi må ta med oss. I dag legger lovverket klare begrensninger på hvordan vi kan benytte reelle helsedata, og vi må jobbe mer med hvordan kunstig intelligens kan anvendes på helsedata innenfor rammen av personvern og sikkerhet. Det er vi i gang med. Forhåpentlig kan vi få på plass løsninger som vil være nyttige for dette konkrete prosjektet, sier Astrup.