Det er ikke penge, men det guld, der er danskernes sundhedsdata, der skal være med til at redde sundhedsvæsenet ud af kniben, mener sundhedsminister Sophie Løhde (V). 

Under et besøg på Sjællands Universitetshospital i Køge i august bebudede hun snarlige investeringer i kunstig intelligens. 

- Vi kommer ikke til at kunne købe os ud af udfordringer i sundhedsvæsenet. Vi er nødt til at gøre noget fundamentalt anderledes. Og der er ny teknologi – herunder brugen af kunstig intelligens – en ekstrem vigtig parameter, som kan være med til at skabe forandring, sagde hun ifølge Berlingske efter at være blevet præsenteret for resultaterne af et lovende AI-projekt.

Men man bør ikke lade sig gribe af guldfeber, mener flere professorer, der forsker i kunstig intelligens i sundhedsvæsenet. 

- Når algoritmen kommer med en forkert vurdering, går det ud over et menneske. Det er ikke plug and play, siger professor i filosofi ved Syddansk Universitet Anne-Marie Søndergaard Christensen.

Forudser dødelighed

Projektet i Køge illustrerer udfordringen: Siden februar har en kunstig intelligens-model forudsagt, hvor stor risikoen er for, at en patient med tyk- og endetarmskræft dør inden for et år efter operationen. 

Fodret med patientens egne data og data fra mere end 76.000 patienter, som tidligere har gennemgået en tilsvarende operation, beregner modellen den enkelte patients risiko.

På baggrund af den planlægger lægerne individuelle behandlingsforløb. Er en patient i meget lav risiko - under en procent - er det overflødigt at få en fysioterapeut og diætist til at tilse vedkommende inden operationen. Omvendt forholder det sig, hvis en patient har en høj forudset dødelighed - over femten procent.

- Så sætter vi for eksempel ind med åndedrætsøvelser og fysisk træning inden operationen og lægger patienten på intensivafsnit efter operationen, siger forskningsleder på Sjællands Universitetshospital og professor ved Københavns Universitet Ismail Gögenur, der står i spidsen for projektet. 

De foreløbige resultater, der omfatter 112 patienter, giver optimisme, men inden der kan konkluderes på effekten, skal der gennemføres et såkaldt lodtrækningsstudie, hvor fremgangsmåden testes ved hjælp af to sammenlignelige patientgrupper. 

- Vi har vist, at en metode på basis af registerdata med stor sandsynlighed kan nedsætte indlæggelsestiden og reducere antallet af komplikationer efter en operation, siger han. 

Ikke nok at tro

Det er helt afgørende, at implementering af kunstig intelligens til brug i behandlingssammenhæng bygger på evidens, mener professor i intensiv medicin på Rigshospitalet Anders Perner. 

Der er mange eksempler på, at man i den bedste mening har implementeret behandlinger, der senere har vist sig ikke at virke eller at være decideret skadelige.

- Der har vi som samfund været lidt for naive og utålmodige, siger Anders Perner og advarer mod at fortsætte ad den vej med kunstig intelligens, der lokker med løfter om effektiviseringsgevinster.

- Det er ikke nok, at vi tror, det er en god ide. Værdien skal underbygges ved kliniske forsøg, siger han.

Han har selv stået i spidsen for et projekt, der skulle munde ud i en model, der kunne forudsige intensivpatienters overlevelseschancer. Trods et højt ambitionsniveau blev modellen droppet, fordi den ikke var tilstrækkelig præcis. 

Det betyder ikke, at han har mistet troen på, at såkaldte prædiktive modeller kan have værdi. I stedet arbejder forskerne nu på en model, der skal forudsige sandsynligheden for langvarig respiratorbehandling.

- Hvis vi med rimelig sikkerhed kan forudsige, hvilke patienter, der er i risiko for langvarig respiratorbehandling, kan vi tilbyde dem en operation, der er mere skånsom end den klassiske tube gennem mund og svælg, siger Anders Perner. 

Bliver algoritmen god nok, venter en længere proces, hvor et klinisk forsøg skal vise, om indgrebet gavner, skader eller er ligegyldigt. 

- Hvis det ikke hjælper, så bliver patienterne unødigt operereret med de risici, der er ved det. Og de ressourcer, der bliver brugt er spild, hvilket skader andre patienter, siger han, for ressourcerne kan kun bruges én gang. 

Uforklarlighed og afvigelser

Med de mange muligheder, som kunstig intelligens åbenbarer, følger også en række problemer, som vi har svært ved at løse, bemærker Anne-Marie Søndergaard Christensen, der forsker i de etiske aspekter ved brug af AI i sundhedsvæsenet. 

Hun advarer mod at fare for hurtigt frem.

 - Det er risikabelt, hvis man prøver at forcere udviklingen for meget, siger hun.

Én bekymring går på, hvordan den algoritmiske intervention påvirker forholdet mellem læge og patient. Typisk træffes beslutninger om behandlingsforløb i fællesskab, efter læge og patient har talt mulighederne igennem. Undervejs gør patienten sig klart, hvad der er vigtigt, og hvilke risici vedkommende er villig til at tage. 

Det handler ikke kun om at ramme rigtigt, men også om at patienten kan veje for og imod, fortæller Anne-Marie Søndergaard Christensen.

- Med algoritmerne kommer der en tredje partner ind, og den giver ikke grunde, siger hun.

Når lægen ikke længere kan forklare, hvorfor det ene er en god ide frem for det andet, svækker det beslutningsprocessen og dermed beslutningsgrundlaget, påpeger hun.

Ismail Gögenur har ved flere lejligheder oplevet, at modellen er kommet med forudsigelser, der lå enten højere eller lavere, end han selv havde regnet med. Og når der ingen forklaring er, er udgangspunktet, at man stoler på lægen, fortæller han.

- Så er det op til mig som læge at handle og træffe en beslutning sammen med patienten, siger han.

- Vi følger modellens anvisning i de fleste tilfælde, men hvis jeg er skeptisk eller uenig, er det min vurdering, der gælder.

Risikerer afprofessionalisering og erfaringstab

Lige nu sidder eksperter og følger med i algoritmernes beslutninger og vurderer de resultater, der kommer ud af modellerne. 

- Men hvad sker der, hvis vi indfører dem i stor stil?, spørger Anne-Marie Søndergaard Christensen og leverer selv svaret: 

- Så sker der en afprofessionalisering af de sundhedsprofessionelle.

Hvis deres vurderinger i højere grad overlades til algoritmer, går deres viden og erfaring på et tidspunkt tabt, bemærker hun. Når professionelle i dag træffer beslutninger, hjælper det ikke bare den enkelte patient, det holder også lægernes erfaringsgrundlag i live. Det udfordrer algoritmerne på længere sigt. 

- Vi kan ikke undvære den sundhedsfaglige ekspertise. Det er derfor, vi kalder det beslutningstøtte, siger hun.

- Hvordan afvejer vi, at algoritmerne hjælper og sparer tid, men at de også underminerer den ekspertise, som de skal støtte?, spørger hun og understreger, at udviklingen bør drives af forskning og indsigt fra den kliniske praksis.

Forskel på drift og behandling 

Det er mindre kontroversielt at bruge kunstig intelligens i diagnostik og drift, end i behandling, mener Anders Perner. Eksempelvis vil man kunne høste lavthængende frugter ved at bruge teknologien til at forudsige, om patienter udebliver fra en aftale eller til at beslutte, hvornår de skal indkaldes. 

Afhængig af formålet vil der være forskellige krav til de data, der skal genereres og den evidens, der skal ligge bag, mener Ismail Gögenur.

Det er meget indgribende at indlægge en patient på intensiv, og derfor skal der være et solidt evidensgrundlag for at træffe sådan en beslutning, fortæller han.

Til gengæld ser han store muligheder for at forbedre patientbehandlinger med, hvad han kalder, banal brug af AI. For eksempel at bruge kunstig intelligens til at identificere patienter med høj risiko for genindlæggelse efter hoftekirurgi. 

- Vi ved, at patienter typisk genindlægges, fordi de ikke er tilstrækkeligt smertedækket, siger han.

- Kan man få en sygeplejerske til at ringe til patienten to dage efter operationen og sikre, at vedkommende er smertedækket, kan vi måske undgå genindlæggelse. 

Den type af potentiale er der rig mulighed for at optimere hverdagen med, mener Ismail Gögenur.

- Det guld, vi har i Danmark i forhold til registerdata, kan anvendes mere aktivt. Derfor er det en oplagt tilgang til at lave forbedringer i sundhedsvæsenet.