Kommuner må ikke bruge kunstig intelligens til at understøtte fagmedarbejdere i at vurdere, hvem der kan have gavn af forebyggende træning, vurderede Datatilsynet for nylig.

På baggrund af en henvendelse fra Københavns Kommune om en AI-løsning, der kan identificere borgere med behov for vedligeholdende træning, vurderede tilsynet, at den juridiske grænse går ved udvikling og træning af algoritmen. 

Kommunerne kan ikke lovligt sætte den i drift og kan dermed ikke komme i gang med at gøde jorden for langsigtede gevinster.

- Vores ønske er, at der bliver skabt lovhjemmel. Ellers kan vi ikke rykke på udfordringerne på sundheds- og ældreområdet, siger chefkonsulent i Afdeling for velfærdsinnovation i Københavns sundheds- og omsorgsforvaltning Maria Trangbæk.

Implementering volder (stadig) problemer

Data og ny teknologi skal være med til at afhjælpe manglen på ressourcer - ikke mindst på ældre- og sundhedsområdet, genlyder det fra politisk niveau på tværs af det offentlige. 

Men Datatilsynets udtalelse er et godt eksempel på, at man i Danmark har været gode til at udvikle, mens man løber ind i lovgivningsmæssige problemer, når man skal implementere, mener direktør for Senior og Omsorg i Aalborg Kommune Jan Nielsen. 

- Det er ikke nyt for os. Vi har arbejdet med andre teknologier, hvor GDPR kommer på tværs - eksempelvis i forbindelse med digitale tilsyn på plejehjem, siger han.

- Vi har gode teknologiske løsninger, som er lavet i den bedste mening, men lovgivningen spænder ben. 

Det var Aalborg Kommunes signaturprojekt om brug af kunstig intelligens i rehabiliteringsforløb, der inspirerede Københavns Kommune til at gå i gang med en lignende løsning baseret på den samme algoritme.

- Algoritmen er udviklet, og vi ved, at den er god og fungerer, siger Jan Nielsen. 

Algoritmen kan som et beslutningsunderstøttende værktøj både bidrage til, at flere får tilbudt træning, og at ressourcerne bliver prioriteret bedst muligt ved at pege på, hvem der vil have størst gavn af træningen. Noget der forventes at give gevinster på længere sigt, fordi borgerne bliver selvhjulpne længere.

- Vores intention gennem mange år har været at lave en massiv indsats til borgere med henblik på at forbedre og fastholde deres funktionsniveau på den lange bane og dermed aflaste de ressourcer, som vi ellers skulle have brugt, siger Jan Nielsen. 

- Her og nu bruger du selvfølgelig flere ressourcer, men over et langt perspektiv vil det være en god investering for borgerne og for kommunen.

Mens man i Aalborg tidligere har arbejdet på et udbud af en dataplatform til hosting af kommunens løsning, lukkede man i København allerede sit projekt ned i juni, længe før Datatilsynets udtalelse, fordi advokatfirmaet Horten konkluderede, at der ikke var lovhjemmel til at sætte algoritmen i drift. 

Det betyder også, at man er blevet mere tilbageholdende med udvikling af kunstig intelligens-løsninger.

- Det begrænser os i idéfasen. Det påvirker vores innovationsproces, siger juridisk chef i Sundheds- og Omsorgsforvaltningen i København Kommune Niels Nicolai Nordstrøm.

Det betyder dog ikke, at man lukker ned for al innovation.

- Vi har masser af ideer, men vi arbejder på et område med personoplysninger, så vi kan ikke bare gå i gang, siger Maria Trangbæk. 

Skal gøres nemt for kommuner

Kunstig intelligens er en ny teknologi, der er kommet med stormskridt, så derfor er det ikke overraskende, at lovgivningen ikke er tilpasset, mener Jan Nielsen.

Han læser Datatilsynets vurdering som en indirekte opfordring til, at lovgivningen tilpasses den nye virkelighed.

I København arbejder man nu dels på at finde ud af, hvad man godt må, og desuden på interessevaretagelse. 

- Vi har i dag ikke hjemmel i dansk lovgivning til algoritmer, som vi kan anvende til beslutningsunderstøttelse, da der dermed sker en opbygning af en profil af den enkelte borger. Det er en national politisk beslutning, om vi skal bruge algoritmer på denne måde, siger Niels Nicolai Nordstrøm.

Der er stort potentiale i at udbrede velfærdsteknologi og kunstig intelligens i ældreplejen, mener ældreminister Mette Kierkgaard (M), og det er afgørende at det gøres nemt og tilgængeligt for kommunerne, hvis de nye løsninger for alvor skal vinde indtog.

Hun ønsker ikke at svare på, hvorvidt hun i den kommende ældrelov agter at skabe lovhjemmel til, at kommuner kan anvende kunstig intelligens-løsninger som beslutningsstøtte ved eksempelvis profilering af borgere.

Hun skriver i stedet i et skriftligt svar, at hun er “meget villig til at se på de barrierer, der kan stå i vejen for at udbrede teknologien.” 

“Jeg ser frem til at udfolde mine tanker om, hvordan vi vil arbejde videre med at understøtte udbredelsen af velfærdsteknologi, herunder kunstig intelligens, når jeg inden længe kan præsentere et udspil til en ældrereform,” skriver ældreministeren.