Hvordan sikrer vi, at kunstig intelligens ikke skaber mere ulighed, men i stedet styrker velfærden og retfærdigheden i kommunerne? 

Det spørgsmål står centralt i arbejdet hos det Nationale Center for Kunstig Intelligens i Samfundet (CAISA), der netop er lanceret som en del af regeringens strategiske indsats for kunstig intelligens. 

Ifølge centerleder Rebecca Adler-Nissen skal forskningen tættere på virkeligheden – og kommunerne tættere på forskningen.

- Vi oplever, at mange kommuner allerede eksperimenterer med AI, og nogle er godt i gang. Men der er også fragmentering og et behov for viden om, hvad der virker og hvad der ikke gør, siger Rebecca Adler-Nissen. 

Centret er et nationalt konsortium, der samler forskere fra fem universiteter og arbejder tæt sammen med Pionercenteret for Kunstig Intelligens. 

Det indgår som en del af regeringens samlede AI-satsning, der også omfatter danske sprogmodeller, en digital taskforce og en indsats for datatilgængelighed.

- Vi er nået til et punkt, hvor generativ AI bliver rullet ud i stor skala – også i kommunerne. Det skaber et akut behov for uafhængig, tværfaglig viden, som kommunerne kan bruge, forklarer hun.

Ikke bare effektivitet - også retfærdighed

Rebecca Adler-Nissen lægger vægt på, at kunstig intelligens ikke kun må blive et redskab til at effektivisere kommunale arbejdsgange. AI skal også gøre samfundet mere inkluderende.

- Kunstig intelligens kan faktisk være med til at mindske ulighed, hvis vi designer løsninger med de mest sårbare borgere for øje fra starten. Vi ved, at der er systematiske forskelle i, hvem der får adgang til velfærdsydelser. Det kan AI hjælpe med at identificere - og rette op på, siger hun og peger på, at en vigtig læring fra tidligere digitaliseringsbølger er, at nogle grupper ofte bliver overset.

Det er derfor vigtigt, at kommunerne er opmærksomme på, at AI kan have blinde vinkler i forhold til at tage hensyn til alle kroge af samfundet. 

Helene Friis Ratner er chefforsker i CAISA, og her arbejder hun med at undersøge, hvordan AI forandrer relationen mellem staten og borgeren – særligt i mødet mellem offentligt ansatte og borgere. 

Hun pointerer, at AI rummer en reel risiko for at forstærke eksisterende uligheder – blandt andet gennem diskriminerende algoritmer eller øget digital eksklusion: 

- Derfor er det afgørende, at kommuner har blik for disse konsekvenser og aktivt arbejder for at modvirke dem. Dertil er det vigtigt at tage udgangspunkt i borgernes egne problemstillinger, ønsker og bekymringer – ikke blot i forvaltningens behov. Vi skal invitere borgerne – også dem, der normalt ikke deltager i teknologiske udviklingsprocesser – ind i det politiske og administrative rum, hvor vi definerer, hvilke problemer AI skal bruges til at løse, siger hun og fastslår:

- Jeg tror, at vejen til større social retfærdighed sker gennem en samskabende og inkluderende tilgang til AI.

Og hvordan kan AI så konkret være med til at udbrede adgangen og kendskabet til velfærdsydelser for dem, der ellers ikke får del i dem? Ifølge Helene Friis Ratner er der specifikke værktøjer, som kan være behjælpelige lige netop til den problemstilling:

- Her kan AI – særligt sprogmodeller som RAG (Retrieval-Augmented Generation) – potentielt være med til at oversætte vanskeligt tilgængelig information og gøre borgernes rettigheder mere gennemskuelige. Det er en lovende mulighed, men det kræver, at vi har meget stor opmærksomhed på kvaliteten og gennemsigtigheden af de svar, AI giver, siger hun og forklarer, at AI kan have tendens til at “hallucinere” – altså finde på eller fejlfortolke data – hvorfor det er vigtigt, at man ikke overlader det hele til "kunstige hænder". 

- Og det vil være dybt problematisk, hvis en borger modtager forkert rådgivning fra en AI. Derfor må teknologien aldrig stå alene, men bør indgå i løsninger, hvor menneskelig faglighed og ansvar stadig er centrale.

Hun forklarer endvidere, at kommunerne skal have systemer til løbende at indfange borgere og medarbejderes erfaringer og tilpasse brugen af AI. Det handler ifølge Helene Friis Ratner om at være responsiv og arbejde organisatorisk lærende.

- Og så er det også værd at diskutere, om vi – i lighed med fritagelsen for digital post – skal have mulighed for at blive undtaget fra AI-baserede løsninger som borger. Det er et demokratisk spørgsmål, og det kalder på en bred offentlig debat.

Digitalt selvbestemmelse og teknologisk suverænitet

CAISA arbejder aktivt med at oversætte banebrydende ny forskning til praksis. Ifølge Rebecca Adler-Nissen er det afgørende, at forskningsresultater bliver formidlet i formater, som giver mening for kommunale beslutningstagere.

- En klassisk videnskabelig artikel er ikke altid direkte anvendelig i en travl kommunal hverdag. Derfor laver vi korte policy-briefs på dansk, og vi tester også nye former for rådgivning gennem workshops og netværksformater, hvor kommuner kan komme med deres konkrete problemstillinger, siger hun.

Et eksempel kan være en kommune, der står med et datasæt eller en konkret udfordring – f.eks. lange sagsbehandlingstider i ældreplejen. Her kan CAISA hjælpe med at koble relevante forskere på og sikre, at løsningen bliver belyst med den nyeste viden om f.eks. effektivitet, bias, transparens eller brugerinvolvering.

Centret arbejder også med begreber som digital selvbestemmelse og digital suverænitet - både på borger- og samfundsniveau. 

Ifølge Rebecca Adler-Nissen handler det om at undgå, at AI-løsninger reduceres til overvågning og kontrol, og i stedet bliver oplevet som en ressource, der giver borgerne og sagsbehandlerne mere handlefrihed og indsigt.

- Vi skal sikre, at teknologien ikke overtager de beslutninger, vi selv ønsker at træffe, men understøtter dem. Det gælder for den enkelte borger, men også for vores nationale og lokale infrastruktur, hvor vi skal være mindre afhængige af standardløsninger for globale udenlandske techfirmaer, hvis de ikke adresserer vores udfordringer ordentligt, siger hun.

Derfor afholder CAISA i denne uge en workshop om digital suverænitet i relation til cloud-løsninger – et område, hvor mange kommuner ifølge Rebecca Adler-Nissen efterspørger vejledning og sparring.

Kommunerne som nøglespillere

Samarbejdet med kommunerne er altafgørende for, at forskningen i CAISA giver mening for dem selv. Det handler om at skabe ligeværdige partnerskaber, hvor viden og behov flyder i begge retninger.

- Vi kommer ikke med færdige løsninger. Kommunerne kender deres virkelighed bedst. Men vi kan hjælpe med at bringe viden i spil - både fra Danmark og udlandet - og sikre, at man ikke gentager andres fejl og lærer af andres succeser, siger Rebecca Adler-Nissen.

CAISA har oprettet såkaldte fellowships, hvor forskere kan arbejde på konkrete projekter i tæt samarbejde med f.eks. en kommune. 

Her kan der arbejdes med alt fra innovation og kvalitet til sikkerhed og etisk kodeks til praktisk implementering af konkrete AI-løsninger.

Spurgt om, hvad hun håber CAISA har opnået om fem år, svarer Rebecca Adler-Nissen:

- Jeg håber, at kommunerne har implementeret ambitiøse løsninger, der både har høj kvalitet, understøtter kloge beslutninger og sætter borgeren først, siger hun og fortsætter:

- Og at vi sammen har bidraget til at styrke tilliden til det offentlige og mellem os mennesker – for det er en tillid, som AI både kan styrke og underminere.

Hun peger på, at Danmark står overfor en afgørende tid i udrulningen af kunstig intelligens, hvor retningen endnu ikke er fastlagt.

- Vi skal træffe nogle valg nu, som får stor betydning for fremtiden. Derfor er det vigtigt, at vi har et sted som CAISA, hvor forskningen møder praksis, og hvor vi tør tage de svære samtaler baseret på solid evidens, siger hun.