I løbet af de seneste par år er kunstig intelligens blevet et uundværligt værktøj i den offentlige sektor. Alle kommuner arbejder på at finde metoder til at anvende teknologien til at effektivisere sagsbehandling, forbedre borgerservice og understøtte beslutninger. 

Aarhus Kommune er blandt frontløberne – men her er man samtidig bevidst om, at AI kræver omtanke og ansvarlighed.

Ifølge Lone Juric Sørensen, chef for Fælles IT og digitalisering i Borgmesterens Afdeling, er balancegangen mellem mod og omtanke afgørende.

- Generativ AI er black box teknologi – man kan ikke redegøre for algoritmerne eller vide præcis, hvilke data der er trænet på. Det giver potentielle udfordringer: ophavsret, bias, værdisæt osv. Samtidig ved vi, at vi ikke kan stoppe brugen; teknologien er allerede i organisationen, uanset om vi gør noget eller ej, siger hun.

At skynde sig langsomt

For at navigere i den nye virkelighed af kunstig intelligens har Aarhus Kommune udviklet et særligt AI-screeningsværktøj. 

Ifølge Rasmus Ry Nielsen, digitaliseringschef i Magistratsafdelingen for Teknik og Miljø, er værktøjet nøglen til at træffe bedre beslutninger. 

- Screeningsværktøjet stiller tre grundlæggende spørgsmål: Må vi, kan vi og bør vi. Først afklarer vi de juridiske rammer, derefter vurderer vi kompleksiteten og til sidst de etiske konsekvenser for borgere, medarbejdere og kommunen, fortæller han.

Screeningen foregår som gruppearbejde, hvor jurister, projektledere, data scientists og repræsentanter for medarbejdere og borgere inddrages. 

I visse tilfælde bliver politikerne også en del af processen, hvis projektet kan have stor betydning for serviceniveauet eller kommunens image.

Formålet er ikke at bremse udviklingen - men derimod at gøre den ansvarlig og etisk forsvarlig.

- AI udvikler sig ekstremt hurtigt, og screeningsværktøjet hjælper os med at ‘skynde os langsomt’ og træffe ansvarlige beslutninger, siger Rasmus Ry Nielsen.

Etik som konkurrenceparameter

For Aarhus Kommune er der klare grænser for, hvad AI må – og ikke må – bruges til. 

Ifølge Lone Juric Sørensen er én regel urokkelig:

- Vi lader ikke generativ AI træffe afgørelser, slår hun fast.

- Beslutninger skal altid ende hos et menneske. Vi kan bruge AI til at skabe et oplyst grundlag – fx belyse facetter i store datamængder – men ikke til beslutninger i vanskelige sager om borgere. Hvis en vurdering rammer et rødt lys juridisk eller etisk, laver vi et hårdt stop.

De juridiske og etiske grænser kan betyde, at projekter helt må droppes. Det er sket i flere tilfælde, fortæller hun.

- Vi har fx fravalgt løsninger, hvor lovhjemlen var uklar, fortæller hun. 

- Der er potentiale, men lovgrundlaget gør, at vi tøver. Når vi afprøver ny teknologi, gør vi det som afgrænsede pilotprojekter, mens vi parallelt afklarer jura og etiske problemstillinger.

Både Lone Juric Sørensen og Rasmus Ry Nielsen er enige om, at arbejdet med AI i høj grad er et spørgsmål om værdier. For teknologien kan påvirke demokratiet, ligestilling og borgernes tillid.

- Fordi AI kan indeholde og forstærke bias og dermed udfordre grundlæggende værdier som ligestilling og demokrati. Når man indfører teknologi, der potentielt kan påvirke samfundets værdibaserede tilgang, er man nødt til at tage de etiske problemstillinger meget seriøst, siger Lone Juric Sørensen.

Rasmus Ry Nielsen tilføjer, at de tidlige diskussioner giver værdi langt ud over Aarhus’ egne grænser.

- AI er en ny og kraftfuld teknologi, som mange har forestillinger og bekymringer om. Værktøjet giver os tryghed, gennemsigtighed og ejerskab – både internt i organisationen og i forhold til borgerne. Når vi bruger tid på de indledende drøftelser, får vi bedre projekter og mere robuste løsninger.

Holistiske business cases

I Aarhus Kommune vurderer man ikke længere kun nye AI-projekter ud fra klassiske økonomiske parametre. 

I stedet ser man på en bredere bundlinje, forklarer Lone Juric Sørensen.

- Ud over de klassiske poster – anskaffelse, implementering, kompetenceudvikling, drift og udgifter til data og integrationsarbejde – vurderer vi også værdien på andre parametre: bedre arbejdsmiljø, højere lovmedholdelighed i komplekse områder, bedre eller mere fleksibel service. Det kan gøre et projekt rigtigt, selv om den monetære bundlinje ser mindre attraktiv ud eller har lang tilbagebetalingstid.

Rasmus Ry Nielsen uddyber:

- En holistisk business case handler ikke kun om økonomi. Ud over omkostninger og gevinster ser vi også på arbejdsmiljø, kvalitet, service, svartider og lovmedholdelighed. Det giver os et mere komplet beslutningsgrundlag, når vi investerer i nye teknologier.

Screeningsværktøjet, som blev lanceret i maj, har allerede ændret flere AI-projekter i Aarhus. 

Nogle er blevet stoppet, mens andre er blevet justeret for at sikre øget tryghed og gennemsigtighed.

Men ifølge Rasmus Ry Nielsen rækker ambitionen udover  Aarhus’ egne grænser:

- Vi har lagt værktøjet frit tilgængeligt på GitHub (en hjemmeside og en cloud-baseret tjeneste, der hjælper udviklere med at gemme og administrere deres koder red.), så andre kommuner kan hente det, bruge det eller videreudvikle det. Vi håber, at andre også vil dele deres forbedringer, så vi kan lære af hinanden.

Han understreger, at samarbejdet er en nøglefaktor:

- Bare fordi vi var de første, betyder det ikke, at vi er de bedste. Vi tror på den kollektive hjernekraft mellem kommunerne.

Selvom Aarhus Kommune har taget store skridt, er arbejdet langt fra færdigt. Teknologien udvikler sig hurtigt, og nye dilemmaer opstår konstant.

- AI udvikler sig ekstremt hurtigt. Screeningsværktøjet hjælper os med at træffe ansvarlige beslutninger nu, men vi skal være klar til at justere metoderne, når teknologien og vores erfaringer udvikler sig, siger Rasmus Ry Nielsen.