- Jeg taler ikke for, at kommunale topledere skal kunne kode eller skille en server ad og samle den igen med bind for øjnene. Jeg taler for, at de bør have en teknologiforståelse og et digitalt sprog.

Sådan siger ph.d.-studerende ved Syddansk Universitet Kenneth Kristensen om, hvad man med rimelighed kan forvente af kommunernes øverste ledelse, når det kommer til digitalisering. For mindre end fire år siden, omfattede det ham selv. Da var han kommunaldirektør i Dragør, og som forhenværende direktør i Halsnæs, København og Hørsholm kommuner har han et vist kendskab til, hvordan man leder en forvaltning.

- Vi kan ikke forestille os en topchef, der ikke ved noget om økonomi og personaleledelse. Tilsvarende er vi der nu, hvor det er et rimeligt og nødvendigt krav, at man som topledelse tilegner sig viden om digital teknologi, siger han.

Gladsaxe-miseren

Mens mange kommuner er i gang med at tage de første skridt i forhold til at bruge kunstig intelligens i løsningen af velfærdsopgaver, har Kenneth Kristensen taget et skridt baglæns for at dykke ned i den såkaldte Gladsaxe-model, der måske stadig kan få kommuner til at gyse ved tanken om borgervendt brug af kunstig intelligens. 

For hvad var det egentlig, der gik galt, da Gladsaxe i 2017 fik en idé om at spotte udsatte børn ved hjælp af en algoritme, og hvad kan topledere lære af kommunens ”Projekt dataunderstøttet tidlig opsporing af udsatte børn”? 

De spørgsmål forsøger Kenneth Kristensen at besvare i en videnskabelig artikel, der udpeger fem opmærksomhedspunkter, som direktioner i landets kommuner gør klogt i at skrive sig bag øret, inden de giver sig i kast med kunstig intelligens-projekter.

Tæt involvering af politikere

Politikerne skal have teknologien i hænderne. En almindelig sagsfremstilling i en dagsorden er ikke nok, når det handler om brug af ukendt og, hvad der for nogle vil være, kontroversiel teknologi. Der skal en langt tættere involvering til. Det kan indebære studiebesøg og brug af eksperter eller deciderede demonstrationer af kunstig intelligens. 

- Det kan være, man kan lave et simuleringsværktøj, hvor man som politiker får lov at prøve træfsikkerheden og får konkret indsigt i teknologiens muligheder og begrænsninger, foreslår Kenneth Kristensen.

For det er politikerne, der skal træffe beslutning om, hvornår og hvordan kunstig intelligens skal tages i brug, mener han, og det skal de klædes ordentligt på til. Der er nemlig fejl i algoritmer, så hvad gør man med de grupper, værktøjet finder, men som fx ikke er udsatte? Det er op til politikerne at beslutte, om man kan forsvare falske positive.

- Der er både fejlmuligheder hos mennesker og maskiner. Det handler om at finde den rigtige kombination af de to, siger Kenneth Kristensen.

Direktioner er derfor først og fremmest nødt til at have blik for, hvornår det er væsentligt at have politikere tæt på. Og det er det, når det er borgernært og drejer sig om etik og holdninger eller har store økonomiske konsekvenser. 

Kræver legitimitet

Gladsaxe-projektet fejlede blandt andet, fordi det ikke lykkedes at få offentlighedens opbakning til det. Faktisk blev projektet medvirkende til, at tilliden fra borgerne led et knæk, som kommunen efterfølgende måtte arbejde på at genoprette. 

At borgerne bliver mistænksomme og mister tilliden til kommunen er den største risiko ved at give sig i kast med kunstig intelligens, mener Kenneth Kristensen.

- Det høje tillidsniveau mellem system og borgere er afgørende for den demokratiske legitimitet og er i øvrigt mange penge værd i sparede omkostninger til kontrol. Det er vigtigt, og det må man ikke tabe i det her, siger han.

Derfor skal brugere, borgere, interesseorganisationer og andre interessenter inddrages tidligt i processen, så de fra begyndelsen kan være med til at sætte grænserne for, hvor langt man kan gå uden at miste opbakning. 

- Man er nødt til at tage for pålydende, at mennesker har større tillid til mennesker end maskiner. 

Når det kommer til borgernære services, skal man ikke alene være varsom med at indføre automatikker, hvor det ikke er mennesker, der træffer beslutninger. Man skal også kommunikere tydeligt, at den kunstige intelligens alene bliver brugt som beslutningsstøtte for fagpersoner, der vurderer ud fra et menneskeligt perspektiv. 

Kerneopgaven først

Man kunne frygte, at der går prestige i kunstig intelligens-projekter, eller at der bliver et mere eller mindre udtalt pres for at lykkes, efter der er kastet en masse penge og tid i dem. Det kan forebygges ved at være åben fra begyndelsen om, at man ikke ved, om man vil lykkes eller ej. 

- Ledelsen kan sige: Vi prøver det af i et testmiljø, og de dele, der ikke fungerer, lukker vi ned, siger Kenneth Kristensen.

Og man må aldrig overlade det til it-afdelingen at drive, hvad der reelt er et velfærdsprojekt. Man skal tage udgangspunkt i kerneopgaven, så eksempelvis familie-, sundheds-, eller beskæftigelsesafdelingen driver projektet, mens it understøtter det i et delt samarbejde. Topledelsen har derfor en opgave med at få skabt en kultur i organisationen, som fremmer samarbejde og nysgerrighed på tværs af fagligheder.

- Ingen politikere eller topledere er startet, fordi de interesserer sig for digitalisering, siger Kenneth Kristensen. 

Samtidig mener han, at det er helt umuligt at forestille sig, at vi kan løse de store samfundsproblemer, som eksempelvis mangel på arbejdskraft eller klimaudfordringen, uden at bruge digitalisering. Den største barriere for at udnytte mulighederne i kunstig intelligens er mangel på viden, erfaring og kompetencer, mener han.

Bundlinjen er, at man er nødt til at interessere sig for emnet og blive klogere på det.