Hvis kunstig intelligens skal spille en afgørende rolle i sagsbehandling, så skal den også kunne forklare sine afgørelser på en måde, så borgere kan forstå dem. 

Jordemødrene på Hvidovre Hospital skal fremover udstyres med kunstig intelligens i deres visitationsproces. Det har medført et krav om mere åbenhed fra organisationen Institut for Menneskerettigheder. Men hvad hvis netop den kunstige intelligens i sig selv kunne sikre mere åbenhed i sagsbehandlingen? Det kan måske virke selvmodsigende, men i mine øjne giver det god mening, at netop indførelsen af kunstig intelligens kan give mere gennemsigtighed og tillid til beslutningerne. Hvis det vel at mærke er ”explainable” eller forklarbar kunstig intelligens, som i disse år vokser hastigt frem.

Data kan være over sidste salgsdag

I mange år har kunstig intelligens været kendt som matematiske algoritmer, der ved hjælp af en masse input kunne give os bestemte svar. For at sikre konsistente og objektive svar har vi anvendt historiske data i oplæringen af algoritmerne.

Men hagen ved dette er, at verden er i konstant forandring, og derfor kan et beslutningsgrundlag fra 1970’erne være dybt utidssvarende for nutidens borgere og systemer. Dels kan lovgivningen have ændret sig, og dels er vi som mennesker blevet klogere. Når algoritmer skal træffe beslutninger i sagsbehandlingen i større grad end tidligere og på afgørende områder af borgernes liv, skærpes kravet om at vide, hvorfor computeren foretager de afgørelser, som den gør.

Mellemregninger skal med

Det er helt essentielt, at vi får forklarbarhed ind i kunstig intelligens. Som mennesker har vi brug for at forstå de kausale sammenhænge, samt hvorfor noget virker, og hvorfor det ikke gør. I udviklingen af software med AI (kunstig intelligens) skal vi altså sikre, at computeren foretager konsistente beslutninger, der kan forklares i et sprog, som alle forstår. Der skal mellemregninger til, så resultatet har en berettigelse, og man forstår, hvad der har ført til afgørelsen. For uden gennemsigtighed og forklarbarhed har vi ikke tillid til afgørelserne.

I sagsbehandling er det helt afgørende, at konsistensen er i top: Når computeren præsenteres for input, som den er stødt på tidligere, skal den også komme med det samme svar - medmindre afgørelsesgrundlaget selvfølgelig har ændret sig. Dermed undgår vi også, at sager af samme karakter bliver behandlet forskelligt fra gang til gang. Og vi sikrer ovenikøbet, at nyuddannede sagsbehandlere kan foretage afgørelser på niveau med eksperters, hvis vi sørger for at oplære algoritmerne på baggrund af disse eksperters viden og erfaringer.

Styr på forgængerens beslutninger

Den kunstige intelligens kan være central for konsistens på områder, hvor forkerte afgørelser kan have betydelige konsekvenser. Det kan eksempelvis være, når en jordemoder skal identificere kritiske tilstande i telefonsamtaler med gravide eller fødende kvinder. Her kan kunstig intelligens være med til at styrke beslutningsprocessen og sikre, at jordemoderen får besked, hvis relevante objektive kriterier er opfyldt.

Den sagsbehandler, som sidder med byggetilladelser i en kommune, kan også få gavn af forklarbar kunstig intelligens. For når en borger har ansøgt om at bygge altan på sin lejlighed og får afslag, vil sagsbehandleren altid kunne begrunde afslaget ud fra de kriterier, som den kunstige intelligens har truffet beslutningen på baggrund af. Og når en ny sagsbehandler overtager opgavebunken fra sin tidligere kollega, kan man historisk se de kriterier, som den kunstige intelligens har truffet beslutninger ud fra.

Kunstig intelligens er kommet for at blive, og fremadrettet tror jeg, at forklarbarheden kan medvirke til, at sagsbehandling ikke blot behandles mere effektivt men også på en konsistent og objektiv måde.