Algoritmer fungerer ikke i sagsbehandlingen (endnu)

Ph.d. Asbjørn Ammitzbøll Flügge ser ikke AI - kunstig intelligens - i sig selv som et skræmmeeksempel. Han ses her i en illustration, der er skabt bl.a. ved hjælp af AI.

Hvad er de overordnede erfaringer med brug af algoritmer og kunstig intelligens i sagsbehandlingen?
Det går ikke så godt, må man sige. Hvis vi kigger på de projekter, jeg har forsket i, og erfaringerne fra AI-signaturprojekterne på beskæftigelsesområdet, så er der flere projekter, som er lukket ned eller har måttet ændre fokus markant.

Hvilke tænker du på?
Overordnet kan man sige, at der har været ret store forventninger til de eksempler med brug af algoritmer på beskæftigelsesområdet, blandet andet STAR’s forsøg, men også ASTA. Altså at sagsbehandlingen ville blive bedre, og at man kunne give borgerne en individuelt tilrettelagt indsats ved hurtigere at kategorisere dem, der var i risiko for at blive hængende i beskæftigelsessystemet længe. Men det har vist sig, at de her værktøjer ikke indfrier forventningerne. Og både STAR’s forsøg og ASTA er lukket helt nu. Og ud af de fire signaturprojekter, der er støttet med offentlige penge, er to lukket, og de andre kører på lavere blus og uden forudsigelsesdelen.

Så bruges AI slet ikke i den offentlige administration?
Det er en stramning, fordi mange systemer indeholder jo en form for kunstig intelligens, algoritmer og forskellige avancerede modeller. Men mig bekendt er der ingen, hvor det italesættes som en kunstig intelligens med algoritmer med det formål at lave forudsigelser omkring borgere på beskæftigelsesområdet, og som er i brug.

Hvorfor lykkes det ikke?
Af flere grunde. En kerneårsag er, at beskæftigelsesområdet er utrolig komplekst med hyppige lov- og regelændringer, så det gør det svært at udvikle og vedligeholde it-systemer. Men frem for alt er der tale om unikke borgere med unikke liv – heldigvis! Selv en ledig med psykiske diagnoser eller misbrug kan jo have både lange gode og dårlige perioder, som gør det svært at lave formler for forudsigelser.

Hvad er skrækeksemplet?
Det er jo nok USA, hvor en del udbetalinger sker helt automatiseret efter nogle meget hårde og firkantede regler, der slet ikke tager hensyn til den konkrete situation, som borgeren er i. Men det er ikke det samme som, at kunstig intelligens i sig selv er skræmmeeksemplet.

Men Danmark skal jo ikke være USA med fuldautomatisering. Kunstig intelligens skal kun fungere som beslutningsstøtte. Sagsbehandleren træffer stadig afgørelsen. Så hvad er problemet?

Risikoen er, at der sker et skred over tid, sådan at sagsbehandleren begynder at tvivle på og ændre egne faglige vurderinger på grund af et it-systems anbefalinger. Men det er svært, fordi ønsket ved et it-system, der skal give beslutningsstøtte, jo netop også er at give et andet bud på en vurdering af en borger, end sagsbehandlerne måske ellers ville have givet. Risikoen er desuden, at nogen kunne mene, at man ikke behøver socialfagligt dygtige sagsbehandlere, fordi man har et it-system, der kommer med anbefalinger. Men der ligger også en ledelsesopgave i at tydeliggøre, hvordan et it-systems anbefalinger vægtes over for sagsbehandlernes vurdering.

Er der også en modstand mod den slags fra sagsbehandlerne, så det ikke bare handler om dårlig teknologi?
Det er et godt spørgsmål. Jeg kan sige, at i fx jobcentret i Lyngby-Taarbæk Kommune, som jeg samarbejdede med, var sagsbehandlerne ikke entydigt afvisende over for de her systemer. De vil bare gerne have, at de bliver tilpasset deres praksis. Medarbejderne vil gerne kunne gennemskue, hvorfor og hvordan systemet kommer frem til et givet forslag til handling, og det oplevede de ikke, de kunne med ASTA.

Så hvordan ser du, at AI og algoritmer kan bruges, i hvert fald til en start?
Jeg tror, man skal satse på opgaver, der ikke er direkte borgervendte. Altså til at optimere arbejdsgange, kontrolopgaver, ventetider, klima- og miljøforudsigelser eller den frække ved, at borgeren får stillet kunstig intelligens til rådighed som hjælp til deres vej ind i det offentlige system, fx som nu hvor AI bliver brugt til at skrive lediges jobansøgninger for dem på baggrund af CV og stillingsopslag.