- Sagsbehandlere af kød og blod kan også være fordomsfulde, men hvis først en algoritme er ’fordomsfuld’, bliver problemet systemisk - og kan derfor potentielt gå ud over rigtig, rigtig mange mennesker. Ved den fejlslagne algoritme risikerer man, at fejl gennemtrænger hele systemet med lynets hast.
Sådan lyder det i indledningen til en ny bog, ’Fra velfærdsstat til overvågningsstat. Algoritmernes magt i den offentlige forvaltning’, der behandler digitaliseringens skyggesider i en offentlig sektor besat af digitalisering.
Bogens udgangspunkt er, at den fremskredne digitalisering i kommuner, regioner og stat har gjort Danmark til et digitalt mønsterland. Men den hidsige digitalisering har også haft den skyggeside, at den drivende kraft i digitaliseringen udspringer af et ønske om effektivisering og besparelser på bekostning af demokratiet.
Vilkårlighed og diskrimination
Nu, hvor vi står over for digitaliseringens anden bølge, hvor offentlige myndigheder begynder at lade algoritmer og statistiske systemer overtage beslutninger, sagsbehandling og myndighedsafgørelser, er der ifølge bogen god grund til at råbe vagt i gevær.
For indsamling af persondata og brugen af uigennemskuelige algoritmer, maskinlæring og kunstig intelligens kan føre til en overvågningsstat, hvor vi ikke længere kan kontrollere, om borgerne er udsat for systemiske fejl, vilkårlighed og diskrimination i den offentlige sagsbehandling.
For eksempel skyder en algoritmes forudsigelse om chancen for, at en borger ender i langtidsledighed, helt ved siden af, hvis de historiske data, algoritmerne bygger på, er skævredede eller fordomsfulde.
I sidste ende er det demokratiet og borgernes retssikkerhed, der er på spil, fremgår det af bogen.
Medarbejderne skal involveres
I HK Kommunal er formand, Lene Roed, langt hen ad vejen enig i, at den nye digitale revolution i kommuner og regioner kræver fuld opmærksomhed på ikke mindst de medarbejdere, der skal drive digitaliseringen frem.
- Hvis vi skal undgå nogle af de faldgruber i form af diskrimination og mangel på retssikkerhed, fremtidens digitalisering kan havne i, kræver det for det første, at HK’erne og andre medarbejdere bliver involveret i digitaliseringsprojekterne fra start. Det er medarbejderne, der ved, hvordan borgerne reagerer på digitaliseringen. Og det er medarbejderne, der som de første kan observere, hvis projekterne er på gal kurs, siger Lene Roed.
Tillid og tryghed
For det andet er det ifølge Lene Roed helt afgørende, at det også under digitaliseringens anden bølge bliver muligt for borgerne at få et fysisk møde med sagsbehandleren.
- Uigennemskuelige algoritmer gør det mere påkrævet nu end nogensinde, at borgeren kan få sin sag behandlet, belyst og få råd og vejledning af et rigtigt menneske. For menneskelige skøn baseret på professionel faglighed kan aldrig erstattes af nok så avancerede maskiner. Fra undersøgelser ved vi også, at borgerne føler mest tillid, når de kan komme i fysisk kontakt med en sagsbehandler, siger Lene Roed.
Styr besparelsesiveren
Hun slår fast, at borgernes oplevelse af deres møde med den offentlige forvaltning er afgørende for hele tilliden til velfærdssamfundet.
Endelig peger HK Kommunals formand på, at den accelererende digitalisering gør det bydende nødvendigt, at kommuner og regioner i deres iver for at indhente nogle besparelsesgevinster ikke søsætter nogle halvfærdige it-systemer.
- Vi har desværre set ikke så få eksempler på, at ufærdige eller mangelfulde digitaliseringsprojekterer er blevet søsat alt for tidligt, fordi man har set sig blinde på de besparelser, der kan følge med projekterne. Flere steder har man i sin besparelsesiver oven i købet skilt sig af med de medarbejdere, der har kunnet sikre, at projekterne bliver udrullet med succes. Det duer simpelthen ikke, siger Lene Roed.