Arkivfoto: Colourbox
Det kan skabe usikkerhed for både medarbejdere og borgere, hvis der i sagsbehandlingen anvendes algoritmer fra store tech-virksomheder, der ikke er underlagt samme krav om etik og gennemsigtighed, som det er tilfældet i for eksempel kommunerne.
Sådan lyder det fra seks danske forskere i et indlæg i Altinget. Det er nemlig kun et spørgsmål om tid, før algoritmerne for alvor rykker ind på kommunekontorerne. Men hvis ikke lovgiverne har fokus på algoritmernes faldgruber og på etik og gennemsigtighed, risikerer man ifølge forskerne at skabe diskrimination og ulighed.
Blandt forskerne er seniorforsker ved VIVE, Anne Marie Villumsen, og økonomiprofessor, Michael Rosholm. De har sammen med fire andre forskere på forsøgsbasis skabt en algoritme, der kan forudsige børns mistrivsel.
I opbygningen af algoritmen har forskerne nøje afstemt, hvordan de fodrer den med data, og på de statistiske sammenhænge, der ligger bag. Forskerne har eksempelvis fjernet data om køn, etnicitet og socioøkonomisk baggrund for at undgå, at den blev diskriminerende.
Politikerne skal sikre åbenhed
For at sikre borgernes retssikkerhed er man både i forskningsverdenen og i kommunerne underlagt krav om etik og gennemsigtighed. Det betyder, at al forskning skal være åben og tilgængelig, så resultaterne og metoderne kan forstås, vurderes og anvendes af andre, skriver forskerne.
Men de samme krav gælder altså ikke for for eksempel tech-virksomheder.
- Hvis vi skal afprøve ny teknologi i sociale sager, må vi sikre, at systemerne er åbne og forståelige. Fagfolk og familier skal vide, hvordan algoritmerne er udviklet, og hvordan de kommer frem til resultaterne, skriver eksperterne i deres indlæg.
Indlægget forfattere appellerer til politikerne om at have øje for den problemstilling, når der skal lovgives om algoritmernes anvendelse i sagsbehandlingen.