Sorte huller findes virkeligt langt ude i verdensrummet. Det blev i april dokumenteret via billeder taget af 8 radioteleskoper, der trykkede simultant på udløseren – styret af en kompleks algoritme. Og algoritmer bruges ikke blot til at styre teleskoper placeret vidt forskellige steder i verden. De styrer også mere og mere af vores dagligliv her på kloden.

Algoritmerne spiller i høj grad ind eller med, når du bruger sociale medier eller køber ind på nettet, med anbefalinger af musik, film, bøger eller alt mulig andet, som algoritmen har regnet ud, passer til din smag og dine vaner. Algoritmerne baserer sig på den enorme og konstant voksende mængde data, der lagres og udveksles om flere og flere af os kloden rundt. Algoritmer og data er big business, der kan skabes formuer på, men vinder også større indpas i den offentlige sektor – ikke mindst i Danmark.

Det vakte en del opsigt, da det lige før udskrivelsen af folketingsvalg kom frem, at en ny lov baner vej for, at algoritmer skal udpege ledige, der er i risiko for at ende i langtidsledighed. Ved samkørsel af persondata fra forskellige offentlige registre skal der kunne gives en indikation på, om der er risiko for langtidsledighed. Der vil være tale om en række både objektive og subjektive data som uddannelse, alder, etnisk oprindelse, helbredsoplysninger og tidligere kontakt med offentlige institutioner samt motivation og forventninger.

Sådanne dataprofiler skal indgå i et nyt landsdækkende digitalt afklarings- og dialogværktøj, der skal hjælpe jobcentre og a-kasser til at iværksætte indsatser med henblik på at undgå langtidsledighed. Et nyttigt formål både for samfundet og den enkelte ledige, men en etisk og retssikkerhedsmæssig tvivlsom metode, hvilket dog ikke en eneste politiker var opmærksom på ved lovens vedtagelse!  

Ganske vist skulle man meget langt ned i lovbemærkningerne for at se, at beskæftigelsesministeren bemyndiges til at fastsætte regler om et sådant værktøj. Politikerne burde vel netop være befolkningens vagthund og til for at holde et vågent øje med ny lovgivning, som alle partierne gerne vil gøre digitaliseringsklar. Men vel ikke helt ukritisk?

Det er ikke længere siden end sidste år, at der blev rejst kraftig kritik af, at Gladsaxe Kommune ville dataprofilere børnefamilier for at identificere børn i farezonen for at være udsatte. Politikerne afviste dog at rulle en sådan systematisk profilering ud over børnefamilier i hele Danmark, så hvorfor nu udsætte de ledige for en sådan profilering?

I øvrigt ser vi kun måske kun toppen af isbjerget. I hvert fald hvis politikerne ikke holder et skarpere øje med digitalisering af lovgivning og forvaltning, der har til hensigt at gøre større dele af sagsbehandlingen automatisk, så afgørelser træffes af en algoritme og ikke af en sagsbehandler. Det er derfor vigtigt at vurdere og tage stilling til konsekvenserne af at lade maskiner erstatte mennesker i den offentlige forvaltning.

Derfor bør der også gennemføres en obligatorisk vurdering i lighed med VVM-redegørelser på miljøområdet, når sagsbehandling helt eller delvist automatiseres via digitalisering. En sådan vurderingsmekanisme kan medvirke til at afgøre, hvorvidt et it-system bør indføres eller ej, men også efter beslutning om indførelse bør der foretages en løbende vurdering for at sikre, at systemet ikke udvikler sig uhensigtsmæssigt og til ulempe for borgerne. I vurderingen skal indgå både økonomiske, juridiske, etiske og sociale konsekvenser af hel eller delvis algoritmebaseret, automatisk sagsbehandling og også kombineres med databeskyttelsesreglerne.

En vurderingsmekanisme kan ikke stå alene, men bør suppleres med høringsprocesser, der giver relevante grupper af borgerne, virksomheder og organisationer mulighed for at blive inddraget. Der bør også oprettes en uvildig klageinstans under fx Datatilsynet eller Folketingets ombudsmand, ligesom der landet rundt bør findes borgerrådgivere, der kan bistå borgere, som er i tvivl om rigtigheden af automatisk trufne sagsafgørelser. Endelig bør det nye dataetiske råd følge med i, hvordan algoritmer indføres og bruges i det offentlige og være med til at sikre åbenhed og debat herom.

Det er vigtigt, at politikere og borgere ikke ved digitaliseringen mister kontrollen med, hvordan beslutninger træffes og ikke bliver i stand til at erkende og rette op på fejl, skævheder og andre problemer. Borgernes retssikkerhed skal ikke via en forkert lagt digitaliseringskurs suges ind i sorte huller, som du aldrig slipper ud af.