HK: Kunstig intelligens kan gøre afgørelser uforståelige for borgerne

Lene Roed, formand for HK Kommunal, mener, at der skal være et menneske inde over beslutninger om mennesker. Foto: Tom Ingvardsen

Borgerne risikerer at møde et jobcenter, hvor afgørelser ikke længere kan forklares, men blot konstateres. Det er konsekvensen, hvis regeringens udkast til nye bekendtgørelser om brug af kunstig intelligens i beskæftigelsesindsatsen vedtages i sin nuværende form, advarer HK.

Advarslen fremgår af et fælles høringssvar fra HK Danmark, HK Kommunal og HK Stat til udkastet, der åbner for en bred anvendelse af kunstig intelligens i både kommunernes beskæftigelsesindsats og i Styrelsen for Arbejdsmarked og Rekruttering (STAR).

Også juridiske eksperter har rejst kritik. Lektor i forvaltningsret Jøren Ullits har peget på risikoen for, at algoritmiske anbefalinger i praksis bliver styrende, selv om afgørelser formelt træffes af mennesker.

Ifølge HK risikerer kunstig intelligens i praksis at få afgørende betydning for sagsbehandlingen, selvom afgørelser formelt ikke må være fuldautomatiske. Når systembaserede og algoritmiske vurderinger baseret på historiske data og statistiske mønstre bliver styrende, kan borgerens konkrete og aktuelle situation blive skubbet i baggrunden.

– Når en borger mister ydelse, møder afvisninger eller får ændret sit forløb, skal det være muligt at forstå hvorfor. Med de foreslåede regler risikerer vi afgørelser, som ingen reelt kan forklare, og som derfor heller ikke kan efterprøves eller anfægtes på en meningsfuld måde, siger Lene Roed, formand for HK Kommunal.

Vigtigt at fagligheden sejrer

HK advarer samtidig mod, at medarbejderne placeres i et alvorligt krydspres. Sagsbehandlere vil fortsat have det fulde juridiske ansvar for afgørelser, men forventes i stigende grad at basere deres vurderinger på systemer, de hverken har fuld indsigt i eller mulighed for at gennemskue.

– I praksis bliver det nemmere bare at følge systemets anbefaling end at gå imod den. Og så flytter beslutningerne sig fra faglig vurdering til teknik, uden at ansvaret følger med. Det er vigtigt for retssikkerheden, at der altid er et menneske inde over afgørelser, der har betydninger for mennesker, siger Lene Roed.

Høringssvaret peger også på risikoen for uensartet praksis mellem kommuner. Manglen på fælles nationale standarder betyder, at borgernes retssikkerhed og indsats kan komme til at afhænge af bopælskommune frem for lovgivning.

Vil STARs systemer styrer kommunerne?

HK er særligt bekymret over, hvor frit Styrelsen for Arbejdsmarked og Rekruttering (STAR) får lov til at bruge kunstig intelligens i det omfang, lovændringen lægger op til. I praksis kan det betyde, at styrelsens systemer sætter rammerne for, hvordan kommunerne arbejder, uden at det er klart, hvordan systemerne fungerer, og uden at kommunerne reelt har indflydelse. Ansvaret for sagsbehandlingen ligger fortsat hos kommunerne, men skal varetages på et uigennemsigtigt grundlag.

– Det her handler ikke bare om teknik. Det handler om, hvem der træffer beslutninger, hvem der har ansvaret, og hvordan borgernes retssikkerhed bliver beskyttet. Derfor skal så store ændringer diskuteres åbent og politisk, ikke indføres i stilhed gennem bekendtgørelser, siger Lene Roed.