Profilering af borgere via kunstig intelligens (AI) er ulovligt i jobcentrene. Sådan tolker i hvert fald tre kommuner – Odense, Frederiksberg og Syddjurs - en udtalelse fra Datatilsynet.
Tilsynet gjorde det nemlig i maj sidste år klart, at kommunerne ikke har lovhjemmel til at benytte for eksempel beskæftigelses-algoritmen ASTA, der er udviklet til at forudsige borgernes risiko for langtidsledighed. Det skriver netmediet Digitech.
De tre kommuner har alle arbejdet med Digitaliseringsstyrelsens signaturprojekter med kunstig intelligens i jobcentrene. Datatilsynets afgørelse har imidlertid medvirket til, at kommunerne nu lægger projekterne på hylden.
Men det er langtfra kun den manglende lovhjemmel, der er årsag til, at kommunerne både nu og i en række tidligere tilfælde har måttet opgive at bruge machine learning – kunstig intelligens – i bestræbelserne på at få flere borgere i arbejde.
Ubegrundede forudsigelser
Allerede tilbage i 2015 introducerede Styrelsen for Arbejdsmarked og Rekruttering (STAR) en algoritme, der havde til formål at forudsige, om en borger var i risikogruppen for langtidsledighed. Det projekt blev ifølge DigiTech skrinlagt, fordi det ikke havde nogen effekt.
Så kom ASTA fra den private leverandør Schultz, der også mente at kunne spotte risikoen for langtidsledighed. Heller ikke i dette tilfælde gav projektet gevinst, for beskæftigelsesmedarbejderne opfattede ofte ASTA’s forudsigelser som upræcise og ubegrundede.
Senest har Odense Kommunes signaturprojekt, OMAS, der havde til formål at give skræddersyede anbefalinger til beskæftigelsesindsatser, fejlet. Her oplevede medarbejderne, at anbefalingerne alt for ofte skød helt ved siden af.
Overfladiske data
De ikke specielt gode, konkrete erfaringer med kunstig intelligens på beskæftigelsesområdet falder godt i tråd med den forskning, der er på området. For eksempel konkluderede ph.d.-studerende på IT-Universitetet, Anette C. M. Petersen, for to år siden, at sagsbehandlere af kød og blod tager bedre beslutninger end algoritmerne.
Når man bruger kunstig intelligens i beskæftigelsesindsatsen, mister man en masse vigtig information om, hvad det vil sige at være borger, lød det i forskningsartiklen.
Og ifølge professor i softwareudvikling ved Københavns Universitet, Thomas Hildebrandt, bør regeringen heller ikke satse på machine learning-teknologien, når den vil nytænke og spare tre milliarder kroner på beskæftigelsesindsatsen.
- Der er mange advarselslamper, der blinker, når nogen prøver at lave avancerede forudsigelser på ledighedsområdet. Det forekommer i hvert fald at stride mod bedre vidende, siger professoren til DigiTech.
Data fra kunstig intelligens giver langt fra et komplet billede af en ofte meget kompleks situation. Både borgeren og selve den verden, data er indsamlet i, er meget overfladisk beskrevet, når man anvender machine learning, mener han.