Det digitaliserede velfærdssamfund kan nemt risikere at øge uligheden

Af Brit Ross Winthereik, professor på IT-Universitetet i København, Rikke Frank Jørgensen, seniorforsker på Institut for Menneskerettigheder, Birgitte Eiriksson, vicedirektør i Tænketanken Justitsia, Birgitte Kofod Olsen, forperson i DataEthics,, Grit Munk, chefkonsulent i IDA, Mads Samsing, næstformand for HK Danmark, Johan Busse,  forperson i Dataetisk Råd, Ole Tange, rådgiver for PROSA, og Søren Skaarup, post. doc. ved IT-Universitetet i København.

Bragt i Berlingske 18. juli 2022.

Regeringen lancerede i maj en ny national digitaliseringsstrategi, »Sammen om den digitale udvikling«. Strategien er ligesom de fem tidligere fællesoffentlige digitaliseringsstrategier bygget op som et katalog af initiativer for, hvordan Danmark kan digitalisere mere og hurtigere.

Med strategien gøres det synligt, at der i Danmark er et meget tæt partnerskab mellem den offentlige sektor og private virksomheder og et ønske om, at dette partnerskab skal være endnu tættere.

Strategien har forslag til projekter og områder, der kan digitaliseres, men mangler en egentlig vision, der sætter borgeren i centrum for digitaliseringen. Borgerne, som regeringen er repræsentant for, virker sekundære i strategien, som ingen svar giver på helt åbenlyse spørgsmål som: Hvordan understøttes ikke bare opgaveløsning, men også samspillet mellem borgere, myndigheder og teknologi? Og hvordan sikres rettigheder i lyset af øget dataindsamling og automatisering? I juni udkom den fællesoffentlige digitaliseringsstrategi 2022-2025. Til forskel fra den nationale strategi er der i denne strategi udtrykt et klart ønske om, at digitalisering skal være et middel og ikke et mål i sig selv og skal inkludere alle.

Men hvordan? Det er uklart, hvordan digitaliseringen skal komme både ressourcestærke og -svage borgere til gode.

Strategierne risikerer dermed at skabe grundlaget for et mere ulige samfund, end det vi har i dag.

Det anslås, at der blandt de digitalt udsatte, 17-22 procent af den voksne danske befolkning, er en meget stor gråzone af mennesker som i forskellig grad føler, at de ikke slår til i forhold til det digitale, eller at det digitale ikke slår til i forhold til deres behov.

Strategien forholder sig ikke til den udfordring, at det digitaliserede velfærdssamfund, vi er på vej ind i, kan komme til at øge ulighed i befolkningen.

Digitalisering, der ikke har en klar borgervendt samfundsvision, kan nemt blive politikernes og virksomhedernes projekt alene. Regeringen har ladet store teknologivirksomheder sætte dagsordenen for strategiens udmøntning, og de har naturligt nok en kommerciel interesse i at accelerere digitalisering og et ganske andet mandat end en folkevalgt regering. Det er i den forbindelse bemærkelsesværdigt, at EU-Kommissionen har ikke færre end fem lovgivningspakker på vej, der handler om at håndtere udfordringer ved kunstig intelligens, datadeling og techgiganter. Hvordan hænger det sammen med, at private virksomheder, herunder techgiganter, nu sættes i førersædet for offentlig digitalisering i Danmark? Og hvordan kan det tætte partnerskab forenes med regeringens (kritiske) hvidbog om techgiganter og deres forretningsmodeller fra 2021? Vi ønsker at bidrage til videreudviklingen og implementeringen af de nye strategier, så de i praksis kan få et større fokus på de borgere, som offentlig digitalisering til syvende og sidst skal tjene. I den forbindelse er det vigtigt at holde sig for øje, at digitalisering aldrig bare er et teknisk underlag, der smidiggør en opgave eller en aktivitet. Systemerne bygger på indbyggede ideer om brugerne og deres praksis, de er udstrakt på tværs af mange organisationer og er relativt ufleksible. Når de først er implementeret, er de ofte svære eller umulige at tilpasse eller justere, hvilket vi har set i forbindelse med udrulningen af MitID appen. Den virker kun på nyere smartphones og det kunne ikke laves om til trods for, at mange borgere af netop den grund fik problemer med at identificere sig i forbindelse med helt almindelige gøremål. Det vil sige, at MitID er bygget på antagelsen om, at alle har en nyere smartphone, men sådan forholder det sig ikke.

De otte forslag

Med denne kronik som afsæt påbegynder vi et borgernært visionsarbejde på tværs af forskning og interesseorganisationer. Et bærende element i vores arbejde er demokratiseringen af Danmarks digitale infrastruktur.

Borgerne skal ikke bare acceptere en teknisk udvikling, men selv kunne deltage i udviklingen af løsninger uden omkostninger. Virksomheder og myndigheder bør kunne stilles til regnskab for, om systemerne er gjort tilgængelige for folkelig deltagelse.

1. Borgeren skal være i centrum i al offentlig digitalisering, og alle - uanset køn, alder, etnicitet og ressourcer - skal kunne se sig selv i fremtidens Danmark. Digitalisering skal altid understøtte borgernes retssikkerhed og mulighed for at udøve deres rettigheder, og der skal sikres alternative løsninger til udsatte borgere, som både er værdige og effektive. Det er for eksempel ikke værdigt, hvis den enkeltes handlemuligheder er betinget af, at man overgiver sit digitale medborgerskab til pårørende og andre hjælpere.

2. Når offentlige myndigheder udvikler digitale løsninger, skal de gennem inddragelse af borgere i udviklingen sikre, at magt og myndighed kan udøves på en retfærdig måde. Det vil blandt andet sige, at der er plads til, at den enkelte borger kan træde frem og gøre sig gældende som individ (eller som en gruppe, hvis der er behov for støttepersoner). Borgeren må ikke opleve, at vedkommende bare er »data«, men skal kunne føle sig set og hørt.

3. Der skal udarbejdes dataetiske og menneskeretlige konsekvensanalyser eller vurderinger af digitale tiltags utilsigtede eller direkte negative påvirkning af borgerne.

Disse analyser skal være obligatoriske, når borgernes data er involveret, herunder når offentlige myndigheder anvender kunstig intelligens, der potentielt har vidtrækkende konsekvenser for den enkeltes og særlige gruppers rettigheder.

4. Danmark bør oprette en digitaliseringstaskforce, der udtager nye digitale projekter til stikprøvekontrol. Projekterne gennemgås for borgerrelevans, om det faktisk er til fordel for borgerne, om der findes rimelige analoge alternativer, og om grundlæggende dataetiske og it-sikkerhedsmæssige forhold er i orden.

5. Klagemuligheder over afgørelser i forhold til velfærdsydelser suppleres med feedback mulighed ved test af systemer, hvor sårbare grupper inviteres ind i tests og aflønnes for den tid, de bruger på at hjælpe med borgernær kvalitetssikring af systemer.

Hele brugerrejsen skal løbende testes af berørte grupper inklusive sammenhængen mellem systemer.

6. Forventede økonomiske gevinster skal tidligst realiseres, når det kan dokumenteres, at de kan opnås uden forringelse af kvaliteten og uden at flytte omkostninger andre steder hen. Denne dokumentation skal som hovedregel være offentligt tilgængelig. Det samme gælder de forretningsmodeller, der ligger til grund for indførelsen af løsningen.

7. Offentligt betalt udvikling bør så vidt muligt være offentligt ejet. Borgernær digitalisering er baseret på sunde, gennemsigtige, offentligt ejede it-infrastrukturer, så man undgår, at viden og værdier cirkulerer i lukkede kredsløb.

8. Alle borgere skal klædes på til at deltage i diskussionen om digitalisering og brug af ny teknologi. Det er ikke kun børn og unge, der skal have teknologiforståelse, alle andre skal også kunne forstå og forholde sig kritisk til teknologianvendelsen og dens konsekvenser for sig selv, andre befolkningsgrupper og fællesskabet som helhed. Alle bør have nem adgang til læringsmateriale om algoritmer, IoT (Internet of Things, red.), sensorer, biometri og droner, der har fokus på disse teknologiers anvendelse i den offentlige sektor.