Den gode, den onde og den grusomme algoritme

Danskerne må ikke blive øvelsesområde for algoritmer

Af Michael Bech

Mange danskere føler sig fremmedgjorte i et samfund, der i stigende grad styres af digitale processer. I den offentlige sektor får kunstig intelligens større magt i sagsbehandlingen, når borgeren møder sin myndighed. Og på jobbet så vel som i det offentlige rum bliver vi oftere overvåget af algoritmer, der indsamler vores data og bruger den til stadigt flere formål. Hvordan tackles de etiske udfordringer, og hvor går grænsen for, hvad algoritmer skal bestemme?

Professor ved Institut for Kommunikation og Humanistisk Videnskab på RUC Sine Nørholm Just er forskningsleder for ADD-projektet. Pressefoto.

Disse påtrængende spørgsmål fik i 2021 de to kapitalstærke fonde Villumfonden og Veluxfonden på banen. De finansierede forsknings- og formidlingsprojektet Algoritmer, data og demokrati, ADD, som med foreløbig 64 partnere – heriblandt HK – skal hjælpe Danmark med at finde den rette vej gennem digital udvikling.

- Vi undersøger, hvordan de teknologiske udviklinger hænger sammen med skabelse af tillid hos den enkelte borger og medarbejder. Projektet tager udgangspunkt i den stærke tiltro til en fælles tilgang til at løse udfordringer, der i dag eksisterer i det danske samfund og har fokus på, hvordan den kan bevares. For hvis vi som borgere føler, at andre handler med os – og ikke sammen med os – så smuldrer vores tillid til fællesskabet, siger professor Sine Nørholm Just, der er forskningsleder for ADD.

Muligheden for at skrue ned

Ifølge professoren ved Institut for Kommunikation og Humanistisk Videnskab på RUC er det en stor fordel at arbejde sammen med en spraglet flok af partnere i ADD. Det hjælper med at komme rundt i krogene af debatten om algoritmer og overvågning.

- Vi kan jo ikke vide noget om alt. Jeg ved fx ikke, hvordan mit køleskab virker, men jeg stoler på, at det virker. Det er rationel uvidenhed. Der er masser af ting, vi ikke kan finde ud af og overskue. Vi må derfor også kunne stole på, at de dataloger, der har forstand på algoritmer, sætter den kunstige intelligens op, så alle sikkerhedsmæssige forbehold bliver taget. Når vi taler med de mange forskellige partnere i projektet, får vi også blik for de forskellige bekymringer, der kan være, og input til de bedst mulige løsninger, siger Sine Nørholm Just.

Det menneskelige og dyrkelsen af fællesskaberne står ikke i modsætning til nye teknologiske løsninger. Historisk set har sociale relationer altid været centreret omkring ny teknologi, lige fra den gang hvor folk samledes omkring det nyskabende bål inde i hytten. Jeg tror ikke, at det er slut med civilisationen og samværet i en verden med øget brug af kunstig intelligens. Mit udgangspunkt er, at sociale forandringer er teknologiske, og at teknologiske forandringer er sociale. Vi kan bare ikke altid overskue teknologiske forandringer, og derfor kan det være fornuftigt at reagere med bekymring eller frygt.

- Sine Nørholm Just, forskningsleder for ADD, professor og ph.d. ved Institut for Kommunikation og Humanistisk Videnskab ved RUC

Hun mener, at der er mange åbenlyse lavthængende frugter, når der skal digitaliseres og automatiseres. Men man skal passe rigtig godt på, at den nye løsning ikke bliver endnu mere bureaukratisk end før digitaliseringen. Og så skal der være mulighed for at skrue ned for dataindsamling og for at rulle løsninger tilbage, hvis de viser sig ikke at være hensigtsmæssige.

Der skal magt og viden til

- Udfordringen er, at vi let glemmer at starte med et problem, når vi udvikler nye teknologier. Vi starter i stedet med en løsning, som vi derefter finder et problem til, som vi kan trække løsningen ned over, siger professoren.

Forskningslederen er fortrøstningsfuld over for opgaverne med at gennemføre en holdbar digital udvikling i Danmark. GDPR-reglerne og det ”nye og gode stykke lovgivning fra EU” vil ifølge hende være brugbar ved regulering af kunstig intelligens og algoritmer, der kan sikre mod misbrug af data og andre risici.

- Der er behov for ny lovgivning om algoritmer og kunstig intelligens, så der ikke foregår misbrug i form af fx overvågning. Spørgsmålet er, om der efterfølgende vil være nok ressourcer til at håndhæve lovgivningen forsvarligt. Uden sammenligning i øvrigt så er det også forbudt at stjæle, men det er ikke lykkedes os at stoppe tyve i at gøre det, siger Sine Nørholm Just.

Men med EU-reglerne i hånden kan man nu forbyde de mest risikable anvendelser af teknologien. Det tvinger udviklerne til at foretage tidlig risikovurdering, hvilket er et skridt i den rigtige retning, mener forskningslederen.

Vi skal samarbejde med algoritmen

-Vi er ikke maskinstormere, men vi er heller ikke jubelglade techoptimister. Vi skal styrke og effektivisere, men ikke rulle alt, som har fungeret godt, tilbage. I den forbindelse skal vi også overveje, om den danske model kan bruges til at sikre digital fremdrift, mens vi sikrer de enkelte borgere og ansattes rettigheder. Meget peger fx på, at man aldrig skal bruge algoritmer uden samtidig at kombinere processen med menneskelige vurderinger og sagsbehandling.

ADD-projektet arbejder ifølge Sine Nørholm Just på modeller for udvikling af teknologi. Det handler om at blive meget mere præcise og afklarede på, hvordan beslutninger tages i forbindelse med ny teknologi, og hvordan samarbejdet mellem menneske og algoritme kommer til at fungere i praksis. Og det er ikke mindst vigtigt at få mere viden om, hvad det betyder at skulle arbejde sammen med en algoritme. For det bliver efter professorens mening en af fremtidens arbejdsopgaver.

- Kunstig intelligens kan være objektiv og neutral på en måde, som mennesker ikke kan. Algoritmer er ikke belagt med menneskelig tvivl, hvilket kan være skidt, men også nogle gange en fordel. Mennesker kan tage højde for konkrete forhold og for eksempel sige, at i denne sag skal et forhold vægte mere end et andet, mens algoritmer arbejder med faste vægte – det første er situationsbestemt, det andet neutralt. Derfor er samarbejde mellem menneske og algoritmer vejen frem på mange områder, siger Sine Nørholm Just.

HK-robotkonsulent: Vi sørger for, at robotterne har det godt

I fremtiden vil antallet af robotter stige, fordi flere af os får nemmere tilgang til at bygge og bruge dem. Den store udfordring vil være at få sat tid nok af til at vedligeholde dem, forudser udviklingskonsulent i HK, Troels Krogh.

Af Ingelise Egeberg

Mystikken ved robotterne svinder. Efterhånden som byg selv-robotværktøj bliver udbredt, vil flere på arbejdspladserne kunne bygge dem, og flere vil sætte dem til at løse de rutineprægede opgaver. Det forudser Troels Krogh, der er udviklingskonsulent i HK's robotteam, Robotics.

Han mener dog ikke, at vi som almindelige medarbejdere nødvendigvis har den digitale dannelse, det kræver at administrere en større bestand af robotter. For med alle gevinsterne ved automatisering følger også store forpligtelser.

- Spørger du softwareproducenterne, vil de sige, ja, det har vi (digital dannelse, red.). Men nej, robotter skal man bruge tid på. De skal hele tiden optimeres, for at vi undgår fejl. Og det er der en risiko for, at vi glemmer, hvis vi bare slipper det hele løs, siger han.

Robotter må også dø

Udover at rette fejl går vedligeholdelse af robotter blandt andet ud på at forhindre, at deres mailbokse sander til med gammel post.

- Robotter er jo brugere på samme måde som andre medarbejdere, så det er vigtigt jævnligt at få ryddet op i deres indbakker i Outlook, forklarer Troels Krogh.

Nogle gange må en robot også dø, når nye robotter fødes. Det kan være, at dens opgave ikke længere er relevant, eller at den bliver udkonkurreret af en, der er mere avanceret.

Kvaliteten stiger

I HK er der flere end 50 aktive robotter rundt om i organisationen, og omkring ti er under udvikling. Teamet Robotics, som bringer de nye robotter til live, har eksisteret siden 2017 og består udover Troels Krogh af to robotbyggere og en proceskonsulent. Det er herfra, alle HK's robotter bliver passet og plejet. 

Robotterne, som Robotics udvikler på baggrund af ønsker og behov hos medarbejderne i HK, hjælper med at komme til bunds i store opgavebunker og med at spare tid ved rutiner, som et menneske skulle bruge mange gange mere tid på. Fordi robotten løser opgaven ens og fejlfrit hver gang, stiger også kvaliteten.   

Det er arbejdsgange, der i forvejen eksisterer, som automatiseres, fastslår Troels Krogh. Derfor er han ikke specielt bekymret for, at algoritmerne i HK bliver brugt til andet end det, de er tiltænkt.

- Selvfølgelig kunne man misbruge medlemsoplysninger, hvis man ville. Ligesom man ville kunne det i forvejen. Det er et spørgsmål om etik, at man ikke bruger robotteknologien til andet end det, den er udviklet til, siger han.

Fra dage til sekunder

Som eksempel på en robot, der har overtaget en opgave og dermed givet HK-medarbejdere mere tid til kontakt med medlemmer, fremhæver Troels Krogh a-kassens robot ’Noter til samtale’. Den samler de nødvendige oplysninger ind fra forskellige systemer og sender rapporter til rådgiverne, inden de skal holde medlemssamtaler. For medarbejderen ville den proces tage 20-30 minutter. Robotten gør det på 5.

Et andet eksempel er en robot i økonomiafdelingen, hvis opgave er at udfylde et felt med ALT, som går igen i 1.400 dokumenter. Tidligere gjorde medarbejderne det selv – hen over flere dage. Robotten gør det på 30 sekunder.   

Robotterne kommer til verden, enten ved at Robotics' proceskonsulent har været ude og opsøge idéer til procesoptimering, eller ved at en HK-enhed selv har henvendt sig til teamet med et ønske. Hvis idéen egner sig, bliver arbejdsgangen beskrevet og dokumenteret på video, hvorefter den udformes som en algoritme, og en ny robot kan se dagens lys. Herefter overgives de til enheden.

- Ansvaret for brug af robotterne ligger ude i den enkelte afdeling. Vi sørger bare for, at de har det godt.

Struktur og best practice

Aktuelt er Troels Krogh i gang med at udvikle genbrugelige komponenter til robotterne, således at hvis en robot skal optimeres, skal de blot tilføje komponenten og lade robotten køre videre. Tidligere gjorde de det ved at kopiere komponenter – med den risiko, at de også kom til at kopiere fejl. Skete det, måtte de lave det om.

-Vi arbejder på at skabe struktur og best practice, så det bliver nemmere at opdatere og bygge nye ting, siger han. 

Konkret kan robotterne ses på en computerskærm som linjer af tekst i forskellige farver alt efter deres tilstand, og om de er i drift. Klikker man ind på en, kommer et diagram op bestående af små tekster i rektangler, cirkler og romber forbundet af linjer. Det er den algoritme, robotten arbejder efter, og som kan bestå af flere lag, man kan klikke sig dybere ned i.

Algoritmerne skal være så enkle og tilgængelige som muligt, mener Troels Krogh.

- Vi lægger stor vægt på, at de ord, vi bruger, er på dansk. Vi bruger også æ, ø og å og ingen forkortelser, så det er let for andre at forstå og overtage processen, siger han og tilføjer:

- Mit mål er, at jeg på et tidspunkt gør mig selv overflødig.

Derfor kan en algoritme løbe løbsk

Udviklingen af de former for kunstig intelligens, vi i stadigt højere grad benytter, er på begynderstadiet, siger ekspert. Hun advarer mod ukritisk brug af algoritmer og ønsker en menneskelig kontrolfunktion.

Af Michael Bech

Det giver ikke længere mening at tale om fravalg af algoritmer og kunstig intelligens. I en stadig mere digitaliseret verden er mennesket allerede i voksende grad blevet erstattet af robotstyrede processer på arbejdspladserne og i samfundet generelt. Det har vi levet forholdsvist trygt med i mange år efterhånden. Men de første skandaler er dukket op efter brug af kunstig intelligens og algoritmeledelse, mens det store spøgelse i form af overvågning har vist sig som en reel fare.

- Som HK’er eller sagsbehandler kan du godt bygge eller bruge algoritmer, der giver mening i en arbejdssituation, hvor du skal have gjort et manuelt arbejde hurtigere eller mere effektivt. Men der er stadig nogle særlige udfordringer gemt i brugen af kunstig intelligens og algoritmer, siger Grit Munk, som er koordinator og it-politisk chefkonsulent ved SIRI-Kommissionen.

Mennesket mod maskinen

For algoritmerne ligger og lokker – og mange løsningsorienterede instanser, arbejdsgivere og politikere ser gerne øget brug af den kunstige intelligens. Argumentet lyder blandt andet, at vores velfærd bliver dårligere og vores løsninger på jobbet mindre præcise, hvis vi ikke udnytter borgernes egne data. Men tør vi lægge beslutningsprocessen over i digitale løsninger og en blind tro på algoritmerne?

- Det første problem melder sig, hvis man bruger maskinlæring. Her kan det være uklart, hvor algoritmen bevæger sig hen. Algoritmen lever af de data, man træner den på, og her kan der være blinde vinkler. Det har givet nogle problemer med hensyn til spørgsmål, der fx omhandler køn og race. Fx fik en automatiseret jobagent konkluderet sig frem til, at når der nu var flest chefer, der var mænd, så gav det mest mening kun at tilbyde chefstillinger til mænd, siger Grit Munk.

SIRI-Kommissionen blev oprettet i 2016 for at "se nærmere på, hvad kunstig intelligens egentlig betyder for vores liv”. Det skete på initiativ af folketingsmedlem Ida Auken og formand for Ingeniørforeningen, IDA, Thomas Damkjær Petersen, som ønskede at undersøge, hvad forandringerne kommer til at betyde for det danske samfund. Og der er siden da sket en kraftig forøgelse i brugen af algoritmer.

Opleves voldsomt uretfærdigt

- Det etiske problem, man skal være opmærksom på her, er, at når vi bruger eksisterende data til at fodre algoritmerne med, så får vi en gentagelse af den virkelighed, vi lever i og dermed også de mønstre og de problemer, vi har. Det kom blandt andet frem, da danske jobcentre i nogle år brugte algoritmer til behandling af spørgeskemaer, hvor det endte med, at alle med anden etnisk oprindelse end dansk blev profileret med en høj risiko for at ende i langtidsledighed – på trods af at nogle kom med solide uddannelser og god erfaring fra studiejobs, siger Grit Munk.

Den slags eksempler har ifølge chefkonsulenten sandsynligvis ofte bund i korrekt statistik. Men for det første opleves det voldsomt uretfærdigt af de mennesker, det går ud over, vurderer hun. For det andet fortæller det os, at hvis man gerne vil bryde et dårligt mønster og ændre tingene til det bedre, så kræver det et langt mere kritisk blik på, hvorfor tingene er, som de er.

- I virkeligheden er resultatet ved brug af algoritmer et billede af det, vi gør og fodrer processen med. Det andet store grundlæggende problem opstår ved automatiserede beslutningsprocesser, hvor vi lader algoritmen bestemme, hvad der er de rigtige løsninger. Hvis det handler om produktion af fx kaffemaskiner eller behandling af byggesager, så giver det måske nok mening at bruge algoritmens afgørelse. Men ikke når det handler om mennesker, deres liv og svære beslutninger. Så skal der højest være tale om en anbefaling, siger eksperten i brugen af den kunstige intelligens.

Tør medarbejderen trodse systemet?

I den situation har vi ifølge chefkonsulenten brug for en sagsbehandler til at se på mennesket i stolen overfor – og vurdere ud fra et personligt handlingsmønster frem for at godtage algoritmens digitale afgørelse. Der er nye regler på vej fra EU om, hvordan og hvornår man må bruge kunstig intelligens, de såkaldte AI Act, og her vurderes netop automatiserede beslutningsprocesser som et af de helt store risikoområder.

- Det næste problem er, at ansatte skal være klædt på til at bruge algoritmer kritisk. Man skal kunne sætte sin sunde fornuft og faglighed over algoritmen. Og det kan godt blive en udfordring for HK’eren eller sagsbehandleren. Tør jeg som medarbejder sige, at systemet tager fejl? Tør jeg stole på min egen erfaring, som jeg har oparbejdet gennem mange år?

- Vi skal huske at bruge algoritmerne og den kunstige intelligens med varsomhed. Udviklingen af kunstig intelligens er stadig kun på begynderstadiet, når vi skal regulere på noget så svært som menneskelige handlinger. Vi kan få mere viden og flere oplysninger hurtigt, men der skal være en kontrolfunktion og et menneske til stede, når der skal tages beslutninger, siger Grit Munk.

Rita Bundgaard: Overvågning svækker tilliden

Ny undersøgelse, som for første gang kortlægger danske lønmodtageres oplevelse af overvågning på jobbet, viser, at hver 5. har følt sig overvåget. Det svækker tilliden og kalder på åbenhed og handling, mener HK Stats formand Rita Bundgaard.

Af Ingelise Egeberg

"Har du nogensinde følt dig overvåget, fordi din arbejdsgiver indsamlede medarbejderdata om dig?" Sådan lyder et af spørgsmålene i en ny befolkningsundersøgelse, som 1.120 repræsentativt udvalgte danske medarbejdere har svaret på. Bag undersøgelsen står Algoritmer, Data og Demokratiprojektet (ADD), HK, Ingeniørforeningen IDA og Dataetisk Råd, og analysen er udført af Tænketanken Mandag Morgen. På spørgsmålet svarer 20 procent af de adspurgte "ja".

Det er første gang, en undersøgelse dokumenterer, hvordan medarbejdere i Danmark oplever og forholder sig til den indsamling af medarbejderdata, der sker i stigende omfang som følge af den digitale udvikling.

Selvom hovedparten af deltagerne ikke har følt sig overvåget, er det kun hver 4., der finder det positivt, at der bliver indsamlet data om dem i forbindelse med deres arbejde. 

I et fritekstsvar beskriver en kvindelig kontoransat et eksempel på, hvordan hun har følt sig overvåget:

"Jeg havde bestilt en kjole til min datter i min formiddagspause på min arbejdscomputer. To timer senere bliver jeg kaldt til et møde med min leder, som mindede mig om, at arbejdscomputeren ikke må bruges til privatbrug i arbejdstiden."

Den kontoransatte skriver endvidere, at hun blev kaldt til møde på baggrund af data, som lederen havde indsamlet digitalt.

Krav om mere åbenhed

At medarbejdere føler sig pustet i nakken af chefen som følge af uigennemskuelig overvågning er bekymrende og bør ikke finde sted, mener HK Stat-formand Rita Bundgaard.

Uigennemskuelig overvågning er bekymrende og bør ikke finde sted, mener HK Stat-formand Rita Bundgaard.

- Hvis arbejdsgivere overvåger, bare fordi de har det digitale værktøj til at gøre det, svækker det tilliden mellem leder og medarbejder og skader det psykiske arbejdsmiljø. Det er derfor på høje tid, at vi får skabt åbenhed omkring det i samarbejdsudvalgene og får tilrettet den aftale, vi allerede har om kontrolforanstaltninger på det offentliges område, så den matcher den teknologiske udvikling, siger hun.

Aftale om kontrolforanstaltninger har til formål "at skabe størst mulig tryghed for de ansatte i forbindelse med anvendelse af kontrolforanstaltninger" og siger desuden, at "kontrolforanstaltninger skal være sagligt begrundede i driftsmæssige årsager" og "må ikke være krænkende over for de ansatte".

Ifølge undersøgelsen er over halvdelen, 54 procent, af medarbejderne bekymrede for, at indsamling af data om dem skader forholdet mellem leder og medarbejder. Samtidig er det kun 1 ud af 4, der har oplevet, at deres leder har talt med dem om, hvorfor de indhenter medarbejderdata.

Se alle undersøgelsens resultater på ida.dk

Sæt et komma og du er overvåget: HK'ere har tillid til chefen

To af HK Stats TR’er er bevidste om, at arbejdspladsen indsamler data om deres digitale adfærd i arbejdstiden, men de oplever det ikke som et problem. Dog skal man være varsom med mere overvågning. - Begynder de at registrere toiletbesøg, og hvor tit jeg henter kaffe, er det over grænsen, lyder det.

Af Pelle Lindegaard Bügel

”Du brugte 20 procent mere skærmtid i sidste uge,” tikkede ind på arbejdstelefonen i morges. ”Mails er den aktivitet, du bruger mest tid på udenfor normal arbejdstid,” stod der i en mail sendt klokken 02.59 fra Microsoft Viva.

- Det er mit indtryk at det, der foregår, har et legitimt formål. Ellers skal jeg være uvidende om noget, som ikke har været oppe i samarbejdsudvalget. Men den ene gang, det skulle komme frem, er der røg i køkkenet, siger Christian Kragh, som har været TR ved Statens it gennem 12 år.

Tech-giganterne har styr på, hvad vi laver, men hvad med arbejdsgiverne? Nøgler, pen og papir er blevet til skærme og adgangskort, eller såkaldt bossware, om man vil. Det er et amerikansk udtryk for dataindsamling på jobbet.

Christian Kragh er it-konsulent og HK’ernes TR i Statens it, der er en styrelse under Finansministeriet med ansvaret for it-driften i ministerierne. Han føler sig ikke overvåget:

- Har du har en normal adfærd på en pc, lægger du ikke mærke til, at alting bliver gemt. Omvendt føler jeg mig tryg i, at alt jeg laver, bliver logget. Kommer en kunde og siger, at jeg har ødelagt noget, kan jeg finde beviset for, at det ikke er tilfældet. Logning er tosidet, mener han.

Logning er et it-udtryk for, at aktivitet på en enhed bliver indsamlet og gemt i et it-system.

Tænker ikke over overvågningen

- Jeg oplever stor tillid mellem mig og min leder. Jeg tror, at de fleste steder i staten er der nok at se til. Så laver man ikke sine ting, kommer der hurtigt fokus på det, siger Michael Jensen om, hvorvidt overvågning bliver brugt til at tjekke, om medarbejderne får nok fra hånden.

Hos Landbrugsstyrelsen i København er Michael Jensen TR for 80-90 HK’ere. Han føler sig heller ikke overvåget, men grebet skal ikke strammes mere:

- Jeg tænker ikke over overvågningen. Både jeg selv og de andre HK’ere er dog bevidste om, at den er der. Det er i orden, så længe det ikke misbruges, men det skal være ud fra en konkret vurdering, for ellers bliver det et overvågningssamfund. Det er derfor, man kan leve med at blive overvåget, men uden at man føler sig åndet i nakken hele tiden, siger Michael Jensen.

Fra indsamling til overvågning

I Landbrugsstyrelsen er det praksis, at de indsamlede data om de enkelte medarbejdere ikke bliver decideret overvåget uden en konkret mistanke, fortæller Michael Jensen.

- Så kontakter man TR’en, og så kigger man på data fra computerhistorik, mails og adgangskort. Det er ikke, om jeg sidder og læser Ekstra Bladet, som boner ud, men om man downloader ulovligt indhold, eller der er en konkret mistanke.

Det er ikke noget, han har prøvet at blive involveret i som TR. Arbejdsgiveren kan dog lave stikprøver uden mistanke. Michael Jensen ved ikke, om det foregår, men han tvivler på det:

- Det gør jeg, fordi jeg aldrig har fået noget data forelagt om dette, og at overvågningen generelt ikke er et problem for os, og derfor har jeg tillid til, at vores data heller ikke bliver misbrugt, siger han.

Hvert et komma bliver logget

Vest for København i Ballerup hos Statens it kan Christian Kragh godt genkende billedet af, at decideret overvågning finder sted ved en konkret mistanke eller en utilsigtet hændelse.

En af de mere prekære sager i nyere tid om overvågning i det offentlige fandt sted i Nyborg i 2019. Kommunens it-chef havde hyret et cybersikkerhedsfirma til at tage ud på en folkeskole med skjult kamera for at teste medarbejdernes forhold til personfølsomme data. It-chefen slap med en advarsel for miséren. I et forlig med den overvågede medarbejders faglige organisation måtte kommunen hoste op med en bod på 70.000 kroner.

- I dag kan du ikke sætte et komma eller være på en pc, uden det bliver logget. Overvågning er kun, hvis der sker noget. Det er vores sikkerhedsofficer, der giver tilladelse til, at arbejdsgiveren må kigge på medarbejderes data. Det er ikke frit tilgængelige data på den måde, understreger han.

Som statens interne it-afdeling er Statens it underlagt udvidet logning, hvorfor al digital færden i princippet bliver logget.

- Altså, hvis de begynder at registrere toiletbesøg, og hvor tit jeg henter kaffe, er det over min grænse. Den sociale adfærd, logger man den, er det ikke okay, betoner Christian Kragh.

Har du også fået mail fra Microsoft Viva?

Mange brugere af den seneste version af den mest benyttede kontorpakke og mailplatform, Outlook 365, har siden sidste år oplevet at få tilsendt en venlig daglig mail. Mailen kommer fra Microsoft Viva, den kaldes ’Din daglige orientering’, og åbner med et jovialt ’hej’.

Viva vil åbenbart gerne hjælpe dig med forslag til, hvad du skal svare på udvalgte mails, hvordan du skal bruge din arbejdstid, og hvordan du bedst følger op på kommunikation. Men er det nu kun en hjælp til dig selv, når en robot har pløjet sig gennem dine mails og din Outlook-kalender og nu gerne vil give dig gode råd? Eller er det i virkeligheden begyndelsen på en øget overvågning af dig og din arbejdsplads?

56 % af befolkningen har i mindre grad eller slet ikke viden om, hvordan deres personlige data bliver brugt af offentlige myndigheder. 7 ud af 10 har i mindre grad eller slet ingen viden om, hvordan deres personlige data bliver anvendt af private virksomheder.

Kilde: undersøgelse foretaget af Djøf

Det viser sig nu, at det også handler om det sidste – overvågning. Produktet Viva er automatisk med i abonnementer til Microsoft-pakken til større virksomheder. Men der følger samtidig et tilbud med til ledelsen i virksomheden: Hvis du skal følge med i dine medarbejderes vaner og arbejdsindsats, så kan du blandt andet tilkøbe ’sporing’ ’læringsanbefalinger’ og ’organisatorisk indsigt for administratorer og ledere’ for hver bruger (og det er så dig som medarbejder).

Det koster 56,60 kroner per medarbejder for hver måned i et årsabonnement. Selv om din ledelse ikke køber den ekstra ’service’ og en rapport om medarbejdernes adfærd foran skærmen, så får du den daglige mail. Den kan du selvfølgelig bede om at få slettet, men det fjerner ikke indsamlingen af data om dig. Det tyske datatilsyn forbød af samme grund sent i 2022 myndigheder at bruge Microsoft 365 på grund af hemmelighedskræmmeriet omkring brugen af persondata.

BECH

Må chefen gå ombord i din indbakke?

På flere punkter beskytter GDPR medarbejderne mod overvågning på arbejdspladsen. Arbejdsgiveren skal have et konkret formål med at overvåge eksempelvis din mailindbakke, fortæller ekspert. På en statslig arbejdsplads har ledelsen ikke adgang til data fra Microsoft Viva.

Af Pelle Lindegaard Bügel

Sluk for skærmen og log af, når du forlader din pind på storrumskontoret. Den har du nok hørt før og nok lidt oftere, efter at EU’s persondataforordning, GDPR, så dagens lys.

Tanja Kammersgaard er adjunkt og ph.d. i persondataret på Aalborg Universitet. Pressefoto

Arbejdsgivere indsamler også data om din digitale færden. Faktisk kan arbejdsgiverne i et vist omfang selv bestemme, om de vil overvåge medarbejderne. Det fortæller adjunkt og ph.d. i persondataret Tanja Kammersgaard på Aalborg Universitet:

- Generelt kan arbejdspladsen selv bestemme. om den vil overvåge medarbejderne og hvorfor. Medarbejdere har dog en grundlæggende ret til privatliv ifølge menneskerettighederne. Det skal arbejdsgiveren respektere. Det betyder blandt andet, at arbejdsgiveren ikke må gå ind i en mappe, hvis den er angivet som privat, fortæller hun.

Du har ret til at se dine data

Derudover skal arbejdsgiveren også være opmærksom på, at dataindsamling og overvågning kan indeholde behandling af personoplysninger.

- Behandles personoplysninger skal indsamlingen være rimelig, lovlig og gennemsigtig. Medarbejderen skal vide, at overvågningen sker, samt hvordan og hvorfor. Arbejdsgiveren skal have et konkret formål med overvågningen. Dertil har man som medarbejder ret til at se de data, der er indsamlet, og som vedrører en selv, siger Tanja Kammersgaard.

GDPR’s dataminimeringsprincip siger, at arbejdsgiver kun må overvåge sine ansatte i tilfælde, hvor formålet med overvågningen ikke kan opnås på en mindre indgribende måde. Kigger man efter, om sociale medier bliver tilgået i arbejdstiden, vil det være mindre indgribende at lukke for hjemmesiderne. 

Universitet: Vi har fravalgt data om medarbejderne

Helle Zinner, professor ved CBS, forsker i Microsoft Vivas software. Privatfoto

På Handelshøjskolen i København, bedre kendt som CBS, er Helle Zinner Henriksen institutleder på Institut for Digitalisering. Samtidig er hun professor (mso) og ph.d. i informationssystemer og er i øjeblikket en del af et forskningsprojekt om Microsoft Vivas software. Hun fortæller, at instituttet og CBS har fravalgt at abonnere på visse dele af Microsoft Viva og sørget for, at det kun er medarbejderen, der har adgang til disse data fra Viva:

- Der bliver indsamlet data om deres færden i Office-programmerne, men som ledelse er det ikke noget, vi har adgang til. Det tilgår kun medarbejderen selv.

CBS bruger kendte data

Hun har tidligere kaldt det ’grænseoverskridende’, at Microsoft Viva kan sladre om, hvad en medarbejder foretager sig under et online-møde.

- Fravalget er både etisk og fagligt, og de to ting er for os svære at adskille. Vi har ingen interesse i at lave systematisk dataindsamling af vores medarbejdere. Det gælder også komme- og gå-registreringer, siger hun og fortsætter:

- Arbejdstiden kan være flydende. Der bliver holdt møder, og vores ansatte er også ude at undervise, så jeg kan ikke se, hvorfor vi skulle have interesse i at overvåge antallet af møder, eller om en medarbejder er på pinden klokken 8.00, fortæller hun.

Til gengæld bruger CBS data fra business intelligence.

- Her kigger vi på eksempelvis evalueringer af medarbejdere og kurser, samt hvor meget vores forskere publicerer. Det er data, som er tilgængelige og kendte for medarbejderne.

Den hollandske skandale

Af Michael Bech

Holland indsatte i 2014 hemmelige algoritmer i kampen mod socialt bedrageri med velfærdsydelser. Det foregik ved at samkøre data gennem algoritmer i systemet SyRI (Systeem Risico Indicatie) i de hollandske kommuner.

Der kom hurtigt overvældende resultater ud af den algoritmestyrede indsamling af oplysninger. En masse sociale bedragere blev øjensynligt hurtigt ’fanget’ ved SyRI’s hjælp for fx at have modtaget boligstøtte, kontanthjælp eller børnetilskud uden at være berettiget til det.

Ingen vidste tilsyneladende, hvordan og hvorfor algoritmerne kunne fange så mange svindlere. Og det hollandske socialministerium lukkede i 2017 af for nysgerrigheden ved at erklære algoritmerne for hemmelige, så bedragere ikke skulle kunne undgå at blive fanget.

Men det viste sig efterhånden, at mange af sagerne ikke holdt i retten, mens der var en udtalt social slagside på algoritmernes vægtning. Populært sagt: De rige gik fri for undersøgelser, mens den sociale underklasse var det udprægede mål for den kunstige intelligens. Det endte i 2019 med en retssag mod ministeriets brug af SyRI, da det stod klart, at algoritmerne primært blev sat ind mod folk i lavindkomstområder – specifikt i Rotterdam.

- Selv om vi udmærket ved, at der også foregår masser af svindel og skatteunddragelse i banker, forsikringsselskaber og blandt rige, er det typisk i forhold til småkriminalitet blandt dårligt stillede, at vi sætter ind med algoritmer og den slags, siger den hollandske sociolog Marc Schuilenburg om sagen.

Domstolen i Haag satte en endelig stopper for SyRI 5. februar 2020. Men på det tidspunkt var en tilsvarende skandale godt i gang i Holland. Indvandrere havde været i skudlinjen i en heftig politisk debat om socialt bedrageri. Igen blev udfordringerne tacklet ved at sætte algoritmer i gang med at behandle data.

Problemet var igen, hvad algoritmerne blev sat til at behandle – og sagen endte med oppisket debat om fordomme mod indvandrere og indbygget diskriminering i opsætningen af algoritmerne. Og den samlede skandale blev for meget for den hollandske regering, der gik af og lod udskrive nyvalg i 2021 efter heftig kritik af brugen af algoritmerne.

Der skal sættes digitale værn op for brug af vores personlige data

Vi står over for en skræmmende fremtid med risiko for, at algoritmer overtager ledelsen på vores arbejdspladser med digital overvågning til følge. Udviklingen er i gang, advarer HK Danmarks næstformand Mads Samsing, som vil have arbejdsmarkedets parter til at opsætte rammer for dataindsamling, så det lokale samarbejde på arbejdspladserne kan styre uden om misbrug af data.

Af Michael Bech

De høstes konstant – også mens du læser denne artikel. Data om dig og din adfærd registreres og samles i store bunker som aftryk på din adfærd.

Mads Samsing kalder sig selv en ’GDPR-hardliner’. Næstformanden i HK Danmark er meget optaget af, at sikre arbejdstagernes digitale rettigheder. Foto: Lisbeth Holten

Det sættes fx i gang, mens du har din smartphone tændt, ved søgninger på internettet, hvis du er logget på din arbejdscomputer, når du handler på dit kreditkort, ved kommentarer eller likes på de sociale medier, efter du har fået vist vej af en app og i en lang række andre tilfælde, når du er en aktiv del af det digitale samfund.

Men det sker såmænd også lidt mere håndholdt, efter du har svaret på et spørgeskema, eller via nogle af de oplysninger, som myndighederne registrerer om dig og din adfærd, når du som borger har søgt råd eller hjælp. I langt de fleste tilfælde er det ret uskyldigt, men med de voksende bunker af data, opstår også muligheder for at bruge dem til en overvågning af dig, som du ikke selv har givet adgang til.

- I Danmark er vi dataoptimister og generelt tillidsfulde. Men data kan både bruges og misbruges. Derfor er det rigtig godt, at vi med GDPR har fået et stærkt regelsæt, som ikke bare handler om os som borgere og forbrugere, men også som arbejdstagere. Det skal vi gøre mere brug af, siger næstformand i HK Danmark, Mads Samsing.

"Sæt tydelige digitale værn op"

Ifølge næstformanden er det godt, at softwarerobotter med blandt andre HK’ernes hjælp kan klare mange af de ensformige opgaver. Og noget overvågning kan give mening. Fx når det gælder sikkerhed, borgernes retssikkerhed og forebyggelse af trusler mod ansatte eller arbejdsplads. Men indsamlingen af data er voldsom og skal reguleres.

- Vi er nødt til at regulere adgang til og brug af de store mængder data, der indsamles via algoritmer. Vi skal stå på rettighederne for den enkelte. Der skal ikke kunne forekomme misbrug og unødvendig overvågning, så der skal vi have sat tydelige digitale værn op. Vi skal minimere indsamlingen af data til det nødvendige. Vi skal vide, hvem der indsamler hvilke data til hvilket formål, hvem der har adgang til dem, og hvornår de slettes. GDPR giver rettigheder. Det samme gør aftalen om kontrolforanstaltninger. Så vi har noget at stå på, men det bør udbygges yderligere gennem aftaler, siger Mads Samsing.

Det er i høj grad stormagter og tech-giganter, der går forrest med at indhente data om borgere og virksomheder. Men det er også i stigende grad danske virksomheder og det offentlige system i Danmark, som suger data op om os. Så mens den nye teknologi giver Danmark nye muligheder, så rejser dataindsamlingen om danskerne også nye etiske udfordringer.

"Menneskelige relationer afgørende"

- Det handler altså om at regulere på forhånd, så vi ikke senere står med sager, hvor data er blevet misbrugt, eller hvor en algoritme har levet sit eget liv. Derfor skal det fra start være en nedskrevet aftale på arbejdspladsen eller i styrelsen, at der ikke må hentes mere data end til dækning af formålet, siger næstformanden.

HK’ere er med til at ’bygge’ mange af de algoritmer, der benyttes rundt om på det offentlige og private arbejdsmarked. Så det er ikke nyt for HK’erne at blive udsat for kunstig intelligens og algoritmeledelse i jobbet. De fleste steder kan det hjælpe med at tilrettelægge hverdagen og gøre trivielt arbejde hurtigere, men det kan også i mange tilfælde være farligt at stole for meget på algoritmerne og deres ’beslutninger’.

- Vi standardiserer arbejdet ved brug af algoritmeledelse. For en algoritme vil altid gå efter standarder. Men vores arbejdsliv er jo meget forskelligt selv inden for samme faglighed – og de menneskelige relationer er meget afgørende. Det kan en algoritme ikke måle, siger Mads Samsing.