Kvinde ved computer
- Der er en tendens til, at hvis man kan samkøre data, så skal man også samkøre dem, ja nærmest at man har en forpligtigelse til at udnytte data på den måde.

Sådan lyder det fra Johan Busse, til daglig leder af borgerrådgiver-funktionen i Københavns Kommune, men her udtaler han sig som formand for Dataetisk Råd.

Den juridiske og forvaltningsretlige pointe fra Johan Busse, er at fordi noget er lovligt, er det ikke nødvendigvis etisk rigtigt, 

Samkøring skal kunne begrundes og forsvares

En pointe som fx Gladsaxe Kommune måtte sande, da den introducerede et projekt med machine learning og kunstig intelligens til tidlig opsporing af mistrivsel hos børn og efterfølgende diagnoser og endda kriminalitet.

Et dataanalytisk værktøj med samkøring af data, der vakte så stor modstand, at projektet blev sat på pause.

- Men med etiske og forvaltningsretlige briller skal al samkøring af data dels kunne begrundes, dels forsvares ud fra ret og rimelighed.

Værktøj med to dele

Derfor har Dataetisk Råd udviklet et dataetisk værktøj til at lave bedre beslutninger, når data skal samkøres.

fakta

sådan fungerer værktøjet

Værktøjet består af to dele – et dataetisk vurderingsskema og en dataetisk konsekvensanalyse. I vurderingsskemaet skal man finde ud af, om man har et dataetisk problem. Det sker ved at graduere svar fra kritisk til ikke-kritisk på en række spørgsmål, fx:
  • Er der bias i data
  • Kan datasamkøringen indebære negativ forskelsbehandling
  • Er der styr på teknologien
  • Er kvaliteten af data god nok
  • Sker der automatiske afgørelser? 
  • Kan borgeren selv bidrage med oplysninger?
  • Evalueres teknologien løbende?
Hvis flere af svarene er kritiske, så anbefaler Dataetisk Råd, at man går videre med at lave konsekvensanalysen.
- Men det kan også være man skal overveje, hvordan man mindsker de dataetiske bekymringer, man har opdaget. Fx ved at skalere projektet ned, sikre bedre datakvalitet, få politisk rygdækning eller professionel hjælp til problemstillingerne, uddyber Johan Busse. 

 

 

Vis mere