SENESTE NYT KURSER Bliv kunde
Opinion

Dette er et debatindlæg. Indlægget er udtryk for skribentens holdning. Alle holdninger, som kan udtrykkes inden for straffelovens og presseetikkens rammer, er velkomne, og du kan også sende os din mening her.

Debat | Professor: Det digitale Danmark kører med blinde vinkler

Arkivfoto: Ólafur Steinar Gestsson/Ritzau Scanpix
Arkivfoto: Ólafur Steinar Gestsson/Ritzau Scanpix

Det siger næsten sig selv. Hvis de, der bygger vores it-systemer, ikke afspejler samfundets forskelligheder – ja, så gør systemerne det heller ikke. Derfor er der brug for langt større ambition i indsatsen for at fremme diversiteten inden for it i alt fra jobsamtalen og helt ind i datastrukturer, algoritmer og brugerflader.

Når data diskriminerer

Bias rammer på mange måder – og til tider hårdt og uretfærdigt. I 2020 viste det sig f.eks., at flere forsikringsselskaber i to årtier har diskrimineret gravide pga. forkerte klassifikationer i it-systemet. Tusindvis af kunder med mén efter graviditet fik afslag på hjælp – stik imod lovens krav om ligebehandling.

Sagen fik stor omtale og kom til at koste forsikringsselskaberne over 30 mio. kr. i erstatning. Uagtet, at diskriminationen var utilsigtet, viser sagen, at hver gang en it-udvikler træffer en teknisk beslutning og implementerer klassifikationssystemer, kan det få stor betydning for andres liv.

Den hurtige genvej findes ikke – kun strategisk indsats, transparens og dialog

Selvfølgelig findes der også mere diskrete bias. Som f.eks. på Google Translate, hvor den engelske oversættelse af “min kæreste gør rent” lyder “my girlfriend cleans”. Mens “min kæreste er direktør” bliver til “my boyfriend is an executive”.

Eller på Linkedin, når jeg på trods af min titel som professor i datalogi foreslås “lette it-deltidsjobs hjemmefra”. Fordi jobportalen trækker på historiske bias, vurderer den, at deltidsjobs må være relevante for mig som en kvinde.

Bias ind ad bagdøren

Lad mig komme med et eksempel mere. I gamle dage før e-Boks var det moderen i husstanden, der modtog et brev, når barnet skulle til tandlæge. Nemt at hænge på køleskabet. Nemt at dele med andre i husstanden.

Ved overgangen til e-Boks fulgte den praksis med – i form af en algoritme baseret på, at det fortsat er mødre, der står for deres børns tandlægeaftaler. For mine børn betød overgangen til e-Boks, at de i et stykke tid gik glip af deres tandlægeaftaler. Ikke med vilje, men fordi det er min mand, der klarer den opgave.

Eksemplet viser, hvad der sker, når algoritmer baseres på historie, som tiden er løbet fra. Og hvor løsningen ikke kan bestå af simple redesign. For hvis fædre begyndte at få indkaldelser, ville problemet rigtig nok være løst for familier som min, men ikke for familier, hvor der f.eks. er to mødre eller familier med flere end to forældre.

Der skal mere radikale ændringer til, hvis vi skal indrette vores it-systemer til en mangfoldig verden. I e-Boks-eksemplet kunne kategorierne “mor” og “far” f.eks. udskiftes med “omsorgsperson 1” og ”- 2” og "- 3" osv. med lige muligheder for at få information om barnet.

Det vigtige er bare, at vi kommer hele vejen rundt. Det duer f.eks. heller ikke at ændre kønskategorierne i vores banksystemer fra “kvinde” og “mand” til “nonbinær”, “andet” og “foretrækker ikke at oplyse”, hvis statistik og visualisering af økonomisk data fortsat rapporterer inden for et binært klassifikationssystem.

Diversitet handler også om ledelse

Hvad kan vi så gøre ved problemerne? Som universitet kan vi i højere grad uddanne fremtidens dataloger til kritisk at vurdere risici for bias og “skæve” klassifikationer. Men skal vi lykkedes med at styrke diversiteten i virksomhederne, må lederne også på banen.

Faktisk bør enhver it-chef sætte sig ind i risici for bias og gøre diversitet til en synlig del af deres it-strategi – i alt fra rekruttering til design af databaser. Dette vil nemlig klæde lederen på til at analysere de eksisterende organisatoriske og tekniske strukturerer, der medfører barrierer for mangfoldighed i organisationen – og dernæst foretage de relevante ændringer.

Og det kan godt betale sig. For ifølge it-branchen har virksomheder med større diversitet på kontorerne “35 pct. større sandsynlighed for at have en bedre bundlinje end gennemsnittet for deres branche”.

Ligesom deres analyse også viser, at “teams, der inkluderer forskellige typer køn og fagligheder, træffer bedre forretningsbeslutninger 87 % af gangene, ligesom deres forretningsresultater er 60 pct. bedre end gennemsnittet 1”. Med andre ord skaber ledere, der prioriterer diversiteten på arbejdspladsen, ikke kun en attraktiv arbejdsplads, men de styrker også forretningen.

Den hurtige genvej findes ikke – kun strategisk indsats, transparens og dialog. Har man som it-chef forstået det, er man allerede godt på vej.

Andre læser også

BØRSEN

Nyhedsbreve

Tilmeld dig Børsens nyhedsbreve her

DAGENS

E-AVIS

E-avis vignette
Dagens E-avis

BØRSEN

Investor

Podcast

BØRSEN

Morgenbriefing

BØRSEN

Topchefernes strategi

Podcast

BØRSEN

Longreads

Forsiden lige nu