Aldrig så snart er ordet gdpr blevet en del af den daglige samtale i mange danske virksomheder, før endnu et aspekt af at drive virksomhed i en digital verden melder sin ankomst.
Ved årsskiftet trådte et nyt lovkrav i kraft i Danmark, som pålægger større danske virksomheder i (regnskabsklasse C og D) at redegøre for deres politik for dataetik efter det såkaldte “følg-eller-forklar”-princip. De samme virksomheder skal allerede i dag leve op til årsregnskabslovens krav om samfundsansvar.
Fra min kontorstol i Silicon Valley ligner det grundlæggende en god idé. Danske virksomheder har historisk set præsteret rentabel forretningsudvikling på ryggen af lovkrav og skabt vigtige styrkepositioner i konkurrence med langt større lande, bl.a. i den grønne energisektor.
“Man kommer ikke uden om at drøfte værdier og holdning og forholde sig til risiko og omdømme
En gennemarbejdet og holdbar dataetisk politik kan desuden blive den næste basale adgangsbillet til markedet og et vigtigt konkurrenceparameter i takt med, at forbrugerne og kunderne udvikler og forfiner deres forventninger om ordentlig dataetisk adfærd. Det har vi for længst oplevet med esg og samfundsansvar, ikke mindst inden for klima- og miljøområdet.
Men der findes ikke en facitliste, hvad angår dataetik. Mens gdpr fastlægger ret klare regler for, hvordan virksomheder skal håndtere personoplysninger, kræver dataetik svar på spørgsmål og dilemmaer, der i høj grad defineres af menneskers individuelle holdninger, tolerancetærskler og indre etiske kompas.
Så hvordan balancerer man fokus på sorte tal på bundlinjen, når forretningsidéen er baseret på brug af data, der kan opfattes som etisk forrevet? Og hvordan kommunikerer virksomheden om sine etiske valg, så vigtige stakeholdere forstår, at man har tænkt sig om?
I mit arbejde som forsker i digitale menneskerettigheder på Stanford University i Silicon og som rådgiver for virksomheder med digitale problemstillinger oplever jeg jævnligt, at virksomheders adfærd eller løsningsmodel opfattes helt anderledes, end hvad intentionen var, når beslutningen forlader ledelsesgangen og møder målgrupper og brugere i den virkelige verden.
Det, som ét menneske synes er “ordentligt”, er ikke nødvendigvis ordentligt for andre. Indsamling og brug af data er en altoverskyggende del af nu- og fremtidens forretningsmodeller.
Men der følger aktive og til tider svære beslutninger med. Hvordan forholder man sig til den slags dilemmaer, og hvordan retfærdiggør man sine beslutninger eller sin forretningsmodel i en verden af forbrugere, der stiller spørgsmål, berettiget eller uberettiget. De nye lovkrav betyder nu, at virksomheder må lære at forstå betydningen og konsekvensen af de valg, der træffes om brugen af opsamlet data.
Og det kræver mere end blot at udfylde en tjekliste. Man kommer ikke uden om at drøfte værdier og holdning og forholde sig til risiko og omdømme. Det kan ikke afklares i it-afdelingen; hele virksomhedens kultur og renommé er på spil.
Hvordan forholder man sig f.eks. til, at virksomhedens anvendelse af data ender med at diskriminere visse grupper i samfundet, eller er der en utilsigtet etisk bivirkning i den ellers helt geniale idé, man havde fået med at korrelere data på en bestemt måde?
Et kendt eksempel er Apples betalingskort, som gav mænd længere kredit end kvinder. I USA var sorte udsatte i forbindelse med algoritmebaseret beslutning om prøveløsladelse. I Danmark var diskussionen om etisk brug af data i spil, da Gladsaxe Kommune ville krydse data om børn og familier for at sikre tidlig indsats overfor socialt udsatte børn.
Helt oplagt er forsikringsbranchen, hvor overvågning af kørselsmønstre kan afgøre størrelsen på præmien, hvis man overhovedet vil forsikre en given kunde. Der er ikke langt fra uovervejet dataetisk konsekvens til risikoen for et hak i renomméet.
I de seneste år har jeg via et forskningsprojekt på Stanford University i Silicon Valley arbejdet bl.a. med en række finansielle virksomheder om den svære dataetiske balancegang. Disse workshops og dilemmaspil afdækker altid nye problemstillinger. Med tiden har vi udviklet metode og formsprog, så man som virksomhed kan sætte de svære diskussioner og dilemmaer i system.
I det lys er det også en styrke, at de nye krav i den danske årsregnskabslov vil sætte fokus på dataetik, ikke blot i de store virksomheder, der nu er omfattet, men også i hele den underskov af danske virksomheder, der allerede forstår, at der kan være nye muligheder og forretningspotentiale i at sige velkommen til lidt mere besværlige etiske udfordringer.
