Selvkørende biler – jo mindre føreren selv styrer jo mere skal myndighederne

I USA kørte en selvkørende Tesla for nylig med fuld fart ind i en krydsende lastbil. Tesla-føreren blev dræbt på stedet. Selvkørende bil eller bare risikabel prototype i fri dressur?

For rigtig mange år siden havde jeg efter studentereksamen et sommerjob på Aarhus Havn. En formiddag skulle jeg ikke lave andet end at holde øje med en stor tank, der var ved at blive fyldt op – heldigvis kun med vand. Min opgave var at lukke for vandet, når tanken var fuld. Efter lang tid, hvor jeg bare sad og gloede, vandrede tankerne, og så løb tanken naturligvis over. Det er den slags risici, som folkene bag Tesla forsøger at snakke udenom, når de bedyrer, at føreren af en Tesla naturligvis skal sidde parat med hænderne på rattet, og højre fod klar til enten speeder eller bremse. Men når bilen har kørt helt af sig selv i meget lang tid, så vandrer tankerne, og ”føreren” er naturligvis ikke parat i det sekund, hvor det gælder. Ifølge avisen The Guardian sad føreren og så en film på en transportabel DVD-afspiller. Han valgte åbenbart at opfatte bilen som selvkørende, fordi den tilsyneladende havde funktionen, men selvkørende var den tydeligvis ikke.

For snart halvtreds år siden satte det første menneske fod på månen. Teknisk set sætter derfor kun fantasien grænser for, hvad vi kan præstere med udgangspunkt i anvendt ny teknologi. Men det er stadig sådan, at rent genetisk er det et stenaldermenneske, der sidder bag rattet, hvis der overhovedet sidder nogen, og det har betydning.

Selvkørende er velkørende men….
De store fly, der transporterer os rundt i verden, er i princippet allerede i dag fuldt selvflyvende. På en oversøisk tur sidder piloterne ikke konstant og stirrer på instrumentbordets virvar af displays – de tager sig en lur på skift, mens maskinen over lange stræk flyver helt af sig selv på autopiloten. Men det afgørende er, at der ikke er reduceret på kravet om antal piloter og deres maksimale arbejdstid, og ingen er i tvivl om, hvem der i cockpittet konstant har ansvaret for flyets kurs og sikkerhed: piloterne og kun piloterne.

I Københavns metro, kører togene fuldautomatisk ganske af sig selv – og tak for det! Hvis man tænkte sig, at en togfører skulle stå forrest i et metrotog og have ansvaret for hver togstammes sikkerhed, så ville jeg være mindre tryg end i dag, for den fuldautomatiske løsning er klart den sikreste. Jobbet som ’metrofører’ ville være mindst lige så kedsommeligt som mit job på havnen i Aarhus, og så sker der bare det, der ikke må ske. Til forskel fra vejnettet så er metrosystemet derudover fuldstændig lukket. Der kommer ikke pludselig et tog på tværs, som nogen skal være parat til at bremse for. Der sidder folk i et kontrolrum og har styr på hvert eneste tog. På vejene skal hver kørende enhed klare sig selv – det er en ganske afgørende forskel.

Risiko skal mærkes, hvis den skal styres
Risikoen for en menneskeskabt ulykke stiger, når vi stenaldermennesker fornemmer, at alt ånder fred og ro. Vores hjerne skal holdes til ilden hele tiden. Vi skal fornemme en potentiel fare, ellers er vi ikke tilstrækkelig årvågne. Den strategi fungerede fint hos vore tidlige forfædre – det er derfor vi er her - men i dag er vi mennesker programmeret genetisk forkert i forhold til at kunne betragte tilsyneladende velfungerende teknologi som en risikofaktor.

Der er skrevet spalte op og spalte ned om de etiske dilemmaer, som selvkørende biler kommer til at udsætte os for. Skal bilen eksempelvis være programmeret til at redde dig selv, hvis prisen er, at tre fodgængere bliver mejet ned – altså et rent teoretisk spørgsmål lige indtil den dag, hvor situationen opstår. Hvad med kun én fodgænger, hvad med ti? Dilemmaerne står i kø! Og hvad sker der med en bil, hvis computer bliver hacket af en, der ikke vil dig det godt?

Kan myndighederne følge med?
En bil skal være typegodkendt, for at den må køre rundt på vore veje. Men verden ændrer sig. Hvor det tidligere var bremser, styrtøj, crash-test mv. der var det centrale ved vurdering af en bils sikkerhed, så vil det i fremtiden være mindst lige så meget bilens software, der bør være i centrum. Problemet er bare, at over natten kan din bil stå i garagen og blive fyldt op med nye funktioner og køremønstre via internettet. Næste morgen ligner bilen grangiveligt sig selv, men den måde, den reagerer på, kan være voldsomt ”opgraderet”.  Kan de godkendende myndigheder følge med, eller ender det som med Uber og Airbnb, hvor myndigheder og politikere ikke ved, hvilket ben de skal stå på? Hos Uber og Airbnb ved du som kunde udmærket, hvad du får og ikke får set i forhold til de klassiske services: taxi og hoteller. Men når det gælder en bil, har du ikke en chance for selv at vurdere noget som helst – her er du afhængig af, at myndighederne hele tiden har kontrol med, hvad der er på markedet af såvel hardware som software. Men er de overhovedet klædt på til det? Vi har desværre VW-skandalen i frisk erindring.

Individet prioriterer sig selv
Tesla gik ifølge The Guardian umiddelbart efter ulykken i gang med PR-mæssig damage control. Man fremførte, at hidtil var der kørt 130 mio. miles pr dræbt person i selvkørende biler, mens tallet for almindelige biler er 94 mio. miles. Det er altså tilsyneladende sikrere at køre selvkørende end menneskestyret. Men her kommer stenaldermennesket ind igen - han er reelt ligeglad med, at to mennesker på en fjern boplads redder livet mod at han ofrer sig selv. Så langt rækker altruismen heller ikke!

De fleste af os anerkender ganske enkelt ikke, at vores liv skal afhænge af en lodseddel, som vi ikke har den fjerneste kontrol over uanset, at arrangementet muligvis er en fordel for den samlede befolkning. Et klassisk eksempel herpå så vi i 80’erne, hvor indenrigsminister Britta Schall Holberg som minister undlod at iværksætte screening af donerblod for HIV, da det blev teknisk muligt. Argumentet var, at pengene dertil ville give mere effekt, hvis de blev brugt på informationskampagner. Det kunne meget vel være rigtigt ud fra gennemsnitsbetragtninger, men det kunne enkeltpersoner, der eksempelvis var afhængige af blødermedicin, ikke bruge til noget. Det blev en stor politisk skandale og endte selvfølgelig med, at donerblod skulle screenes. Vi er nok kollektivt indstillet, men vi er ikke parate til at løbe en stor personlig risiko for, at en abstrakt samlet risiko for hele befolkningen til gengæld bliver mindsket.

En person, der sidder og ser film bag rattet i en ”selvkørende” bil, skal ikke bare kunne tage mit liv, uanset hvor meget ekstra sikkerhed bilen i øvrigt bidrager med. Så meget stenaldermenneske er jeg – og vi er nok et par stykker mere.

Sikkerhed mod russisk roulette-kørsel
Det er fint, at bilfabrikanterne udvikler alt hvad de kan, med det endemål at præsentere fuldt selvkørende biler. I mellemtiden må myndighederne holde dem i kort snor, så offentlige veje ikke bliver til producenternes testbaner. Det er fint med stadig flere assistent-funktioner, der gør kørslen mere afslappet og sikker, men ikke flere hjælpemidler, end at føreren stadig er tvunget til at følge med i trafik og i bilens kørsel. Om det skal være en dødemandsknap, en irisscanner eller noget helt tredje skal være usagt, men bilen bør helt automatisk reagere med sikkerhedsindgreb, hvis føreren ikke er tydeligt indgrebsklar under kørslen.

De teoretiske diskussioner om etiske dilemmaer er pludselig blevet virkelighed. Fuldt selvkørende biler om en del år, når de er færdige – ja tak! Opmærksomhedssløvende - men kun delvist selvkørende biler - nej tak!