Dagens moderne biler er allerede utstyrt med en datahjerne – de får mer og mer makt over kjøringen din, og om noen år vil de ifølge forskerne ha mulighet til å ta over helt.

De fleste store bilfabrikantene og en rekke teknologigiganter jobber nå intenst med å teste teknologien, som allerede har eksistert i flere år:

Men disse helautomatiserte, selvdrevne bilene byr også på potensielt interessante etiske dilemmaer.

Se for deg et scenario der to biler er på vei mot en fatal front-mot-front-kollisjon i høy fart. Det eneste som kan avverge katastrofen er om en av bilene kjører i en fjellvegg. Bilens kunstige intelligens beregner raskt mulig skadeomfang, og sender passasjerene i den ene bilen mot den sikre død.

Ene alene fordi det er den muligheten som berger flest mulig menneskeliv.

Vi har muligheten til å programmere bilene til å ta slike valg for oss. Men burde vi?

Og ville du egentlig satt deg i en bil som har muligheten til å ta livet av deg om den finner det nødvendig?

Den prisvinnende bioetikeren Ameen Barghi ved Oxford University forklarer at dette er valg mellom utilitarisme – etisk teori som gjør det å maksimere velferd, for individet eller for samfunnet, til moralens grunnprinsipp, og deontologi – en teori som sier at valg skal baseres på regler eller moralske prinsipper, og at det «riktige valget» veier tyngre enn resultatene.

– Utilitarismen forteller oss at vi bør alltid gjøre hva som vil produsere den største lykke for flest mulig mennesker. Med andre ord, hvis det kommer ned til et valg mellom å sende deg inn i en betongvegg eller møtende skolebuss, skal bilen være programmert til å gjøre det første, sier han til Science Daily.

Et historisk og mye brukt etisk dilemma, som også gjør seg gjeldende her, er «The Trolley Problem».

trolley

Se for deg at du har ansvaret for en knapp som skifter mellom to vognspor mens en vogn kommer i rasende fart. Plutselig ser du at på det ene sporet står en full skolebuss, og på det andre har et barn satt fast foten. Du må velge et av sporene – hvilket velger du?

Deontologien er mer opptatt av vurderingene enn av resultatet. Hva kan man egentlig vite? Hva om skolebussen frakter mordere, og hva om barnet som sitter fast er ditt eget?

For utilitarismen er svaret enkelt. Man velger det som redder flest menneskeliv.

Men deontologien tvinger oss til å spørre – hvordan skal en datamaskin være i stand til å vurdere alle aspekt ved et slikt valg? Er vi villige til å la våre fremtidige biler å ta disse valgene for oss?

– Selv en datamaskin kan ikke programmeres til å håndtere dem alle. Ved å studere etikkhistorien vet vi dette. Eksempelvis har man prøvd dette innen medisinen uten hell, nettopp fordi det er for mange omstendigheter og for mange unike tilfeller, samt at medisinen selv er i stadig endring, forklarer Gregory Pence, PHd. ved UAB College of Philosophy. Han leder et utvalg som ser på utfordringer i skjæringspunktet mellom filosofi og futurisme.

Seniorforsker ved SINTEF transportforskning, Gunnar Jenssen, er godt kjent med dilemmaet.

– Per i dag vet vi ikke hva de forskjellige bilselskapene har lagt inn av informasjon i sine systemer, men de jobber kontinuerlig med å bygge databaser og kartlegge og gjenkjenne gitte situasjoner i trafikken. Det er jo noen som må programmere dette, og det er ikke gitt hvilke regelsett som legges inn, forklarer han til Natgeobloggen.

Forsker Gunnar Jenssen ved SINTEF.

Forsker Gunnar Jenssen ved SINTEF.

Han påpeker at bilbransjen har mye å lære av flytrafikken som er kommet langt, der alle flytyper er likt programmert. Noe av utfordringen er å standardisere den selvdrevne trafikken. Ingen ønsker å være bekjent med at deres bilmerke oftere sender noen i grøfta.

– Dette diskuteres allerede, som for eksempel i forbindelse med at Volvo laster opp informasjon om kjøretøyene i en nettsky. Er dette noe alle bør få tilgang til? Samtidig som vi ser at bransjen tar dette trinnvis. Vi har jo allerede antikollisjon og avstandsmålere i de nyeste bilene.

Han spår at vi har en helautomatisert biltrafikk innen 20-25 år.

– Man må ikke glemme at man i det store og hele vil få en langt sikrere trafikk enn dagens tradisjonelle manuelle trafikk. Og bilbransjen er ikke kjent for å sende nye ting ut på markedet før det er utprøvd i alle tenkelige former.

– Så du ville satt deg i en bil som kan ta livet av deg?

– Det har jeg allerede gjort!

National Geographic

National Geographic er en troverdig og engasjerende TV-kanal med lange tradisjoner, som formidler smart underholdning. For oss handler TV om både kunnskapsformidling og underholdning – du lærer alltid noe nytt av å se på National Geographic og kanalen passer for hele familien. Du kjenner igjen den gule firkanten vår som et stempel for kvalitet, og du finner oss på skjermen verden over. National Geographic er tilgjengelig i over 440 millioner husholdninger i 171 land og på 45 språk.