dillemma forskning etik selvkørende biler køre ned waymo google / Newz.dk

Waymo

Dilemma-forskning: Disse mennesker må køres ned af selvkørende biler

Forskere har indsamlet millioner af svar med et dilemma-spil for at afgøre, hvem en selvkørende bil bør køre ned i en given situation.

Forskere ved MIT har lavet et dilemmaspil, der skal hjælpe med at udvikle AI til selvkørende biler, som kan afgøre, hvem der etisk set bør blive kørt ned i en given situation – hvis nogle absolut skal køres ned.

Det skriver DR.

I spillet skal man således vælge mellem, hvilket gruppe af mennesker og dyr, som den selvkørende bil skal køre ned. Her er både forskelle i status, alder, køn, og lovlydighed.

Spillet har indsamlet mere end 40 millioner beslutninger, som forskerne har undersøgt. Svarene er fordelt i tre geografiske klynger. Der er en sydlig klynge med syd- og mellemamerikanske lande, en vestlig klynge med Nordamerika og Europa og en østlig klynge med asiatiske lande.

Der er generel uenighed, men nogle tendenser kan ses. I den østlige klynge går testpersonerne for eksempel mindre op i at beskytte børn, end det er tilfældet i de to andre i klynger.

I den sydlige klynge vil man gerne redde kvinder og dem med høj social status.

De lande med meget økonomisk ulighed vil desuden gerne beskytte dem med høj social status, og de lande med et mere velfungerende retssystem vil gerne redde de lovlydige.

Prøv selv at tage stilling til de forskellige dilemmaer i MIT’s dilemmaspil her.





Gå til bund
Gravatar

#1 CBM 6. nov. 2018 10:40

HMMM... Hvad nu hvis NSA har et point system og man vælger de personer der har en høj nok point score hos NSA til at de kan "undværes" ? :-) Eller lav nok alt efter hvordan man vil vende det?


https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#2 nwinther 6. nov. 2018 12:28

Jeg ved ikke... jeg mener ikke, at en selvkørende bil skal slå sin passager ihjel, under nogen omstændigheder. Fair nok at den laver farlig vigemanøvre, hvis der er lav sansynlighed for at passageren dør (men høj sikkerhed for at fodgængeren dør). Men bilen skal ikke først slå fodgængerens patientjournal og selvangivelse op, inden den tager stilling til, om det skal være ham eller mig.
Gravatar

#3 CBM 6. nov. 2018 12:34

#2: men hva nu hvis du har de "forkerte" holdninger, politisk tilhørsforhold eller noget helt andet?

Jeg tvivler på at diverse agenturer og diktatorer vil lade en sådan chance gå deres næser forbi
https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#4 aajjager 6. nov. 2018 13:51

Det er så syre realistisk.

Men burde man ikke istedet få de selvkørende biler til at "snakke" sammen, så hvis Bil 1 er ved at køre en fodgænger ned, så ved bil 2 på den anden side at det sker, så kan også den nå at undvige...Så køre ingen galt!

Så vil der altid være nogle extreme tilfælde, men så må det bare komme som det kommer!
Gravatar

#5 Ufomekaniker 6. nov. 2018 17:04

CBM (3) skrev:
#2: men hva nu hvis du har de "forkerte" holdninger, politisk tilhørsforhold eller noget helt andet?

Jeg tvivler på at diverse agenturer og diktatorer vil lade en sådan chance gå deres næser forbi


Ja. Og det får mig til at tænke på at USA har sendt deres egen borgere i døden i krig i andre lande. Så Jeg tror, at hvis man tænker dybt nok over det, og i tilpas mange retninger, så er det her emne ret vigtigt. Og hvis man tager krig og selvkørende biler og ser det ovenfra (med tegnefilmslydeffekter på), såeh...
Gravatar

#6 CBM 6. nov. 2018 19:04

#5: der er mange skumle fremtidsudsigter
https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#7 dugfrisk 6. nov. 2018 22:27

Det afslører vel bare hvad der er foretaget de sidste mange hundrede år. Før i tiden aflivede og steriliserede man mennesker med en bestemt status i samfundet. Ligesom Danskere der støttede nazister blev hængt hvis de ikke var økonomiske rentabel.
Gravatar

#8 CBM 7. nov. 2018 04:32

dugfrisk (7) skrev:
Det afslører vel bare hvad der er foretaget de sidste mange hundrede år. Før i tiden aflivede og steriliserede man mennesker med en bestemt status i samfundet. Ligesom Danskere der støttede nazister blev hængt hvis de ikke var økonomiske rentabel.

Altsammen muligt i moderne udgave med selvkørende biler ... Jeg håber diverse producenter vil holde sig bare lidt på måtten på dette område
https://fricomputer.dk https://retrohardwareheaven.blogspot.com/ #ComeToTheDuckSide www.duckduckgo.com, AMD + ASUS = kvalitet! #BringBackTheKeyboard #JackOn SailfishOS rocks! 010000100110100101101110011000010111001001111001
Gravatar

#9 T_A 7. nov. 2018 11:55

Ligegyldig "Dilemma-Forskning" der er lavet af "forskere/journalister" som ikke kunne finde noget brugbart at bruge deres tid til.

2 Grunde til at dette ikke bliver aktuelt.

1) Det er umådeligt svært for en computer at indhente korrekt data omkring de forskellige variabler for overhovedet at kunne indlæse dem korrekt ind i sin "Moral-chip" og specielt i det meget begrænsede mængde tid den har til rådighed og dens manglende evne til at styre hvad andre trafikanter omkring den gør.

2) Der er ikke noget bilfirma der vil åbne sig selv op for at blive retsforfulgt efter hvem deres bil har ofret.

Den eneste der vil virke i den virkelige verden er at gøre som et menneske ville forsøge.
a) Undvig og lave kontrolleret standsning, hvis der er muligt.
b) Hvis det er helt umuligt, så nødbrems for at mindske skaden og klargør airbags og evt. andre katastrofe funktioner.
Gravatar

#10 nwinther 7. nov. 2018 13:34

T_A (9) skrev:
Den eneste der vil virke i den virkelige verden er at gøre som et menneske ville forsøge.
a) Undvig og lave kontrolleret standsning, hvis der er muligt.
b) Hvis det er helt umuligt, så nødbrems for at mindske skaden og klargør airbags og evt. andre katastrofe funktioner.


Scenariet er, at bremserne er ude af funktion. Nogen SKAL dø.

Der hvor det - i teorien - kan være interessant, er fordi selvkørende biler potentielt kan være superdygtige til at køre bil, reagere hurtigt, se rigtig mange ting og konstant analysere scenarier og udarbejde mulige reaktioner og derfor tage stilling til, om det er bedre at køre op på fortovet, end over i modsatte side af vejen, for at undvige i et givent scenarium.

Men at den meningsfyldt kan registrere alder, helbred, indkomst eller "lovbrud" er for langt ude.

I et af scenarierne skal man tage stilling til, om man vil undvige én gruppe mennesker, for så at køre en anden gruppe mennesker ned, og hvor eneste variabel er, at nogen går over for grønt, andre for rødt - altså at nogen "straffes" for ikke at overholde loven.

Men hvad nu, hvis der er en fejl på signalet, samtidig med? At der er grønt i begge retninger. Hvem bryder så loven?

Så på det her niveau, er dilemma-spillet tidsspilde, men det kan fint give mening at give bilerne forskellige muligheder. I princippet kan man jo sige, om bilen skal bremse og undvige, eller bare bremse. Fordi undvige-manøvren er potentielt farlig kan man sige nej, men det vil alligevel være at foretrække, hvis det nu var muligt at undvige sikkert, hvorved ingen kom til skade - eller hvor kun en hund kom til skade, eller hvor kun en enkelt person kom til skade, frem for hele børnehaveklassen, eller...
Gravatar

#11 T_A 7. nov. 2018 14:14

nwinther (10) skrev:


Scenariet er, at bremserne er ude af funktion. Nogen SKAL dø.

Der hvor det - i teorien - kan være interessant, er fordi selvkørende biler potentielt kan være superdygtige til at køre bil, reagere hurtigt, se rigtig mange ting og konstant analysere scenarier og udarbejde mulige reaktioner og derfor tage stilling til, om det er bedre at køre op på fortovet, end over i modsatte side af vejen, for at undvige i et givent scenarium.



Hvis den ikke har bremser skal den motorbremse, men ja hvis den ikke kan undgå at ramme noget, så skal den ikke prøve at undvige, da der i det mindste er en chance for at den person, rådyr eller bil den er ved at ramme selv kan nå at flytte sig.

På den lange bane er det altid bedre at en selvkørende bil gør det som folk regner med i stedet for at den forsøger noget vildt.

Forestil jer at en hovmodig teenager vader over vejen og ved at han kommer tæt på bilen men kan se at han lige kan nå at få røven med sig.

Lidt som når stupide folk stiller sig foran et tog og hopper til side i sidste øjeblik.
I sådan tilfælde er det godt at et tog ikke bare kan skifte bane, da den meget vel lige drejer i den retning personen ville bevæge sig og skaber en kæmpe ulykke.

Mennesker og dyr kan flytte sig forholdvis hurtigt, men hvad vi ikke er ret gode til er at ændre vores beslutning midt i det hele.
Den selvkørende bil er omvendt, den kan nemt sende ny køreplan ud til hjul og bremser 50 gange i sekundet, men køretøjet skifter ikke retning hurtigt.

Gravatar

#12 arne_v 7. nov. 2018 20:26

Med hensyn til dilemmaet, så mener jeg principielt at softwaren bør ligestille alle menneskeliv.

Men jeg tror ikke at modellen med N handlinger som alle har 100% sandsynlighed for et bestemt udfald er realistisk.

De N handlinger vil hver have en sandsynlighedsfordeling for forskellige udfald.

Så vælg den handling i fra 1..N som minimerer sum(p(i,j)*døde(i,j)) hvor j er de forskellige udfald.

Formentligt vil der være en optimal løsning.

I tilfælde af mere end en optimal løsning, så minimeres antal sårede mennesker.

Hvis der stadigvæk er mere end en optimal løsning, så minimeres antal dræbte dyr.

Hvis der stadigvæk er mere end en optimal løsning, så vælges en tilfældig løsning.



The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#13 arne_v 7. nov. 2018 20:29

Men det er vist ikke et realistisk problem idag.

https://www.ntsb.gov/investigations/AccidentReport...


The greater danger for most of us lies not in setting our aim too high and falling short; but in setting our aim too low, and achieving our mark.
Gravatar

#14 nwinther 8. nov. 2018 09:24

T_A (11) skrev:
Hvis den ikke har bremser skal den motorbremse


Øh, ja. Bilen skal bruge alle dens systemer til at bremse så sikkert som muligt - håndbremsen, motorbremse, regulære bremser, anker, flaps osv. Det giver jo sig selv.

Men scenariet er, at bremsesystemet ikke virker (bilen KAN ikke bremse på nogen som helst måde), udover at smadre bilen ind i en kæmpe betonblok så føreren og evt. passagerer med 100% sikkerhed dør.
Gå til top

Opret dig som bruger i dag

Det er gratis, og du binder dig ikke til noget.

Når du er oprettet som bruger, får du adgang til en lang række af sidens andre muligheder, såsom at udforme siden efter eget ønske og deltage i diskussionerne.

Opret Bruger Login