Unsplash

Teslas autopilot kan (stadig) snydes

- Via Computerworld -

Det er langt fra første gang og formentlig ikke sidste gang, at der findes huller i Teslas autopilot.

Autopiloten fungerer ved at læse skiltene fra omgivelserne og justerer derefter hastigheden på bilen så det matcher.

Ved at placere et lille stykke sort tape, der forlænger den midterste streg, fortolker bilens sensor tre-tallet som et otte-tal.

Fejlen betyder at autopiloten tror der må køres (f.eks.) 85 miles/hour frem for 35 miles/hour, altså 137 km/t frem for 56 km/t – hvorfor den accelererer for at matche hastigheden.

Selvom fejlen her er fundet på en Tesla, benyttes samme teknologi også i biler fra Audi, Nissan og Volvo.

Software-fejlen er fundet på MobileEye EyeQ3 (Tesla Model S og X til og med 2018) og ikke MobileEye EyeQ4.





Gå til bund
Gravatar #1 - ToFFo
24. feb. 2020 08:40
Så er det jo godt førerne er opmærksomme! Sådan da...
Gravatar #2 - Skak2000
24. feb. 2020 09:11
En skam bilen ikke kan trække på GPS koordinater, så den faktisk ved hvor hurtig man må køre på en given strækning......
Gravatar #3 - SwineDK
24. feb. 2020 09:50
Er det ikke kun i Tesla'er til og med 2016?

Desuden kan Tesla vist ikke selv opdatere softwaren til netop disse, da det er en del af MobilEyes system. Og MobilEye er absolut ikke interesseret i at hjælpe Tesla, efter et rimelig hårdt brud mellem dem.

Og selvom det er god clickbait, så er det ikke kun ældre Teslaer, der har problemet. Hvilket artiklen også nævner i en enkelt linje - "samt enkelte Audi, Cadillac, General Motors, Nissan og Volvo modeller" - helt nede i slutningen af artiklen.

Tesla var meget interesseret i at få et system, der virkede bedre og MobilEye kunne ikke levere det, så de valgte at udvikle deres eget, der nu er bedre og mere sikkert end MobilEyes.

#1 jeg tror at jeg ville blive meget opmærksom, hvis bilen pludselig accelererede op til 130km/t :-D
Gravatar #4 - lsv20
24. feb. 2020 09:58
Hvis tapen er sat perfekt, så er jeg ret sikker på det også er føreren der kan blive snydt. Så jeg vil da ikke mene at det direkte er autopilotens skyld.

Den eneste måde man som fører, måske kan se om omgivelserne passer overens med hastigheden på skiltet.
Gravatar #5 - dk_picard
24. feb. 2020 10:21
Skak2000 (2) skrev:
En skam bilen ikke kan trække på GPS koordinater, så den faktisk ved hvor hurtig man må køre på en given strækning......

Af de vidoer jeg har set med folk der har snakket om det, så bruger den allerede GPS data. Dog er disse ikke altid opdateret på nye skiltning. Uden at vide om det passer, så mener jeg de bruger google data til dette.
Gravatar #6 - chris
24. feb. 2020 10:38

Ved at placere et lille styke sort tape, der forlænger den midterste streg, fortolker bilens sensor tre-tallet som et otte-tal.

Fejlen betyder at autopiloten tror der må køres (f.eks.) 85 miles/hour frem for 35 miles på hour, altså 137 km/t frem for 56km/t – hvorfor den accelerer for at matche hastigheden.


Øhm, jeg ville sgu da også blive snydt af at nogen ændrede udseendet af et vejskilt?

Det her er jo en ikke-historie, forskerne lavede et 3-tal om til et 8-tal, og bilen reagerede derefter, som den burde.
Gravatar #7 - Ni
24. feb. 2020 11:14
#6 Enig, jeg forstå heller ikke, hvorfor de mener, at den kan snydes.

Det interessant er vel også, om det kunne ske i praksis
Gravatar #8 - larsp
24. feb. 2020 11:31
chris (6) skrev:
Øhm, jeg ville sgu da også blive snydt af at nogen ændrede udseendet af et vejskilt?

Det her er jo en ikke-historie, forskerne lavede et 3-tal om til et 8-tal, og bilen reagerede derefter, som den burde.

Ja, men det er stadig en historie om at AI systemer har svært ved at lave fornuftigheds-check af de indkomne informationer da det er meget svært at implementere "sund fornuft" som vi som mennesker tager for givet. Det er svært at hamle op med vores grå masse med milliarder af neuroner og årevis af erfaring hvad det angår.

En dag kunne det ske at hackere der går ind og retter kortdata og får selvkørende biler til at køre i grøften eller det der er værere.
Gravatar #9 - er4qer
24. feb. 2020 11:36
chris (6) skrev:

Øhm, jeg ville sgu da også blive snydt af at nogen ændrede udseendet af et vejskilt?

Det her er jo en ikke-historie, forskerne lavede et 3-tal om til et 8-tal, og bilen reagerede derefter, som den burde.


Nu ligner det ikke et 8tal sådan som forsøget blev lavet. Det er en forlængelse af den midterste streg i et 3tal. Tænker at et menneske ikke ville se dette som et 8tal.

https://inteng-storage.s3.amazonaws.com/img/iea/nR...
Gravatar #10 - dugfrisk
24. feb. 2020 12:07
Ingen skal klandre Tesla. Hvor vover i!!
Gravatar #11 - nwinther
24. feb. 2020 13:09
Idéen er vel, at et menneske ville tænke to gange, over at hastighedsgrænsen tredoblet - f.eks. inde i bebygget område.

Det taler vel for, at man kombinerer GPS og skilteaflæsning, og lader "laveste grænse" vinde. Dvs. at hvis GPS siger 30 km/t og skiltet siger 50 (eller 80) så tager bilen den langsomste mulighed. Evt. lave en manuel over-ride, hvor bilen spørger føreren, "da der er forskel på GPS- og skiltedata bedes du tage stilling".
Gravatar #12 - kblood
24. feb. 2020 15:21
Jeg vidste ikke at bilen rent faktisk tager højde for skilte... det er da ret blæret. Men nok også nødvendigt hvis det skal blive en selvkørende bil.

Synes nu det er noget underligt at der er en masse som angriber Tesla for at kalde det en "autopilot"... der er jo ret langt fra auto-pilot til at være selvkørende. Godt nok kan Tesla biler da været ret tæt på at være selvkørende, men kan ikke forstå at nogle virksomheder og organisationer i USA bebrejder Tesla for at kalde det en autopilot. Det betyder da egentlig bare at det er lidt smartere end en fartpilot. I et fly skal man da netop også være klar på at tage styringen når flyet er på autopilot... for i fly er der også stadigt ting som auto-piloten ikke kan tage højde for. Det samme med skibe og både. Der er da auto-pilotter på fly som er i stand til også at lande flyet, men det er ikke en selvfølge for en auto-pilot.
Gravatar #13 - antimate
25. feb. 2020 06:53
tænker det værste der kan ske i danmark er hvis man laver 50 om til 60 eller 80 ned til 30. crime riders.
Gravatar #14 - nwinther
25. feb. 2020 07:10
antimate (13) skrev:
tænker det værste der kan ske i danmark er hvis man laver 50 om til 60 eller 80 ned til 30. crime riders.


30-80/130, 100-200.
Gravatar #15 - nwinther
25. feb. 2020 07:11
kblood (12) skrev:
Jeg vidste ikke at bilen rent faktisk tager højde for skilte... det er da ret blæret. Men nok også nødvendigt hvis det skal blive en selvkørende bil.


Skiltegenkendelse har været ret almindeligt i selv små biler som Yaris i en årrække.
Gravatar #16 - SwineDK
25. feb. 2020 09:54
Det er vel også af sikkerhedsmæssige årsager at det er ulovligt at modificere vejskilte.
Vi ønsker jo heller ikke at en 90-årig misforstår skiltet og pludselig accelererer og derved måske forårsager en ulykke, måske med andre indblandet.
Gravatar #17 - EmilKampp
25. feb. 2020 16:56
Er det virkelig bedre at folk slår tusindevis ihjel hvert år end at en computer slår nogen hundrede ihjel?

Automatisering på vejene kan kun gå for langsomt.

Lad evt. Skat og Politiet stå for et statsligt IT projekt om at automatisere vejnettet. Så er jeg sikker på vi har fikset autopiloten inden de har nedsat det udvalg der skal overse de arbejdsgrupper som skal vurdere de udvalg som skal koordinere de konsulenter som skal vurdere projekt planen. Og vi skal alligevel bruge 12 mia for at nå op på den mængde penge skat smed væk forrige år.
Gravatar #18 - kblood
25. feb. 2020 20:44
#17 Desværre er problemet at juridisk ændre det alt... men tænker da egentlig at man burde kunne komme uden om det ved at ligge ansvaret på bilens ejer, eller i det mindste den som "køre" bilen. Så burde det netop være klart at det er op til bilens ejer at sikre at der køres sikkert, også at autopiloten gør.

Desværre kan det jo så måske siges ikke at holde i retten. Kontrakter er ikke altid bindende hvis det kommer til en retssag.
Gravatar #19 - EmilKampp
26. feb. 2020 05:46
Jura er ikke en natur lov. Vi kan lave det om, hvis det er i vejen. Ligesom love, samfunds normer og andre sociale konstruktioner alle kan laves om efter behov. Jura er ikke en forklaring, men en dårlig undskyldning for at være doven og mangler vision.
Gravatar #20 - Paranoir
26. feb. 2020 09:35
Skak2000 (2) skrev:
En skam bilen ikke kan trække på GPS koordinater, så den faktisk ved hvor hurtig man må køre på en given strækning......


GPS koordinater tager ikke nødvendigvis højde for "akut" vejarbejde med nedsat hastighed. F.eks. henover Lillebælt, er der ofte nedsat hastighed hvis det blæser meget, eller hvis der er vejarbejde på broen (hvilket er ret ofte i øjeblikket).

Så at gå ud fra GPS koordinater er ikke helt optimalt alene - men helt sikkert noget man kunne bruge SAMMEN med et kamera der holder øje med vejskilte.
Gravatar #21 - Xaroc
3. mar. 2020 12:27
Det er også derfor jeg køre 80 når der står 30. Jeg er blevet snydt.
Gravatar #22 - dugfrisk
14. mar. 2020 13:30

Gravatar #23 - dugfrisk
14. mar. 2020 13:40
chip all the small things, with tesla
Gravatar #24 - MichaelllP
14. apr. 2020 13:14
Hmm, det ser ud til, at det er helt normalt, at der er huller der, de forbedrer sig stadig ... Jeg ved ikke, jeg har for nylig læst en artikel, og jeg fik et godt indtryk af dem. Hvis du er interesseret, så læs mere her. måske lærer du noget nyt der, jeg håber, at nogen har brug for det. venter på et svar
Gå til top

Opret dig som bruger i dag

Det er gratis, og du binder dig ikke til noget.

Når du er oprettet som bruger, får du adgang til en lang række af sidens andre muligheder, såsom at udforme siden efter eget ønske og deltage i diskussionerne.

Opret Bruger Login