mboost-dp1

Amazon

Hackere kan snyde smart-højtalere med skjulte kommandoer i musik og tale

- Via New York Times - , indsendt af Ufomekaniker

En gruppe studerende på universitetet i Berkeley har fundet ud af, at det er muligt at skjule ondsindede kommandoer til smart-højtalere i musik og optaget tale.

Kommandoerne kan i teorien tillade hackere at overtage enheder, der er forbundet til smart-højtalere som Google Home eller Amazons Echo.

I 2016 begyndte forskere i USA og i Kina allerede at kunne skjule kommandoer i hvid støj, der bad AI-assistenter som Siri og Alexa om at ringe til bestemte numre eller besøge en bestemt hjemmeside, hvilket hackere kan udnytte.

De studerende fra Berkeley har så videreudviklet dette og har ved at ændre i lydfiler lykkes med at skjule kommandoen “O.K. Google, browse to evil.com” både i et musiknummer og i en optaget sætning. Mennesker kan ikke høre, at kommandoen bliver sagt.

Der er ikke fundet spor på, at denne metode er blevet brugt til at hacke enheder i virkeligheden.

Apple har udtalt, at Siri har indbyggede sikkerhedsforanstaltninger på plads. Både iPhones og iPads skal være låst op, før Siri vil godkende kommandoer vedrørende følsom data eller åbne apps og hjemmesider





Gå til bund
Gravatar #1 - CBM
14. maj 2018 05:54
ulempen ved en enhed der har en mikrofon der altid lytter... selv hvis man kunne høre kommandoen er det jo nok også allerede for sent når den har navigeret til "evil.com"... hvorfor er det den ikke kun genkender ejerens stemme iøvrigt? ala startrek?

obligatorisk xkcd: https://xkcd.com/1807/
Gravatar #2 - Ufomekaniker
14. maj 2018 06:42
Jeg kan godt se det smarte i den teknologi. Men først når den er sikker nok. Lige nu skal jeg ikke have bestilt nogle dukkehuse osv :D

https://www.version2.dk/artikel/googles-superbowl-...

Nu har jeg ikke lige hørt noget mht HomePod i denne kaliber. Men jeg tror mere, at det hænger sammen med, at den ikke er så dygtig endnu. Den kan ikke så meget som dens konkurrenter. Men den skal helt sikkert nok blive spooky en dag, lige som den begyndte at blive nærtagende kl 2 om morgenen samtidig med at Alexa begyndte spontant at grine. Ingen tvivl om det :D

https://www.nytimes.com/2018/03/08/business/alexa-...
Gravatar #3 - Athinira
14. maj 2018 06:43
CBM (1) skrev:
hvorfor er det den ikke kun genkender ejerens stemme iøvrigt? ala startrek?

Fordi vores stemmer ændrer sig konstant (endda fra dag til dag), baseret på mange ting inkl. sindstilstand, sygdom, adrenalin etc.
Gravatar #4 - CBM
14. maj 2018 06:47
#3: det bør stadig være muligt at danne en profil over en persons stemme... vi som mennesker kan kende forskel på hinandens stemmer fx

Gravatar #5 - Athinira
14. maj 2018 07:41
CBM (4) skrev:
#3: det bør stadig være muligt at danne en profil over en persons stemme... vi som mennesker kan kende forskel på hinandens stemmer fx

...og vi kan også tage fejl, hvilket vi gør fra tid til anden.

Forskellen er bare, at hvis vi tager fejl af folk baseret på stemmen, så gør det ikke rigtigt noget. Hvis systemet her derimod bare har en lille fejlrate, så vil det irritere folk nok til at mange stopper med at bruge systemet. Derfor.
Gravatar #6 - CBM
14. maj 2018 08:33
#5: med andre ord, vores stemmer er ikke unikke og derfor er startrek lignende stemmestyring, for bestemte personer, noget der aldrig vil kunne lade sig gøre?
Gravatar #7 - Athinira
14. maj 2018 09:44
CBM (6) skrev:
#5: med andre ord, vores stemmer er ikke unikke og derfor er startrek lignende stemmestyring, for bestemte personer, noget der aldrig vil kunne lade sig gøre?

Nu skal man aldrig sige aldrig. Men det er et spørgsmål om hvad systemet bruges til. Forskellige typer systemer vil være mere følsomme over for hhv. passive og aktive fejl.

I tilfælde af digitale assistenter, stemmestyring i hjemmet mm. er det alfa og omega for de virksomheder der producerer og designer dem, at deres systemer virker pålideligt og brugeren ikke bliver irriteret på systemet. For ellers stopper de med at bruge det.

Problemet er at det i forvejen er en udfordring at få systemerne til at forstå kommandoer korrekt, hvis de ikke udtales i en klar og neutral stemme. De skal i forvejen tage højde for at vores stemmer, accenter og udtale er så vanvittigt forskellig. Smider du så også brugerverificering oven i det, så øger du bare fejlraten endnu mere.
Gravatar #8 - dub
14. maj 2018 10:52
CBM (4) skrev:
#3: det bør stadig være muligt at danne en profil over en persons stemme... vi som mennesker kan kende forskel på hinandens stemmer fx


https://en.wikipedia.org/wiki/Moravec%27s_paradox
Bare fordi vi synes noget er nemt betyder det ikke at det er nemt for en computer.
Gravatar #9 - CBM
14. maj 2018 11:07
#7 og #8: måske er det symptomer på at teknologien endnu ikke er klar til alle disse "smart højtalere"...

det holder jo ikke at man kan gøre som i den xkcd tegneserie stribe jeg linkede til og bare bestille alt muligt lort hos tilfældige personer fordi man besøger folk der har en sådan "smart højtaler"?

og hvad med husets børn? de kan jo også bestille alt muligt shit? det holder bare ikke...

samme gør sig vel egentligt gældende for både faceID og alle de android løsninger med ansigtsgenkendelse som kom før FaceID... det er ikke sikkert nok... folk kan låse telefoner op som ikke er deres... jeg kunne finde mange links med eksempler hvis folk insisterer
Gravatar #10 - Ufomekaniker
14. maj 2018 14:12
CBM (9) skrev:
#7 og #8: måske er det symptomer på at teknologien endnu ikke er klar til alle disse "smart højtalere"...

det holder jo ikke at man kan gøre som i den xkcd tegneserie stribe jeg linkede til og bare bestille alt muligt lort hos tilfældige personer fordi man besøger folk der har en sådan "smart højtaler"?

og hvad med husets børn? de kan jo også bestille alt muligt shit? det holder bare ikke...


Man kunne vel bare konfigurere den til at man ikke kan bestille fra den.

En af dem der fik et dyrt dukkehus leveret ved hoveddøren i USA var vist nok en rocker eller noget i den stil. Det må have været grineren at se ham mod tage den pakke :D
Gravatar #11 - CBM
14. maj 2018 14:29
#10: helt sikkert men ufedt for den pågældende rocker ... Hehe
Gravatar #12 - Athinira
14. maj 2018 20:52
CBM (9) skrev:
det holder jo ikke at man kan gøre som i den xkcd tegneserie stribe jeg linkede til og bare bestille alt muligt lort hos tilfældige personer fordi man besøger folk der har en sådan "smart højtaler"?

og hvad med husets børn? de kan jo også bestille alt muligt shit? det holder bare ikke...

Så må man jo slå den funktionalitet fra.
Gravatar #13 - CBM
15. maj 2018 03:34
#12: men den funktion burde enten ikke være der..... fungere bedre eller som absolut minimum være slået fra som standard?

Jeg kan ikke slippe af sted med at levere et stykke software til en kunde hvis det ikke fungerer hensigtsmæssigt. ..

At alle kan bestille random lort med din "højtaler" er ikke hvad jeg vil kalde hensigtsmæssigt

Der kunne så som det allermindste være et krav om at der skal udtales et kodeord hvorefter købet kan foretages efter at man siger ok på sin mobil.... bare en eller anden illusion om kontrol i det mindste
Gravatar #14 - Athinira
16. maj 2018 07:30
CBM (13) skrev:
Jeg kan ikke slippe af sted med at levere et stykke software til en kunde hvis det ikke fungerer hensigtsmæssigt. ..

At alle kan bestille random lort med din "højtaler" er ikke hvad jeg vil kalde hensigtsmæssigt

Problemet er at for at klassificere det som uhensigtsmæssigt kræver det at systemet bliver aktivt misbrugt. Det er ikke nok at det bare er muligt. Der skal være aktivt misbrug til en grad hvor det kan kaldes et reelt problem, før tingene bliver ændret.

Det er lidt ligesom den nye betalingsfri funktion til hævekort som ikke kræver pinkode op til 350 kr. Det er muligt nogen er skeptiske over for at det teoretisk kan misbruges (jeg mindes du er), men faktum er at folk har taget det til sig og kortudstederne/bankerne har vurderet at de tjener mere på det end de taber ved misbrug. Så kan man sidde på et forum og kalde det "uhensigtsmæssigt" alt det man vil, men faktum er at de fleste folk er glade for det.
Gravatar #15 - CBM
16. maj 2018 11:20
#14: det kan der være noget om.. jeg har fundet en workaround ift problemet med NFC dankort... brug en app på mobilen og sluk for NFC når du ikke bruger det

Gå til top

Opret dig som bruger i dag

Det er gratis, og du binder dig ikke til noget.

Når du er oprettet som bruger, får du adgang til en lang række af sidens andre muligheder, såsom at udforme siden efter eget ønske og deltage i diskussionerne.

Opret Bruger Login