mboost-dp1

Shutterstock

Clearview AI’s ansigtsgenkendelse ulovlig, siger Canadas Privacy Commissioner

- Via The Verge -

Clearview AI’s omstridte ansigtsgenkendelsesprogram får kritik af Canadas Privacy Commissioner efter årelang undersøgelse.

Det amerikanske techfirma Clearview AI, der leverer ansigtsgenkendelsessoftware, er blevet erklæret ulovlig af Canadas Privacy Commissioner, Daniel Therrien.

Daniel Therrien begrunder vurderingen med, at Clearview AI’s indsamling af billeder fra sociale medier og offentlige hjemmesider skaber et system, der skader alle medlemmer af samfundet.

Clearview AI rapporteres at have op mod 3 milliarder billeder til brug for myndigheder.

Blandt andet Canadas føderale politi, The Royal Canadian Mounted Police, var blandt de canadiske politimyndigheder, der benyttede Clearviews AI’s tjenester.

Firmaet stoppede med at tilbyde deres tjeneste i Canada i juli, efter undersøgelsen begyndte.

Læs også: LAPD forbyder kommerciel ansigtsgenkendelse: Anvendt 475 gange på tre måneder.

En advokat fra Clearview AI har udtalt, at de ønsker at udfordre beslutning fra Privacy Commissioner Daniel Therrien i retten.

Firmaet vedholder, at canadiske privatlivslove ikke påvirke dem, da firmaet ikke har en “reel og betydelig forbindelse” til landet.

Læs hele udtalelsen fra Canadas Privacy Commissioner her.





Gå til bund
Gravatar #1 - T_A
8. feb. 2021 11:13
Så et firma tilbyder at lade politi få adgang til et værktøj, som kan prøve at lave ansigt genkendelse ved at sammenligne et billede fra f.eks. et overfald, med offentlig tilgængelige billeder på nettet.

Har meget svært ved at se det er et problem.
Gravatar #2 - Ni
8. feb. 2021 12:06
#1 Det er vel fordi internettet er et offentligt rum og overvågning af offentlige rum er verboten... Selv på dansk er det forbudt :-P
Gravatar #3 - T_A
8. feb. 2021 12:13
Ja men så ikke helt alligevel.
Politiet må jo godt i en konkret sag kigge igennem optagelser, taget i det offentlige rum, for at finde en specifik person.

Så hvis det lovgives under samme regler som polities underlægger når de f.eks. vil indsamle video fra tankstationer, banegårde m.m. så kan jeg ikke se problemet.

Det er alt sammen billeder taget i offentlig rum.
Gravatar #4 - Ni
8. feb. 2021 12:31
#3 Jeg tænkte nok bare, at der må ikke sættes overvågning op, som overvåger gader og stræder, men kun privatejet grund og hvad med ophavsretten, skal indehaveren af billede ikke selv udlevere det, før de må scanne det? :-)
Gravatar #5 - T_A
8. feb. 2021 13:34
Ni (4) skrev:
#3 Jeg tænkte nok bare, at der må ikke sættes overvågning op, som overvåger gader og stræder, men kun privatejet grund og hvad med ophavsretten, skal indehaveren af billede ikke selv udlevere det, før de må scanne det? :-)


Hvis du har valgt at ligge det synligt for all på Facebook/Instagram osv.
Så er det jo frit tilgængeligt for alle at kigge på.
De kan ikke søge i billeder som ikke er lagt ud til offentlig skue.
Gravatar #6 - Athinira
8. feb. 2021 17:52
T_A (1) skrev:
Så et firma tilbyder at lade politi få adgang til et værktøj, som kan prøve at lave ansigt genkendelse ved at sammenligne et billede fra f.eks. et overfald, med offentlig tilgængelige billeder på nettet.

Har meget svært ved at se det er et problem.


Det er bl.a. et problem pga. forkerte matches.

Hvis en person overfaldes, og systemet fejlagtigt genkender dit ansigt som gerningsmanden på trods af at du intet har med det at gøre, så er dit privatliv blevet krænket. Og selv hvis du bliver erklæret uskyldig senere, så har det stadigvæk forsaget dig besvær og ubehag, herunder potentielt varetægtsfængsling på forkert grundlag, samt at dit omdømme bliver skadet.

Og som borger har du meget begrænset mulighed for at undvige registeret. I Danmark kan din DNA jo fx kun indsamles hvis du er direkte mistænkt i en sag eller tidligere dømt for kriminalitet. Det samme med dit fingeraftryk. Men her indgår du i registreret selvom du altid har været en lovlydig borger.
Gravatar #7 - CBM
8. feb. 2021 18:03
Athinira (6) skrev:
T_A (1) skrev:
Så et firma tilbyder at lade politi få adgang til et værktøj, som kan prøve at lave ansigt genkendelse ved at sammenligne et billede fra f.eks. et overfald, med offentlig tilgængelige billeder på nettet.

Har meget svært ved at se det er et problem.


Det er bl.a. et problem pga. forkerte matches.

Hvis en person overfaldes, og systemet fejlagtigt genkender dit ansigt som gerningsmanden på trods af at du intet har med det at gøre, så er dit privatliv blevet krænket. Og selv hvis du bliver erklæret uskyldig senere, så har det stadigvæk forsaget dig besvær og ubehag, herunder potentielt varetægtsfængsling på forkert grundlag, samt at dit omdømme bliver skadet.

Og som borger har du meget begrænset mulighed for at undvige registeret. I Danmark kan din DNA jo fx kun indsamles hvis du er direkte mistænkt i en sag eller tidligere dømt for kriminalitet. Det samme med dit fingeraftryk. Men her indgår du i registreret selvom du altid har været en lovlydig borger.

det kommer også til danmark

vi er vel alle allerede tvangsregistreret med dna i det fine register som de deler med alt og alle
Gravatar #8 - T_A
8. feb. 2021 18:06
Athinira (6) skrev:
T_A (1) skrev:
Så et firma tilbyder at lade politi få adgang til et værktøj, som kan prøve at lave ansigt genkendelse ved at sammenligne et billede fra f.eks. et overfald, med offentlig tilgængelige billeder på nettet.

Har meget svært ved at se det er et problem.


Det er bl.a. et problem pga. forkerte matches.

Hvis en person overfaldes, og systemet fejlagtigt genkender dit ansigt som gerningsmanden på trods af at du intet har med det at gøre, så er dit privatliv blevet krænket. Og selv hvis du bliver erklæret uskyldig senere, så har det stadigvæk forsaget dig besvær og ubehag, herunder potentielt varetægtsfængsling på forkert grundlag, samt at dit omdømme bliver skadet.

Og som borger har du meget begrænset mulighed for at undvige registeret. I Danmark kan din DNA jo fx kun indsamles hvis du er direkte mistænkt i en sag eller tidligere dømt for kriminalitet. Det samme med dit fingeraftryk. Men her indgår du i registreret selvom du altid har været en lovlydig borger.


Et match alene skal selvfølgelig ikke kunne stå alene.
Præcis som hvis politiet efterlyser et billede i medierne og borgere kontakter dem med personer, de kender, som ligner.

Det kan bruges til at finde mulige mistænkte ikke til at dømme folk.
Hvis en person tager værktøjets top 10 matches og kigger disse igennem og måske finder 4 personer som er værd at efterforske, så er det jo fint.
Så kan ikke se problemet i det, hvis man lovmæssigt vægter det i samme kategori, som en borgers henvendelse på et billede i medierne.

Gravatar #9 - Athinira
8. feb. 2021 20:42
T_A (8) skrev:
Et match alene skal selvfølgelig ikke kunne stå alene.
Præcis som hvis politiet efterlyser et billede i medierne og borgere kontakter dem med personer, de kender, som ligner.

Det kan bruges til at finde mulige mistænkte ikke til at dømme folk.


Problemet her er at du som borger kommer i et register der bruges til kriminalforskning. Der er en årsag til at sådanne registre normalt kun er forbeholdt tidligere dømte kriminelle eller folk hvor andre ting peger på mistanke, og at vi fx ikke har et landsdækkende fingeraftryks- og DNA-register i Danmark politiet kan bruge. Det er for at forhindre at uskyldige mennesker bliver mistænkt uden grund.

Det handler ikke kun om domsfældelse - mistanke alene er et indgreb i din personlige ære og frihed. Hvis politiet kommer på din adresse eller din arbejdsplads for at snakke med dig (eller potentielt afhente dig til forhør) er et indgreb i din borgerlige integritet. Hvad tænker chefen? Hvad tænker naboerne?

Pointen er at hvis et register skal bruges af politiet, så bør det betragtes som et kriminalregister, og derfor leve op til de samme krav som vi ville stille til almindelige registre. Dvs. det skal leve op til krav om fx præcision, og om at det kun er kendte kriminelle eller lignende som er i registret. Det går simpelthen ikke i en retsstat at politiet bare kan bruge et kommercielt register fyldt med uskyldige mennesker efter forgodtbefindende.
Gravatar #10 - CBM
9. feb. 2021 09:33
#9

danmark HAR et landsdækkende dna register og samtlige danske borgere er registreret deri

og staten tjener penge på at hvem som helst kan købe adgang så det undrer mig hvis politiet ikke har adgang

har du ikke fulgt med i medierne de sidste 10 år?
Gravatar #11 - Athinira
9. feb. 2021 10:47
CBM (10) skrev:
#9

danmark HAR et landsdækkende dna register og samtlige danske borgere er registreret deri

og staten tjener penge på at hvem som helst kan købe adgang så det undrer mig hvis politiet ikke har adgang

har du ikke fulgt med i medierne de sidste 10 år?

Har du? Du ser ud til at have kludret alle de informationer du har fået i medierne sammen.

Politiet har IKKE adgang til et landsdækkende DNA-register over alle danskere. Det er rigtigt at danskerne i højere grad oplever at deres DNA indsamles i visse tilfælde - fx af SSI i forbindelse med coronetests foretaget uden for hospitaler. Disse prøver gemmes i form af blod- eller vævsprøver.

Dette register kan man framelde sig - EDIT: for at præcisere, så kan man ikke framelde sig, men man kan beslutte hvad data må bruges til - det minimale valg værende at data kun må bruges i behandling af dig selv.

At vi skulle have et nationalt DNA-register med alle danskernes profiler som politiet har adgang til et simpelthen noget vås. Politiet har kun adgang til det som betegnes som det centrale DNA-profilregister. Det indeholder kun DNA fra tidligere mistænkte og dømte personer, og skal slettes 10 år efter indsamling hvis man ikke er blevet dømt.

Politiet har længe ønsket et landsdækkende register, men politikerne har aldrig givet grønt lys til det selvom danskerne som helhed er positivt stemte. Det har især været en af DFs mærkesager at få indført sådan et register.

Måske du næste gang selv lige skulle tjekke op på de ting din hukommelse fortæller dig, før du anklager andre for ikke at have fulgt med i medierne? :-)
Gravatar #12 - T_A
9. feb. 2021 12:56
Athinira (9) skrev:
T_A (8) skrev:
Et match alene skal selvfølgelig ikke kunne stå alene.
Præcis som hvis politiet efterlyser et billede i medierne og borgere kontakter dem med personer, de kender, som ligner.

Det kan bruges til at finde mulige mistænkte ikke til at dømme folk.


Problemet her er at du som borger kommer i et register der bruges til kriminalforskning. Der er en årsag til at sådanne registre normalt kun er forbeholdt tidligere dømte kriminelle eller folk hvor andre ting peger på mistanke, og at vi fx ikke har et landsdækkende fingeraftryks- og DNA-register i Danmark politiet kan bruge. Det er for at forhindre at uskyldige mennesker bliver mistænkt uden grund.

Det handler ikke kun om domsfældelse - mistanke alene er et indgreb i din personlige ære og frihed. Hvis politiet kommer på din adresse eller din arbejdsplads for at snakke med dig (eller potentielt afhente dig til forhør) er et indgreb i din borgerlige integritet. Hvad tænker chefen? Hvad tænker naboerne?

Pointen er at hvis et register skal bruges af politiet, så bør det betragtes som et kriminalregister, og derfor leve op til de samme krav som vi ville stille til almindelige registre. Dvs. det skal leve op til krav om fx præcision, og om at det kun er kendte kriminelle eller lignende som er i registret. Det går simpelthen ikke i en retsstat at politiet bare kan bruge et kommercielt register fyldt med uskyldige mennesker efter forgodtbefindende.


Men det er jo præcis ikke et kriminalt register men bare offentlig tilgængelige billeder af mennesker.
Hvis Politiet havde 10.000 personer det kunne undvære, ville man da ikke forbyde dem at kigge alle offentlige danske facebook sider igennem eller bede befolkningen om hjælp til dette, for at finde en mistænkt?
Eller vade rundt på samtlige gågader i landet og lede efter en bestemt person.

Det er jo præcis hvad dette værktøj gør.
Gravatar #13 - CBM
9. feb. 2021 14:46
#11

de har ikke officielt adgang endnu

https://www.berlingske.dk/samfund/danmark-faar-nyt...

men mon ikke det blot er et spørgsmål om tid?
Gravatar #14 - kblood
9. feb. 2021 17:46
Der er ret stor forskel på om politiet kigger relevante overvågnings optagelser igennem i en forbindelse med en forbrydelse, og at der er automatisk ansigtsgenkendelse lavet på bagrund af sociale medier.

Bare fordi der findes offentlige billeder af personer betyder det ikke man har accepteret at være med i et kriminalregister over potentielle forbrydere.

Jeg kan da godt se at det giver mening at man kan finde og straffe forbrydere... men før eller siden bliver det misbrugt.
Gå til top

Opret dig som bruger i dag

Det er gratis, og du binder dig ikke til noget.

Når du er oprettet som bruger, får du adgang til en lang række af sidens andre muligheder, såsom at udforme siden efter eget ønske og deltage i diskussionerne.

Opret Bruger Login