mboost-dp1

Pixabay

Ansigtsgenkendelsessystem sender uskyldig mand i fængsel – Nu sagsøger han politiet

- Via engadget -

Nijeer Parks sagsøger New Jerseys politi efter han blev fængslet på baggrund af at et ansigtsgenkendelsessystem identificerede ham ved en fejl.

Politiet i Woodbridge, New Jersey har sendt Nijeer Parks 10 dage i fængsel, efter et ansigtsgenkendelsessystem “afslørede” ham i forbindelse med et butikstyveri.

Parks havde dog alibi for at han var 30 miles fra gerningsstedet på daværende tidspunkt.

Nu sagsøger han politiet for at arrestere og fængsle ham på falske præmisser, og for at overtræde hans borgerrettigheder.

Det er tredje tilfælde af, at en mand bliver uskyldigt dømt på baggrund af fejl i ansigtsgenkendelsessystemer. I alle tilfælde er der tale om sorte mænd, hvilket tyder på, at systemerne ikke er tilstrækkeligt udviklet.

Det er uklart hvilket ansigtsgenkendelsessystem, som er blevet anvendt ved de fejlagtige arrestationer. Hoan Ton-That, som er grundlægger af Clearview AI, understreger dog, at det ikke er deres system som er anvendt.

Politiet i New Jersey og Los Angeles har fået forbud mod at bruge Clearview AI, i forbindelse med opklaring af forbrydelser. Alligevel har der været talrige eksempler på, at de har anvendt det.

Læs også: LAPD forbyder kommerciel ansigtsgenkendelse: Anvendt 475 gange på tre måneder





Gå til bund
Gravatar #1 - CBM
5. jan. 2021 14:47
Jeg håber han får en million erstatning
Gravatar #2 - arne_v
5. jan. 2021 18:44
#0

Det er naturligvis en god overskrift at tale om ansigtsgenkendelses-software.

Men det er vel reelt tale om elendigt politi-arbejde.

Noget software matcher det billede de har fra stedet med personens id billede. Helt fint.

Politiet tager ud til ham fordi han er mistænkt. Helt fint.

Politiet "glemmer" at vurdere om han ligner billedet inden de arresterer ham. Dårligt.

Politiet undersøger ikke hans alibi. Dårligt.

Politiet bruger ikke andre metoder f.eks. finger-aftryk fra hotellet eller vidne-udsagn fra ansatte på hotellet til at finde ud af at det er den forkerte person de har fået fat i. Dårligt.

Efter så jammerligt et politi-arbejde er det vel rimeligt at politiet må betale.

Og at skyde skylden på software er en dårlig undskyldning.
Gravatar #3 - CBM
6. jan. 2021 11:14
arne_v (2) skrev:
#0

Det er naturligvis en god overskrift at tale om ansigtsgenkendelses-software.

Men det er vel reelt tale om elendigt politi-arbejde.

Noget software matcher det billede de har fra stedet med personens id billede. Helt fint.

Politiet tager ud til ham fordi han er mistænkt. Helt fint.

Politiet "glemmer" at vurdere om han ligner billedet inden de arresterer ham. Dårligt.

Politiet undersøger ikke hans alibi. Dårligt.

Politiet bruger ikke andre metoder f.eks. finger-aftryk fra hotellet eller vidne-udsagn fra ansatte på hotellet til at finde ud af at det er den forkerte person de har fået fat i. Dårligt.

Efter så jammerligt et politi-arbejde er det vel rimeligt at politiet må betale.

Og at skyde skylden på software er en dårlig undskyldning.

Enig

Men faren ved den software er at det bliver normen og accepteret at folk bare automatisk anholdes og straffes baseret kun på den software

Den gennemsnitlige person er ikke ret skarp


Det samme argument gælder for våben

Det er ikke våbnet der er problemet ... Det er personen der affyrer det

Men våben er stadig forbudte for almene mennesker i Danmark

Samme med softwaren

Det er ikke den der nødvendigvis er problemet men derimod politibetjenten og politikeren der stoler blindt på den og undlader en efterforskning fordi han er presset på tid, uddannelse, intellekt, budget mv

Gravatar #4 - Vanthus
7. jan. 2021 06:54
CBM (3) skrev:

Enig

Men faren ved den software er at det bliver normen og accepteret at folk bare automatisk anholdes og straffes baseret kun på den software

Den gennemsnitlige person er ikke ret skarp


Det samme argument gælder for våben

Det er ikke våbnet der er problemet ... Det er personen der affyrer det

Men våben er stadig forbudte for almene mennesker i Danmark

Samme med softwaren

Det er ikke den der nødvendigvis er problemet men derimod politibetjenten og politikeren der stoler blindt på den og undlader en efterforskning fordi han er presset på tid, uddannelse, intellekt, budget mv



Aah... der må jeg erklære mig lidt uenig. "Det er ikke våbnet der er problemet, det er personen der affyrer det."

Det er rigtigt nok at hvis en person ikke bruger våbnet forkert, så er våbnet relativt ufarligt. Men nu er situationen jo den, at mange våben eskalerer situation ret meget.

Eksempel 1: Person tager en kniv med på diskotek. Der opstår en uoverensstemmelse. I stedet for en lussing eller en mavepuster, forbløder den ene part på gulvet på få minutter. "Våbnet er ikke problemet" klinger lidt hult.

Eksempel 2: Person køber en AK-47 til at forsvare sit hjem. Personen lægger våbnet fra sig i 2 sekunder for at tage telefonen og den 6-årige nysgerrige unge i hjemmet finder det lidt for spændende. I stedet for at ungen får en skideballe for at rode med farmands modelflyver, dræber første salve både hunden og lillesøster. "Våbnet er ikke problemet" klinger igen lidt hult i mine ører.

Eksempel 3: En reality "stjerne" bliver valgt som præsident og har nu den store røde knap... nej, skidt eksempel, der er heldigvis procedurer på plads som vil forhindre et hysterianfald udvikler sig til 3. verdenskrig. Håber jeg.

For ja - tingene hænger sammen. En gerningsmand med en riffel kan dræbe et andet menneske forsætligt eller uforsætligt flere kilometer væk ved blot at trykke på en aftrækker. Det er fandeme sværere hvis samme gerningsmand kun har en træsko at kaste med. Våbnet er OGSÅ problemet. Ansvaret ligger hos personen, men problemet er sandelig 2-fold.
Gravatar #5 - CBM
7. jan. 2021 18:46
#4

Hvis en defekt ansigtgenkeldelses software breder sig og en tilpas stor mængde af de forkerte personer bruger det forkert så har vi samme problemstilling

Heldigvis er danske betjente bedre uddannet da uddannelsen til betjent i USA svarer til et udvidet dørmandskursus

Et våben kan ses som et værktøj for en jæger der skal kontrollere en bestand

ligesom denne software kan være et værktøj for politifolk til at hjælpe med efterforskning

Men ligesom jægeren kan misbruge sit våben eller via uforsigtighed begå drab

Så kan brugere at softwaren også misbruges eller benyttes skødesløst og istedetfor reel efterforskning

Jeg har nul tiltro til at samtlige politistyrker der bruger dette værktøj, kan håndtere at bruge det korrekt

Hvis softwaren laver falske positiver og falske negativer så er den alligevel også defekt og burde ikke blive brugt længere

Kan den ej fixes og disse fejl ikke kan undgås så skal teknologien ikke bruges

Tænk på en politi robot ALA ed209 med denne software

Falsk positiv

Bang

Gå til top

Opret dig som bruger i dag

Det er gratis, og du binder dig ikke til noget.

Når du er oprettet som bruger, får du adgang til en lang række af sidens andre muligheder, såsom at udforme siden efter eget ønske og deltage i diskussionerne.

Opret Bruger Login