Hur kunde ansiktsigenkänning missbrukas? I Detroit använde polisen det för att gripa en oskyldig man.
Arrestationen av en svart man Robert Williams i januari är det första kända fallet av att någon av misstag arresterats i USA på grund av teknik för ansiktsigenkänning, enligt American Civil Liberties Union.
På onsdagen tog Williams sin berättelse offentligt.
"Varför får brottsbekämpning till och med använda sådan teknik när den uppenbarligen inte fungerar?" skrev han i en op-ed bit för Washington Post.
ACLU instämmer.
Med hänvisning till Williams felaktiga gripande uppmanar gruppen kongressen att förbjuda brottsbekämpning från att använda ansiktsigenkänningstekniker.
"Lagstiftare måste sluta tillåta brottsbekämpning att testa sina senaste verktyg i våra samhällen, där verkliga människor drabbas av verkliga konsekvenser", säger Neema Singh Guliani, ACLU: s lagstiftande råd.
I oktober 2018 rånades en Shinola-klockaffär och butikens videoövervakning fångade något suddiga bilder av den skyldige, en okänd svart man, enligt ACLU.
Fem månader senare försökte polisen identifiera den misstänkta med hjälp av ett ansiktsigenkänningssystem som ägs av Michigan State Police.
Resultatet pekade på Williams, som arresterades i januari 2020.
ACLU säger dock att teknik för ansiktsigenkänning misslyckades; det enda som är gemensamt mellan Williams och den misstänkta är deras ras och stora ram.
Williams säger att det var uppenbart att Detroit-polisen fick fel person.
"Det här är inte jag.
Jag hoppas att ni alla inte tycker att svarta människor liknar varandra, berättar han för poliserna efter arresteringen.
Ändå berättade polisutredarna att "datorn" hade identifierat honom som misstänkt, vilket fick Williams att inse vilken roll ansiktsigenkänning hade spelat i hans förvar.
Detroits polisavdelning har inte kommenterat händelsen.
Emellertid sa Michigan State Police till Daxdi att ansiktsigenkänningstekniken endast är avsedd att ge en undersökningsledning.
"Ytterligare utredning behövs för att utveckla en sannolik anledning till arrestering", tillade avdelningen.
Enligt ACLU försökte polisen i Detroit bekräfta Williams anslutning till brottet genom att be en säkerhetsvakt i Shinola-butiken att identifiera honom i en bilduppställning.
Vakten hävdade att Williams verkligen var den skyldige.
Säkerhetsvakten i fråga var dock inte närvarande under brottet från butiksstölder; han hade bara granskat händelsen från videoövervakningsfilmen.
Ändå arresterade polisen Williams den 9 januari och handfängslade honom i hans hus framför sin familj.
Han hölls i förvar i 30 timmar, även om han en gång hörde en polis erkänna "datorn måste ha gjort fel."
Som svar lämnade ACLU in ett formellt klagomål till polisavdelningen i Detroit och krävde att det skulle sluta använda ansiktsigenkänning som utredningsverktyg.
"Fakta i Mr.
Williams fall bevisar både att tekniken är bristfällig och att DPD-utredare inte är behöriga att använda sådan teknik", står det.
Klagomålet fortsätter att anklaga Detroit-myndigheterna för stonewalling försök att tillhandahålla offentliga register över hans gripande.
När det gäller Williams är han orolig för att tekniken kommer att förvärra diskriminerande polisarbete.
”Även om den här tekniken blir korrekt (på bekostnad av människor som jag), vill jag inte att mina döttrars ansikten ska vara en del av någon regeringsdatabas.
Jag vill inte att poliser dyker upp vid deras dörr eftersom de spelades in vid en protest som regeringen inte gillade ”, skrev han i sitt op-ed.
Enligt Michigan State Police är programvaran för ansiktsigenkänning gjord av DataWorks Plus, en leverantör av teknik för brottsbekämpning.
Företaget svarade inte på en begäran om kommentarer.
Tidigare studier har dock funnit att program för ansiktsigenkänning ofta kan felidentifiera personer i färg.
Nyheten kommer när Boston kommunfullmäktige röstade enhälligt på onsdagen för att förbjuda användning av ansiktsigenkänningsteknik av polis och andra stadsbyråer, rapporterar Boston.com.
