Googles administrerende direktør signalerer sin støtte til et midlertidigt forbud mod ansigtsgenkendelsesteknologi, indtil regeringer kan komme med en konkret plan for at regulere den.
"Så jeg synes, det er vigtigt, at regeringer og regler tackler det hurtigere, snarere end senere, og giver en ramme for det," sagde Googles administrerende direktør Sundar Pichai på en tænketank-organiseret begivenhed i Bruxelles mandag.
"Det kan være øjeblikkeligt.
Måske er der en ventetid, før vi virkelig tænker på, hvordan det bruges."
Pichais kommentarer, som først blev rapporteret af Reuters, kommer, da Europa-Kommissionen overvejer et moratorium for ansigtsgenkendelsesteknologier, der anvendes i det offentlige rum.
Et lækket udkast til forslaget siger, at forbuddet kan vare tre til fem år, hvor EU-regulatorer vil undersøge virkningerne og risiciene forbundet med AI-drevet teknologi.
Retshåndhævelse har især været interesseret i teknologiens evne til hurtigt at identificere folks ansigter i digitale billeder og videoer.
For eksempel kan de AI-drevne algoritmer scanne et billede af en mistænkt og derefter indsnævre personens reelle identitet ved at matche ansigtet med fotos i en kriminel database eller endda billeder skrabet fra sociale medier.
Imidlertid frygter borgerlige frihedsgrupper, at teknologien kan blive brugt bredt, hvilket giver den beføjelse til at foretage overvågning og potentielt indsamle dine biometriske oplysninger.
Den anden bekymring er, hvad hvis ansigtsgenkendelsen begår en fejl? Løbende forskning har vist, at AI-drevne algoritmer undertiden forkert kan identificere kvinder og minoriteter.
Potentialet for misbrug er grunden til, at Googles cloud-virksomhed i december 2018 besluttede at afholde sig fra at tilbyde et ansigtsgenkendelsessystem til generelle formål.
"Der er reelle bekymringer over de potentielle negative konsekvenser af AI, fra dybe forfalskninger til uhyggelige anvendelser af ansigtsgenkendelse," skrev Googles administrerende direktør i en op-ed i Financial Times på søndag.
"Selv om der allerede er gjort noget arbejde for at imødegå disse bekymringer, vil der uundgåeligt være flere udfordringer, som ingen virksomhed eller industri kan løse alene."
Som et resultat fortaler Pichai for, at verdensregeringer skal komme med en lovgivningsmæssig tilgang til at tømme AI-drevne teknologier, herunder ansigtsgenkendelse.
"Jeg synes, det er op til regeringerne at chartre kurset (om ansigtsgenkendelse).
Og det kan gøres i partnerskab.
Men jeg synes, det er et vigtigt område, og det skal være en af ??de applikationer med højere risiko, som vi tackler i første bølge af brugssager, som vi ser, ”sagde Pichai under sin tale i Bruxelles.
American Civil Liberties Union er enig med Googles administrerende direktør og opfordrer regeringerne til at handle nu.
”Uetiske overvågningsfirmaer vil ikke vente på regler, før de skubber deres uprøvede, fejlbehæftede og dystopiske ansigtssporingsteknologier på politiafdelinger over hele landet og verden,” sagde ACLUs lovgivende råd Neema Singh Guliani i en erklæring.
Anbefalet af vores redaktører
Andre, som Amazon, har også opfordret til ansigtsgenkendende tekniske regler for at forhindre misbrug.
Men i mellemtiden fortsætter virksomheden med at markedsføre sin egen ansigtsgenkendelsesløsning til politiafdelinger og regeringer som en måde at hjælpe dem med at løse forbrydelser til borgernes rettigheder.
Microsoft har i mellemtiden været åbenlyst i at opfordre til regler om ansigtsgenkendelse.
Men virksomhedspræsident Brad Smith skubber tilbage på at indføre et komplet moratorium for teknologien og peger på, hvordan de samme systemer kan bruges til at identificere og spore savnede personer.
"Jeg er virkelig tilbageholdende med at sige, lad os stoppe folk fra at bruge teknologi på en måde, der vil genforene familier, når det kan hjælpe dem med at gøre det," sagde Smith til Reuters.
"Den anden ting, jeg vil sige, er at du ikke forbyder det, hvis du faktisk mener, at der er et rimeligt alternativ, der gør det muligt for os at sige, løse dette problem med en skalpel i stedet for en kødkløver."
I mellemtiden kommer debatten efter New York Times i weekenden offentliggjorde en bekymrende historie om Clearview AI, en lidt kendt opstart, der kan tage et billede af nogen og matche det med offentlige fotos fra hele internettet.
"Users kunne potentielt være i stand til at identificere hver person, de så.
Værktøjet kunne identificere aktivister ved en protest eller en attraktiv fremmed i metroen og afsløre ikke kun deres navne, men hvor de boede, hvad de gjorde, og hvem de kendte, " Tider rapporter.
