Der CEO von Google signalisiert seine Unterstützung für ein vorübergehendes Verbot der Gesichtserkennungstechnologie, bis die Regierungen einen konkreten Plan zur Regulierung ausarbeiten können.
"Ich denke, es ist wichtig, dass Regierungen und Vorschriften dies eher früher als später angehen und einen Rahmen dafür schaffen", sagte Sundar Pichai, CEO von Google, am Montag auf einer von einem Think Tank organisierten Veranstaltung in Brüssel.
"Es kann sofort sein.
Vielleicht gibt es eine Wartezeit, bevor wir wirklich darüber nachdenken, wie es verwendet wird."
Pichais Kommentare, die erstmals von Reuters gemeldet wurden, kommen, als die Europäische Kommission ein Moratorium für Gesichtserkennungstechnologien erwägt, die im öffentlichen Raum eingesetzt werden.
Ein durchgesickerter Entwurf des Vorschlags besagt, dass das Verbot drei bis fünf Jahre dauern könnte, in denen die EU-Regulierungsbehörden die Auswirkungen und Risiken der KI-Technologie untersuchen würden.
Die Strafverfolgung war besonders an der Fähigkeit der Technologie interessiert, die Gesichter von Menschen in digitalen Bildern und Videos schnell zu identifizieren.
Zum Beispiel können die AI-gestützten Algorithmen ein Bild eines Verdächtigen scannen und dann die wahre Identität der Person eingrenzen, indem sie das Gesicht mit Fotos in einer kriminellen Datenbank oder sogar mit Bildern aus sozialen Medien abgleichen.
Bürgerrechtsgruppen befürchten jedoch, dass die Technologie in großem Umfang eingesetzt werden könnte, sodass sie die Möglichkeit hat, eine Überwachung durchzuführen und möglicherweise Ihre biometrischen Informationen zu sammeln.
Die andere Sorge ist, was ist, wenn die Gesichtserkennung einen Fehler macht? Laufende Forschungen haben gezeigt, dass KI-gestützte Algorithmen Frauen und Minderheiten manchmal falsch identifizieren können.
Das Missbrauchspotenzial ist der Grund, warum das Cloud-Geschäft von Google im Dezember 2018 beschlossen hat, kein Gesichtserkennungssystem für allgemeine Zwecke anzubieten.
"Es gibt echte Bedenken hinsichtlich der möglichen negativen Folgen der KI, von Deepfakes bis hin zu schändlichen Anwendungen der Gesichtserkennung", schrieb der CEO von Google in einem Kommentar Die Financial Times am Sonntag.
"Obwohl bereits einige Arbeiten durchgeführt werden, um diese Bedenken auszuräumen, werden unweigerlich weitere Herausforderungen vor uns liegen, die kein Unternehmen oder keine Branche allein lösen kann."
Infolgedessen plädiert Pichai dafür, dass die Regierungen der Welt einen Regulierungsansatz entwickeln, um KI-gestützte Technologien, einschließlich Gesichtserkennung, einzudämmen.
"Ich denke, es liegt an den Regierungen, den Kurs (zur Gesichtserkennung) zu chartern.
Und er kann in Partnerschaft durchgeführt werden.
Aber ich denke, es ist ein wichtiger Bereich, und es muss eine der Anwendungen mit höherem Risiko sein, die wir in der EU angehen erste Welle von Anwendungsfällen, die wir sehen ", sagte Pichai während seines Gesprächs in Brüssel.
Die American Civil Liberties Union stimmt dem CEO von Google zu und fordert die Regierungen auf, jetzt zu handeln.
"Unethische Überwachungsunternehmen werden nicht auf Vorschriften warten, bevor sie ihre ungetesteten, fehleranfälligen und dystopischen Gesichtsverfolgungstechnologien auf Polizeidienststellen im ganzen Land und auf der ganzen Welt übertragen", sagte Neema Singh Guliani, Rechtsberater der ACLU, in einer Erklärung.
Empfohlen von unseren Redakteuren
Andere, wie Amazon, fordern ebenfalls technische Vorschriften zur Gesichtserkennung, um Missbrauch zu verhindern.
In der Zwischenzeit vermarktet das Unternehmen seine eigene Gesichtserkennungslösung weiterhin an Polizeibehörden und Regierungen, um sie bei der Aufklärung von Verbrechen zu unterstützen, zum Leidwesen der Gruppen für bürgerliche Freiheiten.
Microsoft hat sich inzwischen ausgesprochen für Vorschriften zur Gesichtserkennung ausgesprochen.
Aber Firmenpräsident Brad Smith drängt darauf, der Technologie ein vollständiges Moratorium aufzuerlegen, und zeigt auf, wie dieselben Systeme verwendet werden können, um vermisste Personen zu identifizieren und aufzuspüren.
"Ich zögere wirklich zu sagen, dass wir die Menschen davon abhalten sollen, Technologie so einzusetzen, dass Familien wieder zusammengeführt werden, wenn dies ihnen dabei helfen kann", sagte Smith gegenüber Reuters.
"Das zweite, was ich sagen würde, ist, dass Sie es nicht verbieten, wenn Sie tatsächlich glauben, dass es eine vernünftige Alternative gibt, die es uns ermöglicht, dieses Problem beispielsweise mit einem Skalpell anstelle eines Fleischerbeils anzugehen."
Die Debatte kommt mittlerweile nach dem New York Times Dieses Wochenende wurde eine beunruhigende Geschichte über Clearview AI veröffentlicht, ein wenig bekanntes Startup, das ein Foto von jemandem machen und es mit öffentlichen Fotos aus dem Internet abgleichen kann.
"U.sers könnten möglicherweise jede Person identifizieren, die sie gesehen haben.
Das Tool konnte Aktivisten bei einem Protest oder einen attraktiven Fremden in der U-Bahn identifizieren und nicht nur ihre Namen preisgeben, sondern auch, wo sie lebten, was sie taten und wen sie kannten Mal Berichte.
