Im Zusammenhang mit den aktuellen Black Lives Matter-Protesten (BLM) in den USA wird die Debatte zu Gesichtserkennungstechnologien (FR – «Face Recognition») wieder aktuell. Die Identifizierung durch FR-Technologien ist ungenau. Die Behörden nutzen die Software trotzdem. Besonders das amerikanische Unternehmen Clearview AI gerät mit seiner Technologie ins Kreuzfeuer der Medien und sieht sich mit Rassismus-Vorwürfen konfrontiert. Die Schweiz reicht bei Clearview AI ein Auskunfts- und Löschgesuch ein – es bleibt unbeantwortet.
Während den BLM-Protesten in den USA benutzten Polizisten umstrittene Gesichtserkennungstechnologien. Diskussionen zu den FR-Technologien basieren insbesondere auf der ungenauen Identifizierung von Ethnien. Während die Software weisse, männliche Gesichter gut erkennt, bleibt die Identifizierung bei dunkelhäutigen, weiblichen Gesichtern weiterhin ungenau. Die Gesichtserkennung ist eine Form der künstlichen Intelligenz und bezweckt über biometrische Messungen unter anderem das automatisierte Erkennen von Gesichtsmerkmalen, um die Identität einer Person («Face Recognition»), deren Geschlecht, Herkunft, Alter etc. festzustellen. Diese Softwares können über Computer und Mobilgeräte verwendet werden.
Die Forscher Joy Buolamwini vom MIT Media Lab und Timnit Gebru von Microsoft Research testeten die FR-software «Rekognition» von Amazon. Sie stellten fest, dass bei der Gesichtsanalyse der Software 19 Prozent der Frauen als Männer identifiziert werden. Im Falle von dunkelhäutigen Frauen liegt der prozentuale Anteil der Fehleinschätzungen sogar bei 31 Prozent. Die Software-Mängel waren bereits 2018 bei der Publikation des Forschungsprojekts bekannt. Dennoch entschied sich Amazon dafür, den Verkauf der Software voranzutreiben. Heute wüten die BLM-Proteste weiter und der Technologiegigant reagiert. Der Verkauf der Gesichtserkennungssoftware «Rekognition» an die Strafverfolgungsbehörden wurde eingestellt.
Der CEO und Gründer von Clearview AI, Hoan Ton-That, verteidigt den Einsatz der Technologie durch die Strafverfolgungsbehörden in einem Interview mit CBS-News und erklärt, dass die Technologie zum «Schutz von Kindern und Opfern von Verbrechen ohne rassistische Vorurteile» eingesetzt werden könne.
Medien werden auf Clearview AI aufmerksam und beginnen ihre Recherchen. Im Januar 2020 veröffentlichte die New York Times einen Artikel über das Unternehmen – welches scheinbar mehr als drei Milliarden Bilder von menschlichen Gesichtern besitzt – und stellte eine düstere Prognose.
Die Huffpost behauptet in einem Bericht, Beweise zu haben, dass Clearview AI’s Software rassistische Elemente enthalte und bezeichnet Ton-That als Rassist, Neonazi und Rechtsextremist.
Social Media-Dienste wie Facebook und Twitter verlangten von Clearview AI, dass alle Bilder, welche von ihren sozialen Plattformen heruntergeladen wurden, gelöscht werden. Sie begründeten ihren Anspruch damit, dass die Beschaffung der Bilder gegen die Nutzungsbedingungen ihrer Dienste verstosse. Clearview AI wehrt sich dagegen und stützt sich auf das US-amerikanische Gesetz, welches ihnen das Recht auf öffentliche Informationen einräumt. Sie behaupten, dass alle ihre Bilder von öffentlichen Kanälen stammen und die Bilder in wohlwollender Absicht von den Strafverfolgungsbehörden verwendet werden.
Inzwischen ist bestätigt, dass Clearview AI online Bilder von verschiedenen Quellen gesammelt hat und in Besitz von biometrischen Informationen ist. Unklar bleibt, wofür die Informationen verwendet werden und inwiefern Unternehmen, die ihr Geschäftsmodell auf FR-Technologien aufbauen, eine Bedrohung darstellen.
Auch die Schweiz reagierte auf die Medienberichte betreffend Clearview AI. Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) reichte im Januar 2020 bei Clearview AI ein Auskunfts- und Löschgesuch ein. Er forderte das Unternehmen auf, die gesammelten Daten zu löschen, weil die Erhebung von Gesichtsdaten ohne Einwilligung der betroffenen Personen als Angriff auf die Persönlichkeit gilt. Das Auskunfts- und Löschgesuch liess Clearview AI bis heute unbeantwortet.
