Die Probleme mit Gesichtserkennungssystemen

In einem Experiment hatte der französische Regionalrat Provence-Alpes Côte d'Azur (PACA) Ende 2018 Gesichtserkennungssysteme in zwei Gymnasien in Nizza und Marseille installiert. Ziel war es, Einbrüche und Identitätsdiebstahl künftig zu verhindern. Das Programm stieß jedoch auf massiven Widerstand von Eltern, Datenschützern und von Seiten des Gesetzgebers. Das zuständige Verwaltungsgericht hat das Experiment nachträglich als illegal eingestuft. Die Pläne der PACA Gesichtserkennungstechnologie an Gymnasien zu implementieren wurden gestoppt.

Die Problematik spiegelt sich mittlerweile auch in den Reaktionen der Technologiebranche wider: Große Unternehmen wie Microsoft, Amazon oder IBM haben sich bereit erklärt, den Vertrieb von Gesichtserkennungstechnologie an Strafverfolgungsbehörden vorerst auszusetzen, bis sie die damit verbundenen Probleme besser einschätzen können. Bevor die Technologie in der realen Welt zum Einsatz kommt, müssen Themen wie der Datenschutz sorgfältig untersucht werden.

Wie diskriminierend ist Gesichtserkennung

Gesichtserkennungssoftware wird immer zugänglicher und erschwinglicher, aber Vorurteile (Bias) im Kern der Technologie können zu gefährlichen und diskriminierenden Erfahrungen für Verbraucher führen. Rekognition, der Gesichtserkennungsdienst von Amazon, stufte beispielsweise bei einem Test der ACLU (American Civil Liberties Union) 28 Mitglieder des Kongresses fälschlicherweise als Kriminelle ein, wobei es sich bei einem großen Teil dieser Personen um People of Color handelte. Auch eine Studie des National Institute of Standards and Technology fand heraus, dass Gesichtserkennungssysteme Persons of Colour bis zu 100-mal häufiger falsch identifizieren als weiße Männer. Solche Vorurteile können schwerwiegende Folgen haben, wenn die offensichtlich fehlbare Technologie in Fragen der nationalen Sicherheit, der Strafverfolgung oder der Strafjustiz eingesetzt wird.

Datenschutz ist noch ein Problem

Trotz der gut dokumentierten Bedenken über die Voreingenommenheit der Gesichtserkennung und die potenziellen Auswirkungen auf die Privatsphäre entscheiden sich viele Länder und Organisationen für die Implementierung entsprechender Technologien. Allerdings ist auch mit einer Gegenwehr der Verbraucher zu rechnen. Kürzlich haben mehrere Verbände von Digitalaktivisten die Europäische Union auf den zunehmenden Einsatz von Gesichtserkennung und anderen biometrischen Identifikationstechnologien in Europa aufmerksam gemacht. Ihnen zufolge stellt dieser den nächsten Schritt zu einer weit verbreiteten Massenüberwachung dar.

Wie geht es weiter?

Der weit verbreitete Einsatz fehlbarer Gesichtserkennungstechnologien wird den heutigen strengen Verbraucherstandards nicht gerecht. Das gilt insbesondere in einer Zeit, in der die Diskussionen um die digitale Privatsphäre so präsent sind wie nie zuvor. Solange es keine ausreichende Regulierung und Transparenz gibt, stellt diese Technologie eine Verletzung bürgerlicher Freiheiten dar und steht in direktem Widerspruch zu den Werten einer demokratischen Gesellschaft.

Es ist daher wichtig, die Anwendung von Gesichtserkennung auf Eis zu legen, bis die notwendigen Anpassungen für eine sichere und gerechte Nutzung erfolgt sind. Zumindest bedarf es dreier Faktoren - Maßnahmen von Politik und Regulierung, die Bereitschaft der Verbraucher sowie grundlegende technologische Veränderungen - um die Technologie zu einer Realität zu machen, die mit den Werten der demokratischen Gemeinschaft in Einklang steht.

Vor allem aber sind die Zustimmung der Verbraucher und Transparenz notwendig, damit die Technologie nicht missbraucht wird. Eine entsprechende Reform erfordert jedoch mehr öffentliche Unterstützung und Aktivismus. Die Verbraucher müssen sich der Situation stellen und Softwareunternehmen sowie Politiker zur Rechenschaft ziehen, um die wichtigen technologischen und politischen Mängel schnell zu beheben. (jd)