Risiken der Gesichtserkennung Microsoft warnt vor staatlicher Totalüberwachung

Microsoft ist das Potenzial der automatisierten Gesichtserkennung offenbar nicht ganz geheuer: Der US-Konzern warnt vor den Gefahren eines Überwachungsstaats und fordert strengere Kontrollen per Gesetz.
Gesichtserkennung

Gesichtserkennung

Foto: John M Lund Photography Inc/ Getty Images

Mit einem Hilferuf und einer Warnung wendet sich Microsoft an Politiker und Tech-Unternehmen: Wenn die Technik zur Gesichtserkennung nicht kontrolliert werde, dann könnte das zu mehr Diskriminierung, Datenmissbrauch und sogar zur Entstehung von Überwachungsstaaten führen, so die Botschaft.

Es scheint fast so, als wäre dem US-Konzern die Technologie ziemlich unheimlich. Dabei ist Microsoft bei der Entwicklung von Gesichtserkennungssoftware vorne mit dabei, so wie auch Apple, Facebook und Amazon. Um nicht allein dazustehen mit den Risiken der Technologie, sollen die anderen Unternehmen und Regierungen nun dabei helfen, die Gesichtserkennung zu regulieren. "Es ist die Zeit gekommen zu handeln", schreibt Microsoft-Chefjustiziar Brad Smith in einem Blogbeitrag am Donnertag .

Zwar bringe die Gesichtserkennung wichtige und spannende Vorteile, aber auch das Potenzial für Missbrauch. "Wenn wir nicht handeln, dann riskieren wir, in fünf Jahren aufzuwachen und herauszufinden, dass Gesichtserkennungsanwendungen die sozialen Probleme verschlimmert haben." In seinem rund 24.000 Zeichen langen Beitrag spricht Brad Smith konkret von drei Gefahren:

  • Diskriminierung von Nichtweißen und Frauen
    Es habe sich gezeigt, dass einige Menschen von Gesichtserkennungssystemen benachteiligt werden. Davon betroffen seien vor allem Frauen und Nichtweiße. Zum einen werde bei ihnen das Geschlecht oft nicht richtig erkannt. Zum anderen werden etwa in Testprojekten auf der Suche nach Verbrechern eher Menschen mit dunkler Hautfarbe zu Unrecht als Täter markiert. Das liegt unter anderem daran, dass die Software mit unausgewogenen Daten trainiert wird.
  • Eingriff in die Privatsphäre
    Kunden könnten mit Echtzeiterkennung dauerhaft beim Shoppen mit Kameras beobachtet werden. Jeder Griff ins Zigarettenfach und jeder flüchtige Blick ins Schnapsregal könnte gespeichert und mit anderen Anbietern geteilt werden. Der Kunde könnte kommerziell ausgeschlachtet werden.
  • Staatliche Totalüberwachung
    Mit moderner Technologie wären Regierungen laut Microsoft in der Lage, bestimmte Personen dauerhaft zu überwachen. Smith verweist auf den Roman "1984" von George Orwell, in dem Menschen nur noch in dunklen Hinterzimmern offen sprechen können. "Orwell hat diese Vision vor knapp 70 Jahren skizziert. Moderne Technologie macht diese Art von Zukunft heute möglich", sagt Smith.

Bis März kommenden Jahres will Microsoft die Regeln im Umgang mit Gesichtserkennung im eigenen Haus verschärfen. Doch auch andere sollen die Gefahren ernst nehmen und Sicherheitsvorkehrungen treffen, wenn es nach dem Konzern geht. So sollten Regierungen dafür sorgen, dass die Bürger per Gesetz vor einer Benachteiligung durch die Technik geschützt werden. Menschen sollten etwa jederzeit darüber informiert werden, wenn ihre Gesichter gescannt werden. Außerdem sollte staatliche Überwachung immer zunächst von einem Richter abgesegnet werden.

Moralapostel ohne weiße Weste

Microsoft schwingt sich mit diesen Forderungen zum Moralwächter auf, dabei hat das Unternehmen selbst keine weiße Weste. Microsoft unterstützt eigenen Angaben zufolge den Handel mit digitalen Technologien, um das "Einkaufen und andere Erfahrungen des Kunden zu verbessern". Außerdem hat das Unternehmen mit der umstrittenen Polizeibehörde ICE zusammengearbeitet , die Kinder an der Grenze der USA zu Mexiko von ihren Familien trennte.

Die Gesichtserkennung ist eine Technologie, die in den falschen Händen viel Unheil anrichten kann. Das gilt auch für maschinelles Lernen (künstliche Intelligenz, kurz KI), die oft hinter der automatischen Erfassung von Gesichtern steckt. Auch da gibt es Regulierungsbedarf. Am Donnerstag veröffentlichten Forscher der New York University  einen Zehnpunkteplan, wie man die Technologie im Griff behalten könnte. Die Wissenschaftler fordern ebenso Gesetze für Gesichtserkennung mit KI, die "strenge Kontrollen, klare Grenzen und Transparenz in der Öffentlichkeit" festzurren sollen.

Auch in Deutschland wird die umstrittene Gesichtserkennung bereits getestet. Am Berliner Bahnhof Südkreuz setzte das Innenministerium intelligente Überwachungskameras ein, um Gesichter aus der Masse herauszufiltern. Kritiker etwa im Chaos Computer Club warnen vor solchen Projekten  und davor, dass Passanten als biometrische Ressource missbraucht werden.