Risiken der Gesichtserkennung Microsoft warnt vor staatlicher Totalüberwachung

Microsoft ist das Potenzial der automatisierten Gesichtserkennung offenbar nicht ganz geheuer: Der US-Konzern warnt vor den Gefahren eines Überwachungsstaats und fordert strengere Kontrollen per Gesetz.

Gesichtserkennung
Getty Images

Gesichtserkennung

Von


Mit einem Hilferuf und einer Warnung wendet sich Microsoft an Politiker und Tech-Unternehmen: Wenn die Technik zur Gesichtserkennung nicht kontrolliert werde, dann könnte das zu mehr Diskriminierung, Datenmissbrauch und sogar zur Entstehung von Überwachungsstaaten führen, so die Botschaft.

Es scheint fast so, als wäre dem US-Konzern die Technologie ziemlich unheimlich. Dabei ist Microsoft bei der Entwicklung von Gesichtserkennungssoftware vorne mit dabei, so wie auch Apple, Facebook und Amazon. Um nicht allein dazustehen mit den Risiken der Technologie, sollen die anderen Unternehmen und Regierungen nun dabei helfen, die Gesichtserkennung zu regulieren. "Es ist die Zeit gekommen zu handeln", schreibt Microsoft-Chefjustiziar Brad Smith in einem Blogbeitrag am Donnertag.

Zwar bringe die Gesichtserkennung wichtige und spannende Vorteile, aber auch das Potenzial für Missbrauch. "Wenn wir nicht handeln, dann riskieren wir, in fünf Jahren aufzuwachen und herauszufinden, dass Gesichtserkennungsanwendungen die sozialen Probleme verschlimmert haben." In seinem rund 24.000 Zeichen langen Beitrag spricht Brad Smith konkret von drei Gefahren:

  • Diskriminierung von Nichtweißen und Frauen
    Es habe sich gezeigt, dass einige Menschen von Gesichtserkennungssystemen benachteiligt werden. Davon betroffen seien vor allem Frauen und Nichtweiße. Zum einen werde bei ihnen das Geschlecht oft nicht richtig erkannt. Zum anderen werden etwa in Testprojekten auf der Suche nach Verbrechern eher Menschen mit dunkler Hautfarbe zu Unrecht als Täter markiert. Das liegt unter anderem daran, dass die Software mit unausgewogenen Daten trainiert wird.
  • Eingriff in die Privatsphäre
    Kunden könnten mit Echtzeiterkennung dauerhaft beim Shoppen mit Kameras beobachtet werden. Jeder Griff ins Zigarettenfach und jeder flüchtige Blick ins Schnapsregal könnte gespeichert und mit anderen Anbietern geteilt werden. Der Kunde könnte kommerziell ausgeschlachtet werden.
  • Staatliche Totalüberwachung
    Mit moderner Technologie wären Regierungen laut Microsoft in der Lage, bestimmte Personen dauerhaft zu überwachen. Smith verweist auf den Roman "1984" von George Orwell, in dem Menschen nur noch in dunklen Hinterzimmern offen sprechen können. "Orwell hat diese Vision vor knapp 70 Jahren skizziert. Moderne Technologie macht diese Art von Zukunft heute möglich", sagt Smith.

Bis März kommenden Jahres will Microsoft die Regeln im Umgang mit Gesichtserkennung im eigenen Haus verschärfen. Doch auch andere sollen die Gefahren ernst nehmen und Sicherheitsvorkehrungen treffen, wenn es nach dem Konzern geht. So sollten Regierungen dafür sorgen, dass die Bürger per Gesetz vor einer Benachteiligung durch die Technik geschützt werden. Menschen sollten etwa jederzeit darüber informiert werden, wenn ihre Gesichter gescannt werden. Außerdem sollte staatliche Überwachung immer zunächst von einem Richter abgesegnet werden.

Moralapostel ohne weiße Weste

Microsoft schwingt sich mit diesen Forderungen zum Moralwächter auf, dabei hat das Unternehmen selbst keine weiße Weste. Microsoft unterstützt eigenen Angaben zufolge den Handel mit digitalen Technologien, um das "Einkaufen und andere Erfahrungen des Kunden zu verbessern". Außerdem hat das Unternehmen mit der umstrittenen Polizeibehörde ICE zusammengearbeitet, die Kinder an der Grenze der USA zu Mexiko von ihren Familien trennte.

Die Gesichtserkennung ist eine Technologie, die in den falschen Händen viel Unheil anrichten kann. Das gilt auch für maschinelles Lernen (künstliche Intelligenz, kurz KI), die oft hinter der automatischen Erfassung von Gesichtern steckt. Auch da gibt es Regulierungsbedarf. Am Donnerstag veröffentlichten Forscher der New York University einen Zehnpunkteplan, wie man die Technologie im Griff behalten könnte. Die Wissenschaftler fordern ebenso Gesetze für Gesichtserkennung mit KI, die "strenge Kontrollen, klare Grenzen und Transparenz in der Öffentlichkeit" festzurren sollen.

Auch in Deutschland wird die umstrittene Gesichtserkennung bereits getestet. Am Berliner Bahnhof Südkreuz setzte das Innenministerium intelligente Überwachungskameras ein, um Gesichter aus der Masse herauszufiltern. Kritiker etwa im Chaos Computer Club warnen vor solchen Projekten und davor, dass Passanten als biometrische Ressource missbraucht werden.

insgesamt 24 Beiträge
Alle Kommentare öffnen
Seite 1
quark2@mailinator.com 07.12.2018
1.
Wenn ein Laden wie Microsoft, gewissermaßen das "Hassobjekt" aller Nerds der 80er und 90er, vor der Totalüberwachung warnt, dann muß einem das schon was sagen. Das ist fast so, als käme die Warnung vom Chef der NSA oder so. Ja, wir leben in Zeiten, wo die Vernetzung, die Kameras und die Rechenleistung es ermöglichen, jede Person beständig zu verfolgen und zu vermessen, von Puls und Blutdruck über Schritte und Geolocation hin zu Gesichtserkennung, Zahlungsverhalten und Einbuchungen in Mobilfunknetze, Soziale Netze und so weiter ... Ein goldener Käfig und bald funktioniert die individuell optimierte Onlinezeitung so gut, daß man noch nicht mal mehr dagegen opponieren will. Ich hoffe eigentlich noch zu erleben, daß die Leute losziehen und überall die Kameras von den Wänden reißen, aber ich glaube nicht daran. Reagiert wird meist erst, wenn das Kind mal wieder im Brunnen lag. Wir haben ja noch nicht mal das Rückgrat, den Snowden zu schützen, obwohl er uns darüber aufgeklärt hat, was unser großer Freund so macht.
wiseacre 08.12.2018
2. Windows 10
Wenn Microsoft sich so um den Missbrauch der totalen Überwachung sorgt, sollte es vielleicht mal vor seinen eigenen Produkten warnen. Windows 10 ist eine reine Datenerfassungssoftware. Aber Apple, Google und Amazon stehen dem nicht nach und versuchen alles, um mit ihren Gadgets auch noch in den letzten Winkel der Privatsphäre einzudringen. Es wird nicht mehr lange dauern, bis sie mit KI gesteuerten Assistenten den nächsten Schritt gehen werden: Manipulation durch immer bessere Analyse von Verhaltensmustern und Emotionen.
spon-1287218867247 08.12.2018
3.
Wirklich interessant die Meinung, nachdem der hauseigene Dienst gerade aus der Beta kommt und jetzt Geld verdienen soll. https://azure.microsoft.com/de-de/services/cognitive-services/face/
dasfred 08.12.2018
4. Da gibt es schon eine Gegenbewegung
Seit einiger Zeit lassen sich Männer das Gesicht zuwachsen, setzten große Sonnenbrillen auf und ziehen ihre Mütze tief in die Stirn. Ich weiß zwar nicht, ob das schon Abwehrmaßnahmen gegen die Gesichtserkennung sind, oder einfach nur modische Irrläufer, aber ich habe heute schon Probleme, selbst gute Bekannte auf eine gewisse Entfernung auseinanderzuhalten. Außerdem frage ich mich, wo all das Personal herkommen soll, um sämtliche vermeintlich erkannten Übeltäter zeitnah zu überprüfen. Feierabend am Hauptbahnhof mit tausenden Passanten wird dann richtig heftig.
Bibs1980 08.12.2018
5.
Wenn man sich mal vorstellt, dass der Großversuch am Berliner Südkreuz eine Fehlerquote von 20% hat, dann kann man nur davor warnen, solche Massenüberwachungen einzusetzen. Sie einzusetzen würde ja bedeuten, den Ergebnissen der Erkennungsalgorithmen eine rechtliche Relevanz als Beweismittel beizumessen - sie also zu gerichtsverwertbaren Fakten zu machen. Wenn Du dann vor dem Kadi landest, weil eine Software ein Videobild analysiert und Dich herausgesucht hat, obwohl Du nie an diesem Ort warst, bist Du plötzlich in der Situation, beweisen zu müssen, dass die Videoauswertung falsch ist. Gelingt das nicht, wanderst Du in den Knast, obwohl Du doch "nichts zu verbergen" hast.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2018
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.