Foto-App Google entschuldigt sich für fehlerhafte Gesichtserkennung

Googles neue Foto-App hat Probleme, dunkelhäutige Menschen als solche zu erkennen. In mindestens einem Fall wurden sie stattdessen als Gorillas bezeichnet. Ein Fehler, der nicht auf Googles Angebot beschränkt ist.

Gesichtserkennung (Symbolbild): Menschen mit dunkler Haut werden oft nicht richtig identifiziert
Corbis

Gesichtserkennung (Symbolbild): Menschen mit dunkler Haut werden oft nicht richtig identifiziert


Die im Mai veröffentlichte App "Google Fotos" enthält unter anderem eine Funktion zur automatischen Verschlagwortung von Bildern. Eigentlich soll das System helfen, sich in einer Fotosammlung besser zurechtzufinden. Dazu wird beispielsweise dem Foto eines Bergpanoramas der Begriff "Berge" zugeordnet. Zumindest in einem Fall machte die App dabei allerdings einen schwerwiegenden Fehler.

Am 28. Juni fiel dem schwarzen Programmierer Jack Alciné ein Fotoalbum auf, das die Google-App automatisch aus Fotos von ihm und seiner ebenfalls schwarzen Freundin erzeugt und mit "Gorillas" betitelt hatte. Alciné postete auf Twitter einen Screenshot mit dem bitteren Hinweis: "Meine Freundin ist kein Gorilla". Später ergänzte er das Bild um die Frage: "Was für Beispielbilder habt ihr denn gesammelt, um zu solchen Ergebnissen zu kommen?"

Wenig später antwortete Yonatan Zunger, ein leitender Mitarbeiter bei Google+, via Twitter: "Heilige Scheiße. (…) Das ist hundertprozentig nicht in Ordnung." Zunger bat um Zugriff auf die betreffenden Fotos und versprach, das peinliche Problem umgehend zu lösen.

Am folgenden Tag war die "Gorilla"-Rubrik aus Alcinés Fotosammlung verschwunden. Zunger gestand ein, es gebe noch erheblichen Nachholbedarf bei der automatischen Verschlagwortung in "Google Fotos".

Google habe schon einmal ähnliche Probleme mit der Gesichtserkennung gehabt, wird Zunger vom Tech-Blog "Ars Technica" zitiert. Eine fehlerhafte Analyse von Hauttönen und Beleuchtung habe damals dazu geführt, dass Menschen, egal welcher Hautfarbe, generell als Hunde einsortiert worden seien.

Ein Google-Sprecher sagte "Ars Technica": "Wir sind entsetzt, und es tut uns aufrichtig leid, dass das passiert ist." Um derlei Vorfälle künftig auszuschließen, müsse die automatische Bildsortierung noch verbessert werden.

Mit seinem Problem ist Google allerdings nicht allein. Erst vor wenigen Wochen war das Fotoportal "Flickr" wegen ähnlich falscher Zuordnungen in die Kritik geraten. Dort hatten die Automatik-Algorithmen dunkelhäutige Menschen mit Begriffen wie "Affe" oder "Tier" gekennzeichnet.

meu



insgesamt 13 Beiträge
Alle Kommentare öffnen
Seite 1
Daniel 1956 02.07.2015
1.
Das jetzt auch schon die Algorithmen rassistisch sind, ist ein Skandal ohnegleichen! Lasst uns schnell einen Shitstorm entfachen und Lichterketten illuminieren.
Leser161 02.07.2015
2. Mensch - Gorilla - Terrorist
Mensch - Gorilla - Terrorist - was macht das schon. Hauptsache man entschuldigt sich sobald es aufgefallen ist. Und den Krater der Luft-Boden-rakete kann man ja schnell wieder zuschütten. Auf Deutsch. Man kann Entscheidungen Maschinen überlassen. Die Verantwortung aber nicht.
PeterPe 02.07.2015
3. Natuerlich falsch, aber...
Fuer ein Algorithmus ist nicht unerwartet. Aehnliches wird passieren, wenn man ein Kind Bilder sotieren laesst. Ganz objektiv ist die Aehnlichekit eines schwarzen Gesichtes und einem Gorilla groesser als die eines weissen Gesichtes und einem Groilla. Wenn man nun an nun Nachjustiert, kann andersrum passieren, das Gorilla oefter als Menschen angesehen werden. Das ist weniger dramatisch, aber auch nicht korrekt.
bluemetal 02.07.2015
4. Beta
Bei Google ist alles erstmal Beta und reift dann über die Jahre beim Kunden oder wird mangels Kunden-Interesse wieder eingestampft. Da ist soweit bekannt. Und die anatomischen Merkmal seiner Freundin sind wirklich schwer zu lesen.
WwdW 02.07.2015
5. naja.
eigentlich sollte das Tool dann einfach keine Zuordnung vornehmen. Aber das will man sich dann auch nicht eingestehen, dass das Zeug noch so schlecht ist.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2015
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.