Online-Schönheitswettbewerb Der Algorithmus ist Rassist

Bei einem Online-Schönheitswettbewerb hat ein Algorithmus die Gewinner gekürt - und fast nur Weiße ausgewählt. Warum ist künstliche Intelligenz rassistisch?

Schönheitswettbewerb
DPA

Schönheitswettbewerb


Wenn ein Mensch bewertet, ob ein anderer schön ist oder nicht, dann hat das viel mit persönlicher Wahrnehmung zu tun. Ein Algorithmus, der menschliche Gesichter nach bestimmten Kriterien auswertet - zum Beispiel Symmetrie des Gesichts oder Vorkommen von Falten - wäre viel objektiver.

So lautete zumindest die Annahme eines Teams aus Forschern, das den Schönheitswettbewerb "Beauty.AI" ausrichtete, bei dem die Teilnehmer von einer künstlichen Intelligenz (KI) bewertet wurden. Etwa 6000 Menschen aus mehr als 100 Ländern nahmen nach Angaben des "Guardian" an dem Experiment teil und stellten Fotos zur Verfügung.

Das Ergebnis des Wettbewerbs ist bemerkenswert: Anscheinend bewertete der Algorithmus Menschen mit heller Haut als schöner. Unter den 44 Gewinnern gab es jedenfalls keine einzige Person mit dunklerer Haut, obwohl sich zum Beispiel auch Afrikaner und Inder bei dem Wettbewerb angemeldet hatten.

Die KI leistet sich nicht das erste Mal eine Schlappe

Das seltsam eindeutige Ergebnis dürfte einmal mehr die Diskussion um den Einsatz von künstlicher Intelligenz befeuern. In der nahen Vergangenheit waren auch andere Experimente unglücklich ausgegangen: So schimpfte der Microsoft-Chatbot Tay auf Twitter mit rassistischen Parolen und Neonazi-Sprech. Microsoft war - neben anderen - auch jetzt an dem Schönheitsexperiment beteiligt.

Das Problem an lernfähiger KI ist, dass sie nur so intelligent ist oder wird, wie es die Menschen zulassen, die sie programmieren und sie trainieren lassen. Tay lernte von anderen Twitterern die rassistische Sprache.

Der Schönheitsalgorithmus funktionierte nun so, wie er funktionierte, weil er hauptsächlich von weißen Menschen gemacht wurde. Gegenüber dem "Guardian" gab ein führender wissenschaftlicher Mitarbeiter von Beauty.AI zu, bei der Entwicklung der Schönheitsstandards seien zu wenig Minderheiten miteinbezogen worden.

Das Problem: fehlende Diversität

Dass in vielen großen Tech-Konzernen vor allem Weiße arbeiten, wird schon lange kritisiert. Denn das hat auch Auswirkungen darauf, wie Produkte und Software-Lösungen gestaltet werden. So kam es beispielsweise mehrfach vor, dass der Video-Messenger Snapchat wegen rassistischen Gesichtsfiltern in die Schlagzeilen geriet.

Die fehlende Diversität in Tech-Firmen, die sich ihren Produkten, einschließlich der KI zeigt, könnte in Zukunft zu einem noch viel größeren Problem werden - beispielsweise wenn Algorithmen zur Kriminalitätsprävention eingesetzt werden. In den USA ist das schon heute gängige Praxis: Algorithmen entwerfen einen "Risiko-Score", der die Wahrscheinlichkeit, dass der Betroffene erneut straffällig wird, beziffern soll. Schwarze wurden in diesem Zusammenhang deutlich häufiger fälschlich als Risikofälle eingestuft, ergab eine Studie von ProPublica.

tsi



Forum - Diskutieren Sie über diesen Artikel
insgesamt 35 Beiträge
Alle Kommentare öffnen
Seite 1
ge1234 09.09.2016
1. Warum künstliche Intelligenz rassistisch ist?
Vermutlich weil ihr Programmierer rassistisch ist!
hansgustor 09.09.2016
2. Realitätsschock
Manche Leute kommen mit der Realität halt nicht klar. Selbst Schwarze und Asiaten eifern dem "Weißen Schönheitsideal" nach. Das hat sicherlich gesellschaftliche Gründe, nicht objektive. Aber tatsächlich spiegelt das Ergebnis der Maschine den durchschnittlichen weltweiten Geschmack wider.
3847234462 09.09.2016
3.
Warum erwägt Spiegel Online nicht die Möglichkeit, dass unterschiedliche Rassen tatsächlich unterschiedlich hübsch sind? Ich weiß zwar nicht, ob das so ist, aber zumindest die Möglichkeit sollte man in Betracht ziehen.
lagoya 09.09.2016
4. Das sehe ich auch so
Zitat von hansgustorManche Leute kommen mit der Realität halt nicht klar. Selbst Schwarze und Asiaten eifern dem "Weißen Schönheitsideal" nach. Das hat sicherlich gesellschaftliche Gründe, nicht objektive. Aber tatsächlich spiegelt das Ergebnis der Maschine den durchschnittlichen weltweiten Geschmack wider.
und erinnere nur an M.Jackson , der deswegen sogar zum Neurotiker wurde .
Ringmodulation 09.09.2016
5. Wie soll man diese Frage ehrlich diskutieren
ohne gegen die Grundsätze politischer Korrektheit zu verstoßen? Ein Algorithmus fürchtet keinen öffentlichen Gesichtsverlust. Er wertet die Daten ohne Blick auf seinen Ruf aus. Dabei kann schon mal etwas herauskommen, das zwar jeder ahnt, der Michael Jacksons verändertes Aussehen über die Jahrzehnte verfolgt hat, aber eben nicht öffentlich aussprechen kann, ohne befürchten zu müssen, dafür niedergebrüllt zu werden. Das Argument, viele Afrikaner eiferten einem "falschen" europäischen Schönheitsideal nach, zieht nicht: In der Ästhetik gibt es kein "richtig" und "falsch". Man mag bedauern, wie fremde Kulturen sich von uns beeinflussen lassen. Aber man wird ihnen das kaum vorwerfen können. Oft wird es ja sogar von ihnen gefordert, Stichwort Integration. Man kann die Ästhetik nicht vom restlichen Wertsystem des Menschen trennen.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2016
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.