Rassismus bei Vorschaubildern: Twitter verbietet künstlicher Intelligenz den Bildbeschnitt

Die Twitter-Software für die Vorschau von Kurznachrichten entscheidet wohl nach Hautfarbe, wenn es um den Bildbeschnitt geht. Der Kurznachrichtendienst hat nun reagiert und will Nutzer wieder selbst zuschneiden lassen.

"Potenzial für Voreingenommenheit": Nach eigenen Tests zu den Rassismusvorwürfen an seine künstliche Intelligenz bietet Twitter den Nutzern mehr Möglichkeiten, Bilder zu beschneiden

Foto: REGIS DUVIGNAU/ REUTERS

Twitter will der künstlichen Intelligenz (KI) die Kontrolle entziehen, wenn es um den Bildbeschnitt bei Vorschaufotos geht. Das teilte der US-Kurznachrichtendienst am Donnerstag mit. Stattdessen sollen die Nutzer bereits beim Erstellen der Nachricht mehr Möglichkeiten bekommen, um selbst zu bestimmen, wie ihre Bilder später in einem Tweet aussehen.

In einem Blogbeitrag des Unternehmens heißt es: "Wir hoffen, dass wir das Risiko von Benachteiligung reduzieren, indem wir den Nutzern mehr Möglichkeiten geben die Bilder zu beschneiden und bereits beim Tweet-Verfassen anzeigen, wie die Fotos später aussehen."

Das Unternehmen reagiert damit auf den Vorwurf, die Software sei rassistisch und benachteilige unter anderem Schwarze in Tweet-Vorschauen. Die eigenen Nutzer hatten Twitter vor etwa zwei Wochen auf diese Diskriminierung aufmerksam gemacht.

Auch voreingenommen bei Simpsons-Figuren und Hunden

Um die unausgewogene Bildauswahl zu beweisen, testete unter anderem ein Programmierer den Algorithmus mit Bildern der beiden US-Politiker Barack Obama und Mitch McConnell in verschiedenen Konstellationen. Dabei war egal, ob der ehemalige Präsident oben oder unten auf einem Bildstreifen platziert wurde. Die Twitter-KI rückte jedes Mal den weißen McConnell in die Vorschau.

Empfohlener externer Inhalt

An dieser Stelle finden Sie einen externen Inhalt von Twitter, der den Artikel ergänzt und von der Redaktion empfohlen wird. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Externer Inhalt

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Externer Inhalt

Zur Datenschutzerklärung

Selbst bei Comicfiguren aus der Serie "Die Simpsons" scheiterte der Algorithmus und wählte jedes Mal die gelbe Figur Lenny anstelle des schwarzen Kollegen Carl für die Timeline-Ansicht aus. Auch Hunde mit dunklem Fell hatten keine Chance, in der Vorschau aufzutauchen. Der Twitter-Algorithmus bevorzugte helle Tiere.

Der Kurznachrichtendienst stellte solche Tests am Hervorhebungs-Algorithmus nach. Während die Analyse "keine Verzerrung bei verschiedenen Ethnien oder Geschlechtern" gezeigt habe, "stellten wir fest, dass es bei der Art, wie wir Fotos beschneiden, ein Potenzial für Voreingenommenheit gibt", teilt Twitter mit. "Wir hätten einen besseren Job machen müssen, indem wir diese Möglichkeit gleich hätten berücksichtigen sollen, als wir die Funktion entworfen und entwickelt haben."

Den automatischen Bildbeschnitt hatte Twitter vor rund zwei Jahren eingeführt, um Objekte auf Bildern in der Timeline-Vorschau automatisch zurechtzurücken. Anstatt abgeschnittene Katzenkörper zu zeigen, schob die Software die Tierköpfe in den Mittelpunkt. Ein Schnappschuss aus dem Fenster eines Flugzeugs zeigte dann nicht mehr nur den Himmel, sondern legte den Fokus auf den Flügel.