Rassismus bei Vorschaubildern Twitter verbietet künstlicher Intelligenz den Bildbeschnitt

"Potenzial für Voreingenommenheit": Nach eigenen Tests zu den Rassismusvorwürfen an seine künstliche Intelligenz bietet Twitter den Nutzern mehr Möglichkeiten, Bilder zu beschneiden
Foto: REGIS DUVIGNAU/ REUTERSTwitter will der künstlichen Intelligenz (KI) die Kontrolle entziehen, wenn es um den Bildbeschnitt bei Vorschaufotos geht. Das teilte der US-Kurznachrichtendienst am Donnerstag mit. Stattdessen sollen die Nutzer bereits beim Erstellen der Nachricht mehr Möglichkeiten bekommen, um selbst zu bestimmen, wie ihre Bilder später in einem Tweet aussehen.
In einem Blogbeitrag des Unternehmens heißt es : "Wir hoffen, dass wir das Risiko von Benachteiligung reduzieren, indem wir den Nutzern mehr Möglichkeiten geben die Bilder zu beschneiden und bereits beim Tweet-Verfassen anzeigen, wie die Fotos später aussehen."
Das Unternehmen reagiert damit auf den Vorwurf, die Software sei rassistisch und benachteilige unter anderem Schwarze in Tweet-Vorschauen. Die eigenen Nutzer hatten Twitter vor etwa zwei Wochen auf diese Diskriminierung aufmerksam gemacht.
Auch voreingenommen bei Simpsons-Figuren und Hunden
Um die unausgewogene Bildauswahl zu beweisen, testete unter anderem ein Programmierer den Algorithmus mit Bildern der beiden US-Politiker Barack Obama und Mitch McConnell in verschiedenen Konstellationen . Dabei war egal, ob der ehemalige Präsident oben oder unten auf einem Bildstreifen platziert wurde. Die Twitter-KI rückte jedes Mal den weißen McConnell in die Vorschau.
I tried it with dogs. Let's see. pic.twitter.com/xktmrNPtid
— 🅜🅐🅡🅚 (@MarkEMarkAU) September 20, 2020
Selbst bei Comicfiguren aus der Serie "Die Simpsons" scheiterte der Algorithmus und wählte jedes Mal die gelbe Figur Lenny anstelle des schwarzen Kollegen Carl für die Timeline-Ansicht aus. Auch Hunde mit dunklem Fell hatten keine Chance, in der Vorschau aufzutauchen. Der Twitter-Algorithmus bevorzugte helle Tiere .
Der Kurznachrichtendienst stellte solche Tests am Hervorhebungs-Algorithmus nach. Während die Analyse "keine Verzerrung bei verschiedenen Ethnien oder Geschlechtern" gezeigt habe, "stellten wir fest, dass es bei der Art, wie wir Fotos beschneiden, ein Potenzial für Voreingenommenheit gibt", teilt Twitter mit. "Wir hätten einen besseren Job machen müssen, indem wir diese Möglichkeit gleich hätten berücksichtigen sollen, als wir die Funktion entworfen und entwickelt haben."
Den automatischen Bildbeschnitt hatte Twitter vor rund zwei Jahren eingeführt , um Objekte auf Bildern in der Timeline-Vorschau automatisch zurechtzurücken. Anstatt abgeschnittene Katzenkörper zu zeigen, schob die Software die Tierköpfe in den Mittelpunkt. Ein Schnappschuss aus dem Fenster eines Flugzeugs zeigte dann nicht mehr nur den Himmel, sondern legte den Fokus auf den Flügel.