Können Algorithmen ungerecht sein? Vor einigen Jahren experimentierte Amazon mit einem Computerprogramm, das Bewerber anhand verschiedener Datenpunkte bewertete; alles sollte möglichst objektiv sein.

Doch wie sich herausstellte, bevorzugte die Software Männer. Als Grundlage dienten ihr die Lebensläufe von Amazon-Mitarbeitern – und die waren mehrheitlich männlich. Daraus schloss das Programm, dass Männer die geeigneteren Kandidaten sein müssten. Als Amazon dahinterkam, stoppte der Konzern die Initiative.

Algorithmen steuern die Welt. Sie stecken in Flugzeugen und Autos. Sie versprechen, das Leben sicherer und effizienter zu machen.

Doch Enthüllungen wie jene um Cambridge Analytica, das über Facebook Daten sammelte, um Wähler im US-Präsidentschaftswahlkampf zu manipulieren, haben die dunkle Seite der Technologie offenbart: Algorithmen können verfälschen. Und sie können töten. Im März 2018 überrollte ein Roboterauto von Uber im amerikanischen Bundesstaat Arizona eine Fußgängerin.

Haben wir die

Lade...

Gutes lesen. Mehr verstehen.

Sie haben keinen Zugang? Jetzt gratis testen!

  • Jeden Tag mehr Durchblick: Besondere Reportagen, Analysen und Hintergründe auf SPIEGEL ONLINE zu Themen, die unsere Gesellschaft bewegen, von Reportern in aller Welt.
  • Dazu die digitale Ausgabe des wöchentlichen Magazins.
  • Einmal anmelden, überall nutzen – mobil, Web, Tablet, auf allen Ihren Geräten.
  • Flexible Laufzeit, jederzeit online kündbar
Dieser Beitrag erschien zum ersten Mal in der SPIEGEL-Ausgabe 12/2019.
Hinweis

SPIEGEL+ kann in Ihrer App leider nicht dargestellt werden. Bitte installieren Sie die aktuelle App-Version oder wechseln Sie auf die mobile Website m.spiegel.de, um SPIEGEL+ lesen zu können. Vielen Dank!

SPIEGEL+ kann in Ihrem Browser leider nicht dargestellt werden. Bitte installieren Sie die aktuelle Version Ihres Browsers oder wechseln Sie zu einem anderen aktuellen Browser, um SPIEGEL+ lesen zu können. Vielen Dank!

SPIEGEL+ kann auf Ihrem Gerät leider nicht angezeigt werden. Bitte aktualisieren Sie, wenn möglich, Ihr Betriebssystem. Vielen Dank!