Google, Facebook und Co. Wir waren's nicht! Die Maschine war's!

Die automatischen Systeme der großen Internetkonzerne arbeiten still, fleißig und oft ohne jede Aufsicht vor sich hin. Dabei machen sie Fehler und verursachen Kollateralschäden. Das muss sich ändern.

Google-Mitgründer Sergey Brin
AFP

Google-Mitgründer Sergey Brin

Eine Kolumne von


Die Familie von Sergey Brin, einem der beiden Gründer von Google, emigrierte in den späten Siebzigerjahren aus der damaligen Sowjetunion. Die Familie ist jüdisch, und das hatte laut Brins Vater zur Folge, dass er selbst im Sowjetregime nicht frei entscheiden konnte, welches Fach er studieren, welchen Beruf er ausüben wollte. Sowjetischer Antisemitismus trieb die Brins in die USA.

Was Sergey Brin heute wohl davon hält, dass Googles algorithmisch generierte Varianten für mögliche Suchanfragen mit den Worten "are jews" bis vergangenen Dienstag auch den Vorschlag "are jews evil" enthielten? Und dass die Top Ten der Ergebnisse auf diese Anfrage dann Artikel wie "Die zehn wichtigsten Gründe, warum die Leute Juden hassen" oder "Das Judentum ist satanisch!" enthielten?

Ähnliche Befunde ergaben sich bei Wortkombinationen wie "are women" oder "are muslims". Erst nach dem Erscheinen des oben verlinkten "Observer"-Artikels wurden viele der seltsamen Ergänzungen entfernt oder angepasst.

Die dämlichen Vorschläge der universellen Antwortmaschine

Auf Deutsch funktioniert Ähnliches noch immer. "Sind Frauen" - ein Google-Vorschlag: "Sind Frauen dümmer". Das lässt sich beliebig erweitern: "Sind Schwarze ... dümmer", "sind Muslime ... dümmer". Die Alternativvorschläge hier lauten übrigens: "Sind Muslime beschnitten", "sind Muslime Christen", "sind Muslime gefährlich". Wer auch immer die Vorbilder für diese Suchvorschläge liefert, also Leute, die "sind Muslime" ins Suchfenster eintippen - besonders helle sind viele davon offenbar nicht. Ein Grund mehr, ihnen keine dämlichen Vorschläge zu machen. Schließlich ist Google für viele Menschen längst die universelle Antwortmaschine.

Die deutschen Ergebnislisten sind allerdings in der Regel weit weniger finster als die, die der "Observer"-Autor für seine englischsprachigen Anfragen fand. Und zu "sind Juden" gab es auch vor dem Artikel auf Deutsch schon keine automatische Ergänzung. Vermutlich aus gutem Grund.

Ein Roboter, der nicht weiß, was Antisemitismus ist

Automatisch ist hier das entscheidende Stichwort: Die Autocomplete-Funktion basiert maßgeblich darauf, welche Suchanfragen Menschen tatsächlich häufig in Googles Suchfenster eingetippt haben, und vermutlich darauf, welche der vorgeschlagenen Varianten dann besonders häufig angeklickt werden. Da ist keine Redaktion am Werk, sondern ein Roboter, der 24 Stunden am Tag Milliarden von Suchanfragen beobachtet, auswertet, gruppiert, gewichtet. Ein Roboter, der keine Ahnung hat, was Rassismus oder Antisemitismus ist. Der deshalb einen unbedarften Nutzer, der "are jews" in ein Suchfenster eintippt, mit genau zwei Klicks zu solchen und ähnlichen Einlassungen führt: "Die Juden hatten gesündigt, und Gott war zornig auf sie. Glaubt ihr, die Juden von heute sind besser? Sie sind hundertmal schlimmer!!!"

Bei Facebook gibt es auch so eine flinke, aber dämliche Maschine. Sie kann nicht unterscheiden, ob ein Artikel eine frei erfundene Lügengeschichte mit politischer Motivation ist oder ein Artikel mit echtem Nachrichtenwert. Sie kann nur sehen, wie häufig die Geschichte gelikt, geklickt, kommentiert, weitergereicht wird. Und das klappt, wie wir spätestens in den vergangenen Wochen zur Genüge gelernt haben, mit Lügengeschichten eben offenbar besonders gut. Also erzielt die Lüge eine höhere Reichweite als die Wahrheit, weil der Algorithmus sie weiter nach oben sortiert. Und das hat, zumindest sieht es ganz danach aus, Folgen. Radikalisierung, Fragmentierung der Gesellschaft, Auftrieb für Lügner, Propagandisten und Populisten.

Die Crowd trainiert die Algorithmen mit ihrem Verhalten. Leider ist die Crowd, wie sich spätestens jetzt zeigt, allzu oft leider ziemlich doof.

Wir haben doch nichts gemacht! Das war der Algorithmus!

Die Reaktion der Algorithmuskonzerne ist derzeit verlässlich die gleiche: Wir haben doch nichts gemacht, das war der Algorithmus. Das war die Maschine. Ja, sagt uns doch was, dann kümmern wir uns drum. Mehr können wir nicht tun. Ihr müsst uns schon dabei helfen, unseren Maschinen ihre Fehler auszutreiben. Einen nach dem anderen. Geht nicht anders.

Es wird höchste Zeit, sich einmal mit der Frage zu beschäftigen, ob das wirklich reicht. Ein Hersteller von Fahrstühlen, deren Aufzugtüren immer mal Passagieren mit Wucht die Finger einklemmen, würde sich kaum auf die Position zurückziehen können, dass er doch jeden Aufzug repariert, bei dem das einmal vorgekommen ist. Man würde ihn schleunigst dazu zwingen, seine Türen so zu konstruieren, dass es gar nicht mehr vorkommt.

Weder Larry Page noch Sergey Brin noch Mark Zuckerberg hatten vor, den Lügnern, Rassisten, Antisemiten und Frauenfeinden der Welt ein ideales Biotop zur Vermehrung ihrer Zahl zu schaffen, davon kann man ausgehen. Sie haben es aber, ganz aus Versehen, getan. Sie haben Maschinen gebaut, die Gutes tun - und Geld verdienen - sollen und dabei als Kollateralschaden dem Schlechten Vorschub leisten.

Google und Facebook sind die zwei Unternehmen, die derzeit mit den größten Investitionen, dem größten Aufwand - und bekanntlich großem Erfolg - die Entwicklung künstlicher Intelligenz vorantreiben. So werden Maschinen entstehen, die noch ungleich nützlicher, aber auch weit mächtiger sein werden als die Algorithmen von heute. Wenn die Kollateralschäden im gleichen Tempo mitwachsen, wird es finster.

Es wird Zeit, dass sich diese Unternehmen ihrer Verantwortung stellen - und zwar nicht nur, indem sie zusätzliche Buttons einführen, mit denen wir alle mithelfen sollen, den Maschinen ihre Fehler auszutreiben.

Mehr zum Thema
Newsletter
Kolumne - Der Rationalist


Forum - Diskussion über diesen Artikel
insgesamt 99 Beiträge
Alle Kommentare öffnen
Seite 1
bananenrep 11.12.2016
1. Ganz aus Versehen ....
haben wir Maschinen gebaut die die welt beherschen und den Menschen untertan machen. Ganz aus Versehen haben wir die Regenwälder abgeholzt. Ganz aus Versehen haben wir Schwarzgeldkoffer angenommen. Ganz aus Versehen haben wir unseren Lebenraum zerstört. Ganz aus Versehen haben wir Genlebensmittel hergestellt und dabei die Bienen ausgerottet. JAjaja. Wann stellen sich die und im Speziellen DIESE Menschen iherer Verantwortung. Wenn sie dann gestorben sind, kann man sie nicht mehr einkekern.
Freidenker10 11.12.2016
2.
Komisch, bei Obama fanden es die Medien toll das er als erster Präsident mithilfe des Internets die Wahl gewonnen hat, bei Trump ist nun das böse Internet schuld das er gewonnen hat. Liegts da nicht nahe, dass die Medien einfach angepisst sind weil Trump gewonnen hat und nun die Schuldigen in bösen Bots und Trollen und was noch alles suchen? Am Ende wird man drauf kommen, dass die Menschen einfach auch ihren kleinen Teil vom großen Kuchen abhaben wollen und diesen nicht mehr bekommen und deshalb mal jemanden gewählt haben der eben nicht dem räuberischen politischen Etablishment entspricht... Aber das wird wohl noch dauern!
masterrobin93 11.12.2016
3. Die Autonmie durch Maschinen und Computer wird Folgen haben
Wie im Artikel erwähnt, macht Google uns das Suchen durch Vervollständigen der Begriffe einfacher. Diese Hilfen und allgemein die Digitalisierung unserer Welt wird hinreichende Folgen für den Arbeitsmarkt und unsere Gesellschaft haben.
Listkaefer 11.12.2016
4. Es muss etwas getan werden ...
... gegen Fake News und die Plattformen, die dafür als Dreckschleudern dienen. Dieser ganze geistige Schrott gefährdet inzwischen den sozialen Zusammenhalt und gefährdet ganze Demokratien. Wer möchte, dass der nächste Bundestagswahlkampf so wie in den USA erlebt wird? In Mazedonien gibt es Fake News Versender, die mit Google-Werbung, die sie zusammen mit Abstrusem verschicken, Millonen Klicks sammeln und dafür von Google mit Geld überschüttet werden. Dieses System ist krank.
B!ld 11.12.2016
5.
Wer Google so ernst nimmt, ist einfach nicht zu retten. Das Problem sitz vor der Maschine.
Alle Kommentare öffnen
Seite 1
Diskussion geschlossen - lesen Sie die Beiträge! zum Forum...

© SPIEGEL ONLINE 2016
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.