Forum: Wissenschaft
Digitale Plattformen: Wer nur zurückschaut, schafft keine gute Zukunft
iStockphoto/ Getty Images

Die algorithmischen Aufmerksamkeitsverteiler aus dem Silicon Valley gelten als Könige der Innovation. Ihre Maschinen aber sind auf den Blick nach hinten programmiert - und fördern so Diskriminierung.

Seite 3 von 5
dasfred 08.04.2019, 02:46
20. Das haben wir schon immer so gemacht

Ein weit verbreiteter Satz, über den sich sicher schon jeder mal geärgert hat. Aus der Vergangenheit lernen ist so verkehrt nicht. Allerdings entsteht daraus nicht unbedingt Innovation. Modeketten beschäftigen heute Trendscouts, die sich auf die Suche nach Outfits machen, die man so noch nicht gesehen hat. Andere Branchen bauen, oft zu lange, auf das Bewährte. Wer sich durch Algorithmen führen lässt, erfährt nie, ob Schwarze nicht doch die besseren Holzfäller sind, ob weiße Frauen besser Taxi fahren und vieles mehr. Mir gefällt dieser Artikel, weil er noch einmal visualisiert, dass wir uns nicht auf Erfahrung und den ersten Eindruck allein verlassen dürfen. Das Algorithmen, die sich nur aus gewesenem speisen eben nur bedingt oder gar nicht tauglich sind. Sie lassen keinen Spielraum für neues.

Beitrag melden Antworten / Zitieren
spon_4_me 08.04.2019, 06:02
21. Kind und Bad

So recht Herr Stöcker mit seinen Beobachtungen hat - seine These, Stereotypen verewigten bestehende Denkmuster und hielten uns so quasi digital in der Vergangenheit fest, halte ich für gewagt. Stereotype gab und gibt es natürlich auch in der normalen Welt (siehe die zahlreichen Untersuchungen mit identischen Bewerbungsunterlagen, bei denen sich nur die vermeintliche ethnische oder soziale Herkunft des Bewerbers durch den jeweiligen Vornamen unterscheidet). Sie stellen eine Art Alltagsheuristik für soziale Verhaltensweisen dar. Das macht sie nicht gut oder schlecht oder wahr oder falsch, sondern offenbar erst einmal auf dieser Ebene nützlich: Ich spare mir Energie und Zeit für eine Analyse der Situation, weil der Stereotyp mir auf den ersten Blick so viel davon abnimmt. Natürlich kann man da furchtbar danebenliegen. Mein Punkt ist lediglich, dass diese Verkürzung des eigenen Erkenntnisprozesses nicht primär von digitalen Medien erfunden wurde und auch ohne sie weiter existieren würde. Die Algorithmen der Tech-Konzernen zielen dagegen eher auf unsere Sensationsgier, unseren Voyeurismus, denn hier geht es darum, Leute möglichst lange auf einer Seite zu halten, damit sie neben der letzten Verschwörungstheorie auch noch links oben die Werbung für Sonnenbrillen lesen (warum das ein erfolgreiches Werbenodell sein soll, habe ich allerdings nie verstanden). Und Wandel, auf jeden Fall evolutionärer, möglicherweise revolutionärer? Da scheint mir offensichtlich, dass die digitale Inflation, die Konfrontation mit vielen zum Teil halb- oder vierteldurchdachten Ideen (einige davon gern auch auf SPON) eine intensive Debatte angestoßen hat. Dass die Debatte dann nicht immer in die von progressiven Journalisten als richtige empfundene Richtung geht, ist Fluch und Segen jeder in offenen Räumen von Leuten verschiedener Herkunft, Intelligenz und Werten geführten Unterhaltung. Man sollte aber nicht den Stab über dieser Form von Auseinandersetzung brechen, nur weil die Argumente und Schlussfolgerungen einer Mehrheit oder signifikanten Minderheit nicht dem Stereotyp der SPON-Kolumnisten entsprechen.

Beitrag melden Antworten / Zitieren
UlrichSchweizer 08.04.2019, 07:14
22. Die Alternative

Was wäre dann die Alternative dazu, die Welt aus den Erfahrungen der Vergangenheit zu gestalten ? Zuerst kommt einem in den Kopf, dass das gar nicht möglich ist, denn all die Gesetze bestehen ja weiter. Diese sind alle auf der Basis von Erfahrungen der Vergangenheit gemacht worden. Es können ja Leute kommen und einem vorgaukeln, dass die Meschen und die Welt immer besser werde. Man solle positiv in die Zukunft schauen und dem Trend folgen. Das ist sicher für diejenige Gruppe der Leute welche den wirtschaftlichen Karren ziehen das dümmste was sie machen können. Gerade die haben ja in Deutschland gemerkt, dass sie nur ausgenützt werden und die Hauptlasten tragen müssen welche durch die politischen Fehlentscheide hervorgerufen werden. Und nicht nur das: die werden auch die meiste Freiheit verlieren. Deshalb wollen sie in Zukunft weniger arbeiten.

Beitrag melden Antworten / Zitieren
peter.teubner 08.04.2019, 08:24
23. Schon lustig,

gestern war Facebook die Zukunft und wer das nicht einsah ewig gestrig. Wer Probleme, wie hier beschrieben, ansprach war ein ewiger Nörgler, typisch deutsch halt. Wer der Ansicht war, dass wir uns langsamer bewegen sollten, uns Zeit nehmen sollten mal die möglichen Entwicklungen durch zu denken, wurde vorgehalten den Fortschritt aufzuhalten und natürlich das Wachstum. Und jetzt das!!

Beitrag melden Antworten / Zitieren
mark.muc 08.04.2019, 10:08
24. @23

Ja es ist schon erstaunlich, daß Facebook als Träger von Modernität galt. Schon als Student hat Herr Zuckerberg seinen durchaus überschaubaren Ideenkosmos dazu benutzt, Studentinnen dem Spott seiner männlichen Studienkollegen auszusetzen. Ich finde dieses Medium schier unerträglich und war deshalb dort auch nie angemeldet. Darf man "angemeldet" sagen, oder ist das nicht "hipp" genug? Jemand, der wie Zuckerberg sagt "Privatheit war gestern" ist für mich ein inhumanes Monstrum. Aber ich bin eben auch ein alter weißer Mann...

Beitrag melden Antworten / Zitieren
mark.muc 08.04.2019, 10:18
25.

"Wenn man aus dem Verhalten der Vergangenheit Empfehlungen für Gegenwart und Zukunft ableitet, geht das leicht schief. Würden wir als Gesellschaften so handeln, gäbe es noch die Prügelstrafe, Frauen dürften nicht wählen, in Zügen und Flugzeugen würde geraucht, Gebäude würden mit Asbest gebaut, Homosexualität wäre illegal."
Aus der Vergangenheit lernen, heiß ja gerade nicht, die Vergangenheit einfach zu kopieren. Niemand, der - wie ich behauptet - daß wir die Vergangenheit betrachten müssen ("Rücksicht nehmen") , um die Zukunft zu gestalten- würde deshalb fordern, daß die Briten wieder kleine Jungen in die Kohle-Flöze schicken sollten oder daß man eine ganze Generation junger Männer zum Kanonenfraß machen sollte.

Beitrag melden Antworten / Zitieren
theuwe 08.04.2019, 10:34
26. Künstliche Ignoranz

Und die Algorithmen, die für die Verteilung dieser wahrhaft banalen und dümmlichen Stereotypen zuständig sind, gehören doch zur Künstlichen Intelligenz? Könnte KI nicht eher für künstliche Ignoranz stehen

Beitrag melden Antworten / Zitieren
squire0815 08.04.2019, 11:10
27. Endlich mal neue Impulse in die richtige Richtung

Danke, Danke Herr Stöcker. Ich hoffe es kommen noch mehr solcher Denkanstöße zu der aktuell kindlichen Diskussion über KI , neuronale Netze usw.. Das bewusste Menschsein spiegelt sich darin wieder nicht etwas zu sein sondern etwas sein zu wollen. Auch wenn man in der Praxis oft am Wollen scheitert. Eine Gesellschaft, die das vergisst, verliert alle ihre Chancen auf die Zukunft und deren Gestaltung. Thoekratien und Dikaturen sollten uns eine Warnung sein.

Beitrag melden Antworten / Zitieren
mark.muc 08.04.2019, 11:15
28.

"Erstens könnte es sein, dass diese Praxis zumindest in den USA illegal ist: Dort gab es noch in den Siebzigerjahren Stellenanzeigen, die sich explizit nur an Männer oder Frauen wandten. Längst gilt so etwas als illegale Diskriminierung. Wegen ähnlich gelagerter Fälle hat Facebook in den USA gerade Ärger mit Behörden und Gerichten."
Das gibt es in Deutschland immer noch und gilt gar als fortschrittlich:
So suchte z. B. ein Arbeitgeber mit seiner Stellenanzeige nur für Frauen ausschließlich weibliches Personal, weil er bisher nur Automobilkaufmänner eingestellt hatte.
Das Landesarbeitsgericht Köln (LAG Köln, Urteil vom 18.05.2017, Az. 7 Sa 913/16; Vorinstanz: AG Köln, Az. CA 4843/15) sah hierin eine zulässige Ungleichbehandlung:
„Die gezielte Suche eines Autohauses nach einer weiblichen Autoverkäuferin in einer Stellenanzeige („Frauen an die Macht“) kann nach § 8 Abs. 1 AGG gerechtfertigt sein, wenn der Arbeitgeber bisher in seinem gesamten Verkaufs- und Servicebereich ausschließlich männliche Personen eingestellt hat.“

Beitrag melden Antworten / Zitieren
hikage 08.04.2019, 11:49
29.

Zitat von andre_36
Wen interessiert überhaupt noch, was auf FB passiert, außer Journalisten?
Es geht hier nicht darum, was auf FB passiert. Die Beispiele kommen von FB, da auf FB Ursache und Wirkung gut überprüfbar sind.

Im Beitrag geht es aber generell um das Training von zukünftigen KI Lösungen basierend auf Datensätzen, die zumindest einen Zeit-Bias haben - der auch unvermeidbar ist, da man logischerweise nicht mit Daten aus der Zukunft füttern kann.

Es schadet sicher nicht, sich der Implikationen dieses Bias bewusst zu werden.

Beitrag melden Antworten / Zitieren
Seite 3 von 5