Digitale Propaganda Ganz allein im dunklen Internet

Viel wird darüber geredet, was Smartphones mit Jugendlichen anstellen. Die wichtigere Frage wird gern übersehen: Was das Zusammenspiel von Propaganda und sozialen Medien mit der Gesellschaft anstellt.

Getty Images

Eine Kolumne von


Ray Serrato ist eigentlich Experte für die Auswirkungen sozialer Medien in Myanmar. Er ist extrem besorgt darüber, wie Facebook in Myanmar dazu beitrug, das tödliche Klima des Hasses auf die Rohingya entstehen zu lassen. Serrato lebt in Berlin, bis vor Kurzem arbeitete er dort für eine Organisation namens Democracy Reporting International, die solche Phänomene beobachtet. Kürzlich ist er ins Team des UN-Hochkommissariats für Menschenrechte gewechselt.

Als Rechtsradikale durch die Straßen von Chemnitz marschierten, habe ihn das "ziemlich beunruhigt", schrieb Serrato vor einigen Wochen auf Twitter, als jemand, der "seit sechs Jahren als Ausländer in Deutschland lebt". Besorgt hätten ihn vor allem Videos, die er bei YouTube zum Thema #Chemnitz gefunden habe.

Serrato benutzte seinen Zugang zu YouTubes Programmierschnittstelle (API) und tat das, was er sonst für Hasspostings in Myanmar tut: Er analysierte, welche Inhalte wie viel Publikum bekamen und welche der Algorithmus empfahl. Die Ergebnisse erschreckten ihn: Von den zehn meistgesehenen Clips zum Thema Chemnitz stammten sieben von Rechtsradikalen, Verschwörungstheoretikern und dem Kreml-Propagandasender RT Deutsch. Ein achtes war ein Interview mit Beatrix von Storch.

"Krankes, verschobenes, buntes, tolerantes Weltbild"

Das zweitmeistgesehene Video stammte von einem der Identitären Bewegung nahestehenden Rechtsradikalen, der sich als Rechts-Hip-Hopper versucht. Er erklärte darin die Tatsache, dass da jetzt Kritik geäußert wurde an Gewalttätern und Leuten, die den Arm zum Hitlergruß recken, zur Diffamierung. Die bösen Mächte, die Deutschland beherrschten, wollten damit "ihr krankes, verschobenes, buntes, vielfältiges, tolerantes Weltbild durchpressen", und zwar "mit aller Gewalt".

Serrato zeigte außerdem am konkreten Beispiel, worüber schon seit einiger Zeit diskutiert wird, auch in dieser Kolumne: Der YouTube-Algorithmus empfahl jenen, die solche Videos sahen, gleich noch weitere, mindestens ähnlich extreme: Verschwörungstheorien, rechte Propaganda, russische Propaganda. Die Algorithmen und die Propagandisten kommen wunderbar miteinander klar.

Serratos zunächst bei Twitter veröffentlichte Blitzstudie sorgte für einige Aufregung, das deutsche "BuzzFeed" und die "New York Times" griffen die Geschichte auf. Das Echo in der deutschen Medien-, vor allem aber der deutschen Bildungslandschaft war meiner Wahrnehmung nach erstaunlich verhalten. Und das ist ein Fehler.

Schwupps, hinab ins Kaninchenloch

Diese Woche ist noch eine Studie herausgekommen, die unter anderem mit Videos im Internet zu tun hat, nämlich die ARD/ZDF-Onlinestudie, die jedes Jahr die Internetnutzung der Deutschen katalogisiert.

Darin steht unter anderem folgende Zahl: 83 Prozent der 14- bis 29-Jährigen in Deutschland nutzen mindestens wöchentlich "Videoportale wie YouTube". Bei Facebook sehen in dieser Altersgruppe 47 Prozent mindestens wöchentlich Videos. Was auf diesen Plattform passiert, was dort ein Publikum erreicht, ist also alles andere als irrelevant.

16-Jährige sehen eher nicht die "Tagesschau", aber wenn sie etwas interessiert, etwa, was da jetzt eigentlich in Chemnitz los war, tippen sie das Wort eben mal schnell bei YouTube ein. Schwupps, verschwindet man im digital auf maximale Sehdauer optimierten Kaninchenloch, hüpft von Propagandahäppchen zu Propagandahäppchen.

Hass akzeptabel machen

Ich persönlich bin schon seit längerer Zeit der Überzeugung, dass der exponenzielle Wandel, den gerade unsere Mediennutzung in den vergangenen Jahren durchlaufen hat, gerade das Bildungssystem vor große Herausforderungen stellt.

Mittlerweile bin ich überzeugt, dass das wirklich Gefahren birgt: Wir leben in einer Zeit, in der hochmotivierte und zum Teil hervorragend finanzierte Propagandisten daran arbeiten, den Grundkonsens unserer liberalen Demokratie zu durchlöchern. Sie versuchen, Hass akzeptabel zu machen, finden Toleranz "krank" und verstehen sich bestens mit den homophoben Kleptokraten im Kreml.

Diesen Propagandisten hat das Silicon Valley ganz aus Versehen ein Biotop gebaut, in dem Untergangs- und "Umvolkungs"-Narrative ordentlich Reichweite erzeugen können. In diesen neuen, algorithmisch auf Monetarisierung, nicht auf Wahrhaftigkeit optimierten Ökosystemen bewegen sich Kinder und Jugendliche permanent, oft ohne großes Verständnis für die zugrunde liegenden Mechanismen.

Hip-Hop und Holocaustleugnung

Über die Aktivitäten der Propagandisten wissen sie nicht viel. Aber sie haben durchaus das Gefühl, dass da manchmal irgendetwas komisch ist. Und weil Eltern und Lehrer selbst oft genug überfordert mit diesem neuen Zustand sind, fühlen sich Kinder und Jugendliche dabei oft alleingelassen - völlig zu Recht. Die Lehrpläne kommen mit der Entwicklung nicht mit.

Die stabilen, gut eingebundenen, gut informierten unter den Jugendlichen können mit all dem vermutlich hervorragend umgehen. Manche aber werden durch das Zusammenspiel von Propaganda und algorithmischer Sortierung in ein gefährliches Fahrwasser geraten, werden anfangen, sich für rechtsradikalen Hip-Hop und Holocaustleugnung zu interessieren.

Mehr zum Thema
Newsletter
Kolumne - Der Rationalist


insgesamt 61 Beiträge
Alle Kommentare öffnen
Seite 1
Gudrun3 14.10.2018
1.
Diese Hass-Propagandisten sind auf Nährböden angewiesen. Sie können eben nicht vor grünen Männchen von der Wega oder vor Ausbeutung u. Verarmung schwadronieren, die kein Mensch erlebt hat o. kennt. Für den Nährböden aber ist die Gesellschaft zuständig: Liefern wir ihn denen weiter?
111ich111 14.10.2018
2. Und jetzt?
Der Katzenvideoeffekt bei YT ist ja ein alter Hut. Ein Algorhytmus unterscheidet halt nicht zwischen "gut" und "böse". Da ist aber das Internet (und schon gar nicht das "dunkle Internet) dran schuld. Die Ursache ist, wo und wie sich Jugendliche wertbildende Meinungen herholen. Wenn Schule und vor allen Dingen Eltern da "keine Zeit" für haben, wird dieses Feld eben durch das Internet besetzt.
fkfkalle3 14.10.2018
3. Was bleibt ?
Der Kontakt zum Geburtsort, also den zu Freunden aus längst vergangenen Zeiten funktioniert recht ordentlich. Die diversen Postings sind oft sehr grenzwertig, allerdings Teil einer möglichen Unsicherheit. Ich lebe in HH, die Sicht der Dinge verändert sich, das muss man verstehen. Ich setze gelegentlich Beiträge des Spiegel , gepaart mit eigener kommentierten Ansicht, dagegen. Die Weltsicht einer geschlossenen Gesellschaft wird nicht besser, wenn die eigene Ansicht permanennt bestätigt wird. Mir reicht es, wenn man zum Nachdenken anregt, das findet statt. Ich stehe für eine offene, freie Gesellschaft, AFD und Konsorten sind nicht akzeptabel. Meine Gegenparts, ich nenne es einfach so, können mir nicht erklären, was denn diese Truppe für sie bringt.
Grünspahn 14.10.2018
4.
Das Wichtigste steht ja im Artikel: Jugendliche, die in stabiles und informierte Elternhaus eingebunden sind, sind viel weniger für solche Inhalte empfänglich. Es liegt wie vieles an den Eltern. Weder der Staat noch die Gesellschaft können das Elternhaus ersetzen.
ArminBiermann 14.10.2018
5. Ein weiteres gutes und erschreckendes Beispiel...
für das, was digitale Medien mit uns machen (https://biermann.ch/was-digitale-medien-mit-uns-machen/). Dabei sind die negativen Auswirkungen auf junge Menschen, denen mangels Wissen noch die nötige Urteilskraft fehlt, fatale und nicht einmal gewollte Nebenwirkungen von Algorithmen von Suchmaschinen, die eigentlich ganz andere Ziele verfolgen. Langsam werden die Wirkungsweisen und die Wirkungen des Internets und der digitalen Medien immer besser erkannt. Das müsste doch Konsequenzen für die Schulausbildung und für die Erziehung im Elternhaus haben. Wann fangen wir an, digitale Medien wie Autos zu betrachten und zu behandeln, die man aus guten Gründen mit 12 oder 14 Jahren noch nicht fahren darf. Wie dieser Beitrag zeigt, tragen wir durch die Verharmlosung der Auswirkungen digitaler Medien dazu bei, dass junge Menschen ihr ganzes Leben an die Wand fahren... und viele dieser Entwicklungen sind nach dem 20. Lebensjahr nicht mehr rückgängig zu machen, wie uns die Hirnforschung mahnt...
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2018
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.