Christian Stöcker

Digitale Propaganda Ganz allein im dunklen Internet

Viel wird darüber geredet, was Smartphones mit Jugendlichen anstellen. Die wichtigere Frage wird gern übersehen: Was das Zusammenspiel von Propaganda und sozialen Medien mit der Gesellschaft anstellt.
Foto: Dimitris66/ Getty Images

Ray Serrato ist eigentlich Experte für die Auswirkungen sozialer Medien in Myanmar. Er ist extrem besorgt darüber, wie Facebook in Myanmar dazu beitrug , das tödliche Klima des Hasses auf die Rohingya entstehen zu lassen. Serrato lebt in Berlin, bis vor Kurzem arbeitete er dort für eine Organisation namens Democracy Reporting International, die solche Phänomene beobachtet. Kürzlich ist er ins Team des UN-Hochkommissariats für Menschenrechte gewechselt.

Als Rechtsradikale durch die Straßen von Chemnitz marschierten, habe ihn das "ziemlich beunruhigt", schrieb Serrato vor einigen Wochen auf Twitter , als jemand, der "seit sechs Jahren als Ausländer in Deutschland lebt". Besorgt hätten ihn vor allem Videos, die er bei YouTube zum Thema #Chemnitz gefunden habe.

Serrato benutzte seinen Zugang zu YouTubes Programmierschnittstelle (API) und tat das, was er sonst für Hasspostings in Myanmar tut: Er analysierte, welche Inhalte wie viel Publikum bekamen und welche der Algorithmus empfahl . Die Ergebnisse erschreckten ihn: Von den zehn meistgesehenen Clips zum Thema Chemnitz stammten sieben von Rechtsradikalen, Verschwörungstheoretikern und dem Kreml-Propagandasender RT Deutsch. Ein achtes war ein Interview mit Beatrix von Storch.

"Krankes, verschobenes, buntes, tolerantes Weltbild"

Das zweitmeistgesehene Video stammte von einem der Identitären Bewegung nahestehenden Rechtsradikalen, der sich als Rechts-Hip-Hopper versucht. Er erklärte darin die Tatsache, dass da jetzt Kritik geäußert wurde an Gewalttätern und Leuten, die den Arm zum Hitlergruß recken, zur Diffamierung. Die bösen Mächte, die Deutschland beherrschten, wollten damit "ihr krankes, verschobenes, buntes, vielfältiges, tolerantes Weltbild durchpressen", und zwar "mit aller Gewalt".

Serrato zeigte außerdem am konkreten Beispiel, worüber schon seit einiger Zeit diskutiert wird, auch in dieser Kolumne: Der YouTube-Algorithmus empfahl jenen, die solche Videos sahen, gleich noch weitere, mindestens ähnlich extreme: Verschwörungstheorien, rechte Propaganda, russische Propaganda. Die Algorithmen und die Propagandisten kommen wunderbar miteinander klar.

Serratos zunächst bei Twitter veröffentlichte Blitzstudie sorgte für einige Aufregung, das deutsche "BuzzFeed"  und die "New York Times"  griffen die Geschichte auf. Das Echo in der deutschen Medien-, vor allem aber der deutschen Bildungslandschaft war meiner Wahrnehmung nach erstaunlich verhalten. Und das ist ein Fehler.

Schwupps, hinab ins Kaninchenloch

Diese Woche ist noch eine Studie herausgekommen, die unter anderem mit Videos im Internet zu tun hat, nämlich die ARD/ZDF-Onlinestudie, die jedes Jahr die Internetnutzung der Deutschen katalogisiert.

Darin steht unter anderem folgende Zahl: 83 Prozent der 14- bis 29-Jährigen in Deutschland nutzen mindestens wöchentlich "Videoportale wie YouTube" . Bei Facebook sehen in dieser Altersgruppe 47 Prozent mindestens wöchentlich Videos. Was auf diesen Plattform passiert, was dort ein Publikum erreicht, ist also alles andere als irrelevant.

16-Jährige sehen eher nicht die "Tagesschau", aber wenn sie etwas interessiert, etwa, was da jetzt eigentlich in Chemnitz los war, tippen sie das Wort eben mal schnell bei YouTube ein. Schwupps, verschwindet man im digital auf maximale Sehdauer optimierten Kaninchenloch, hüpft von Propagandahäppchen zu Propagandahäppchen.

Hass akzeptabel machen

Ich persönlich bin schon seit längerer Zeit der Überzeugung, dass der exponenzielle Wandel, den gerade unsere Mediennutzung in den vergangenen Jahren durchlaufen hat, gerade das Bildungssystem vor große Herausforderungen stellt.

Mittlerweile bin ich überzeugt, dass das wirklich Gefahren birgt: Wir leben in einer Zeit, in der hochmotivierte und zum Teil hervorragend finanzierte Propagandisten daran arbeiten, den Grundkonsens unserer liberalen Demokratie zu durchlöchern. Sie versuchen, Hass akzeptabel zu machen, finden Toleranz "krank" und verstehen sich bestens mit den homophoben Kleptokraten im Kreml.

Diesen Propagandisten hat das Silicon Valley ganz aus Versehen ein Biotop gebaut, in dem Untergangs- und "Umvolkungs"-Narrative ordentlich Reichweite erzeugen können. In diesen neuen, algorithmisch auf Monetarisierung, nicht auf Wahrhaftigkeit optimierten Ökosystemen bewegen sich Kinder und Jugendliche permanent, oft ohne großes Verständnis für die zugrunde liegenden Mechanismen.

Hip-Hop und Holocaustleugnung

Über die Aktivitäten der Propagandisten wissen sie nicht viel. Aber sie haben durchaus das Gefühl, dass da manchmal irgendetwas komisch ist. Und weil Eltern und Lehrer selbst oft genug überfordert mit diesem neuen Zustand sind, fühlen sich Kinder und Jugendliche dabei oft alleingelassen - völlig zu Recht. Die Lehrpläne kommen mit der Entwicklung nicht mit.

Die stabilen, gut eingebundenen, gut informierten unter den Jugendlichen können mit all dem vermutlich hervorragend umgehen. Manche aber werden durch das Zusammenspiel von Propaganda und algorithmischer Sortierung in ein gefährliches Fahrwasser geraten, werden anfangen, sich für rechtsradikalen Hip-Hop und Holocaustleugnung zu interessieren.

Die Wiedergabe wurde unterbrochen.