Social-Media-Manipulation Propagandisten hetzen über Bande

Justizminister Maas billigt Kinderehen? Die Mafia erschießt Flüchtlinge? Solche Geschichten erzielen bei Facebook angeblich hohe Reichweiten. Aber stimmt das wirklich?

Proteste gegen Angela Merkel (Archivbild)
DPA

Proteste gegen Angela Merkel (Archivbild)

Ein Kolumne von


Auf den ersten Blick könnte man den Eindruck bekommen, es gibt gar keine großen Propaganda- und Desinformationsversuche vor der Wahl.

Tatsächlich aber gibt es durchaus Gruppen, die im Augenblick mit zum Teil großem Aufwand versuchen, in sozialen Medien mit Lügen und Kampfbegriffen Stimmung zu machen - in aller Regel zugunsten der AfD.

Kollegen vom SPIEGEL haben vergangene Woche anschaulich beschrieben, wie sich beispielsweise eine kleine Gruppe offenkundig rechtsradikaler Aktivisten bemüht hat, mithilfe von massenhaftem Twitter-Spam die sogenannten Trending Topics des Dienstes zugunsten des rechten AfD-Flügels zu manipulieren .

Nachdem die SPIEGEL-Geschichte erschienen war, bemühten sich die Rechten redlich, Anti-SPIEGEL-Memes und Hashtags unters Volk zu bringen - mit mäßigem Erfolg.

Keine echten Passagiere für den Höcke-Zug

Forscher des Verbundsprojektes Propstop - an dem ich, full disclosure, selbst beteiligt bin - haben die Propagandabemühungen rund um die TV-Debatte quantitativ ausgewertet, die aus der gleichen Ecke kamen: Wirtschaftsinformatiker von der Universität Münster fanden dabei heraus, dass von den paar Hundert Twitter-Accounts, die den Hashtag #höckeforkanzler benutzten, die weit überwiegende Mehrzahl jünger als einen Monat waren (PDF). Offenbar fanden sich schließlich aber keine echten Twitternutzer, die auf den Höcke-Zug aufspringen wollten. Ähnlich erging es dem eigens in die Welt gesetzten Hashtag #verräterduell.

Im SPIEGEL und bei BuzzFeed Deutschland kann man nachlesen, wie sich die rechte Trolltruppe auf einer Chatplattform namens Discord verabredete. Augenscheinlich wurden die meisten der Propaganda-Accounts von Menschen bedient, es handelte sich, anders als etwa das "Digital Forensic Research Lab" des US-Thinktanks Atlantic Council vermutet, nicht um Bots im eigentlichen Sinne.

Ein paar Hundert Rechte mit drei oder vier Fake-Accounts pro Kopf sehen einer Bot-Armee zum Verwechseln ähnlich. Im Endeffekt ist egal, ob die Manipulateure nun Software oder willige Klickbüttel einsetzen. Es geht immer darum, Aufmerksamkeit für und Zustimmung zu bestimmten Themen oder Behauptungen zu simulieren.

350.000 Roboter, die "Star Wars" zitieren

Ziel sind stets, das ist in den entsprechenden Chats und bei 4Chan nachzulesen, die Trending Topics. Dass sich wirklich ein Wähler, der Twitter nutzt, für die AfD entscheidet, weil ein Account namens "SOPAM49" immer wieder die AfD-Werbung eines anderen Rechtsaußen-Accounts retweetet, ist aber wenig wahrscheinlich.

Wer hier tatsächlich angelogen werden soll, sind die Algorithmen. Twitters Trending Topcis bestehen aus ausgezählten, gewichteten Häufigkeiten: Tweets von älteren Accounts zählen mehr.

Im Januar berichteten zwei Forscher vom University College London über ein Twitter-Botnetz, das nur "Star Wars"-Zitate verbreitete - es ging um über 350.000 Accounts (PDF) . Irgendwann verstummten die "Star Wars"-Bots alle auf einmal. Eines Tages werden sie womöglich wieder aufwachen - wenn ihr Botmaster einen Käufer oder Zweck für 350.000 alte, also scheinbar echte Twitter-Accounts gefunden hat. Vielleicht haben die Freunde der AfD ja Interesse?

Doch selbst, wenn jemand einen Hashtag wie #höckeforkanzler wirklich zu Gesicht bekommen sollte - es scheint zweifelhaft, dass es der AfD eine einzige Stimme einbringen könnte. Twitterpropaganda ist hierzulande allenfalls eine Art Trollsport.

Effektiver lügen heißt Facebook anlügen

Es gibt aber noch einen weiteren Algorithmus, den man automatisiert oder konzertiert in die Irre führen kann, und der erscheint hier relevanter: Auch Facebook entscheidet ja maßgeblich anhand dessen, was heute zusammenfassend "Engagement" genannt wird, welche Inhalte in den Newsfeeds der Nutzer weit oben platziert werden. Was schnell viele Likes, Shares und Kommentare abbekommt, das betrachtet der Algorithmus als interessant. Und zeigt es dann umso mehr anderen Nutzern (PDF) . Und: Facebook hat in Deutschland geschätzt bis zu dreißigmal so viele aktive Nutzer wie Twitter.

Bei Twitter sind Bots und Fake-Accounts relativ leicht anzulegen und auch vergleichsweise einfach zu erkennen. Bei Facebook ist beides ungleich schwieriger. Doch dass es auch dort massenweise gefälschte Accounts gibt, ist unzweifelhaft. Die Zeitung "USA Today" beispielsweise wandte sich dieses Frühjahr an die Bundespolizei FBI, weil man dort den Verdacht hat, dass Millionen der eigenen Facebook-Fans in Wahrheit Spam-Accounts sind. Erstaunlich viele wurden beispielsweise in Bangladesch angelegt. Auch hier hat man es also womöglich eher mit Billiglohn-Klickarbeitern zu tun als mit Bots im eigentlichen Sinne.

Wem gefallen die Lügengeschichten von rechts?

Mit einer solchen Sockenpuppen-Armee kann man dem Facebook-Algorithmus Interesse für Inhalte vorgaukeln. Und wenn man von der Begeisterung der rechten Spammer für Twitterpropaganda ausgeht, erscheint es naheliegend, dass sie auch in entsprechende Facebook-Manipulationen investieren. Ein mittlerweile untergetauchter Protagonist der russlandfreundlichen neuen Rechten in Deutschland beispielsweise betrieb einst selbst ein Unternehmen, das solche Dienste kostenpflichtig anbot.

Vor diesem Hintergrund sind die aktuellen Auswertungen zur Facebook-Reichweite von rechten Lügenmärchen mit einer gewissen Vorsicht zu genießen: BuzzFeed und aktuell der Blogger Josef Holnburger beispielsweise berichten über erstaunliche Engagement-Zahlen für erfundene Geschichten wie "Maas billigt Kinderehen - solang sich das Kind nicht beschwert" von einschlägigen Propagandaseiten. Dabei bleibt aber offen, wie viele Likes, Shares und Kommentare tatsächlich von intrinsisch motivierten Menschen stammen - und wie viele von Bots oder bezahlten Klickarbeitern in Bangladesch.

Fest steht: Auch gefälschte Aufmerksamkeit hat immer das Potenzial, echte zu erzeugen. Algorithmen lassen sich leichter austricksen als wir Menschen. Und was sie für interessant halten, das zeigen sie auch realen Nutzern häufiger.

Mehr zum Thema
Newsletter
Kolumne - Der Rationalist


insgesamt 74 Beiträge
Alle Kommentare öffnen
Seite 1
Ge-spiegelt 17.09.2017
1. Die Wahrheit finden ist nicht so einfach
Zum Beispiel bei Elektromobilität, erneuerbare Energien, Asylanten, IS, Diesel Skandal... Oft bleibt nur Wikipedia. Der Staat könnte auch ein Fakten Portal anbieten, ich kenne nur die statistischen Ämter. Spiegel ist zwar auch recht vertrauenswürdig, aber das Forum bietet nicht mal Bewertungen oder Kommentare, schade. Gut finde ich Reddit, da gibt es Ranking und echte, kompetente Teilnehmer.
Huppät 17.09.2017
2. Muss mich korrigieren
"Angesichts der massiven Kritik aus der Union hat Bundesjustizminister Heiko Maas (SPD) die von ihm geplanten Ausnahmen im neuen Gesetz gegen Kinderehen verteidigt." http://www.focus.de/politik/deutschland/kinderehe-besondere-ausnahmegruende-so-verteidigt-heiko-maas-seinen-gesetzesentwurf_id_6143255.html
lupo44 17.09.2017
3. Höcke und Gauland ist nicht die AFD.....
Ich bin kein AFD Anhänger und wers diese Partei nicht wählen,aber die seit Wochen andauerne Hetze und Verunglimpfungen sind einfach nicht demokratisch.Es wird eine Sau durch das Dorf getrieben die eigentlich gefüttert wurde von den anderen Parteien.Sie haben es zugelassen das so eine AFD oder auch Pegida entstehen konnte .Die Themen die diese Parteien oder Bewegungen aufgenommen haben ,sind liegengebliebene Unstimungen der Bevölkerung.Es wäre Müßig jetzt alle diese Probleme hier auf zu zählen. Die wichtigsten seien aber doch genannt.Altersarmut,Kinderarmut,und nicht geregelte Asyl und Flüchtlingsprobleme. Die Menschen verstehen das einfach nicht das die etablierten Parteien nicht dieses wichtige Anliegen von Ihnen gelöst werden.Frau Merkel wurde mit einigen Themen dieser Art konfrontiert z.B.im "Klartext"Es kann nicht erwartet werden das die AFD dieseslösen wird,weit gefehlt,aber sie ist eine Protestpartei. Hier werden Wähler hinströmen die sich verlassen fühlen von ihren bisherigen Parteien.Sie haben die AFD erst möglich gemacht.Die AFD entfessele,schüreund verstärke das antidemokratische ,rassistische Potenzialin Deutschland.Man findet in der AFD sehr viel Frauenfeindlichkeit ,sehr viel Gewalfantasie und eine ungebändigte Islamfeindlichkeit.Wenn 4,5 Millionen Muslime kollektiv diffamiert und attaktiert werden,ist das im Grunde die Vorbereitung von Gewalt-so sagt das der Berliner PolitwissenschaftlerHajo Funke.Als Zeitzeuge und Politinteressierter Mensch kan ich mich sehr deutlich erinnern an die Hetzkapangen gegen die "Günen" unter Herr Fischer.Jeder weiß inzwischen das diese Partei sich vollkommen erneuert hat und in vielen Landtagen Spitzenpolitik betreibt.Es sollte jetzt endlich aufgehört werden immer nur diese Partei zu verunglimpfen immerhin ist auch sie in fast allen Landtagen vertreten und steht kurz vor dem Einzug in den deutschen Bundestag.Dort kann man sich mit dieser Partei auseinandersetzen in demokratischer Art.
aljusch 17.09.2017
4.
Es gibt eine einfache Regel: Alles, was zu unglaublich klingt, um wahr zu sein, ist... nur mit extremer Vorsicht zu genießen. Das heißt, die Quelle sollte überprüft werden bevor man den Post hyperventilierend teilt.
lastwebpage 17.09.2017
5. Es langweilt
Auf Facebook bemerke ich, in Zusammenhang mit AfD, Bots usw. 3 Punkte. 1) Es sei einmal dahin gestellt ob das dazu dient, neue Kunden zu gewinnen oder bestehende bei der Stange zu halten. Ich vermute aufgrund von 2 mittlerweile eher letzteres. 2) Es ist zu viel, meist proletenhafter Mist. Es würde mich nicht wundern, wenn ein erheblicher Teil der FB Nutzer genau deswegen die CDU, Grüne oder Linke wählt. 3) Es langweilt, hier ist die Linke Seite aber teilweise nicht besser, und zwar überall. Auf den FB Seiten von Tagesschau, Spiegel usw. trifft links und rechts aufeinander, da ist es für mich noch halbwegs okay. Aber auf eher linken Seiten, rechte Pöpellein zu lesen nervt einfach nur. Das ist anders herum nicht viel besser. Und das soll ich mir die nächsten 4 Jahre auf FB weiterhin antun? Es langweilt und nervt. Richtige und wichtige politische Diskussionen und Meinungsaustausch werden so ebenfalls unterbunden, oder man gibt sich in die Gefahr geschlossenen Gruppen beizutreten, Stichwort Filterblase.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.