Christian Stöcker

Social-Media-Manipulation Propagandisten hetzen über Bande

Justizminister Maas billigt Kinderehen? Die Mafia erschießt Flüchtlinge? Solche Geschichten erzielen bei Facebook angeblich hohe Reichweiten. Aber stimmt das wirklich?
Proteste gegen Angela Merkel (Archivbild)

Proteste gegen Angela Merkel (Archivbild)

Foto: Ralf Hirschberger/ dpa

Auf den ersten Blick könnte man den Eindruck bekommen, es gibt gar keine großen Propaganda- und Desinformationsversuche vor der Wahl.

Tatsächlich aber gibt es durchaus Gruppen, die im Augenblick mit zum Teil großem Aufwand versuchen, in sozialen Medien mit Lügen und Kampfbegriffen Stimmung zu machen - in aller Regel zugunsten der AfD.

Kollegen vom SPIEGEL haben vergangene Woche anschaulich beschrieben, wie sich beispielsweise eine kleine Gruppe offenkundig rechtsradikaler Aktivisten bemüht hat, mithilfe von massenhaftem Twitter-Spam die sogenannten Trending Topics des Dienstes zugunsten des rechten AfD-Flügels zu manipulieren .

Nachdem die SPIEGEL-Geschichte erschienen war, bemühten sich die Rechten redlich, Anti-SPIEGEL-Memes und Hashtags unters Volk zu bringen - mit mäßigem Erfolg .

Keine echten Passagiere für den Höcke-Zug

Forscher des Verbundsprojektes Propstop  - an dem ich, full disclosure, selbst beteiligt bin - haben die Propagandabemühungen rund um die TV-Debatte quantitativ ausgewertet, die aus der gleichen Ecke kamen: Wirtschaftsinformatiker von der Universität Münster fanden dabei heraus, dass von den paar Hundert Twitter-Accounts, die den Hashtag #höckeforkanzler benutzten, die weit überwiegende Mehrzahl jünger als einen Monat waren  (PDF). Offenbar fanden sich schließlich aber keine echten Twitternutzer, die auf den Höcke-Zug aufspringen wollten. Ähnlich erging es dem eigens in die Welt gesetzten Hashtag #verräterduell.

Im SPIEGEL und bei BuzzFeed Deutschland  kann man nachlesen, wie sich die rechte Trolltruppe auf einer Chatplattform namens Discord verabredete. Augenscheinlich wurden die meisten der Propaganda-Accounts von Menschen bedient, es handelte sich, anders als etwa das "Digital Forensic Research Lab" des US-Thinktanks Atlantic Council vermutet , nicht um Bots im eigentlichen Sinne.

Ein paar Hundert Rechte mit drei oder vier Fake-Accounts pro Kopf sehen einer Bot-Armee zum Verwechseln ähnlich. Im Endeffekt ist egal, ob die Manipulateure nun Software oder willige Klickbüttel einsetzen. Es geht immer darum, Aufmerksamkeit für und Zustimmung zu bestimmten Themen oder Behauptungen zu simulieren.

350.000 Roboter, die "Star Wars" zitieren

Ziel sind stets, das ist in den entsprechenden Chats und bei 4Chan nachzulesen, die Trending Topics. Dass sich wirklich ein Wähler, der Twitter nutzt, für die AfD entscheidet, weil ein Account namens "SOPAM49" immer wieder die AfD-Werbung eines anderen Rechtsaußen-Accounts retweetet, ist aber wenig wahrscheinlich.

Wer hier tatsächlich angelogen werden soll, sind die Algorithmen. Twitters Trending Topcis bestehen aus ausgezählten, gewichteten Häufigkeiten: Tweets von älteren Accounts zählen mehr.

Im Januar berichteten zwei Forscher vom University College London über ein Twitter-Botnetz, das nur "Star Wars"-Zitate verbreitete - es ging um über 350.000 Accounts  (PDF) . Irgendwann verstummten die "Star Wars"-Bots alle auf einmal. Eines Tages werden sie womöglich wieder aufwachen - wenn ihr Botmaster einen Käufer oder Zweck für 350.000 alte, also scheinbar echte Twitter-Accounts gefunden hat. Vielleicht haben die Freunde der AfD ja Interesse?

Doch selbst, wenn jemand einen Hashtag wie #höckeforkanzler wirklich zu Gesicht bekommen sollte - es scheint zweifelhaft, dass es der AfD eine einzige Stimme einbringen könnte. Twitterpropaganda ist hierzulande allenfalls eine Art Trollsport.

Effektiver lügen heißt Facebook anlügen

Es gibt aber noch einen weiteren Algorithmus, den man automatisiert oder konzertiert in die Irre führen kann, und der erscheint hier relevanter: Auch Facebook entscheidet ja maßgeblich anhand dessen, was heute zusammenfassend "Engagement" genannt wird, welche Inhalte in den Newsfeeds der Nutzer weit oben platziert werden. Was schnell viele Likes, Shares und Kommentare abbekommt, das betrachtet der Algorithmus als interessant. Und zeigt es dann umso mehr anderen Nutzern  (PDF) . Und: Facebook hat in Deutschland geschätzt bis zu dreißigmal so viele aktive Nutzer wie Twitter .

Bei Twitter sind Bots und Fake-Accounts relativ leicht anzulegen und auch vergleichsweise einfach zu erkennen. Bei Facebook ist beides ungleich schwieriger. Doch dass es auch dort massenweise gefälschte Accounts gibt, ist unzweifelhaft. Die Zeitung "USA Today" beispielsweise wandte sich dieses Frühjahr an die Bundespolizei FBI , weil man dort den Verdacht hat, dass Millionen der eigenen Facebook-Fans in Wahrheit Spam-Accounts sind. Erstaunlich viele wurden beispielsweise in Bangladesch angelegt. Auch hier hat man es also womöglich eher mit Billiglohn-Klickarbeitern zu tun als mit Bots im eigentlichen Sinne.

Wem gefallen die Lügengeschichten von rechts?

Mit einer solchen Sockenpuppen-Armee kann man dem Facebook-Algorithmus Interesse für Inhalte vorgaukeln. Und wenn man von der Begeisterung der rechten Spammer für Twitterpropaganda ausgeht, erscheint es naheliegend, dass sie auch in entsprechende Facebook-Manipulationen investieren. Ein mittlerweile untergetauchter Protagonist der russlandfreundlichen neuen Rechten in Deutschland  beispielsweise betrieb einst selbst ein Unternehmen, das solche Dienste kostenpflichtig anbot .

Vor diesem Hintergrund sind die aktuellen Auswertungen zur Facebook-Reichweite von rechten Lügenmärchen mit einer gewissen Vorsicht zu genießen: BuzzFeed  und aktuell der Blogger Josef Holnburger  beispielsweise berichten über erstaunliche Engagement-Zahlen für erfundene Geschichten wie "Maas billigt Kinderehen - solang sich das Kind nicht beschwert" von einschlägigen Propagandaseiten. Dabei bleibt aber offen, wie viele Likes, Shares und Kommentare tatsächlich von intrinsisch motivierten Menschen stammen - und wie viele von Bots oder bezahlten Klickarbeitern in Bangladesch.

Fest steht: Auch gefälschte Aufmerksamkeit hat immer das Potenzial, echte zu erzeugen. Algorithmen lassen sich leichter austricksen als wir Menschen. Und was sie für interessant halten, das zeigen sie auch realen Nutzern häufiger.