22.10.2016

NetzpolitikDigitale Dreckschleudern

Automatische Bots verzerren politische Diskussionen in sozialen Netzwerken und können Wahlen beeinflussen. Die Kanzlerin hält sie für gefährlich, die AfD will sie einsetzen.
Wenn Angela Merkel über das Internet spricht, dann hängt ein Wort wie eine düstere Wolke über ihr: "Neuland". So hatte sie das Netz vor drei Jahren bei einer Pressekonferenz mit Barack Obama bezeichnet. Mehr als 20 Jahre nach Erfindung des World Wide Web sorgte die Wortwahl der Kanzlerin für Häme und Spott, nicht nur in sozialen Netzwerken.
Am Wochenende war es plötzlich ganz anders: Auf dem "Deutschlandtag" der Jungen Union in Paderborn dozierte Merkel über die Digitalisierung und das Internet. Sie sorgte für Erstaunen, diesmal aber mit Detailkenntnissen. Denn vor dem konservativen Nachwuchs sprach die Kanzlerin plötzlich über "Bots" und bezeichnete sie als "Herausforderung" für Demokratie und Gesellschaft.
Bots? "Sie hat Bots gesagt", wunderte sich eine Zuhörerin, natürlich via Twitter. "Von Neuland zu Bots, da geht noch etwas", schrieb ein anderer.
Hinter Social Bots, einer Abkürzung von "Robots", verbergen sich kleine Programme, die sich im Netz automatisiert zu Wort melden. Sie verwenden dafür häufig authentisch wirkende Nutzerprofile samt Fotos und sind auf den ersten Blick deshalb oft nicht als Absender automatisch generierter Nachrichten zu erkennen. Weil man solche "Fake-Profile" schon für wenig Geld zu Tausenden kaufen und zentral fernsteuern kann, posaunen mittlerweile ganze "Bot-Armeen" munter die Meinung ihres jeweiligen Auftraggebers durch das Netz. Das können Firmen sein, die versteckt Werbung für ihre Produkte platzieren, Geheimdienste, die die öffentliche Meinung manipulieren wollen – oder eben Parteien, Politiker und deren Sympathisanten.
Vor allem der Kurznachrichtendienst Twitter vibriert vor lauter Bot-Botschaften. Oft sind es Accounts, die ungewöhnlich aktiv sind und Zehntausende Tweets verschicken. Experten schätzen, dass bis zu 20 Prozent der angeblichen Nutzer nicht aus Fleisch und Blut, sondern nur aus Software bestehen. Facebook selbst geht von 15 Millionen Bot-Accounts auf der eigenen Plattform aus. Auch Instagram und andere Plattformen haben ein Bot-Problem.
Schon ein Mensch kann als Befehlshaber einer Bot-Armee wahlweise eine Masseneuphorie oder eine Massenentrüstung simulieren. Bislang galten vor allem "Trolle" als großes Problem, in Russland etwa sind ganze "Troll-Fabriken" aktiv, in denen Menschen für das Posten genehmer Nachrichten bezahlt werden. Bots wirken nun wie ein Industrialisierungsschub für das Troll-Unwesen.
Die Bundeskanzlerin treibt das Thema nicht ohne Grund um – sie ist eine Bot-Geschädigte. Als das Social-Media-Team der Kanzlerin im Sommer 2015 für sie einen Account bei dem Fotoportal Instagram anlegte, wurde der Kanal regelrecht mit Kommentaren geflutet. Viele der Beiträge waren in kyrillischer Schrift verfasst und befassten sich nicht mit den Fotomotiven, sondern mit dem Ukrainekonflikt. Wenn man von Befassen sprechen kann. Meist waren es wüste Beschimpfungen. Auch in der Flüchtlingspolitik arbeiten sich nicht nur "besorgte Bürger", sondern auch Meinungsmaschinen an Merkel und ihrer Rolle ab.
International agitieren derlei Bots, die oft digitalen Dreckschleudern gleichkommen, schon seit Jahren. Zuletzt sind sie vor allem durch ihren massiven Einsatz rund um die Ukrainekrise, in der Brexit-Abstimmung und im US-Wahlkampf aufgefallen. Damit sind sie auch Thema in den deutschen Parteizentralen, die sich auf die kommende Bundestagswahl vorbereiten.
Der Siegeszug der Meinungsroboter stellt die deutschen Wahlkampfmanager vor neue Fragen: Können politische Bots eine neue Form der Politwerbung sein, eine zeitgemäße Variante von TV-Spots und Plakaten? Oder sind es reine Manipulationsmaschinen, die die Demokratie aushöhlen?
Man werde selbst keine Bots einsetzen, sagt CDU-Generalsekretär Peter Tauber. Die Bundeskanzlerin dachte bei ihrer Rede in Paderborn sogar bereits laut über einen Schulterschluss der Parteien nach: "Wollen wir mal zwischen den Parteien darüber sprechen, ob wir gemeinsam dagegen kämpfen?" Derlei Absprachen über eine gemeinsame Linie gebe es allerdings "bislang nicht", sagt Tauber. Beim Koalitionspartner würde man auf offene Ohren stoßen: "Die sozialen Medien werden in unserem Wahlkampf eine wesentliche Rolle spielen. Aber den Einsatz von Bots lehnen wir ab", sagt SPD-Generalsekretärin Katarina Barley. Auch Linke und Grüne können der Idee, Bots für die Verbreitung eigener Inhalte einzusetzen, nichts abgewinnen: "Sie manipulieren die demokratische Willensbildung", sagt Michael Kellner, der Politische Bundesgeschäftsführer der Grünen.
Keinerlei Berührungsängste hat hingegen die AfD. "Selbstverständlich werden wir Social Bots in unsere Strategie im Bundestagswahlkampf einbeziehen", sagt Bundesvorstandsmitglied Alice Weidel. Entsprechende Angebote von Dienstleistern werde man zu gegebener Zeit einholen. "Gerade für junge Parteien wie unsere sind Social-Media-Tools wichtige Instrumente, um unsere Positionen unter den Wählern zu verbreiten."
Experten wie Simon Hegelich beurteilen die politischen Aktivitäten von Social Bots kritisch. Der Wissenschaftler von der Technischen Universität München hat im Auftrag der CDU-nahen Konrad-Adenauer-Stiftung unlängst eine Analyse zur "Invasion der Meinungs-Roboter" fertiggestellt. Darin warnt Hegelich, das "Beeinflussungspotenzial" der Automaten, die bewusst Trends und Topthemen in sozialen Netzwerken setzen könnten, sei "theoretisch sehr groß".
Aktuellen Studien zufolge ließen sich 95 Prozent der befragten Wähler zwar durch soziale Medien nicht in ihren Entscheidungen beeinflussen. "Fünf Prozent können aber das Zünglein an der Waage sein und Wahlen entscheiden", sagt Hegelich. Der Wissenschaftler rechnet damit, dass der Bot-Boom aus den USA nach Europa herüberschwappt. "Schon heute schalten sich Bots aktiv in Diskussionen um praktisch jedes innenpolitische Thema ein", sagt Hegelich, der selbst auch Bots und ganze Netze enttarnt.
Über einen Algorithmus, der Verhaltensmuster der Profile analysiert, kann er die maschinellen Agitatoren erkennen. So untersuchte er beispielsweise die Botschaften unter Hashtags wie #merkelmussweg oder #unsereLisa, bei dem es um die angebliche Vergewaltigung eines russlanddeutschen Mädchens in Berlin ging, die sich später als Falschmeldung entpuppte: "In beiden Fällen ging ein großer Teil der Aktivitäten auf Social Bots zurück."
Auch der Bundestag ist bereits aufmerksam geworden. Er hat gerade das Büro für Technikfolgen-Abschätzung, ein Beratungsgremium des Parlaments, mit einer Studie zu Auswirkungen und "eventuellen gesellschaftlichen Gefahren" von Social Bots beauftragt. Unter anderem sollen die Experten sowohl Bot-Manipulationen ausländischer Regierungen als auch entsprechende Hetzkampagnen im Inland untersuchen. Erste Ergebnisse werden im Januar vorgestellt.
Von amerikanischen Verhältnissen scheint man hierzulande noch weit entfernt zu sein. Die Frage ist allerdings, ob sie sich langfristig verhindern lassen. Immerhin müssen es nicht die Kandidaten oder deren Wahlkampforganisationen selbst sein, die die Robo-Trolle losschicken.
Dass hinter dem Erfolg des US-Präsidentschaftskandidaten Donald Trump in sozialen Medien auch ein Heer von Computer-Claqueuren steht, ist erwiesen. Forscher der Universität Oxford haben in dieser Woche eine Analyse des ersten TV-Duells veröffentlicht.
Demnach gab es im Umfeld der Fernsehdebatte, bei dem die meisten professionellen Beobachter und Medien Hillary Clinton leicht im Vorteil gesehen hatten, 1,8 Millionen positive Tweets für Trump und 613 000 für Clinton. Fast ein Drittel der Pro-Trump-Tweets ging nach den Befunden der Briten auf Social Bots zurück. Bei Hillary Clinton waren es immer noch mehr als 20 Prozent. Das Stimmungsbild in den sozialen Medien wurde durch die Bots demnach nicht komplett verfälscht, aber zugunsten von Trump verzerrt. Zeitweise führte der Hashtag #TrumpWon ("Trump hat gewonnen") sogar die Liste der Topthemen bei Twitter an. Bei der zweiten Debatte hat sich das Bot-Aufkommen auf beiden Seiten noch einmal deutlich erhöht.
Dieselben Forscher hatten bereits die massiven Aktivitäten von Bots im Vorfeld der Brexit-Abstimmung untersucht: Ein Drittel aller Botschaften mit den Hashtags der Befürworter und der Gegner wurde von gerade mal einem Prozent der untersuchten Accounts verschickt. Viele davon posteten mehr als 50 Botschaften täglich – und stehen für die Wissenschaftler damit unter Bot-Verdacht. Als nach dem Exit-Votum eine Petition für den Verbleib anlief, wurden die Bots erneut aktiv und blähten die Unterstützerzahl in kürzester Zeit massiv auf – um viele Zehntausend Stimmen. Die britischen Wissenschaftler erkennen anhand ihrer Befunde rund um automatisierte Social Bots in politischen Kampagnen eine reale Bedrohung für die Demokratie.
Der bislang wohl gravierendste bekannt gewordene Fall ereignete sich in Südkorea. Dort nutzte der Geheimdienst des Landes im Vorfeld der Präsidentenwahl im Jahr 2012 Millionen Bot-Botschaften, um die spätere Gewinnerin zu unterstützen und den Herausforderer schlechtzureden. Der verantwortliche Geheimdienstchef wurde zu drei Jahren Gefängnis verurteilt. Auch beim Wahlsieg von Enrique Peña Nieto in Mexiko sollen sogenannte Peñabots eine Rolle gespielt haben. Und selbst die türkische Regierungspartei AKP um Recep Tayyip Erdoğan, der den Zugang zu Twitter in der Türkei zeitweise sperren ließ, setzte schon früh auf Bots, um Regierungspropaganda unters Volk zu bringen.
Dass immer mehr Akteure sich für ihre Anliegen Bots zunutze machen, ist kaum zu bestreiten. Doch bewirken sie damit auch das, was sie im Schilde führen? Die konkreten "Bot-Effekte" ließen sich nur schwer verlässlich nachweisen und messen, sagt der Münchner Bot-Forscher Hegelich.
Tatsächlich ist es wohl eher unwahrscheinlich, dass Menschen ihre Wahlentscheidungen allein nach einem gefühlten Meinungsbild auf Twitter ausrichten. Die Kampagnen könnten aber, wie das Beispiel von #TrumpWon zeigt, Meinungsbilder verzerren und Thementrends verstärken. Zudem können sie Debatten stören, Teilnehmer einschüchtern und wie im Fall der angeblichen Vergewaltigung des Mädchens Lisa Gerüchte aufblasen.
Andreas Jungherr, der an der Universität Konstanz über den Einfluss des Internet auf Wahlkämpfe forscht, hält deshalb einen kritischeren Blick auf soziale Netzwerke für erforderlich. Sonst bestehe die Gefahr, dass Politik und auch Medien deren durch Trolle und Bots verzerrte Scheinrealität zunehmend zur Grundlage falscher Entscheidungen machten: "Wir müssen Datenquellen wie Twitter kritisch hinterfragen und dürfen sie nicht mit der öffentlichen Meinung und authentischen Stimmungsbildern verwechseln."
Politiker wie der CDU-Mann Tauber fordern deshalb, dass große Plattformen wie Facebook oder Twitter aktiver als bisher gegen Social Bots vorgehen: "Ich finde, dass hier die Plattformanbieter in der Pflicht sind, denn es liegt auch in deren eigenem Interesse, dass ihre Angebote sauber und damit glaubwürdig bleiben." Dass die AfD im Bundestagswahlkampf auch auf Bots setzen will, überrascht ihn nicht: "Das zeigt: Der AfD geht es nicht um eine echte inhaltliche Auseinandersetzung – sondern nur um Krawall und Pöbelei."

Sie können Debatten stören, Menschen einschüchtern, Gerüchte aufblasen.

Von Melanie Amann, Horand Knaup, Ann-Katrin Müller, Marcel Rosenbach und Wolf Wiedmann-Schmidt

DER SPIEGEL 43/2016
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung


DER SPIEGEL 43/2016
Titelbild
Der digitale SPIEGEL
Diese Ausgabe jetzt digital lesen

Die digitale Welt der Nachrichten. Mit interaktiven Grafiken, spannenden Videos und beeindruckenden 3-D-Modellen.
Sie lesen die neue Ausgabe noch vor Erscheinen der Print-Ausgabe, schon freitags ab 18 Uhr.
Einmal anmelden, auf jedem Gerät lesen - auch offline. Optimiert für Windows 8, Android, iPad, iPhone, Kindle Fire, BlackBerry Z10 sowie für PC/Mac.

Abo-Angebote

Den SPIEGEL lesen oder verschenken und Vorteile sichern!

Jetzt Abo sichern
Ältere SPIEGEL-Ausgaben

Kostenloses Archiv:
Stöbern Sie im kompletten SPIEGEL-Archiv seit
1947 – bis auf die vergangenen zwölf Monate kostenlos für Sie.

Wollen Sie ältere SPIEGEL-Ausgaben bestellen?
Hier erhalten Sie Ausgaben, die älter als drei Jahre sind.

Artikel als PDF
Artikel als PDF ansehen

Netzpolitik:
Digitale Dreckschleudern

  • Sozialer Brennpunkt Folsterhöhe: Kinderarmut in "Saarbrooklyn"
  • Kanada: Sturm sorgt für atemberaubenden Himmel
  • Mexikanischer Drogenboss: Lebenslange Haft für "El Chapo"
  • Neue Bahnansagen: Eine Stimme für 20 Millionen Fahrgäste täglich