Bot oder kein Bot So erkennen Sie Meinungsroboter

Social Bots sind Programme, die in sozialen Netzwerken menschliche Nutzer simulieren - etwa zur politischen Stimmungsmache. Das klappt mal mehr und mal weniger gut. Diese Tipps helfen, Bots zu entlarven.

Maschinenmensch (Symbolbild)
Getty Images

Maschinenmensch (Symbolbild)

Von


Meinungsroboter haben ein Imageproblem. Seit dem US-Wahlkampf wird lebhaft über sogenannte Social Bots diskutiert, über Accounts, die nur so wirken, als stecke ein menschlicher Nutzer dahinter. Auf Plattformen wie Twitter tweeten, liken und retweeten mittlerweile ganze Netze von automatisierten Accounts.

In vielen Fällen posten Bots hierzulande rechte und islamfeindliche Dinge, manchmal auch Fake News. Doch genauso gibt es Bots, die eher linke Haltungen zu vertreten scheinen. Und es gibt Social Bots, die Nutzer unabhängig von ihrer politischen Einstellung praktisch finden könnten, etwa solche, die Wikipedia-Änderungen bestimmter Nutzer besser nachvollziehbar machen.

Ein Bot ist per se erst einmal neutral: Er macht und vertritt, was ihm einprogrammiert wurde oder das, was er - das gilt für lernfähige Bots - im Netz oder direkt von anderen Nutzern aufgeschnappt hat.

Werden Bots in den Meinungskampf geschickt, steckt dahinter oft das Ziel, Nutzern zu suggerieren, dass im Netz eine bestimmte Meinung vorherrsche. Es geht darum, Präsenz zu zeigen, Debatten an sich zu reißen, manchmal auch einzuschüchtern. Diskussionen im Netz könnten so manipuliert werden, vielleicht sogar Stimmungen in der Bevölkerung und Wahlentscheidungen. Im Hinblick auf den Bundestagswahlkampf in diesem Jahr fordern die Grünen deshalb ein Verbot von verdeckten Social Bots.

Denn Bots sind in den sozialen Medien mitunter schwer zu erkennen. Taucht ein einzelner Post eines Bots in der Timeline auf, ist er nicht immer von dem eines Menschen zu unterscheiden. Auch die Profile von Bots sehen oft auf den ersten Blick aus wie die eines normalen Nutzers. Im Folgenden geben wir Tipps, die Ihnen einzuschätzen helfen, ob Sie es mit einem Bot zu tun haben.

1. Wie seriös ist der Account?

Stolpert man in der Timeline über radikale Positionen oder aufrührerische Nachrichten, sollte man sich zunächst die Quelle anschauen:

  • Kennt man die Person, die dort angeblich twittert?
  • Kenne ich Follower des Accounts?

Ist das nicht der Fall, ist Vorsicht geboten.

In jedem Fall sollte man sich anschauen, was der Account zuvor getwittert hat: Twittert er etwa immer ungefähr dasselbe? Hat er die Nachricht, die man gerade bekommen hat, auch an viele andere Nutzer verschickt? Teilt er immer Postings desselben Mediums oder Accounts?

Ein "verifizierter" Twitter-Account mit einem blauen Häkchen jedenfalls bedeutet nicht zwangsläufig, dass es sich um einen Menschen handelt. Das legen Auswertungen der deutschen Initiative Botswatch nahe, die bei ihrer Arbeit auch Bots mit verifizierten Accounts entdeckt hat. Botswatch wertet die Bot-Aktivität bei bestimmten Social-Media-Events aus, darunter zum Beispiel die Rede der Kanzlerin auf dem letzten Bundesparteitag der CDU.

2. Was verrät die Profilbeschreibung?

Der Schweizer Maschinenethiker und Bot-Forscher Oliver Bendel rät, sich das Profil eines Accounts genau anzuschauen. Misstrauisch werden sollte man ihm zufolge, wenn die dortigen Angaben Nonsens sind oder wenn dort quasi nichts steht. Hilfreich sei es etwa, sich die im Profil angegebenen Links anschauen - so seien Rückschlüsse auf die Seriosität des Accounts möglich.

Social Bots seien häufig "Schleudern für Fake-News-Seiten", hat Bendel beobachtet, dem zuletzt immer wieder Negativschlagzeilen zu Bots aufgefallen sind. "Die Idee hinter den Bots war es ursprünglich nur, einfach maschinell etwas weiterzureichen", sagt er dazu.

3. Wie oft twittert der Account?

Selbst sehr aktive politische Accounts von Menschen veröffentlichen selten Dutzende Twitter-Nachrichten pro Tag. Die Oxford University jedenfalls hat in einer Studie herausgefunden, dass Accounts, die mindestens 50 Tweets am Tag ausstoßen oder stets die gleiche Anzahl an Tweets, in den meisten Fällen Social Bots sind. Nach Angaben von Botswatch gilt Ähnliches für eine sehr hohe Anzahl an Retweets.

Der Twitter-Account "DieWelle2017" zum Beispiel ist mit hoher Wahrscheinlichkeit ein Bot. Er ist erst seit Juli 2016 in dem Netzwerk aktiv und hat bereits fast 30.000 Tweets verschickt.

Twitter-Account @diewelle2017

Twitter-Account @diewelle2017

Interessant ist auch, wann ein Account etwas twittert: Hat er zum Beispiel ungefähr zur selben Zeit viele verschiedene Tweets an verschiedene Accounts verschickt? Natürlich können das prinzipiell auch Menschen, aber die meisten formulieren und schicken eher einen Tweet nach dem anderen.

4. Wie schnell reagiert der Account?

Bots können schneller als der Mensch auf Nachrichten reagieren und sie verbreiten. Retweetet ein Account regelmäßig beispielsweise schon eine Sekunde nach der Veröffentlichung eines Tweets, handelt es sich wahrscheinlich um einen Bot.

Die Pfannkuchenpolizei zum Beispiel ist ein gutartiger Bot, der sofort auf das Wort "Berliner" in Tweets reagiert. Dank ihm kann man spielerisch mit eigenen "Berliner"-Tweets testen, wie schnell ein Bot reagiert.

5. Wie viel gefällt dem Account?

Auch beim Favorisieren gilt: Je mehr Sternchen der Account für andere Tweets verteilt, desto eher steckt dahinter kein Mensch. Um einen Account als Bot identifizieren zu können, setzt Botswatch nach eigenen Angaben mindestens 50 Likes voraus.

Dass es sich etwa im Falle von "PetPanther0" mit hoher Wahrscheinlichkeit um einen Bot handelt, zeigt nicht nur die hohe Anzahl an Tweets in kürzester Zeit, sondern auch die große Zahl an Likes.

Twitter-Account @petpanther0

Twitter-Account @petpanther0

6. Wie reagiert der Account auf Kontextfragen?

Laut Bot-Forscher Bendel ist alles, was Kontextwissen voraussetzt, schwierig für Social Bots. "Kaum ein Chatbot kam mit Fragen, die räumliches Denken erfordern, zurecht", sagt er - also Fragen wie "Was ist über dir?" oder "Was ist unter dir?". Im Zweifel kann es also helfen, den Bot mit einer Frage zu konfrontieren, die ein Mensch einfach beantworten kann, deren Antwort bei einem Bot aber nicht zum Standardprogramm gehört.

7. Wie schreibt der Account?

Bots verraten sich manchmal auch auf ganz simple Art: durch ihren Sprachstil. Achten Sie daher darauf, wie der Account schreibt. Verwendet er zum Beispiel immer wieder Begriffe, die Sie zuvor benutzt haben - auch wenn das inhaltlich kaum Sinn ergibt? Oder ist seine Grammatik vielleicht seltsam, das aber auf eine Art, wie sie bei Menschen eher unüblich ist?

8. Was sagen Dienste wie "Bot or Not"?

Von Ihrer eigenen Beobachtungsgabe abgesehen, lohnt es sich manchmal, einen aufs Erkennen von Bots spezialisierten Webdienst zur Hilfe zu nehmen. "Bot or Not" zum Beispiel, das an der Indiana University Bloomington angeboten wird, kann für Twitter-Accounts einen Score erstellen, aus dem sich angeblich ableiten lässt, ob ein Account eher ein Bot ist oder von einem Menschen betrieben wird. Wirklich verlässlich ist das angezeigte Ergebnis aber nicht - man sollte es daher lieber nur als Ausgangspunkt für eine eigene Einschätzung nehmen.


Haben Sie weitere Tipps zum Entlarven von Social Bots? Schreiben Sie uns Ihre Ideen gern über die Kommentarfunktion.

Tipps für den Online-Alltag: So enttarnen Sie Fakes
Ist die Quelle seriös?
Stößt man auf eine spektakuläre Nachricht, sollte man zunächst prüfen, auf welcher Quelle sie beruht. Bei einer Falschmeldung des "Denver Guardian" aus dem US-Wahlkampf etwa hätte es schon gereicht, den Namen des Mediums zu googeln. Einen "Denver Guardian" gibt es nämlich nicht, wie die "Denver Post", eine real existierende Zeitung, klarstellte. Seriöse Nachrichtenseiten haben ein Impressum und Kontaktmöglichkeiten und verschleiern nicht, wer sie betreibt.

Interessant ist auch, was eine Seite bislang veröffentlicht hat. Ist eine spektakuläre Nachricht vielleicht der erste Beitrag überhaupt? Gibt es die angeblich traditionsreiche Seite möglicherweise erst seit einer Woche? Oder postet die Seite sonst offenkundig blödsinnige Nachrichten?
Handelt es sich um eine Satire-Meldung?
Hat man den Kontext im Blick, entdeckt man auch Satire-Postings leichter. Seit Jahren zum Beispiel kommt es vor, dass Internetnutzer "Postillon"-Meldungen für bare Münze nehmen. Die Website verspricht zwar "ehrliche Nachrichten - unabhängig, schnell, seit 1845", veröffentlicht aber Quatschmeldungen wie "Katastrophenschutz warnt: Werwölfe heute Nacht bis zu 15 Prozent größer". Ähnliches gilt für "Die Tagespresse", die sich als "Österreichs seriöseste Onlinezeitung" bezeichnet.

Neben Satire-Seiten gibt es Websites, die mit erfundenen Nachrichten Besucher locken wollen, um über Anzeigen Geld zu verdienen. Die US-Aufklärungswebsite "Snopes" listet diverse solcher vermeintlicher Nachrichtenangebote auf, darunter etwa "World News Daily Report" und "National Report". Bei Twitter-Accounts sollte man überprüfen, ob ein Tweet wirklich von dem Account kommt, dem er zugeschrieben wird. Mitunter begegnet man auf Twitter auch Fake-Accounts, die nur so ähnlich heißen wie ein bekannter Account. Davon, dass ein Twitter-Konto wirklich demjenigen gehört, dem er angeblich gehört, kann man erkennen, wenn er von Twitter "verifiziert" wurde, also einen weißen Haken auf blauem Hintergrund neben dem Profilnamen hat.
Was steht wirklich im Artikel - und was nur in der Vorschau?
Gerade bei aggressiv etwa per Facebook angepriesenen Artikeln lohnt es sich, im Original-Artikel nachzuschauen, ob der kleine Vorschauschnipsel auf den Artikel und der eigentliche Inhalt zusammenpassen: Steht die Sensation überhaupt im Text?

Jeder Facebook-Nutzer, der eine Seite betreibt oder eine Community managt, kann beim Posten eines fremden Artikels auch die Überschrift und den Einleitungstext ändern.
Hier zum Beispiel haben wir einen SPIEGEL-ONLINE-Artikel mit der Überschrift "Kristina Schröder zieht sich aus Bundespolitik zurück" mal anders verpackt. Wir hätten auch Quatsch schreiben können wie "Kristina Schröder begeistert von Trumps Frauenbild". Merken würde man das als Facebook-Nutzer erst beim Klick auf den Artikel.
Wo kommt die Information her?
Seriös arbeitende Journalisten machen deutlich, wo ihre Informationen herkommen. Wenn etwa über eine Studie berichtet wird, sollte diese genau genannt oder verlinkt sein. Und wenn man ein anderes Medium zitiert, kann man auch einfach einen Link setzen.

Bei Medien wie SPIEGEL ONLINE steht am Ende von Meldungen übrigens oft ein Hinweis wie "dpa", "Reuters" oder "AFP". Dieses Kürzel zeigt an, dass die Meldung oder ein Teil ihrer Informationen von einer Nachrichtenagentur stammt. Meldungen aus Agenturen lassen sich nicht immer verlinken.
Wurde die Quelle richtig wiedergegeben?
Wenn es schon Quellen-Erwähnungen oder -Links gibt, lohnt es sich bei kontroversen Meldungen oft, sich durchzuklicken, bis man irgendwann bei der Ursprungsquelle ankommt. Manchmal ist sie uralt oder wird falsch wiedergegeben, was nicht immer böswillig geschehen muss: So kann es zum Beispiel Übersetzungsfehler geben. Wie der Quellencheck konkret aussehen kann, zeigt zum Beispiel dieses Video vom Kanal "Die besorgte Bürgerin":
Seiten wie "We Watch Fake Anonymous" konnten mit teils simplem Quellenaufrufen immer wieder Behauptungen der mittlerweile gelöschten Facebook-Hetzseite "Anonymous.Kollektiv" widerlegen.
Falle ich gerade auf einen Fake-Klassiker rein?
Viele Falschmeldungen kursieren monate- oder jahrelang durchs Netz - und trotzdem gibt es immer wieder Nutzer, die darauf reinfallen. Das gilt zum Beispiel für Aufrufe, bei denen behauptet wird, per Bild-Posting könne man den Facebook-AGB widersprechen.

Oft reicht es schon, Stichworte einer Meldung mit dem Zusatz "Fake" ins Google-Suchfeld zu packen. Aufklärungsseiten wie "Mimikama" und "Emergent" und Medienkritik-Portale wie "Übermedien" und das "BILDblog" haben schon über viele wiederkehrende Falschmeldungen berichtet.

Viele aufregende Geschichten entlarven sich per simplem Googlen auch als Urban Legends, als Großstadtmythen. Das gilt für manche angebliche Horrornachricht rund um Flüchtlinge - wie die "Hoaxmap" zeigt -, aber auch für viele Anekdoten, die jemand von einem ungenannten Dritten gehört haben will, etwa die Geschichte vom Hund, der im Kaufhaus stirbt.
Ist die Information tatsächlich brisant?
Vorsicht ist auch dann geboten, wenn als Quelle nebulös ein Leak angegeben wird. Nur, weil etwa eine E-Mail nicht für die Öffentlichkeit bestimmt war, heißt dass nicht, dass sich darin automatisch eine spektakuläre Enthüllung verbirgt.

Bei Reddit und in anderen Internetforen wurde rund um die US-Wahl in allerlei Beiträgen, vor allem aus dem Umfeld von Trump-Fans, auf eine von WikiLeaks veröffentlichte E-Mail verwiesen. Dabei wurde mitunter suggeriert, Hillary Clintons Wahlkampfleiter würde sich in der Nachricht kritisch über Deutschlands Umgang mit der Flüchtlingskrise äußern. Ein Klick auf die Quelle beweist aber: Die E-Mail wurde an den Mitarbeiter Clintons geschickt, nicht von ihm.

Auch wenn viele Blogs und Foren eine Nachricht diskutieren - und kein etabliertes Medium -, hat man nicht unbedingt einen Beleg für "Lügenpresse"-Vorwürfe gefunden. Eins von vielen Gegenbeispielen für diese These findet sich etwa bei "Mimikama".
Zeigt ein Foto wirklich, was es zu zeigen vorgibt?
Gerade kurz nach Naturkatastrophen oder Gewalttaten machen häufig auch Foto-Fakes die Runde. Viele Menschen suchen dann nach Bildern und bekommen zum Beispiel alte Fotos von anderen Ereignissen vorgesetzt.
Vier Schritte - die wir hier detaillierter erklären - können helfen, solche Fakes zu entlarven: von der Bilder-Rückwärtssuche bis hin zum Check der Bildinhalte auf Plausibilität.
Wie neu ist ein angeblich neu aufgetauchtes Video?
Nach Ereignissen wie der Kölner Silvesternacht werden in sozialen Netzwerken oft nicht nur alte Fotos, sondern auch alte Videos als vermeintliche hochaktuelle Augenzeugen- oder Skandalclips inszeniert.

Will man eine Ahnung davon bekommen, ob ein YouTube-Video vielleicht schon älter ist, kann man zum Beispiel den YouTube DataViewer von Amnesty International anwerfen. Der Dienst liefert unter anderem sogenannte Thumbnails, Bildausschnitte aus Videos, mit denen sich dann wieder eine Bilderrückwärtssuche durchführen lässt. Außerdem wird das Upload-Datum angezeigt.
Kann ich anderen Nutzern helfen?
Haben Sie einen Fake entlarvt, kann es nie schaden, andere Internetnutzer an der Erkenntnis teilhaben zu lassen und beispielsweise einen Erklärlink als Kommentar unter ein dubioses Facebook-Posting zu setzen. Bei Facebook sollten Sie auch versuchen, Fake-News zu melden. In einem Untermenü der Meldeoption kann man explizit angeben, dass es sich möglicherweise um eine gefälschte Nachricht handelt.


insgesamt 61 Beiträge
Alle Kommentare öffnen
Seite 1
Mister Stone 19.01.2017
1. Ja nee is klar
In vielen Fällen posten Bots hierzulande rechte und islamfeindliche Dinge, manchmal auch Fake News. Doch genauso gibt es Bots, die eher linke Haltungen zu vertreten scheinen. Aha, also rechte und linke Bots. Und Bots für die selbsternannte "gemäßigte Mitte" - ich nenne sie neoliberale Eliten - gibt es selbstverständlich nicht.
wolle0601 19.01.2017
2. Alles gut und schön
aber so wenig ich sonst die Sichtweisen der Grünen schätze: Hier haben sie recht und die Chance, mal was Nützliches zu tun: Kennzeichnungsflicht und radikales Sperren, wenn dagegen verstoßen wird. Dieses ganze andere Zeug mit selbst erkennen und so wird nichts bringen.
ramuz 19.01.2017
3. So gesehjen...
... ist dann ja wohl jeder, der sich in diesen Kreisen aktiv - also Meinung absondernd - bewegt, ein Bot. Wobei ich qua Erfahrung unterstelle, dass auch der IQ so mancher humanoiden Teilnehmer sich nur knapp über dem der technischen Bots bewegt. Wäre das nicht so, wäre der Artikel ja unnötig. Mal sehen, ob der Beitrag es ohne Änderung in die Kommentartimeline schafft... *gg*
jhea 19.01.2017
4. Einfache Lösung
kein Twitter nutzen.
Frittenbude 19.01.2017
5.
Man kann natürlich eine Wissenschaft daraus machen, bots zu identifizieren. Allein wozu? Wer Meinungsmanipulation aus dem Weg gehen will, sollte 140-Zeichen-Twitter-Müll einfach nicht (mehr) zur eigenen Meinungsbildung heranziehen, sondern sich stattdessen woanders ausgewogen und detailliert informieren.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.