Forderung zu Meinungsrobotern Betreiben von Social Bots soll unter Strafe stehen

Politiker bezeichnen sie als "Lügenschleudern" - und streiten über den Umgang mit Meinungsrobotern. Weil einigen Landespolitikern der Bund zu zögerlich agiert, wollen sie nach SPIEGEL-Informationen nun selbst Fakten schaffen.

Fake News unter Beobachtung (Symbolbild)
DPA

Fake News unter Beobachtung (Symbolbild)


Weil ihnen der Bund im Kampf gegen sogenannte Social Bots zu zögerlich agiert, haben die Länder-Justizminister von Hessen, Sachsen-Anhalt und Bayern nun die Initiative ergriffen. Sie wollen einen bereits vom Bundesrat beschlossenen Gesetzesentwurf, der einen neuen Straftatbestand zum "Digitalen Hausfriedensbruch" einführen würde, auch auf Meinungsroboter anwenden.

Titelbild
Mehr dazu im SPIEGEL
Heft 4/2017
Die neue Weltordnung

"Der Bundesjustizminister muss endlich damit aufhören, auch im Strafrecht im digitalen Steinzeitalter zu verharren", begründet der bayerische Justizminister Winfried Bausback (CSU) im Gespräch mit dem SPIEGEL den Vorstoß. Seine hessische Amtskollegin Eva Kühne-Hörmann (CDU) will verhindern, dass das Internet zu "einer hochwirksamen und antidemokratischen Lügenschleuder" wird. (Lesen Sie hier die ganze Geschichte im neuen SPIEGEL.)

Konkret würde das Gesetzesvorhaben das Betreiben von Social Bots unter Strafe stellen, wenn diese gegen die Geschäftsbedingungen sozialer Netzwerke verstoßen. Künftig könnte dann jeder Nutzer, der auf eine solche softwarebasierte Meinungsmaschine aufmerksam wird, gegen dessen Urheber Strafanzeige stellen - jedenfalls, wenn sich der Urheber ermitteln lässt. Das vorgesehene Strafmaß reicht von Geldstrafen bis zu einem Freiheitsentzug bis zu zehn Jahren.

Ursprünglich hatte der Entwurf vor allem die Betreiber sogenannter Botnetze im Visier, die durch automatisierte Anfragen Websites lahmlegen oder Spam-E-Mails verschicken. Netzaktivisten kritisieren das Vorhaben und bemängeln, dass dadurch neue Rechtsunsicherheit geschaffen würden: Beispielsweise könnte der Entwurf, so eine Befürchtung, bei enger Auslegung bereits das Betreiben eines Nutzerkontos unter einem falschen Namen strafbar machen.

Bot oder kein Bot? So erkennen Sie Meinungsroboter
Wie seriös ist der Account?

Stolpert man in der Timeline über radikale Positionen oder aufrührerische Nachrichten, sollte man sich zunächst die Quelle anschauen:

  • Kennt man die Person, die dort angeblich twittert?
  • Kenne ich Follower des Accounts?

Ist das nicht der Fall, ist Vorsicht geboten.

In jedem Fall sollte man sich anschauen, was der Account zuvor getwittert hat: Twittert er etwa immer ungefähr dasselbe? Hat er die Nachricht, die man gerade bekommen hat, auch an viele andere Nutzer verschickt? Teilt er immer Postings desselben Mediums oder Accounts?

Ein "verifizierter" Twitter-Account mit einem blauen Häkchen jedenfalls bedeutet nicht zwangsläufig, dass es sich um einen Menschen handelt. Das legen Auswertungen der deutschen Initiative Botswatch nahe, die bei ihrer Arbeit auch Bots mit verifizierten Accounts entdeckt hat. Botswatch wertet die Bot-Aktivität bei bestimmten Social-Media-Events aus, darunter zum Beispiel die Rede der Kanzlerin auf dem letzten Bundesparteitag der CDU.

Was verrät die Profilbeschreibung?
Der Schweizer Maschinenethiker und Bot-Forscher Oliver Bendel rät, sich das Profil eines Accounts genau anzuschauen. Misstrauisch werden sollte man ihm zufolge, wenn die dortigen Angaben Nonsens sind oder wenn dort quasi nichts steht. Hilfreich sei es etwa, sich die im Profil angegebenen Links anschauen - so seien Rückschlüsse auf die Seriosität des Accounts möglich. Social Bots seien häufig "Schleudern für Fake-News-Seiten", hat Bendel beobachtet, dem zuletzt immer wieder Negativschlagzeilen zu Bots aufgefallen sind. "Die Idee hinter den Bots war es ursprünglich nur, einfach maschinell etwas weiterzureichen", sagt er dazu.
Wie oft twittert der Account?

Selbst sehr aktive politische Accounts von Menschen veröffentlichen selten Dutzende Twitter-Nachrichten pro Tag. Die Oxford University jedenfalls hat in einer Studie herausgefunden, dass Accounts, die mindestens 50 Tweets am Tag ausstoßen oder stets die gleiche Anzahl an Tweets, in den meisten Fällen Social Bots sind. Nach Angaben von Botswatch gilt Ähnliches für eine sehr hohe Anzahl an Retweets.

Der Twitter-Account "DieWelle2017" zum Beispiel ist mit hoher Wahrscheinlichkeit ein Bot. Er ist erst seit Juli 2016 in dem Netzwerk aktiv und hat bereits fast 30.000 Tweets verschickt.

Twitter-Account @diewelle2017

Twitter-Account @diewelle2017

Interessant ist auch, wann ein Account etwas twittert: Hat er zum Beispiel ungefähr zur selben Zeit viele verschiedene Tweets an verschiedene Accounts verschickt? Natürlich können das prinzipiell auch Menschen, aber die meisten formulieren und schicken eher einen Tweet nach dem anderen.

Wie schnell reagiert der Account?

Bots können schneller als der Mensch auf Nachrichten reagieren und sie verbreiten. Retweetet ein Account regelmäßig beispielsweise schon eine Sekunde nach der Veröffentlichung eines Tweets, handelt es sich wahrscheinlich um einen Bot.

Die Pfannkuchenpolizei zum Beispiel ist ein gutartiger Bot, der sofort auf das Wort "Berliner" in Tweets reagiert. Dank ihm kann man spielerisch mit eigenen "Berliner"-Tweets testen, wie schnell ein Bot reagiert.

Wie viel gefällt dem Account?

Auch beim Favorisieren gilt: Je mehr Sternchen der Account für andere Tweets verteilt, desto eher steckt dahinter kein Mensch. Um einen Account als Bot identifizieren zu können, setzt Botswatch nach eigenen Angaben mindestens 50 Likes voraus.

Dass es sich etwa im Falle von "PetPanther0" mit hoher Wahrscheinlichkeit um einen Bot handelt, zeigt nicht nur die hohe Anzahl an Tweets in kürzester Zeit, sondern auch die große Zahl an Likes.

Twitter-Account @petpanther0

Twitter-Account @petpanther0

Wie reagiert der Account auf Kontextfragen?

Laut Bot-Forscher Bendel ist alles, was Kontextwissen voraussetzt, schwierig für Social Bots. "Kaum ein Chatbot kam mit Fragen, die räumliches Denken erfordern, zurecht", sagt er - also Fragen wie "Was ist über dir?" oder "Was ist unter dir?". Im Zweifel kann es also helfen, den Bot mit einer Frage zu konfrontieren, die ein Mensch einfach beantworten kann, deren Antwort bei einem Bot aber nicht zum Standardprogramm gehört.

Wie schreibt der Account?
Bots verraten sich manchmal auch auf ganz simple Art: durch ihren Sprachstil. Achten Sie daher darauf, wie der Account schreibt. Verwendet er zum Beispiel immer wieder Begriffe, die Sie zuvor benutzt haben - auch wenn das inhaltlich kaum Sinn ergibt? Oder ist seine Grammatik vielleicht seltsam, das aber auf eine Art, wie sie bei Menschen eher unüblich ist?
Was sagen Dienste wie "Bot or Not"?

Von Ihrer eigenen Beobachtungsgabe abgesehen, lohnt es sich manchmal, einen aufs Erkennen von Bots spezialisierten Webdienst zur Hilfe zu nehmen. "Bot or Not" zum Beispiel, das an der Indiana University Bloomington angeboten wird, kann für Twitter-Accounts einen Score erstellen, aus dem sich angeblich ableiten lässt, ob ein Account eher ein Bot ist oder von einem Menschen betrieben wird. Wirklich verlässlich ist das angezeigte Ergebnis aber nicht - man sollte es daher lieber nur als Ausgangspunkt für eine eigene Einschätzung nehmen.

Die Bundesregierung hatte der von Hessen ausgehenden Initiative nach dem Bundesratsbeschluss eine Abfuhr erteilt. Es bestünden "nach Ansicht der Bundesregierung keine gravierenden Strafbarkeitslücken", hieß es in einer Stellungnahme.

Auch SPD-Fraktionschef Thomas Oppermann sieht den Vorstoß aus den Ländern kritisch: "Es ist nicht im Ansatz überzeugend, diesen Entwurf jetzt einfach auf Social Bots zu übertragen." Er sieht die Plattformen selbst in der Pflicht und bewertet die Ankündigung von Facebook, gemeinsam mit dem Recherchezentrum Correctivgegen Fake News vorzugehen, vorsichtig positiv: "Offensichtlich reagieren die darauf, dass wir hier Druck gemacht haben", so Oppermann. "Es ist ein wichtiger Schritt, aber er reicht nicht aus."

In der kommenden Woche ist der Umgang mit Meinungsrobotern gleich mehrfach Thema im Bundestag. Das Büro für Technikfolgen-Abschätzung hat für sein Fachgespräch ein Thesenpapier zusammengestellt, das die Relevanz des Themas unterstreicht und die bisher mangelnde Kooperation der Plattformbetreiber kritisiert: "Vertreter von sozialen Netzwerken wie Facebook und Twitter konnten trotz intensiver Bemühungen nicht für ein Interview gewonnen werden."

Dieses Thema stammt aus dem neuen SPIEGEL - ab Samstagmorgen erhältlich.

Was im neuen SPIEGEL steht, erfahren Sie immer samstags in unserem kostenlosen Newsletter DIE LAGE, der sechsmal in der Woche erscheint - kompakt, analytisch, meinungsstark, geschrieben von der Chefredaktion oder den Leitern unseres Hauptstadtbüros in Berlin.

rom/gt



insgesamt 72 Beiträge
Alle Kommentare öffnen
Seite 1
larry_lustig 21.01.2017
1. Wahllügen sollten
auch unter Strafe gestellt werden.
otelago 21.01.2017
2. Wahlkampf und Werbung
seit einiger Zeit werden Politiker unglaublich umtriebig hinsichtlich bestimmter Schwierigkeiten, die sie mit Internetanwendungen haben. Schwierigkeiten, die schon seit langer Zeit von aufgeklärten Bürgern angesprochen wurden, z.B. die Unsicherheit vor dem Abhören und die Betriebssicherheit von Netzwerkdiensten in der Infratruktur von Kommunikation, Freizeit, Wirtschaft und Behörden, haben aber niemanden sonderlich gejuckt. "Abören öh geht nicht" war Merkels heldenhafte Ansage. Derzeit fallen viele Politiker beim Hantieren mit englsichen Netz-Vokabeln auf, die sie vor wenigen Monaten überhaupt noch niemals zuvor gehört hatten. Offenbar gibt es irgendeine Art Medienkampagne. Das was man heute als Sozial Bot benennt, ist de facto eine weit verbreitete Gattung an Scripten, die zum automatisieruten Umgang mit Kundenanfragen oder zum Gewinnen von Leads im Marketing gang und gebe sind. Jetzt ärgern sie sich nur daß solche Scripte manchmal auch für unbequeme Zwecke benutzt werden. Lächerlich.
wahrscheinlichwahr3 21.01.2017
3. Verbot
Warum nicht gleich alle sozialen Netzwerke verbieten? Haben sie denn jemanden je einen Nutzen gebracht. Ups, jetzt schreib ich auch noch nen Kommentar. (Ironie)
2337-570 21.01.2017
4. Welche Fake News?
Wo soll man denn da bitte die Grenze ziehen? Unsere traditionelleren Medien sind doch auch verzerrt, tendenziös und Lügen auch einfach mal gerne (mindestens durch Auslassung wichtiger Fakten). Vor dem Gesetz sollten alle gleich sein! Auch die, die sich vor der elektronischen Konkurrenz fürchten...
spon_1602384 21.01.2017
5. Bots müssen verboten werden.
Jeder der sich nur halbwegs mit der Materie auseinandergesetzt hat und weiß wie komplex diese Systeme mittlerweile geworden sind muss zu der Überzeugung kommen. Es gibt durchaus Möglichkeiten das einmal selber auszutesten. Wer dann noch immer der Meinung ist das diese Harmlos wären der nimmt billigend in Kauf das man mit Geld auch Meinung manipulieren kann. Eben das passiert gerade massiv.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.