Auswertung Tausender Tweets Meinungsfreiheit? Was Twitter alles blockiert

Bald kommt ein Gesetz gegen Hassrede im Internet. Kritiker fürchten, Anbieter könnten aus Angst vor Strafen zu streng werden. Twitter etwa sperrt bereits jetzt vieles, wie eine SPIEGEL-ONLINE-Analyse zeigt.

Twitter-Logo
REUTERS

Twitter-Logo

Von Philipp Hummel


Am 22. Juni erhielt der FDP-Politiker Tobias Huch eine E-Mail von Twitter. Einer seiner Tweets war "als mögliche Verletzung unserer Richtlinie zu Hass schürendem Verhalten markiert" worden, heißt es in der E-Mail, die SPIEGEL ONLINE vorliegt.

Huch hatte in dem betreffenden Tweet auf die geringe Resonanz der Anti-Terror-Demo von Muslimen in Köln gegenüber einer anti-israelischen Demo in Berlin hingewiesen: Dieser Tweet war daraufhin in Deutschland "zurückgehalten" worden - seit der Nacht auf Montag und kurz nachdem die "Bild" berichtet hatte, ist er wieder verfügbar. Ohne Begründung, wie Huch auf Nachfrage erklärte.

Huchs Tweet mag wieder abrufbar sein, aber der Fall wirft ein Schlaglicht auf den Umgang großer sozialer Netzwerke mit - manchmal auch nur vermeintlich - rechtswidrigen Inhalten.

Wann Plattformen welche Inhalte löschen müssen, soll bald auch ein neues Gesetz von Justizminister Heiko Maas regeln, das Ende dieser Woche im Bundestag verabschiedet werden soll. Es sieht drastische Strafen für Plattformbetreiber vor, die rechtswidrige Inhalte nicht innerhalb kurzer Fristen entfernen.

Durch dieses sogenannte Netzwerkdurchsetzungsgesetz (NetzDG) sehen Kritiker den Trend zum Overblocking begünstigt: Fragwürdige Inhalte könnten von Facebook, Twitter und Co. im Zweifelsfall einfach gelöscht werden, ohne dass ausreichend geprüft wurde, ob diese tatsächlich deutschen Gesetzen widersprechen.

Es gibt kein Grundrecht auf freie Meinungsäußerung auf einer privaten Plattform

Datenbasierte Recherchen für diesen Artikel legen nahe, dass diese Befürchtung berechtigt sein könnte - weil etwa Twitter auch aktuell schon in Fällen blockt und sperrt, die alles andere als eindeutig sind.

Zwar ist Twitter als Privatunternehmen frei in der Gestaltung seiner Plattformregeln und muss diese auch nicht begründen. Es gibt kein Grundrecht darauf, die eigene Meinung über die Kanäle sozialer Netzwerke zu verbreiten. Doch die sozialen Netzwerke sind für die Gesellschaft mittlerweile so wichtig, dass man sich andererseits kaum wünschen kann, dass dort vor allem das Hausrecht des Silicon Valley relevant ist.

Wie heikel das Thema ist, zeigt nicht nur der Fall Huch, sondern auch die große Aufregung um angebliche Shadow Bans. Am Sonntag berichteten Nutzer, darunter die rechts-konservative "Junge Freiheit", dass ihre Tweets über die Twitter-Suche nicht mehr zu finden seien. Twitter erklärte mittlerweile, es gebe ein technisches Problem mit Spamfiltern.

Ende Mai hatte bereits die Sperre des umstrittenen Accounts von Kolja Bonke für eine - bislang erfolglose - Protestaktion seiner Unterstützer unter dem Hashtag #freekolja gesorgt. "Flirttrainer, Buchautor und Blogger" Bonke versah auf @bonkekolja Presse- und Polizeimeldungen über kriminelle Asylbewerber und Migranten mit zynischen Kommentaren.

Weitaus häufiger als die komplette Sperrung eines Nutzers scheint in Deutschland aber mittlerweile das Vorgehen zu sein, das auch bei Politiker Huch angewandt wurde. Twitter hält in bestimmten Ländern einzelne Tweets oder ganze Accounts zurück. Man kann die Inhalte von dem betroffenen Land aus dann nicht mehr ohne weiteres aufrufen. Es erscheint stattdessen ein Hinweis: "Dieser Account wird zurückgehalten in: Deutschland."

Welche Daten wir analysiert haben

SPIEGEL ONLINE hat vier Listen mit Accounts und Tweets ausgewertet, die aus Deutschland gemeldet wurden und bei denen Twitter zwischen dem 3. April und 30. Mai daraufhin Maßnahmen ergriffen hat. Sie enthalten 273 Accounts und mehr als 3600 Tweets.

Liste 1
Liste 2
Liste 3
Liste 4

Die Listen stammen aus einer Datenbank namens "Lumen", einem Forschungsprojekt des Berkman Klein Center for Internet & Society der Harvard University. Das Lumen-Projekt sammelt und untersucht Anfragen zur Entfernung von Inhalten aus dem Internet. Das Ziel: Die Vorgänge so transparent wie möglich machen. Dazu arbeitet Lumen mit Plattformen wie Twitter zusammen.

Für die Analyse der insgesamt mehr als 170 Seiten mit URL-Adressen, die diesem Artikel zugrunde liegen, haben wir die Einträge aus den Listen befreit, um Duplikate bereinigt und den Status der Accounts (teilweise automatisiert) ausgewertet.

Im Detail wurden zum Zeitpunkt der Analyse Anfang Juni 251 der Accounts in Deutschland zurückgehalten, zehn komplett gesperrt und 11 existierten nicht mehr. Sie wurden entweder von den Nutzern gelöscht oder von Twitter. Macht 272 von 273. Der verbliebene Account - mit dem Nutzernamen @therealfuehrer - ist ein Satire-Account des Entertainers Jan Böhmermann. Diesen gab Twitter schnell wieder frei.

Wie kommt diese hohe Zahl zustande?

Zwischen 2012, als zurückgehaltene Inhalte eingeführt wurden, und Ende 2016 hielt Twitter insgesamt nur 35 Accounts und 138 Tweets in Deutschland zurück. Aufgrund von Verstößen gegen die Nutzungsbedingungen komplett gesperrt hat das Unternehmen in diesem Zeitraum 146 Accounts in Deutschland. Das geht aus den Transparenzberichten zu entfernten Inhalten hervor, die Twitter seit 2012 halbjährlich veröffentlicht.

Wie erklärt Twitter die vielen in Deutschland blockierten Tweets und Accounts im April und Mai? Lassen sich die Zahlen mit denen der Transparenzberichte direkt vergleichen? Falls nein, warum nicht? Hat die mutmaßliche Zunahme vielleicht etwas mit dem nahenden NetzDG zu tun?

Auf diese und weitere konkrete Fragen bekommt man von dem Unternehmen keine Antwort. Stattdessen schickt der Twitter-Pressesprecher eine Sammlung von Hintergrundinformationen, die auf verschiedenen Seiten des Unternehmens bereits früher veröffentlicht wurden.

Geschmacklos und unzutreffend - aber nicht verboten

Twitter verweist bei den zurückgehaltenen Inhalten auf die im jeweiligen Land geltende Rechtslage. Ein großer Teil der Accounts und Tweets in den Listen macht Stimmung gegen Ausländer, insbesondere Asylbewerber.

Ob aber alle betroffenen Inhalte gegen deutsche Gesetze verstoßen, ist zweifelhaft: Tweets mit Verschwörungstheorien über den Anschlag auf ein Konzert in Manchester vor wenigen Wochen, schlechte Hitler-Witze oder Warnungen vor den vermeintlichen Folgen der "Willkommenskultur" dürften viele als geschmacklos empfinden, einiges dürfte auch schlicht unzutreffend sein. Aber nicht verboten.

Auch ganze Accounts in Deutschland zurückzuhalten, lässt sich schwer mit der hiesigen Gesetzeslage begründen. Es sei denn, die Accounts präsentieren bereits im Namen oder bei Profil- oder Titelbildern verbotene Inhalte. Das ist zwar bei einigen der betroffenen Accounts des Fall, aber nicht bei allen 251.

Wer entscheidet, was in welchem Land gesperrt wird?

Im Moment helfen externe Partner Twitter dabei, die in den jeweiligen Ländern strafbaren Inhalte zu identifizieren. In der EU arbeitet das Unternehmen mit so genannten "Trusted Reporters" zusammen, neun privilegierten Organisationen in drei Ländern, die einen Regierungsauftrag haben, Inhalte zu melden, die nach den örtlichen Gesetzen verboten sein könnten.

In Deutschland ist der wichtigste "Trusted Reporter" jugendschutz.net, laut Jugendmedienschutz-Staatsvertrag die "gemeinsame Stelle Jugendschutz aller Länder". Die gemeinnützige GmbH wird unter anderem vom Bundesfamilienministerium kernfinanziert, laut eigener Aussage besteht die Partnerschaft mit Twitter seit 2014.

"Nachholtraining" zur Löschpolitik des Unternehmens

Dass auf Twitter überhaupt auf einzelne Länder beschränkte Sperren eingesetzt werden, passiert seit 2012 - mittlerweile in 13 Ländern, darunter Deutschland.

Aus dem aktuellen Twitter-Bericht über entfernte Inhalte ergibt sich, dass alle 213 Anfragen der "Trusted Reporter" aus Deutschland zwischen Juli und Dezember 2016 allein von jugendschutz.net kamen. Die Frage, ob es hierzulande weitere "Trusted Reporter" gibt, beantwortete Twitter nicht - ebenso wenig wie Fragen zur Ausbildung der Mitarbeiter, die über Sperren und Blocks entscheiden. Das Unternehmen gibt lediglich an, die Mitglieder des "Support Teams" hätten im letzten Jahr ein "Nachholtraining" zur Löschpolitik des Unternehmens erhalten.

Die meisten Verstöße werden per Hotline gemeldet

Twitter selbst ist auf die Bitte um die Zusendung einer Liste aller in Deutschland zurückgehaltenen Inhalte nicht eingegangen. Das Kompetenzzentrum jugendschutz.net will ebenfalls keine Liste aller von ihm an Twitter gemeldeten Inhalte bereitstellen - mit Verweis auf den Schutz der Persönlichkeitsrechte der Betroffenen. Auch die Zahl seiner Meldungen an Twitter will jugendschutz.net nicht nennen.

Die vier ausgewerteten Listen enthalten vor allem rechte oder rechtsextreme Tweets und Accounts. Offen bleibt, ob das Kompetenzzentrum personell überhaupt breit genug aufgestellt ist, um auf Extremismus in all seinen Formen, zum Beispiel auch in verschiedenen Sprachen geäußert, reagieren zu können. "Wir gehen jeglicher Art von politischem Extremismus nach", erklärt dazu Murat Özkilic von jugendschutz.net. "So ist beispielsweise seit 2011 auch Islamismus im Internet ein Schwerpunkt unserer Arbeit." Genauere Angaben, etwa zu den Sprachkenntnissen der Mitarbeiter, macht er nicht. Viele Hinweise kämen per Hotline, beurteilt würden sie von " erfahrenen und speziell geschulten Fachkräften", die in Zweifelsfällen auch Juristen zu Rat ziehen könnten, das aber meist nicht tun.

Fragwürdige Sperren, aber: viel Hass und Hetze bleibt online

Während auf der einen Seite vermutlich von der Meinungsfreiheit gedeckte Inhalte zurückgehalten werden, bleiben andererseits übelste Beschimpfungen sogar nach einer Prüfung durch Twitter stehen. Beispiele dafür gibt es zuhauf.

Trotz der vielen fragwürdigen Eingriffe durch Twitter: Wer nicht gerade "Trusted Reporter" ist - in Deutschland hat diesen Rang offenbar nur jugendschutz.net - oder prominent wie Jan Böhmermann, hat es bei Twitter offenbar schwer, Gehör zu finden. Selbst wer offensichtliche Beleidigungen und Drohungen meldet, bekommt - wie zum Beispiel das Nahost-Thinktank Mena Watch - in manchen Fällen einfach die lapidare Standard-Antwort von Twitter: Es liege kein Verstoß gegen die Plattformregeln vor.

insgesamt 160 Beiträge
Alle Kommentare öffnen
Seite 1
Trevor Philips 27.06.2017
1.
Ein Glück das es noch die letzten aufrechten Kämpfer für Demokratie und Meinungsfreiheit bei Spiegel Online gibt, welche nie auf die Idee kommen würden Inhalte die nicht eindeutig rechtswidrig sind zu sperren.
spon-1292345938400 27.06.2017
2. Gibt's eigentlich Untersuchungen über den Bildungsgrad von Personen
die (a)soziale Medien nutzen? Ich hab's nie verstanden, was den Reiz von FB, Twitter und Konsorten ausmacht Drum ist es mir auch egal was gepostet und getwittert wird. Ich muss es ja eh nicht lesen. Was der POTUS absondert sehe ich ja in der Tagesschau. Meine 2ct
micromiller 27.06.2017
3. Twitter will Herrn Maas und
seinen Sozialdemokraten glücklich machen, schliesslich sind wir hier nicht in den USA, wo die Menschen pipsen können was sie wollen.
Ryker 27.06.2017
4. Es heißt NetzwerkdurchSETZUNGSgesetz
... nicht NetzwerkdurchSUCHUNGSgesetz. - - - - Vielen Dank für den Hinweis, wir haben den Fehler korrigiert. Redaktion Forum
discprojekt 27.06.2017
5. Also,
soso, nach einer Spiegel online Analyse wird jetzt schon "gesperrt". Die Hälfte meiner Kommentare auf Spon wird seit Langem "gesperrt". Also zensiert.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.