Netzwerkdurchsetzungsgesetz Viele beschweren sich über Hass, aber kaum etwas wird gesperrt

Das Netzwerkdurchsetzungsgesetz soll helfen, gegen Verstöße wie Beleidigung und Hetze vorzugehen. Nun haben Facebook, Twitter und YouTube erste Zahlen zu Nutzerbeschwerden vorgelegt: Der Großteil wird abgelehnt.
Facebook-Löschzentrum in Berlin

Facebook-Löschzentrum in Berlin

Foto: Soeren Stache/ dpa

In den ersten Wochen des Jahres schien das Netzwerkdurchsetzungsgesetz (NetzDG) zu versagen. Denn das seit dem 1. Januar 2018 in vollem Umfang geltende NetzDG zeigte Nebenwirkungen. Die offensichtlichsten: Fehleinschätzungen insbesondere von Twitter führten dazu, dass klar erkennbare Satire gesperrt, hetzerische Botschaften jedoch mitunter stehen gelassen wurden.

Kritiker des umstrittenen Gesetzes sahen sich bestätigt. Sie hatten davor gewarnt, dass die Betreiber sozialer Netzwerke unter hohem Zeitdruck und bei Androhung hoher Bußgelder eher zu viel sperren würden, als zu wenig ("Overblocking"). Sie sähen es lieber, wenn nicht die US-Unternehmen Twitter, Facebook und YouTube, sondern deutsche Gerichte entscheiden, was rechtswidrig ist und was nicht.

Das NetzDG verpflichtet Netzwerke wie Facebook, Twitter und YouTube, offensichtlich rechtswidrige Inhalte binnen 24 Stunden nach Eingang einer Nutzerbeschwerde zu sperren. Der damalige Bundesjustizminister Heiko Maas (SPD) hatte ein "Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken" (so der offizielle Name) beabsichtigt: Der Druck auf die Internetunternehmen sollte dazu führen, dass Nutzer, die sich bedroht oder beleidigt fühlen, schneller Hilfe bekommen.

Nun ist ein halbes Jahr vergangen und es gibt eine erste Gelegenheit, die mittelfristigen Auswirkungen des NetzDG zu betrachten. Denn das Gesetz sieht vor, dass Betreiber sozialer Netzwerke halbjährlich offenlegen, wie viele Beschwerden über angeblich rechtswidrige Inhalte sie erhalten und wie viele davon sie als berechtigt erachtet haben. Diese Berichte werden heute erstmals veröffentlicht. Das sind die wichtigsten Ergebnisse:

1. YouTube: viele gemeldete Inhalte, aber keine Vergleichszahlen

YouTube hat seinem Bericht  zufolge insgesamt etwa Viele215.000 Beschwerden nach dem NetzDG erhalten. Nur 27 Prozent davon - das entspricht etwa 58.000 Fällen - sahen die Prüfer als berechtigt an, die meisten wegen "Hassrede oder politischem Extremismus" sowie Persönlichkeitsrechtsverletzungen oder Beleidigung. Die entsprechenden Videos und Kommentare wurden entweder entfernt oder in Deutschland unzugänglich gemacht.

Denn YouTube prüft immer doppelt : Verstößt ein gemeldeter Inhalt gegen die Community-Richtlinien von YouTube, wird er komplett von der Seite genommen. Verstößt er nicht gegen die Richtlinien, aber gegen einen der im NetzDG aufgeführten Straftatbestände, wird er nur in Deutschland blockiert. Im Ausland bleibt er abrufbar. Das war aber insgesamt der deutlich seltenere Fall.

Ob aus all dem folgt, dass auf YouTube nun weniger rechtswidrige Inhalte zu finden sind als früher, weniger Gewaltandrohungen, Beleidigungen oder Volksverhetzung, lässt sich aus diesen Zahlen nicht ablesen. YouTube hat keine Vergleichszahlen aus der Zeit vorher, als das NetzDG-Formular noch nicht gab. Die hohe Zahl an abgelehnten Nutzerbeschwerden könnte für einen Missbrauch der Meldefunktion sprechen, oder für ein mangelhaftes Wissen vieler Nutzer darüber, was wirklich illegal ist.

Dafür hat YouTube bei kritischen Inhalten meistens sehr schnell reagiert: Bei knapp 93 Prozent der Inhalte, die gesperrt oder gelöscht werden mussten, geschah dies innerhalb von 24 Stunden nach Eingang der Beschwerde. Weitere Entscheidungen fielen innerhalb von einer Woche. In lediglich 859 Fällen dauerte es länger als eine Woche bis zur Entscheidung. Nur 40 Mal bat YouTube zudem eine auf Strafrecht spezialisierte externe Anwaltskanzlei um Hilfe. Alles andere konnten offenbar die eigenen Prüfteams entscheiden, in denen es "einige" deutschsprachige Juristen gibt.

Die Alternative für besonders schwierige Fälle - die Weiterleitung an eine sogenannte Einrichtung der Regulierten Selbstregulierung- fand überhaupt nicht statt. Denn so eine Einrichtung, vergleichbar mit der Freiwilligen Selbstkontrolle (FSK) der Filmwirtschaft, existiert bislang nicht, auch wenn das NetzDG sie ausdrücklich zulässt.

Bei so einer Einrichtung könnten sich Nutzer, deren Inhalt nach NetzDG gesperrt wurde, auch beschweren und eine erneute Überprüfung verlangen. YouTube selbst bietet diese Möglichkeit bisher nur, wenn ein Inhalt als Verstoß gegen die Community-Richtlinien komplett entfernt wurde. Das soll sich aber in einigen Wochen ändern.

Ein insgesamt hohes Tempo beim Bearbeiten von Nutzerbeschwerden war ein ausdrückliches Ziel von Maas. Der Minister wollte sicherstellen, dass den Opfern von Drohungen und anderen strafbaren Inhalten schnell geholfen wird. Allerdings war YouTube auch schon vor Einführung des NetzDG in dieser Hinsicht das schnellste der drei US-Unternehmen.

2. Twitter: die niedrigste Lösch- und Sperrquote

Ähnlich wie YouTube hat auch Twitter das Formular für Beschwerden nach dem NetzDG in das bisherige Meldesystem integriert. Das könnte ein Grund dafür sein, dass die absolute Zahl an Meldungen vergleichbar hoch ist, sie beträgt angeblich etwa 264.000. Von Twitter gesperrt oder gelöscht wurden laut Bericht  weniger als 29.000, also kaum mehr als zehn Prozent.

In nur etwa 600 Fällen habe das länger als 24 Stunden gedauert, in nur 37 Fällen länger als sieben Tage.

Auch Twitter überprüft zunächst, ob ein gemeldeter Inhalt gegen die Twitter-Regeln oder die Allgemeinen Geschäftsbedingungen verstößt. Wenn das nach Einschätzung der Prüfer der Fall ist, wird der Inhalt komplett entfernt. Verstößt er gegen das NetzDG, aber nicht gegen Twitters eigene Regeln, wird er in Deutschland zurückgezogen. Wie oft welcher Fall eintritt, geht aus dem Bericht nicht hervor.

"Mehr als 50 Leute" übernehmen die NetzDG-Prüfung bei Twitter.

3. Facebook: "Overblocking" ist unwahrscheinlich

Facebook gibt Nutzern zwei sehr unterschiedliche Wege vor, wenn sie sich über Inhalte beschweren wollen. Wer einen Verstoß gegen das NetzDG melden will, muss das an einer ganz anderen Stelle tun, als wenn er einen Verstoß gegen Facebooks Gemeinschaftsstandards melden will.

Möglicherweise aufgrund der für Nutzer schwerer zu findenden, gesonderten NetzDG-Meldefunktion musste Facebook im ersten Halbjahr nur 1704 gemeldete Inhalte auf Verstöße gegen das NetzDG untersuchen, also nur einen Bruchteil von dem, was YouTube und Twitter zu bearbeiten hatten. Etwa 65 Prüfer erledigen diese Arbeit für Facebook.

So wie bei YouTube entscheidet auch Facebook zunächst, ob ein Inhalt gegen die Gemeinschaftsstandards verstößt, auch wenn er über das NetzDG-Formular gemeldet wurde. Liegt ein Verstoß vor, wird der Inhalt global gelöscht. Andernfalls wird geprüft, ob der Inhalt rechtswidrig im Sinne des NetzDG ist, und wenn ja, wird er in Deutschland gesperrt.

Wie oft welcher von beiden Fällen vorkommt, geht aus Facebooks Bericht  nicht hervor. Darin steht nur, dass 362 von 1704 gemeldeten Inhalten gelöscht oder gesperrt wurden. Überwiegend handelte es sich um Beleidigung, üble Nachrede oder Verleumdung. Das heißt, rund 80 Prozent aller beanstandeten Inhalte waren nach Facebooks Ansicht nicht rechtswidrig und verstießen auch nicht gegen die Gemeinschaftsstandards.

Von einem "Overblocking" ist angesichts dieser niedrigen Zahlen nicht auszugehen. Sie sprechen aber auch dafür, dass nur sehr wenige Facebook-Nutzer die Option kennen, finden, verstehen - oder als sinnvolle Alternative zum gewohnten Meldesystem bei Verstößen gegen die Gemeinschaftsstandards ansehen.

Zwei Parallelen zu YouTube gibt es: Die Entscheidungen von Facebook fielen fast alle in weniger als einer Woche, ganz überwiegend innerhalb von 24 Stunden. Nur in etwa zwei Dutzend Fällen - genauer lässt sich das anhand von Facebooks Angaben nicht beziffern - dauerte es bis zur Entscheidung länger als sieben Tage. Und einen Weg, als betroffener Nutzer eine erneute Prüfung zu beantragen, wenn man denkt, ein eigener Inhalt sei zu Unrecht gesperrt worden, bietet auch Facebook nicht an.

Bundesregierung: keine sofortigen Gesetzesänderungen in Sicht

Aus dem Bundesjustizministerium ist zu vernehmen, dass die ersten Berichte der Unternehmen nicht zu einer schnellen Nachbesserung des NetzDG führen werden. Erst im Jahr 2020 ist eine Evaluierung vorgesehen, und die bis dahin veröffentlichten Berichte werden, so hofft man, ein klareres Bild über die Entwicklung in den sozialen Netzwerken ergeben. Ob die Unternehmen die gesetzlichen Anforderungen erfüllen, entscheidet ohnehin das Bundesamt für Justiz. Und das wird sich die Berichte nun zunächst genau ansehen.

Opfer Richard Gutjahr: Das NetzDG hilft ein wenig

Im Januar hatte der Journalist Richard Gutjahr einen langen Artikel  veröffentlicht, in dem er schilderte, wie er und seine Familie in sozialen Netzwerken von Verschwörungstheoretikern und anderen angegriffen und bedroht werden. Gutjahr kritisierte vor allem auch YouTube hart für dessen Ausflüchte und Zögerlichkeit. Das NetzDG soll Menschen wie ihm helfen. Er selbst sah es zunächst nicht als Lösung seiner Probleme.

Heute sagt er, zumindest würden die Community-Standards plötzlich restriktiver auslegt und Hassbotschaften gelöscht, die früher oft unangetastet blieben. "Das größte Geschenk des Gesetzes ist aber die Pflicht für die Netzwerkbetreiber, eine Postanschrift in Deutschland zu benennen", sagt er. Weil es vorher praktisch unmöglich war, auf juristischem Wege Kontakt zu den US-Unternehmen aufzunehmen.

Zusammengefasst: Seit einem halben Jahr gilt das umstrittene Netzwerkdurchsetzungsgesetz (NetzDG). Nun müssen Facebook, YouTube und Twitter erstmals offenlegen, wie sie auf Grundlage des neuen Gesetzes löschen. Ein erstes Ergebnis: In 70 bis 90 Prozent der Fälle haben Nutzerbeschwerden keinen Erfolg. Mögliche Gründe: Nutzer missbrauchen die Meldesysteme der Unternehmen oder halten Inhalte fälschlicherweise für rechtswidrig.

Video: Inside Facebook - Das Milliardengeschäft mit der Freundschaft

BBC
Die Wiedergabe wurde unterbrochen.
Merkliste
Speichern Sie Ihre Lieblingsartikel in der persönlichen Merkliste, um sie später zu lesen und einfach wiederzufinden.
Jetzt anmelden
Sie haben noch kein SPIEGEL-Konto? Jetzt registrieren
Mehrfachnutzung erkannt
Bitte beachten Sie: Die zeitgleiche Nutzung von SPIEGEL+-Inhalten ist auf ein Gerät beschränkt. Wir behalten uns vor, die Mehrfachnutzung zukünftig technisch zu unterbinden.
Sie möchten SPIEGEL+ auf mehreren Geräten zeitgleich nutzen? Zu unseren Angeboten