Digitale Terrorinhalte 6000 Lösch-Aufforderungen in sechs Monaten

Das Bundeskriminalamt beobachtet mit einer neuen Meldestelle Terrorinhalte im Netz - und hat Onlineplattformen bereits Tausende Male um deren Löschung gebeten. Das Vorgehen ist umstritten.

Terror-Propaganda im Internet (Symbolbild)
Felix Kästle/ DPA

Terror-Propaganda im Internet (Symbolbild)

Von


Weltweit fordern Politiker ein schärferes Vorgehen gegen terroristische Inhalte im Internet. Die kürzlich vom EU-Parlament abgestimmte geplante EU-Verordnung zu Terrorinhalten im Internet sieht vor, dass Plattformen terroristisches Material zukünftig innerhalb einer Frist von nur einer Stunde löschen müssen, nachdem sie eine Aufforderung durch Europol oder nationale Strafverfolgungsbehörden erhalten haben.

Lösch-Aufforderungen werden allerdings jetzt schon versandt. Das Bundeskriminalamt hat im vergangenen Herbst eine neue Meldestelle für terroristische Inhalte im Netz eingerichtet - und seitdem Tausende von Lösch-Bitten verschickt.

Von Oktober 2018 bis zum März 2019 wurden 5.895 Meldungen an Provider übermittelt, wie aus der Antwort des Innenministeriums auf eine dem SPIEGEL vorliegende, bisher unveröffentlichten Anfrage der Linken-Fraktion hervorgeht.

"Dabei handelt sich um Links zu Propagandaveröffentlichungen (Videos, Audiodateien, Schriftstücke und so weiter) bekannter und in Deutschland als terroristische Vereinigung im Ausland eingestufter Gruppierungen", sagte eine Sprecherin des Bundeskriminalamts auf SPIEGEL-Anfrage.

Es werden nicht nur terroristische Inhalte gemeldet

Die "nationale Meldestelle für die Entfernung von Internetinhalten" des Bundeskriminalamts ist ein Ableger von Europols Meldestelle für Internetinhalte, der EU Internet Referral Unit (EU IRU). Diese bei Europols Terror-Abwehrzentrum ECTC angesiedelte Meldestelle existiert bereits seit 2015 und wurde vom BKA mitentwickelt.

Das Europol-Meldesystem war als Reaktion auf die zunehmenden digitalen Terrorkampagnen insbesondere von Dschihadisten aufgebaut worden. "Da es sich hierbei um ein Problem handelt, das mehrere sprachliche Zielgruppen und Jurisdiktionen umfasst, war eine gemeinsame EU-Reaktion erforderlich, weshalb die EU-IRU im Jahr 2015 eingerichtet wurde", heißt es auf der Webseite der Meldestelle.

Neben terroristischen Inhalten versucht Europol nach eigenen Angaben "auch Internetinhalte, die von Schmugglernetzwerken genutzt werden, um Migranten und Flüchtlinge anzuziehen, aus dem Internet zu entfernen". Das können beispielsweise Anzeigen von Schmugglern sein, die ihre Dienste in sozialen Netzwerken bewerben.

Ob Inhalte gelöscht werden, wird automatisiert geprüft

Zur Verwaltung von Lösch-Meldungen, den sogenannten Referrals, an Plattformen betreibt Europol die "Internet Referral Management Application" (IRMa). Die Datenbank soll eine Übersicht liefern, welche Onlinekonten oder terroristische Inhalte bereits an die Plattformen gemeldet wurden, sodass Lösch-Bitten nicht mehrfach verschickt werden. Sie überprüft auch automatisch, ob an die Plattformen gemeldete Inhalte bereits gelöscht wurden. Das sogenannte Check-the-Web-Portal archiviert als Terrormaterial eingestufte Videos, Bilder und PDF-Dokumente.

Seit dem 1. Januar 2019 ist das Bundeskriminalamt direkt an die IRMa-Anwendung angeschlossen und hat einen Lese- und Schreibzugriff. "Seitdem importiert das BKA Links zu jihadistischer Propaganda in die IRMa und meldet diese an die Online-Serviceprovider, damit diese auf freiwilliger Basis die Vereinbarkeit der verwiesenen Inhalte mit ihren eigenen Geschäftsbedingungen prüfen", so das Innenministerium.

Fast hunderttausend Lösch-Bitten von Europol - ohne juristische Kontrolle

Seit dem Gründungsjahr 2015 bis zum 1. März 2019 wurden über Europols System bereits 96.166 Meldungen an Internetdienstleister verschickt. Sie gingen an 212 Firmen, also nicht mehr nur an die großen Plattformen. Da Europol von Konzernen wie YouTube und Google als sogenannter Trusted Flaggereingestuft ist, werden Inhalte, die von dort als problematisch eingestuft werden, priorisiert und schneller überprüft.

Intransparent ist, wie die Ermittler zu der Bewertung terroristischer Inhalte kommen. Die Meldungen "basieren ausschließlich auf der rechtlichen Einschätzung des BKA", heißt es in der Stellungnahme des Innenministeriums auf die Kleine Anfrage.

"Das ist eine grundrechtswidrige Anmaßung von Kompetenzen, denn eine richterliche Überprüfung dieser Meldungen hat es in keinem Fall gegeben", sagt der europapolitische Sprecher der Linksfraktion im Bundestag, Andrej Hunko, der die Kleine Anfrage initiiert hat, dem SPIEGEL.

Beim Bundeskriminalamt erfolgt die Recherche, die Sicherung dschihadistischer Inhalte im Internet sowie die Übermittlung der Links zu Propagandaveröffentlichungen über die IRMa-Anwendung durch mehrere Islamwissenschaftler und Übersetzer beim Bundeskriminalamt, wie das BKA dem SPIEGEL mitteilte.

"Alle Inhalte, die dschihadistische Gruppierungen im Internet verbreiten (Videos, Audiodateien, Schriftstücke wie zum Beispiel Aufruf zu Anschlägen, Spendensammlung, Rekrutierung, Bombenbauanleitung) gelten als terroristische Online-Inhalte", so das Bundeskriminalamt. "Die Verbreitung solcher Propagandaveröffentlichungen erfolgt durch dschihadistische Foren und Medienstellen, die Links zum Herunterladen dieser Inhalte im Internet verbreiten."

"Das technische Rückgrat für die polizeiliche Internetkontrolle"

Bei der Klassifizierung durch Strafverfolgungsbehörden kann es aber auch zu Fehleinschätzungen kommen, wie die Online-Archivare von Archive.org Anfang April in einem Blogpost berichteten. So erhielten sie über das Europol-System von der französischen nationalen Meldestelle Aufforderungen, 550 Links zu löschen, die fälschlicherweise als terroristische Inhalte eingestuft worden waren. Die Links führten etwa zu Cartoons und Animationen, Berichten der US-Regierung oder Texten über vegane Ernährung.

Die Europol-Meldestelle erklärte den Archive.org-Betreibern später, sie sei "nicht in die Bewertungskriterien für terroristische Inhalte" involviert. Jeder Staat definiert also selbst, welche Inhalte problematisch sind.

"Formal sind die Meldungen zur Entfernung nicht bindend, mit der neuen EU-Verordnung soll sich dies jedoch ändern", warnt Hunko. Mit den Meldesystemen hätten die Behörden "das technische Rückgrat für die polizeiliche Internetkontrolle" bereits errichtet.

Auch der Rechtsexperte Martin Scheinin, der als Professor am European University Institute (EUI) in Florenz lehrt, hatte im Kontext der geplanten EU-Verordnung zur Eindämmung von Internetinhalten dem SPIEGEL gegenüber gewarnt, den Strafverfolgungsbehörden der einzelnen EU-Staaten komme zu viel Macht zu, wenn sie direkt auf Onlinedienstleister in anderen Ländern einwirken können.

"Autoritäre EU-Länder wie zum Beispiel Ungarn könnten aus politischen Gründen unliebsame Inhalte auf Onlineplattformen aus Ländern wie Deutschland löschen lassen", sagte Scheinin. Auch Spanien sei sehr empfindlich beim baskischen Unabhängigkeitsbestreben und bezeichne Unterstützung für baskische Selbstbestimmung schnell als Terrorismus, so Scheinin. "Das ist ein sehr ernstes Problem, gekoppelt mit dem Fehlen effektiver Prozesse, und dem Zeitlimit von nur einer Stunde für das Entfernen gemeldeter Inhalte."

Wäre die Löschfrist von einer Stunde jetzt schon verpflichtend, müssten sie gemeldete Links direkt entfernen und könnten sie erst danach überprüfen, schreiben auch die Archive.org-Betreiber.

In 84 Prozent der Fälle sind die Onlineplattformen den Europol-Bitten bisher nachgekommen, obwohl sie noch nicht dazu verpflichtet sind.

Dem Bundeskriminalamt zufolge liegt die Lösch-Rate bei den über die nationale Meldestelle versandten Lösch-Bitten bei 47,5 Prozent - knapp die Hälfte der Plattformen entfernt also derzeit freiwillig gemeldete Inhalte. "Die Löschung dschihadistischer Inhalte durch die Online-Serviceprovider läuft sehr unterschiedlich und ist nicht einheitlich", so Bundeskriminalamt. "Einige löschen die Inhalte in ein paar Stunden, andere wiederum benötigen teilweise mehrere Tage für die Löschung der übermittelten Links. Zudem gibt es Online-Serviceprovider, die die Löschungsanregungen nicht umsetzen."

Die deutsche Meldestelle des Bundeskriminalamts läuft bisher als Pilotprojekt, das BKA will aber auch beim späteren Regelbetrieb mitmachen: "Eine Beendigung der Nutzung von IRMa ist seitens des BKA nicht avisiert", so das Innenministerium.



insgesamt 9 Beiträge
Alle Kommentare öffnen
Seite 1
hermann_huber 24.04.2019
1. Verwaltungs Gerichtsweg?
Obwohl ich den Grjndideen der Linken in Bereich des Sozialen durchaus zugeneigt bin Frage ich hier mal wieder ob die jemals im realen Betriebsmodus ankommen. mir ist es jedenfalls 100000x lieber das versehentlich ein blöder Facebook oder Yotube Komentar gelöscht wird auf Bitten von BKA und Europol ( den man ja so ganz nebenbei wieder neu reinstellen kann) als dass ein Terror Dreck erst nach langer juristischer Prüfung entfernt werden kann. Kein weiterer Täterschutz bitte in D.
Freidenker10 24.04.2019
2.
Gut so, diesen Leuten muss man auf die Füße treten. Und jede Überprufung richterlich abzusegnen wäre bei dieser Menge abwägig!
Dr. Kilad 24.04.2019
3. Völlig falscher Weg
Mit Unterdrücken von Inhalten, hat noch niemand einen Blumentopf gewonnen (vgl. China). Es macht schon Sinn nach rechtstaatlichen Kriterien zu verfahren. Dass der Terrorismus weniger wird, wenn man entsprechende Inhalte löscht, ist der übliche Weg, den Leute etwas an mehr Sicherheit vorzugauckeln. Überhaupt müsste die Defintion "Terror" objektiv überprüfbar sein. Hieran mangelt es immer noch,
draco2007 24.04.2019
4.
Zitat von Freidenker10Gut so, diesen Leuten muss man auf die Füße treten. Und jede Überprufung richterlich abzusegnen wäre bei dieser Menge abwägig!
Eine nachträgliche richtierliche Prüfung wäre allerdings gut. Behörden ohne Kontrolle sind nie gut...
J.Corey 24.04.2019
5. Lustige Foristen hier!
Die Vorgehensweise ist nicht rechtskonform, das BKA handelt hier also nicht rechtsstaatlich. Erstaunlich, dass sich die Foristen daran nicht stören, faktisch wird hier nämlich willkürliche staatliche Inhaltskontrolle betrieben - und da sollte man schon aufmerksam werden, gerade in Deutschland!
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2019
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.