Überwachung So schnell wird man terrorverdächtig

Geheimdienste sollen mit bestimmten Suchbegriffen Kommunikation scannen, um Terroristen aufzuspüren. Ein Schweizer hat sich damit im Selbstversuch überwacht - prompt erschienen seine Freundin und er selbst höchst verdächtig.

Von Daniel Moßbrucker

Hernani Marques: "In Verdacht geraten, politische Extremisten zu sein"

Hernani Marques: "In Verdacht geraten, politische Extremisten zu sein"


Er ist politisch aktiv, aber sicher kein Extremist: Hernani Marques, 30, studiert in Zürich Computerlinguistik und engagiert sich gegen Massenüberwachung. Mit einem Selbstversuch will er jetzt zeigen, wie leicht Menschen wie er zum Terrorverdächtigen werden können, wenn man ihr Kommunikationsverhalten analysiert.

Für sein Experiment gibt es einen aktuellen Anlass: Die Schweizer haben dieses Jahr ein neues Nachrichtendienstgesetz bekommen, gegen das ein Referendum läuft. Tritt es in Kraft, darf der Geheimdienst die Kommunikation der Bürger pauschal nach verdächtigem Inhalt filtern. Ähnliche Wünsche äußerten nach den Anschlägen von Paris zuletzt auch Innenpolitiker der Union.

Chancen und Gefahren solch massenhafter Kommunikationsanalysen untersuchte Marques nun für seine Masterarbeit. Er ließ sich und seine Freundin zehn Tage lang komplett beim Surfen überwachen, alles wurde protokolliert: "Ich wollte wissen, ob wir durch unser normales Verhalten in Verdacht geraten könnten, politische Extremisten zu sein."

Wie kommuniziert ein Terrorist?

Computerlinguisten untersuchen, wie menschliche Sprache automatisch analysiert werden kann. Provider zum Beispiel filtern so E-Mails, um Spam zu finden. Geheimdienste nutzen computerlinguistische Methoden, um nach Verdächtigen zu suchen.

Knackpunkt ist immer die Festlegung, was typisch für sogenannte Gefährder ist - und dafür braucht man sogenannte Selektoren. Das können IP- oder E-Mail-Adressen sein, aber eben auch Wörter, mit denen Kommunikation gefiltert wird. So sollen gewaltbereite Rechtsradikale oder Terroristen frühzeitig aufgespürt werden.

Marques wählte für den Versuch als Gefährder den Revolutionären Aufbau Schweiz (RAS), eine antikapitalistische Organisation, sowie die nationalistische Partei PNOS. Beide Organisationen werden vom Schweizer Geheimdienst überwacht.

Dann bildete Marques automatisiert 140 Selektoren: Wortreihen mit bis zu zehn Wörtern, deren Gebrauch typisch ist für RAS- oder PNOS-Anhänger. Ein Beispiel für einen Selektoren des RAS: "solidarität prozess gefangenen politischen revolutionären andi schweiz marco". Ein PNOS-Selektor: "pnos partei kanton bern lüthard august rütli stoppen langenthal medien".

Weil Selektoren Geheimsache sind, musste Marques sie selbst herleiten. Er sammelte Hinweise zum Vorgehen in Snowden-Dokumenten und Unterlagen zum deutschen NSA-Untersuchungsausschuss. Es folgten zehn Tage Totalüberwachung und die Frage: "Machen uns die besuchten Webseiten verdächtig, Extremisten zu sein?"

Die Illusion vom perfekten Algorithmus

Der Befund ist ernüchternd. "Von 700 übermittelten Inhalten wurden 232 als verdächtig angezeigt", sagt Marques. In diesen Fällen haben die Selektoren Alarm geschlagen, weil sich Marques oder seine Freundin angeblich extremistische Inhalte angesehen haben. Es waren aber in der Regel bloß harmlose Presseartikel oder wissenschaftliche Texte zu anderen Themen - zum Beispiel auch ein soziologischer Aufsatz (PDF), den Marques selbst einmal verfasst und nun wieder aufgerufen hatte.

Den wahren Extremismus-Faktor aller Inhalte haben die beiden bei einer anschließenden Begutachtung unabhängig voneinander überprüft. "Es kommen, wenn überhaupt, zwei Texte in Frage, extremistisch zu sein", sagt Marques. In der Realität wäre er als potenzieller Gefährder also mehrfach in den Fokus der Überwachung geraten, weil sich ein Geheimdienstmitarbeiter persönlich angesehen hätte, auf welche vermeintlich extremistischen Inhalte er zugegriffen hat.

"Restrisiko nicht auszuschließen"

Zwar dürften Geheimdienste mit ihren professionellen Analysemethoden bessere Trefferquoten erzielen als ein Schweizer Student im Selbstversuch - dennoch verdeutlicht Marques' Experiment ein Grundproblem automatisierter Massenanalyse.

Die Forschung mache zwar "große Fortschritte bei solchen Textklassifikationen", sagt Joachim Scharloth, Professor für Angewandte Linguistik an der TU Dresden. "Ein Restrisiko ist bei solchen Verfahren aber natürlich nie auszuschließen."

Was Marques simuliert hat, ist längst Realität. Schon 2001 bestätigte das Europäische Parlament die Existenz des Echelon-Programms, mit denen ausländische Geheimdienste unter Führung der NSA europäische Kommunikation zur Wirtschaftsspionage ausgewertet hatten. Weitaus bekannter ist XKeyscore geworden: Ein Instrument der NSA, mit denen Geheimdienstler gespeicherte Kommunikation systematisch durchforsten. Der Präsident des Bundesamts für Verfassungsschutz Hans-Georg Maaßen bestätigte 2013, dass sein Amt XKeyscore zu Testzwecken nutze. "So etwas ist keine harmlose Stichwortsuche mehr, sondern eine massenhafte Auswertung von Inhalten", sagt Sprachforscher Scharloth. Der gesellschaftliche Schaden sei enorm, weil wir immer stärker überlegten, wie wir miteinander kommunizieren.

"Automatisierte Verfahren nicht von vornherein ausschließen"

"Es ist bekannt, dass ein Großteil der Radikalisierung ebenso wie der Planung von Attentaten mittlerweile über verschiedenste Kanäle über das Internet stattfindet", sagt CSU-Politiker Stephan Mayer, der innenpolitische Sprecher der Unionsfraktion. Unsere Sicherheitsbehörden müssen in der Lage sein, diese Kommunikation erfassen zu können", Automatisierte Verfahren seien dabei "nicht von vornherein ausgeschlossen", sie könnten schließlich "eine effektive Methode darstellen, um zielgerichtete weitere Maßnahmen einzuleiten", so Mayer. Natürlich müsse "die nicht relevante Kommunikation unverzüglich und spurenlos wieder aussortiert" werden.

Das kleine Schweizer Experiment zeigt allerdings, wie schnell eine automatisierte Analyse zur Massenüberwachung werden kann. Ob der BND mit seinen Selektoren besser fährt? Sind Massenanalysen mit Selektoren überhaupt geeignet, um Terroristen zu entdecken?

Für Hernani Marques, der naturgemäß viel von computerlinguistischen Methoden hält, ist die Frage mit seinem Experiment geklärt: "Die Technologie birgt unglaubliches Potenzial, aber wir können sie nicht ohne eine Ethik einsetzen. Damit Kommunikation der Bürger zu analysieren, führt zu Massenüberwachung."

Wann wird Analyse zur Überwachung?
Das Bundesverfassungsgericht hat 1999 geregelt, dass nicht jede Analyse von Internetdaten sofort eine Überwachung ist. Zwar wird das Grundrecht auf geschützte Kommunikation schon angegriffen, wenn Computer automatisch Emails, Chats und Webseiten nach verdächtigem Inhalt durchkämmen. Das sei im Falle des Bundesnachrichtendienstes aber vertretbar, weil er sicherheits- und außenpolitisch relevante Informationen sammle, so die Richter. Die Überwachung findet rechtlich erst statt, wenn die vorgefilterten Daten ausgewertet und Informationen über Personen weitergegeben werden. "Die Frage ist, wann die Auswertung beginnt. Geheimdienste werden immer sagen, dass die nur ein Mensch vornehmen kann. Tatsächlich ist die Technologie heute aber so weit, dass die inhaltliche Auswertung auch durch Algorithmen vorgenommen werden kann", sagt Sprachforscher Joachim Scharloth von der TU Dresden. "Die Dienste lesen nicht unsere Emails und wissen trotzdem, was drinsteht."
Was dürfen deutsche Geheimdienste massenhaft analysieren?
Über genaue Praktiken schweigen deutsche Sicherheitsbehörden. Es ist aber bekannt, dass das Bundesamt für Verfassungsschutz XKeyscore der NSA getestet hat, eine Software, mit der man gewaltige Datenmengen nach Selektoren durchsuchen kann. Der Bundesnachrichtendienst darf laut G 10-Gesetz bis zu 20 Prozent der Übertragungskapazität internationaler Kommunikation nach Begriffen filtern, um beispielsweise Terroranschläge in Deutschland verhindern zu können.
Wie wichtig sind solche Analysen für die Sicherheitsbehörden?
Das wissen nur die Behörden selbst und kommunizieren es nicht. Das Bundesamt für Verfassungsschutz lehnte mit Verweis auf die Geheimhaltungspflichten jeglichen Kommentar zu computerlinguistischen Methoden ab. Praktiken werden meistens nur bekannt, wenn etwas gehörig schief läuft - wie im Fall von Andrej Holm. Der Soziologe wurde 2011 verhaftet, weil er Mitglied der "militanten gruppe (mg)" gewesen sein soll. Laut seiner Verteidigung wurde das Bundeskriminalamt auf ihn aufmerksam, weil Holm in seinen Büchern über Themen wie "Gentrification" und "Prekarisierung" schreibt. Solche Wörter nutzte auch die "mg" in ihren Bekennerschreiben.

Forum - Diskussion über diesen Artikel
insgesamt 55 Beiträge
Alle Kommentare öffnen
Seite 1
RudiRastlos2 13.12.2015
1.
Ich werde aus der Geschichte nicht schlau... Was soll das Fazit sein? Wer sich verdächtig verhält wird überwacht? Kein sonderlich innovatives Fazit. Wenn ich mit Sturmhaube vor dem örtlichen Juwelier rumlaufe, wird irgendwann auch die Polizei aufkreuzen und mich nach meinen Personalien fragen...
nic 13.12.2015
2.
Weiß nicht, warum immer davon ausgegangen wird, dass die Überwachung nur dem Terrorismus gilt. Das "Experiment" zeigt doch klar, dass es darum geht alles zu überwachen.
kascnik 13.12.2015
3. Schlau?
Zitat von RudiRastlos2Ich werde aus der Geschichte nicht schlau... Was soll das Fazit sein? Wer sich verdächtig verhält wird überwacht? Kein sonderlich innovatives Fazit. Wenn ich mit Sturmhaube vor dem örtlichen Juwelier rumlaufe, wird irgendwann auch die Polizei aufkreuzen und mich nach meinen Personalien fragen...
Wenig schlau ist nur Ihr Kommentar. Manche denken halt sie kennen ein Buch nach lesen der Inhaltsangabe auf demBuchrücken. Es geht gerade darum, dass man auch ohne verdächtiges Verhalten zum Verächtigen werden kann. Ihr abstruses Sturmhaubenbeispiel ist ein absolut leeres Argument, umsich selbt zirkulierend aber das ist bei den "ich hab nichts zu verbergen Anhängern" nichts neues.
kommentator911 13.12.2015
4. So aussagekräftig wie Krakenorakel...
Schon so etwas relativ triviales wie Spamerkennung funktioniert unglaublich schlecht und da ich glaube, dass bei Google fähigere Köpfe als bei den Geheimdiensten sitzen, dürfte die "positive" Quote bei wenigen Prozent, die "false positive" Quote dagegen extrem hoch liegen.
Melange 13.12.2015
5. zur Nachahmung empfohlen
Würden alle Bürger derartige Links und Floskeln öfters in ihre Emails einbetten wären die Schnüffler derart überfordert dass sie aufgeben müssten. Man stelle sich vor 80 Millionen Deutsche müssten überprüft werden. Warum nicht die nächste Männerrunde in der Kneipe als konspiratives Treffen titulieren und sich dann über den Schnüffler von Verfassungsschutz am Nebentisch lustig machen und ihnen ein Bier spendieren?
Alle Kommentare öffnen
Seite 1
Diskussion geschlossen - lesen Sie die Beiträge! zum Forum...

© SPIEGEL ONLINE 2015
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.