Neue Warnfunktion im Messenger Facebook will auch verschlüsseltes Cybergrooming erkennen

Wie lässt sich die versuchte Anbahnung sexueller Kontakte zu Minderjährigen in verschlüsselten Chats von außen erkennen? Facebook macht es vor und sendet damit ein Signal auch an US-Politiker.
Foto: Facebook

Facebooks Messenger bekommt ein neues Warnsystem, das Nutzerinnen und Nutzer vor Betrugsversuchen und Cybergrooming schützen soll, also dem versuchten Anbahnen von sexuellen Kontakten zu Minderjährigen durch Erwachsene. Der Clou ist: Es funktioniert - zumindest in der Theorie - auch in den sogenannten geheimen Unterhaltungen, also den Ende-zu-Ende-verschlüsselten Chats, deren Inhalt Facebook nicht sehen kann. Stattdessen wertet ein Algorithmus Metadaten aus, um zu erkennen, ob sich ein Nutzer als jemand anderes ausgibt oder ob ein Erwachsener versucht, fremde Minderjährige zu kontaktieren.

Aus zwei Gründen ist das eine bemerkenswerte Entwicklung: Erstens zeigen schon die Beispiele, die Facebook nennt, wie viele Signale das Unternehmen auswerten kann, ohne eine Nachricht selbst lesen zu können – wie verräterisch also Metadaten sein können. Zweitens kommt die Ankündigung zu einer Zeit, in der US-Unternehmen wie Facebook und Apple mal wieder – oder immer noch – auf Kriegsfuß mit der US-Regierung stehen.

Cryptowar heißt dieser Krieg. Die Regierung, aber auch Kongressangehörige werfen den Unternehmen vor, Ermittlungen gegen Straftäter durch einen verstärkten Einsatz von Verschlüsselung zu sabotieren. Deshalb erwägen sie, die Anbieter zu zwingen, Zugangsmöglichkeiten zu derart geschützter Kommunikation zu schaffen – auf Kosten der generellen Sicherheit aller Nutzerinnen und Nutzer weltweit vor kriminellen Hackern und politischer Verfolgung. Facebooks neues Warnsystem ist da ein Friedenssignal. Es besagt: Wir können Straftaten erkennen, ohne unsere Verschlüsselung aufzuweichen.

  • In der Mitteilung von Facebook  heißt es, man analysiere mit Hilfe von maschinellem Lernen "Verhaltenssignale", zum Beispiel wenn ein Erwachsener sehr vielen unter 18-Jährigen Freundschaftsfragen oder Nachrichten schickt.

  • Für Facebook ist auch das, was fehlt, ein Metadatum: Mangelnde Verbindungen im "social graph" zweier Nutzer etwa werden "Wired" zufolge  als Hinweis gewertet, dass jemand versucht, Kontakt zu einer fremden Person aufzunehmen. Der "social graph" ist die Abbildung eines Beziehungsgeflechts, aus dem ersichtlich wird, ob und über wie viele gemeinsame Bekannte sich zwei Nutzer kennen könnten. Falls jemand den Namen und das Foto einer Person verwendet, um sich als diese Person auszugeben, erkennt der Algorithmus immer noch die fehlende Verbindung.

  • Auch ob jemand schon einmal geblockt oder gemeldet wurde, kann bei der Bewertung, ob ein verdächtiger Kontaktversuch stattfindet, eine Rolle spielen.

In solchen Fällen bekommen Nutzerinnen und Nutzer eine Warnmeldung im Messenger angezeigt. Zum Beispiel fragt Facebook, ob sie die Person, die eine Kontaktaufnahme wünscht, kennen. Wer "Nein" antippt, kann die Person blocken, ohne dass die davon erfährt. Gibt sich jemand als Bekannter aus, stellt Facebook die beiden auf den ersten Blick gleich aussehenden Profile nebeneinander und weist darauf hin, dass man im Begriff ist, mit jemandem zu chatten, der Namen und Foto eines tatsächlich schon bestehenden Kontakts kopiert hat.

Nicht alle Metadaten-Tricks will Facebook erklären. Schließlich sollen potenzielle Täter keine Hinweise bekommen, wie sie das automatisierte System überlisten könnten. Was im Umkehrschluss heißt: Es gibt noch mehr Metadaten, die Facebook etwas über die Absicht eines Senders verraten können, ohne den Inhalt einer Nachricht zu kennen.

Seit März haben manche Android-Nutzerinnen und -Nutzer die Funktion bereits im Messenger zur Verfügung, ab der kommenden Woche wird sie auch auf iOS ausgerollt.

Ein Gesetz, das Hintertüren vorsieht

Laut Facebook sei die Funktion schon lange in der Entwicklung, weil künftig alle Chats im Messenger standardmäßig Ende-zu-Ende-verschlüsselt sein sollen – so wie es bei WhatsApp längst der Fall ist.

Das Timing ist trotzdem gut für Facebook und die ganze Tech-Branche im Silicon Valley: Erst vor wenigen Tagen hatten US-Justizminister William Barr und FBI-Direktor Christopher Wray mit deutlichen Worten Apple kritisiert, weil der Hersteller sich geweigert hatte, das iPhone eines Terroristen zu knacken, der auf der Militärbasis Pensacola im US-Bundesstaat Florida drei Menschen erschossen hatte.

Und im März hatten mehrere US-Senatoren einen Gesetzentwurf namens EARN IT Act eingebracht , der Facebook, Apple und andere letztlich zwingen könnte, Hintertüren für Ermittler zu entwickeln, wenn sie dokumentierten Kindesmissbrauch auf ihren Plattformen aufgrund von wirksamer Verschlüsselung nicht verhindern können.

Die neue Messenger-Funktion ist in dieser Hinsicht kein Allheilmittel. Wie der ehemalige Sicherheitschef von Facebook, Alex Stamos, auf Twitter schrieb , gibt es zwei Kategorien, wie verschlüsselte Kanäle von Sexualstraftätern missbraucht werden: in Anwesenheit der Opfer, und in deren Abwesenheit. Letzteres meint den Austausch von existierenden Fotos oder Videos von missbrauchten Kindern. Aber zumindest die erste Kategorie erschwert Facebook nun.

Der Messenger ist laut Bundesnetzagentur  der zweitbeliebteste Kommunikationsdienst in Deutschland, hinter WhatsApp und vor Instagram. Alle drei gehören zu Facebook.

Die Wiedergabe wurde unterbrochen.