Facebook: Algorithmus sucht nach Sexualstraftätern

Hamburg - Es ist einer dieser Grenzbereiche, in denen es schwer fällt, zwischen falsch und richtig, gut oder schlecht zu entscheiden. Facebook, das wurde Ende vergangener Woche bekannt, überwacht gezielt die privaten Chats seiner Nutzer. Und zwar, um mögliche Anbahnungen sexuellen Missbrauchs Minderjähriger schon im Vorfeld zu erkennen und gegebenenfalls die Behörden einzuschalten. Ist das nun unzulässige, beunruhigende Überwachung durch die Facebook-Polizei? Oder die völlig gerechtfertigte Sicherheitsmaßnahme eines Unternehmens, das sich um das Wohlbefinden seiner minderjährigen Nutzer sorgt?

Facebook betont, dass das Chat-Mitlesen zunächst nicht von Menschen, sondern von Maschinen erledigt wird: "Wir wollten nie eine Umgebung schaffen, in der Angestellte private Kommunikation beobachten, deshalb ist es uns sehr wichtig, Technologie zu benutzen, die selten falschen Alarm auslöst", erklärte Joe Sullivan, Facebooks Sicherheitschef, der Nachrichtenagentur Reuters.

Der Algorithmus, der die Chats kontrolliert, bezieht dabei Reuters zufolge auch Informationen wie die Intensität der digital katalogisierten Beziehung zwischen den Kommunikationspartnern mit ein. Außerdem werden wohl die Altersangaben der Chat-Teilnehmer berücksichtigt, und die Software sucht nach verdächtigen Schlüsselwörtern und Textpassagen.

Lob von den Strafverfolgern

Zur Illustration der wohltätigen Effekte der Chat-Überwachung konnte Sullivan einen konkreten Fall präsentieren: Im US-Staat Florida hatte ein Mann Anfang 30 mit einer 13-Jährigen via Facebook Kontakt aufgenommen, mit ihr über Sex gechattet und versucht, sich mit ihr zu verabreden. Facebooks automatische Systeme schlugen an, Angestellte des Unternehmens sahen sich die Chatprotokolle an und verständigten die Polizei. Der Mann wurde verhaftet, sein Computer beschlagnahmt. Ein Vertreter der Strafverfolgungsbehörden lobte Facebook anschließend: "Die Art und Weise und die Geschwindigkeit, mit der sie uns kontaktierten, versetzte uns in die Lage, so schnell wie möglich zu reagieren."

Die Tatsache, dass Facebook die Kommunikation auf der Plattform permanent überwacht, ist übrigens lange bekannt. Sogar Details über die Moderationsrichtlinien drangen vor einiger Zeit an die Öffentlichkeit. Und auch andere Betreiber von Kommunikationsplattformen räumen sich in ihren Geschäftsbedingungen in der Regel das Recht ein, bei Bedarf in die Kommunikation ihrer Nutzer hineinzulauschen, etwa die Konsolen-Netzwerke von Microsoft (Xbox 360) und Sony (Playstation 3). Es könnte ja sein, dass ein Strafverfolger sich einmal dafür interessiert, worüber da gesprochen wird.