Facebooks schwarze Liste: Wie das Netzwerk potenzielle Angreifer im Blick behält

Mit einer internen "Lookout Liste" beobachtet Facebook Nutzer, aber auch Ex-Mitarbeiter, die zur Gefahr für den Konzern werden könnten. Offenbar werden dabei auch Menschen erfasst, die sich nur über das Netzwerk aufregen.

Facebook CEO Mark Zuckerberg

Foto: Marcio Jose Sanchez/AP

Facebook sucht sein soziales Netzwerk automatisiert nach bedrohlichen Kommentaren ab - so entdeckt der Konzern auch Drohungen, die gegen das Unternehmen selbst gerichtet sind. Wie der Sender "CNBC" berichtet , erfasst der Konzern mögliche Angreifer in einer schwarzen Liste, um sie im Blick zu behalten. Teilweise verfolgt das Unternehmen demnach mit seinen Tools auch den Standort von Personen zurück, wenn eine akute Gefahr von ihnen ausgehen könnte.

So habe der Konzern etwa nach einer Drohung eines Nutzers gegen eine europäische Facebook-Niederlassung im vergangenen Jahr dessen Aufenthaltsort identifiziert und die Information an Ermittler weitergegeben. Auch die Wachmänner des lokalen Büros wurden informiert.

Als problematisch erachtete Personen erfasst das Unternehmen auf der wöchentlich aktualisierten "be on lookout" oder "BOLO" Liste, die seit 2008 existiert und heute Hunderte von Einträgen enthält. Facebook alarmiert sein Sicherheitsteam laut "CNBC" jedes Mal, wenn eine neue Person in die Liste aufgenommen wird, und verschickt eine Art Steckbrief mit persönlichen Informationen wie Namen, Fotos, dem allgemeinen Standort sowie einer kurzen Beschreibung, warum jemand hinzugefügt wurde. In der Vergangenheit wurden die Fotos der Personen dem Sicherheitsteam auch auf einem Bildschirm angezeigt.

Beleidigungen als Sicherheitsrisiko

Aussagen früherer Facebook-Mitarbeiter zufolge werden auf der schwarzen Liste Personen erfasst, die etwa "unangemessen" kommunizieren oder Drohungen aussprechen. Ähnliche Listen sind "CNBC" zufolge zwar auch bei anderen Unternehmen üblich - allerdings reicht es bei Facebook offenbar mitunter schon, etwa den Facebook-Chef Mark Zuckerberg zu beschimpfen, um auf die Liste zu geraten.

Ein früherer Facebook-Mitarbeiter sagte dem Sender, Aussagen wie "F* you, Mark", "F* Facebook" or "I'm gonna go kick your a*" könnten bereits Auslöser sein. Richtlinien für die Erfassung würden einem Ex-Mitarbeiter zufolge nicht existieren: Wer auf die schwarze Liste komme, liege im Ermessensspielraum des Sicherheitsteams und werde von Fall zu Fall entschieden. Ein Facebook-Sprecher dementierte dies gegenüber "CNBC". Facebook setze zudem "branchenübliche Maßnahmen" ein, "um glaubwürdige Gewaltdrohungen gegen unsere Mitarbeiter und unser Unternehmen zu bewerten und anzugehen".

Auch Ex-Mitarbeiter werden erfasst

Auch ehemalige Mitarbeiter und Projektmitarbeiter werden teils in der "BOLO"-Datenbank erfasst, wenn sie etwa entlassen werden. Offensichtlich traf die Maßnahme auch Ex-Angestellte, die erneut zu Vorstellungsgesprächen eingeladen wurden - und dann aufgrund ihrer Erfassung auf der Liste vom Sicherheitsteam gestoppt wurden.

Ganz aus der Luft gegriffen ist die Angst vor Bedrohungen nicht: Im vergangenen Jahr war etwa eine YouTuberin in die Firmenzentrale von YouTube eingedrungen und hatte auf Mitarbeiter geschossen. Auch die Büros von Instagram- und Facebook-Mitarbeitern mussten 2018 nach einer Bombendrohung geräumt werden .

sop