Soziales Netzwerk Mitarbeiter zweifeln an Facebooks Methoden im Kampf gegen Hetze

Mit strikten Leitfäden will Facebook seine Löschteams auf Hass, Hetze und Fake-News vorbereiten. Doch laut einem Medienbericht betrachten viele die Aufgabe, die weltweite Flut an Beiträgen zu moderieren, als unlösbar.

Facebook-Logos unter der Lupe
REUTERS

Facebook-Logos unter der Lupe


Erschöpfte Mitarbeiter in den Löschteams und frustrierte Moderatoren: Ein Bericht des US-Magazins "Motherboard" zeichnet ein düsteres Bild vom Kampf des sozialen Netzwerks Facebook gegen Hass, Hetze und Falschnachrichten. Demnach sehen Mitarbeiter des Konzerns, die anonym bleiben wollen, kaum eine Chance, die Flut an beleidigenden und hetzerischen Beiträge angemessen zu moderieren.

Die "Motherboard"-Autoren haben mehrere Monate damit verbracht, interne Dokumente auszuwerten und mit Mitarbeitern der Löschteams sowie hochrangigen Managern und externen Experten zu sprechen. Das Fazit: Das Unternehmen investiert viel in den Versuch, Probleme in gewaltigen Größenordnungen zu lösen. Dennoch führen die Moderatoren bei Facebook einen nahezu aussichtslosen Kampf gegen eine enorme Masse an Beiträgen. "Wenn die Mission weiterhin sein soll 'alle' zu verbinden, dann wird Facebook niemals das Problem lösen, seinen Inhalt zu moderieren", heißt es in dem Bericht.

Die zwei Milliarden Mitglieder des sozialen Netzwerks verfassen demnach mehr als zehn Millionen potenziell regelwidrige Statusmeldungen pro Woche, die überprüft werden müssen - und das in mehr 100 Sprachen.

Neben der Menge kommt hinzu, dass es extrem komplex sei, einheitliche Vorgaben für die weltweit eingesetzten Löschteams zu entwerfen. Selbst mit Diagrammen, an denen sich die Moderatoren mit Ja-und-Nein-Antworten durchhangeln können, bleiben laut dem Bericht häufig viele Fragen offen. Es gibt demnach etliche Grenzfälle, die sich nicht mit einem Leitfaden lösen lassen.

"Extrem schwierig, all das in einem Leitfaden schriftlich festzuhalten"

So sei es beispielsweise erlaubt, einen Staat mit ausschließlich weißen Bürgern zu fordern, während es verboten sei zu schreiben: "Ich bin ein Rassist." Auch die #MeToo-Debatte stelle die Moderatoren immer wieder vor ein Dilemma. Denn einerseits sei es wichtig, das Thema öffentlich zu diskutieren, andererseits dürfen laut den Richtlinien keine Menschen in Beiträgen diskreditiert werden. Ein anonymer Facebook-Moderator wird von "Motherboard" zitiert mit den Worten: "Es ist extrem schwierig oder unmöglich, all das in einem Leitfaden schriftlich festzuhalten."

Auch länderspezifische Gesetze und kulturelle Unterschiede erschweren den Job. So lässt es Facebook etwa in den USA zu, den Holocaust zu leugnen, während diese Aussage in Deutschland und acht weiteren Ländern gesetzlich verboten ist. Die Mitarbeiter können sich in solchen Fällen dafür entscheiden, Inhalte lokal auszublenden. Internen Dokumenten zufolge wird dafür zunächst geprüft, ob Facebook ein Gesetz brechen oder in einem Land womöglich komplett abgeschaltet werden könnte.

Software helfe Facebook zwar dabei, Fake-Profile und verbotene Inhalte wie Pornobilder und Gewaltfotos mit einer Trefferquote von fast 100 Prozent herauszufiltern. Doch schriftliche Beiträge würden dem Netzwerk große Probleme bereiten - vor allem, wenn es sich nicht um englische Begriffe handle. Lediglich 38 Prozent der verbotenen Aussagen werden demnach von Software herausgefiltert.

Die Größe seines Netzwerks wolle Facebook natürlich nicht aufgeben, heißt es im Artikel. Deshalb gleiche die Arbeit der Moderatoren einer Sisyphos-Aufgabe: "Den Schaden zu reparieren, der erst durch Facebooks Weltsicht und Geschäftsmodell möglich wurde, ohne etwas an der Weltsicht oder dem Geschäftsmodell zu ändern".

jbr



insgesamt 17 Beiträge
Alle Kommentare öffnen
Seite 1
saiber 24.08.2018
1. Einzige Lösung ist doch nur Selbstzensur
Seit Donald Trump und Brexit wissen wir was Falschnachrichten, Hetze und Lügen im Netz anrichten können. Menschen werden irre geführt, beeinflusst und ihr Verhalten manipuliert. Es liegt doch auf der Hand warum es soviel Hetze und Falschnachrichten im Netz gibt. Unter dem Deckmantel der Anonymität, schreiben viele Dinge, die sie nie in der Öffentlichkeit von sich geben würden. Auch haben Anonyme keine Skrupel davor Falsche Darstellungen oder Lügen zu verbreiten. Angst davor erkannt zu werden haben sie nicht. Hetze, Aufrufe zur Gewalt und Mobbing kommen meist von feigen Menschen, die sich sicher davor fühlen erkannt zu werden. Was soll denn schon passieren? 2 Milliarden Menschen sollen Facebook benutzen. Dazu kommen Twitter und andere Sozialmedien. Bei vielen muss man sich gar nicht mit richtigen Namen anmelden. Eine E-mail Adresse genügt. Und wenn ein Konto nicht genügt, registriert man einfach mehrere Avatare um eine Mehrheit bei Diskussionen zu produzieren. Werden sie aber das zukünftig müssen, ihren richtigen Namen anzugeben, indem die Sozialmedien sie dazu zwingen mit ihren echten Namen, Adresse und Telefon Nummer (Vielleicht auch Ausweisnummer) anzumelden um an Diskussionen teilzunehmen, dann werden die Hetze, Lügen und Falschnachrichten sichtlich weniger werden wenn gar größtenteils verschwinden. Trolle werden sich erst gar nicht anmelden. Organisationen, die "5Cents" Schreiber engagieren werden die Möglichkeiten genommen Aktiv zu werden. Und der einzelne Diskussionsteilnehmer, achtet auch mehr darauf was er schreibt, meint und sagt. Seien wir mal ehrlich. Sozialmedien sind schon längst zur Waffe der Meinungsmache geworden. Man kann Regierungen stürzen, Kriege und auch Katastrophen auslösen mit nur einpaar falschen Nachrichten, die dann millionenfach geteilt werden. Solche gefährlichen Werkzeuge müssen staatlich reguliert und kontrolliert werden. Da kommen wir nicht drum herum.
adamk 24.08.2018
2. Geschlossen Gruppen
Das Einzige was auf Facebook noch Sinn macht sind die geschlossene, moderierte Gruppen, die mehr oder weniger die früheren, weltweiten Newsgroups ersetzt haben. Der ganze "Hast du schon gesehen?"-Mist im Stream ist doch so was von irrelevant. Eine Schwarz-Weiß- und Gut-Böse-Blase für einfache Geister. - Könnte von mir aus komplett weg.
lightningx1 24.08.2018
3. Ich muss echt lachen
Sorry, dass sind doch in Teilen Märchen von FB die hier verbreitet werden. Es gibt zu genüge antisemitische Beiträge auf FB, die nicht geahndet werden weil sie nicht gegen die Gemeinschaftsregeln dort verstoßen. So lautet die Antwort vom Team dort. Es geht hier auch nicht um Kritik an der Administration Israels. Es geht um puren Hass. Das gleiche gilt für homophobe oder auch xenophobe Beiträge. Eher wird man für das posten eines Rucksackes gesperrt, weil dieser über sexuelle Inhalte verfügt (Kein Witz) Man muss sich nur auf den richtigen Seiten umschauen, ob Sputnik oder RT wer dort die Diskussionen verfolgt, der lernt eine neue Umgangssprache. Und wer sich dann so die FB Seiten, der Kommentarverfasser so anschaut, der wird sehr schnell darüber aufgeklärt, dass Facebook ein rechtsfreier Raum ist. Man wird bedroht, man wird beleidigt, die Familie wird durch den Dreck gezogen und Beschwerden werden abgeschmettert. Fakeaccounts nehmen eher zu. Das Unternehmen hier in Deutschland, was für die Prüfung und Löschung von Beitragen und Fakeaccounts zuständig ist, glänzt durch Arbeitsverweigerung. So ist ein nachweislicher Holocaust Leugner und Antisemit weiter seinen Schmutz am verbreiten, obwohl es hier verboten ist. Postings mit Hakenkreuzen interessiert niemanden, auch glaubhafte Drohungen kein Thema dort. Das die Polizei und Staatsanwaltschaft gegen Windmühlen dort kämpft, nichts neues. Die Wahrscheinlichkeit einen Sechser im Lotto zu gewinnen, ist jedenfalls höher, als das Facebook mit der Justiz zusammenarbeitet. Verzögern, Verschleppen, Verweigern. Das ist die Politik um die es bei Facebook geht. Zahlreiche Fakeaccounts. Die St.Petersburger Trollfabrik etc, ist Facebook wohl lieber als echte Accounts. Wer sich in politische Diskussionen einlässt, sollte jedenfalls ein richtig dickes Fell anschaffen. Wer solche Auseinandersetzungen verfolgt, der fragt sich wirklich wo er denn ist. Je höher die Boshaftigkeit umso geringer die Wahrscheinlichkeit, dass so etwas gelöscht oder gesperrt wird. Das Zuckerberg durch sein Verhalten und seine Äußerungen jedenfalls rote Linien überschritten hat, wird ihm irgendwann auf die Füße fallen.
florianusa 24.08.2018
4.
Zitat von saiberSeit Donald Trump und Brexit wissen wir was Falschnachrichten, Hetze und Lügen im Netz anrichten können. Menschen werden irre geführt, beeinflusst und ihr Verhalten manipuliert. Es liegt doch auf der Hand warum es soviel Hetze und Falschnachrichten im Netz gibt. Unter dem Deckmantel der Anonymität, schreiben viele Dinge, die sie nie in der Öffentlichkeit von sich geben würden. Auch haben Anonyme keine Skrupel davor Falsche Darstellungen oder Lügen zu verbreiten. Angst davor erkannt zu werden haben sie nicht. Hetze, Aufrufe zur Gewalt und Mobbing kommen meist von feigen Menschen, die sich sicher davor fühlen erkannt zu werden. Was soll denn schon passieren? 2 Milliarden Menschen sollen Facebook benutzen. Dazu kommen Twitter und andere Sozialmedien. Bei vielen muss man sich gar nicht mit richtigen Namen anmelden. Eine E-mail Adresse genügt. Und wenn ein Konto nicht genügt, registriert man einfach mehrere Avatare um eine Mehrheit bei Diskussionen zu produzieren. Werden sie aber das zukünftig müssen, ihren richtigen Namen anzugeben, indem die Sozialmedien sie dazu zwingen mit ihren echten Namen, Adresse und Telefon Nummer (Vielleicht auch Ausweisnummer) anzumelden um an Diskussionen teilzunehmen, dann werden die Hetze, Lügen und Falschnachrichten sichtlich weniger werden wenn gar größtenteils verschwinden. Trolle werden sich erst gar nicht anmelden. Organisationen, die "5Cents" Schreiber engagieren werden die Möglichkeiten genommen Aktiv zu werden. Und der einzelne Diskussionsteilnehmer, achtet auch mehr darauf was er schreibt, meint und sagt. Seien wir mal ehrlich. Sozialmedien sind schon längst zur Waffe der Meinungsmache geworden. Man kann Regierungen stürzen, Kriege und auch Katastrophen auslösen mit nur einpaar falschen Nachrichten, die dann millionenfach geteilt werden. Solche gefährlichen Werkzeuge müssen staatlich reguliert und kontrolliert werden. Da kommen wir nicht drum herum.
Ihnen ist aber schon klar, dass die "Gulf of Tonkin" Meldung, die als Rechtfertigung fuer militaerischen Einsatz in Vietnam diente, nicht aus Twitter oder Facebook kam, sondern von den klassischen Medien? Oder die Geschichte von den angeblichen Massenvernichtungswaffen im Irak, die uns von der NY Times erzaehlt wurde? Wieso sollten wir annehmen, dass nur alternative Medien "Fake News" verbreiten? Wo ist denn der Krieg, in den uns Facebook und Twitter gestuerzt haben?
florianusa 24.08.2018
5.
Zitat von lightningx1Sorry, dass sind doch in Teilen Märchen von FB die hier verbreitet werden. Es gibt zu genüge antisemitische Beiträge auf FB, die nicht geahndet werden weil sie nicht gegen die Gemeinschaftsregeln dort verstoßen. So lautet die Antwort vom Team dort. Es geht hier auch nicht um Kritik an der Administration Israels. Es geht um puren Hass. Das gleiche gilt für homophobe oder auch xenophobe Beiträge. Eher wird man für das posten eines Rucksackes gesperrt, weil dieser über sexuelle Inhalte verfügt (Kein Witz) Man muss sich nur auf den richtigen Seiten umschauen, ob Sputnik oder RT wer dort die Diskussionen verfolgt, der lernt eine neue Umgangssprache. Und wer sich dann so die FB Seiten, der Kommentarverfasser so anschaut, der wird sehr schnell darüber aufgeklärt, dass Facebook ein rechtsfreier Raum ist. Man wird bedroht, man wird beleidigt, die Familie wird durch den Dreck gezogen und Beschwerden werden abgeschmettert. Fakeaccounts nehmen eher zu. Das Unternehmen hier in Deutschland, was für die Prüfung und Löschung von Beitragen und Fakeaccounts zuständig ist, glänzt durch Arbeitsverweigerung. So ist ein nachweislicher Holocaust Leugner und Antisemit weiter seinen Schmutz am verbreiten, obwohl es hier verboten ist. Postings mit Hakenkreuzen interessiert niemanden, auch glaubhafte Drohungen kein Thema dort. Das die Polizei und Staatsanwaltschaft gegen Windmühlen dort kämpft, nichts neues. Die Wahrscheinlichkeit einen Sechser im Lotto zu gewinnen, ist jedenfalls höher, als das Facebook mit der Justiz zusammenarbeitet. Verzögern, Verschleppen, Verweigern. Das ist die Politik um die es bei Facebook geht. Zahlreiche Fakeaccounts. Die St.Petersburger Trollfabrik etc, ist Facebook wohl lieber als echte Accounts. Wer sich in politische Diskussionen einlässt, sollte jedenfalls ein richtig dickes Fell anschaffen. Wer solche Auseinandersetzungen verfolgt, der fragt sich wirklich wo er denn ist. Je höher die Boshaftigkeit umso geringer die Wahrscheinlichkeit, dass so etwas gelöscht oder gesperrt wird. Das Zuckerberg durch sein Verhalten und seine Äußerungen jedenfalls rote Linien überschritten hat, wird ihm irgendwann auf die Füße fallen.
Facebook ist eine amerikanische Firma. In Amerika ist die Rede- und Meinungsfreiheit komplett. Facebook ist kein "rechtsfreier Raum", weil es in den USA kein Recht darauf gibt, jemandem den Mund zu verbieten. Wieso sollte sich Facebook den deutschen Regeln anpassen? Es gibt mehr als hundert andere Laender auf der Welt, soll sich Facebook da auch nach deren einzelnen Gepflogenheiten richten? Das ist wirtschaftlich unmoeglich, und auch sinnlos, da die Menschen sich einfach ein Virtual Private Network (VPN) zulegen und dann jegliche IP Address-Erkennung umgehen koennen. Ich sehe drei Alternativen: weiter wie jetzt, wo Facebook mehr schlecht als recht einzelne Beitraege zensieren kann; sich aus Europa komplett zurueckzuziehen, wo dann viele Unternehmen und Online-Haendler draufgehen; oder ein Teil-Rueckzug, wo Facebook deutschen Online-Netzwerken eine Lizenz gibt, ihre Technologie zu nutzen. Da gibt es dann ein Mini-Facebook, das dann in Deutschland alle Beitraege lokal kontrollieren kann.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2018
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.