Hassbotschaften im Netz Wie Nutzer reagieren können - und was die Firmen tun

Die Attentäter von München, Ansbach und Würzburg waren alle völlig selbstverständlich im Netz unterwegs. Was tun Google, Facebook oder Steam, um das Grauen verhindern?

Der Hashtag-Hass auf einem Bildschirm
DPA

Der Hashtag-Hass auf einem Bildschirm

Von


Als David Sonboly am Freitag in München um sich schießt, neun Menschen und sich selbst tötet, ist er gerade einmal 18 Jahre alt. Nun verdichten sich die Hinweise, Sonboly könnte aus Fremdenhass getötet haben. Auf der populären Spieleplattform Steam nannte er sich "Hass" und "Amoklauf" und brachte dort zum Beispiel auch seine Bewunderung für Tim K., den Amokläufer von Winnenden, zum Ausdruck.

Hätte man angesichts solcher Online-Vorzeichen ahnen können, dass David Sonboly Grauenhaftes vorhatte?

Sonboly ist nicht der einzige, dessen Äußerungen oder Formen der Selbstdarstellung im Netz auffallen. Auf Steam gibt es weitere Nutzer, die sich "Amoklauf" nennen - was meistens wohl eher ein geschmackloser Witz oder eine Provokation ist, in die man nicht zu viel hineininterpretieren sollte. Aber groß zu stören scheint den Steam-Betreiber, die US-Spielefirma Valve, solch eine Namenswahl nicht.

Dabei ist das Thema Online-Hass in den vergangenen Monaten ein großes gewesen, vor allem im Kontext von Facebook. Im Netz gehe es immer schlimmer zu, sagen viele und manche Statistik scheint das nahe zu legen. Andere sagen: Mittlerweile fällt nur mehr auf, wie verroht die Umgangsformen online sind.

Klar ist, dass bedenkliche Aussagen und Propaganda, die Gewalt, Terror und Amok verherrlichen, im Netz existieren. Zwar sieht Patrick Frankenberger, Referent für Islamismus im Internet bei Jugendschutz.net, die meisten Jugendlichen von der extremen Gewalt abgeschreckt: "Aber wenn nur ein minimaler Prozentsatz der Rezipienten darauf anspringt, ist das schon extrem gefährlich."

Die Community meldet Verstöße

Die Frage ist also: Wie sollen Internetfirmen auf entsprechende Inhalte und Äußerungen reagieren? Und was können Nutzer tun, wenn sie beobachten, wie ein Freund oder Bekannter sich zu extremen Gewaltfantasien hingezogen zu fühlen scheint?

Meldefenster für Steam-Profile

Meldefenster für Steam-Profile

Die meisten etablierten Netzwerke wie Facebook, Twitter und Instagram bieten heute die Möglichkeit, Inhalte mit Gewaltdarstellungen oder -androhungen zu melden. Auch Steam hat einen solchen Meldebutton: Man kann allerdings nur Profile oder ganze Gruppen melden, keine einzelnen Beiträge in Gruppen. Auf eine Nachfrage, warum das eigentlich so ist, und was Steam von Namen wie "Amoklauf" hält, reagierte Valve bisher nicht.

Nutzermeldungen sind entscheidend

Ein Problem - mancher würde sagen: einen Konstruktionsfehler - haben auch Dienste mit umfangreicheren Meldeoptionen. Netzwerke wie Facebook sind auf ihre Community angewiesen. Diese findet und meldet die Verstöße - oder auch nicht. Mitunter zieht eine berechtigte Meldung nur nach sich, dass die Inhalte entfernt werden.

In den Gemeinschaftsstandards von Facebook heißt es unter anderem: "Wir entfernen explizite Inhalte, wenn sie zum sadistischen Vergnügen oder zum Verehren und Verherrlichen von Gewalt geteilt werden." Für Facebook-Nutzer ist es zum Teil trotzdem schwer nachzuvollziehen, warum bestimmte Beiträge entfernt werden und andere nicht. Warum es manchmal bei einem Nacktbild schneller geht, als bei einer Gewaltandrohung.

Auf den gemeldeten Nutzer selbst wird meistens nicht weiter eingegangen. Er bleibt mit seiner Wut allein, die in vielen Fällen vermutlich ein Symptom für tiefer liegende Probleme in seinem Leben ist.

Die großen Anbieter müssten an dieser Stelle mehr gesellschaftliche Verantwortung übernehmen, fordert Konstantin von Notz, netzpolitischer Sprecher der Grünen im Bundestag: "Hierzu gehört auch, dass sie Hilfsangebote und Seiten zur Verfügung stellen, auf denen Menschen mit Gewaltfantasien oder Suizidgedanken Hilfe und Ansprechpartner finden."

So könnten Hilfsangebote aussehen

In Sachen Suizid hat Facebook bereits reagiert: Nutzer können Postings von Freunden melden, aus denen hervorgeht, dass diese sich etwas antun wollen. Facebook versucht dann, die Nutzer persönlich zu kontaktieren und ihnen Hilfsangebote zu vermitteln. Im Zweifel alarmiert das soziale Netzwerk die Polizei. Facebook hat auf eine Anfrage, was das Netzwerk abseits des Meldebuttons noch zur Prävention von Gewalttaten tun könnte, nicht konkret geantwortet.

Meldefenster bei Facebook

Meldefenster bei Facebook

Es gibt auch Wege, über die sich Seitenbetreiber online direkt an die möglicherweise psychisch labilen Betroffenen wenden. Zum Beispiel bei gesperrten "ProAna-Seiten". Diese Seiten leiten nach ihrer Sperrung in einigen Fällen auf Beratungsangebote um - vorher fand man unter den Links Inhalte, die Essstörungen glorifizierten.

Im Bereich Gesundheit experimentiert Google in den USA mit neuen Services. Wer in der Suche-App beispielsweise "Kopfschmerz auf der linken Seite" eintippt, bekommt direkt mögliche Krankheitsbilder angezeigt. Wäre es also nicht vielleicht sinnvoll, dass Google auch auf bestimmte Suchanfragen zur Planung oder Durchführung von Gewalttaten automatisch reagiert und einen Kasten mit Hilfsangeboten für extremistische Aussteigerprogramme oder psychologische Beratung ausspuckt?

Weiterführende Ideen - etwa die, dass Google für die Terrorbekämpfung systematisch Suchhistorien auswerten könnte - klingen dagegen mehr nach einer Dystopie als nach einem hilfreichen Ansatz. Google-Sprecher Klaas Flechsig etwa warnt davor, aufgrund der Suchhistorie eines Nutzers auf seinen Geisteszustand oder möglicherweise geplante Gewaltverbrechen zu schließen: "Gerade nach den schlimmen Ereignissen der letzten Tage und Wochen suchen viele Nutzer nach Begriffen wir 'Amoklauf' oder 'Terroranschlag'. Das heißt aber nicht, dass all diese Menschen etwas Ähnliches planen."

Internetunternehmen unterstützen nur auf freiwilliger Basis

Die meisten Präventionsangebote im Netz basieren bisher auf dem freiwilligen Engagement einiger großer Konzerne. Doch viele Start-ups und bekannte Netzwerke wie Snapchat, das mittlerweile täglich über 150 Millionen Nutzer erreicht, haben nicht einmal einen einfachen Meldebutton für belästigende oder gefährliche Inhalte. Wäre so etwas nicht gerade bei einer Video-App, die vor allem bei jungen Menschen beliebt ist, eine absolute Pflichtfunktion?

Vorrangig auf die Wirksamkeit von Online-Werkzeugen wie Meldebuttons oder Anzeigetafeln zur Gewaltprävention zu setzen, hält Birgit Kimmel von "klicksafe", einer EU-Initiative für mehr Sicherheit im Netz, für wenig sinnvoll. Vor allem, wenn Maßnahmen im Hintergrund fehlen, die die Betroffenen weiter begleiten und unterstützen: "Viele dieser Jugendlichen haben eine Menge Probleme, und es fehlt ihnen an Anerkennung, Bindung und Orientierung. Mit ihren Taten wollen sie Aufmerksamkeit erregen und wahrgenommen werden."

Die Probleme zeigten sich vorher schon lange im Offlineleben, so Kimmel. Persönliche Beziehungen und Bindungen seien nicht ausreichend vorhanden, häufig kämen schwierige familiäre Erfahrungen hinzu. Um Amokläufe zu verhindern, müssten Kinder aus schwierigen familiären Kontexten frühzeitig noch besser unterstützt werden, um aus der Gewaltspirale rauszukommen.

Wenn ein junger Mensch wirklich Amok laufen will, helfe bei einer fortgeschrittenen Radikalisierung aber auch kein Steam-, Facebook- oder Twitter-Hinweis mehr, sagt Kimmel. "Diese Maßnahmen der Sensibilisierung erreichen Jugendliche nicht mehr, deren Gewaltideen eskalieren."



insgesamt 45 Beiträge
Alle Kommentare öffnen
Seite 1
uterallindenbaum 28.07.2016
1. .
Meines erhalten gibt es mindestens eine Teilschuld dieser Dienste. Gerade Google hat vollste Kontrolle über was wir schauen. Pflanst sogar Programme zur überwachung in unseren Computern ein. Sie erleben also die Radikalisierung mit. Aber ich sehe auch die Regierungen hier in der Pleite. Denn ws fehlt immer noch eine Reihe an Internet Gesetze.
Fakler 28.07.2016
2. Verwirrung
Ich glaube dass die Internetdienste damit soviel zu tun haben wie die Presse im Allgemeinen. Die Medien haben sicher eine motivierende Wirkung. Lubitz hat auch sein Flugzeug in den Berg geflogen und sich nicht um die sozialen Medien geschert, und die Taeter von München, Ansbach und Würzburg waren allesamt Psychopathen.
fatherted98 28.07.2016
3. Kein Interesse...
...die Internetfirmen haben nur ein Interesse...Profit. Und wenn dieser Profit auch mit Terroristen generiert wird ist das auch recht...im übrigen ist die Überwachung von Inhalten auch Zensur...das könnte übelste Auswirkungen auf die freie Meinungsäußerung haben, die sowieso schon auf vielen Seiten zensiert wird.
peter_greifvogel 28.07.2016
4. die machen es sich leicht
in der Verantwortung stehen keine Dienstleister. sondern Freunde und Eltern! Steam hat im Gegensatz zu Facebook auch vergleichsweise wenig Daten von mir. ich habe selbst auch ein Steam Account und die haben mein Benutzernamen und meine Email Adresse. das wars. die gesellschaftliche Verantwortung auf große Konzerne zu schieben und nicht auf das tatsächliche gesellschaftliche Umfeld ist total Nonsens
FX922 28.07.2016
5. Elfenbeinturm
.....da sitzt der Autor wohl. in diesen Firmen arbeiten entweder it-junkies oder "ich studiere voll was wichtiges mit den neuen Medien", und keine Beisser die dann noch energischer als die Ämter mögliche Kandidaten zur Vernunft bringen.... ahhhhhhhh
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2016
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.