Videos mit leicht bekleideten Kindern YouTube hat ein Pädophilie-Problem

Vom Klick aufs harmlose Heimvideo zum Sammelbecken für Pädophile: Forscher warnen vor YouTubes Empfehlungsschleifen. Die Plattform sucht weiter nach dem richtigen Umgang mit Videos leicht bekleideter Kinder.

Dado Ruvic / REUTERS

Von


YouTubes Algorithmus empfiehlt Nutzern Videos, die ihren Geschmack treffen könnten - die Plattform leitet sie so mitunter aber auch immer tiefer in die Welt der Verschwörungstheorien oder der rechtsextremen Ideologien hinein - oder hin zu Videos mit leicht bekleideten Kindern. Forscher vom Berkman Klein Center for Internet & Society an der Harvard University sind bei einer Netzwerkanalyse von YouTubes Kanalempfehlungen vor Kurzem zufällig darauf gestoßen, dass der Algorithmus der Videoplattform Pädophilen immer neue, für sie offenbar passende Kanäle und Videos empfiehlt.

"Wie schnell man in diese Schleife hineinkommt, ist schwierig zu beantworten: In Deutschland und in den USA konnten wir solche Kanäle zum Beispiel nicht identifizieren, in Brasilien war es purer Zufall", sagt der Kommunikationswissenschaftler Jonas Kaiser dem SPIEGEL, der am Berkman Klein Center und Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG) forscht. "Es ist aber ein internationales Problem." In den auffälligen Kanälen, die der Algorithmus empfohlen hatte, waren nicht nur Kindervideos aus Brasilien, sondern aus mehreren Ländern zu sehen.

Vorgeschlagen wurden den Forschern in diesem Fall eher harmlose Videos, in denen Kinder etwa im Pool planschen - also keine Kinderpornografie, die von Filtern und Content-Moderatoren aussortiert worden wäre.

"Der Algorithmus von YouTube sortiert Heimvideos von nichtsahnenden Familien in einen Katalog von halbnackten Kindern", beschrieb der Journalist Max Fisher das Phänomen, der in der "New York Times" zuerst über die Recherchen der Forscher berichtet hatte. "YouTube spielt die Videos oft nach dem Anschauen von Softcore-Pornografie ab und baut damit ein Millionenpublikum für das auf, was Experten sexuelle Ausbeutung von Kindern nennen."

Tipps für Pädophile

Schon seit Längerem ist bekannt, dass YouTube ein Problem mit Pädophilie hat: Der Videoblogger Matt Watson hatte Anfang dieses Jahres recherchiert, wie YouTube-Clips, die Kinder bei Gymnastikübungen, beim Eis essen oder im Badeanzug zeigen, zu Sammelstellen für Pädophile wurden. Die Nutzer kommentierten unter den Videos sexuell anzüglich, beschrieben anderen Pädophilen, an welchen Stellen des Videos besonders viel nackte Haut zu sehen ist, oder vernetzten sich.

Firmen wie Nestlé, Dr. Oetker und Disney stellten als Reaktion zeitweise ihre Werbung auf YouTube ein. YouTube deaktivierte daraufhin Kommentare unter vielen Videos mit Kindern. Doch der Empfehlungsalgorithmus schlug Pädophilen augenscheinlich weiter Kindervideos vor.

Kindervideos als Grauzone

"Allein 2019 haben wir die Kommentarfunktion bei mehreren Millionen von Videos deaktiviert sowie Live-Features und Video-Empfehlungen, in denen Minderjährige auftauchen, stark eingeschränkt'", heißt es auf SPIEGEL-Nachfrage von YouTube. "Zusätzlich haben wir kürzlich ein noch intelligenteres Tool eingeführt, das unsere Sicherheitsvorkehrungen effektiv umsetzt und auf Videos anwenden kann, die Minderjährige gefährden könnten."

Dem Konzern zufolge wurden allein im ersten Quartal dieses Jahres mehr als 800.000 Videos wegen Verletzungen der Richtlinien für Kinderschutz von der Plattform gelöscht. Viele Videos befinden sich allerdings in einer Grauzone, legt YouTube nahe: "Die überwiegende Mehrheit der Videos mit Minderjährigen auf YouTube, einschließlich derjenigen, auf die in den jüngsten Berichten verwiesen wird, verstößt nicht gegen unsere Richtlinien und wird unschuldig veröffentlicht - von einem Familien-Videomacher, der Bildungstipps gibt, oder einem Elternteil, der einen stolzen Moment teilt", heißt es in einer online veröffentlichten Stellungnahme von YouTube. "Aber wenn es um Kinder geht, gehen wir bei der Durchsetzung besonders vorsichtig vor und verbessern ständig unseren Schutz."

  • YouTube hat in den vergangenen Monaten die Richtlinien für das Livestreaming verschärft, um jüngere Minderjährige davon abzuhalten, zu streamen, wenn sie nicht deutlich sichtbar von Erwachsenen begleitet werden. Kanäle, die sich nicht daran halten, könnten daran gehindert werden, weiter zu streamen, so der Konzern. Software soll dabei helfen, schneller unangemessene Livesituationen zu entdecken und zu entfernen.
  • Bei Millionen von Videos, in denen Minderjährige zu sehen sind, sind dem Konzern zufolge Kommentarfunktionen blockiert worden. Ein Algorithmus helfe zudem, gewalttätige Kommentare doppelt so häufig wie zuvor zu entfernen, heißt es.
  • Auch die Zahl der Fälle, in denen die Videos mit leicht bekleideten Kindern durch den Algorithmus empfohlen werden, wurde angeblich deutlich reduziert. "Obwohl die Inhalte selbst nicht gegen unsere Richtlinien verstoßen, sind wir uns bewusst, dass die Minderjährigen der Gefahr einer Online- oder Offline-Ausbeutung ausgesetzt sein könnten", heißt es von YouTube. "Wir haben diese Änderungen bereits auf Dutzende von Millionen von Videos auf YouTube angewendet."

Prüfstelle für Algorithmen

"Die Deaktivierung der Empfehlungsalgorithmen sowie der Kommentarfunktionen bei Videos, in denen primär Kinder zu sehen sind, wäre ein erster Schritt zu einem besseren Kinderschutz", sagt auch Kommunikationswissenschaftler Kaiser. "Offensichtlich kann YouTube diese algorithmisch identifizieren und lobenswerterweise bewegt sich YouTube dort auch - das muss aber besser funktionieren als bisher." Die Empfehlungen für Kindervideo-Kanäle wie jene, auf die die Forscher aufmerksam gemacht haben, sind Kaiser zufolge inzwischen abgestellt worden. Und auch bei dem Empfehlungsalgorithmus für einzelne Videos hat sich seiner Wahrnehmung nach etwas verändert.

Kaiser sagt, es sei wichtig zu reflektieren, wie YouTubes Algorithmen funktionieren, nach welchen Maßstäben und Zielen sie optimiert werden und wer diese Vorgaben kontrolliert. Kaiser hält auch eine Art "Wirtschaftsprüfung für Algorithmen" für sinnvoll - eine Gruppe, die sich mit Algorithmen und deren Risiken beschäftigt und die Unternehmen und Verwaltung in regelmäßigen Abständen durchleuchtet.

Auch das Geschäftsmodell von YouTube könne grundsätzlich infrage gestellt werden, findet Kaiser: "Angetrieben durch den eigenen Willen zum Wachstum werden die Algorithmen auf eine höhere Verweildauer und mehr Klicks optimiert", sagt er. "Das führt eben dazu, dass man nicht nach Rockmusik Schlager empfohlen bekommt, aber eben auch dazu, dass nach einem harmlosen Kindervideo weitere, potenziell problematischere Kindervideos empfohlen werden."



insgesamt 54 Beiträge
Alle Kommentare öffnen
Seite 1
Phil2302 05.06.2019
1. Eltern informieren
Wie wäre mal, auch mal die Eltern zu informieren, was dort vor sich geht? Bei jedem, der ein Video mit Kindern hochlädt (warum macht man das überhaupt) wird eine Nachricht angezeigt, die ein paar Sekunden nicht weg geklickt werden kann und welche über die Problematik aufklärt.
DiggaAlla 05.06.2019
2. Youtube?
Youtube sind wir und wir sind youtube. Wir sind halt kinderfreundlich...
muellerthomas 05.06.2019
3.
Was wird denn von YouTube erwartet? Clips, in denen Kinder Eis essen sind ja per se erst einmal nicht illegal und auch das Anschauen solcher Videos ist es nicht - völlig unabhängig von der sexuellen Orientierung desjenigen, der sich so einen Clip ansieht. Wenn keine anzüglichen Kommentare möglich sind, werden die Kinder auch nicht gefährdet.
frenchie3 05.06.2019
4. Bei der Musiksuche
finde ich diese Funktion genial. Wo ist jetzt aber der Aufreger wenn Youtube sich ganz offensichtlich ernsthaft kümmert? Daß es nicht sofort und 110 prozentig klappen kann sollte man berücksichtigen. Oder man schaltet die Funktion erst mal komplett ab und Ruhe ist. Würde mich zwar ärgern aber wenn es gegen Kinderporno hilft dann sei es.
Grzegorz 05.06.2019
5. Das ist kein Problem,
sondern einfache Marktwirtschaft. Youtube verdient an eingespielter Werbung und um den Kunden mehr Werbung zu zeigen bleibt lediglich die Möglichkeit den Zuschauern mehr Clips zu zeigen. Und wie halte ich die Zuschauer am ehesten auf Youtube? In dem ich einen Algorithmus habe, der dem Zuschauer weitere ähnliche Clips empfiehlt. Der Algorithmus scheint dabei hinreichend erfolgreich zu sein und funktioniert damit wie gewollt. Dafür muss man Youtube doch an dieser Stelle nicht ernsthaft kritisieren. Das Verlangen nach dieser Form der Unterhaltung hat es doch auch schon vor Youtube gegeben. Im alten Griechenland nannte man das Knabenliebe (Päderastie). Youtube vermittelt da lediglich.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2019
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.