SPIEGEL ONLINE

SPIEGEL ONLINE

05. Juni 2019, 11:33 Uhr

Videos mit leicht bekleideten Kindern

YouTube hat ein Pädophilie-Problem

Von

Vom Klick aufs harmlose Heimvideo zum Sammelbecken für Pädophile: Forscher warnen vor YouTubes Empfehlungsschleifen. Die Plattform sucht weiter nach dem richtigen Umgang mit Videos leicht bekleideter Kinder.

YouTubes Algorithmus empfiehlt Nutzern Videos, die ihren Geschmack treffen könnten - die Plattform leitet sie so mitunter aber auch immer tiefer in die Welt der Verschwörungstheorien oder der rechtsextremen Ideologien hinein - oder hin zu Videos mit leicht bekleideten Kindern. Forscher vom Berkman Klein Center for Internet & Society an der Harvard University sind bei einer Netzwerkanalyse von YouTubes Kanalempfehlungen vor Kurzem zufällig darauf gestoßen, dass der Algorithmus der Videoplattform Pädophilen immer neue, für sie offenbar passende Kanäle und Videos empfiehlt.

"Wie schnell man in diese Schleife hineinkommt, ist schwierig zu beantworten: In Deutschland und in den USA konnten wir solche Kanäle zum Beispiel nicht identifizieren, in Brasilien war es purer Zufall", sagt der Kommunikationswissenschaftler Jonas Kaiser dem SPIEGEL, der am Berkman Klein Center und Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG) forscht. "Es ist aber ein internationales Problem." In den auffälligen Kanälen, die der Algorithmus empfohlen hatte, waren nicht nur Kindervideos aus Brasilien, sondern aus mehreren Ländern zu sehen.

Vorgeschlagen wurden den Forschern in diesem Fall eher harmlose Videos, in denen Kinder etwa im Pool planschen - also keine Kinderpornografie, die von Filtern und Content-Moderatoren aussortiert worden wäre.

"Der Algorithmus von YouTube sortiert Heimvideos von nichtsahnenden Familien in einen Katalog von halbnackten Kindern", beschrieb der Journalist Max Fisher das Phänomen, der in der "New York Times" zuerst über die Recherchen der Forscher berichtet hatte. "YouTube spielt die Videos oft nach dem Anschauen von Softcore-Pornografie ab und baut damit ein Millionenpublikum für das auf, was Experten sexuelle Ausbeutung von Kindern nennen."

Tipps für Pädophile

Schon seit Längerem ist bekannt, dass YouTube ein Problem mit Pädophilie hat: Der Videoblogger Matt Watson hatte Anfang dieses Jahres recherchiert, wie YouTube-Clips, die Kinder bei Gymnastikübungen, beim Eis essen oder im Badeanzug zeigen, zu Sammelstellen für Pädophile wurden. Die Nutzer kommentierten unter den Videos sexuell anzüglich, beschrieben anderen Pädophilen, an welchen Stellen des Videos besonders viel nackte Haut zu sehen ist, oder vernetzten sich.

Firmen wie Nestlé, Dr. Oetker und Disney stellten als Reaktion zeitweise ihre Werbung auf YouTube ein. YouTube deaktivierte daraufhin Kommentare unter vielen Videos mit Kindern. Doch der Empfehlungsalgorithmus schlug Pädophilen augenscheinlich weiter Kindervideos vor.

Kindervideos als Grauzone

"Allein 2019 haben wir die Kommentarfunktion bei mehreren Millionen von Videos deaktiviert sowie Live-Features und Video-Empfehlungen, in denen Minderjährige auftauchen, stark eingeschränkt'", heißt es auf SPIEGEL-Nachfrage von YouTube. "Zusätzlich haben wir kürzlich ein noch intelligenteres Tool eingeführt, das unsere Sicherheitsvorkehrungen effektiv umsetzt und auf Videos anwenden kann, die Minderjährige gefährden könnten."

Dem Konzern zufolge wurden allein im ersten Quartal dieses Jahres mehr als 800.000 Videos wegen Verletzungen der Richtlinien für Kinderschutz von der Plattform gelöscht. Viele Videos befinden sich allerdings in einer Grauzone, legt YouTube nahe: "Die überwiegende Mehrheit der Videos mit Minderjährigen auf YouTube, einschließlich derjenigen, auf die in den jüngsten Berichten verwiesen wird, verstößt nicht gegen unsere Richtlinien und wird unschuldig veröffentlicht - von einem Familien-Videomacher, der Bildungstipps gibt, oder einem Elternteil, der einen stolzen Moment teilt", heißt es in einer online veröffentlichten Stellungnahme von YouTube. "Aber wenn es um Kinder geht, gehen wir bei der Durchsetzung besonders vorsichtig vor und verbessern ständig unseren Schutz."

Prüfstelle für Algorithmen

"Die Deaktivierung der Empfehlungsalgorithmen sowie der Kommentarfunktionen bei Videos, in denen primär Kinder zu sehen sind, wäre ein erster Schritt zu einem besseren Kinderschutz", sagt auch Kommunikationswissenschaftler Kaiser. "Offensichtlich kann YouTube diese algorithmisch identifizieren und lobenswerterweise bewegt sich YouTube dort auch - das muss aber besser funktionieren als bisher." Die Empfehlungen für Kindervideo-Kanäle wie jene, auf die die Forscher aufmerksam gemacht haben, sind Kaiser zufolge inzwischen abgestellt worden. Und auch bei dem Empfehlungsalgorithmus für einzelne Videos hat sich seiner Wahrnehmung nach etwas verändert.

Kaiser sagt, es sei wichtig zu reflektieren, wie YouTubes Algorithmen funktionieren, nach welchen Maßstäben und Zielen sie optimiert werden und wer diese Vorgaben kontrolliert. Kaiser hält auch eine Art "Wirtschaftsprüfung für Algorithmen" für sinnvoll - eine Gruppe, die sich mit Algorithmen und deren Risiken beschäftigt und die Unternehmen und Verwaltung in regelmäßigen Abständen durchleuchtet.

Auch das Geschäftsmodell von YouTube könne grundsätzlich infrage gestellt werden, findet Kaiser: "Angetrieben durch den eigenen Willen zum Wachstum werden die Algorithmen auf eine höhere Verweildauer und mehr Klicks optimiert", sagt er. "Das führt eben dazu, dass man nicht nach Rockmusik Schlager empfohlen bekommt, aber eben auch dazu, dass nach einem harmlosen Kindervideo weitere, potenziell problematischere Kindervideos empfohlen werden."

URL:


© SPIEGEL ONLINE 2019
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung