Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.

Künstliche Intelligenz: Twitter will Pornobilder automatisch erkennen

Twitter-Nutzung: Automatische Erkennung von nicht jugendfreien Bildern geplant Zur Großansicht
Corbis

Twitter-Nutzung: Automatische Erkennung von nicht jugendfreien Bildern geplant

Noch braucht man viele Mitarbeiter, um anstößige Inhalte in sozialen Netzwerken zu entfernen. Bei Twitter soll dies künftig ein selbst lernendes Programm leisten - ganz ohne Menschen. Eine nicht ganz triviale Aufgabe.

Bei der Automatisierung von Suchprozessen spielt Künstliche Intelligenz eine immer wichtigere Rolle. Ein kleines Startup namens Madbits hat nun ein System zur automatischen Erkennung von nicht jugendfreien Bildern entwickelt. Twitter hat es vor einem Jahr gekauft und will das selbstlernende Programm bald einsetzen.

Wie "Wired" berichtet, soll das Programm inzwischen eine 99-prozentige Trefferrate bei pornografischen und sonstigen anstößigen Inhalten erreichen. Das fünfköpfige Team hat nach der Übernahme durch Twitter ein Jahr an dem Projekt gearbeitet. Nun sei die Technik im Prinzip einsatzfähig.

Derzeit sind bei Unternehmen wie Twitter und Facebook zahlreiche Angestellte damit beschäftigt, das von den Nutzern hochgeladene Material auf unzulässige Motive zu überprüfen. Der Einsatz von Künstlicher Intelligenz könnte die Anzahl der benötigten Mitarbeiter erheblich reduzieren, die sich, so "Wired", mit Penisbildern und Enthauptungsfotos herumschlagen müssen.

Ohne menschliche Nachhilfe drohen peinliche Fehler

Allerdings gibt es noch Schwierigkeiten: Bis jetzt kommen derartige Erkennungsprogramme noch nicht ohne menschliche Nachhilfe aus. So musste sich Google erst letzte Woche dafür entschuldigen, dass die App "Google Fotos" Gesichter von Menschen mit schwarzer Hautfarbe als Gorillas einordnete. Und nicht immer ist nackte Haut gleichbedeutend mit Pornografie. Auf Twitter erscheinen auch Bilder von halbnackten Babys oder stillenden Müttern.

Solche Fehlinterpretationen kommen auch beim neuen Twitter-Projekt vor. Dem Entwickler Clément Farabet zufolge werden neben den 99 Prozent korrekt als anstößig erkannten Bildern weitere sieben Prozent eigentlich unproblematischer Motive als Porno deklariert. Solche Fehler müssen manuell korrigiert werden..

Um den Prozess des maschinellen Lernens zu verbessern und zu beschleunigen, sollen entsprechende Künstliche-Intelligenz-Projekte unter dem Namen Twitter Cortex zusammengefasst werden. Laut "Wired" werden sich die Madbits-Entwickler dafür mit den Angestellten des erst vor drei Wochen von Twitter übernommenen Startups WhetLab zusammenschließen.

In naher Zukunft soll Twitter Cortex imstande sein, alle Tweets zu analysieren. "Damit können wir sie besser einordnen und herausfinden", woran die Nutzer interessiert seien, so Twitters Entwicklungschef Alex Roetter.

meu

Diesen Artikel...
Forum - Diskutieren Sie über diesen Artikel
insgesamt 15 Beiträge
Alle Kommentare öffnen
    Seite 1    
1. Klappt nicht gut
swerdnabob 09.07.2015
Hat Instagram ja auch. Wollte da mal eine Kirchen-Rundkuppel posten, die war leicht rosa und in der Mitte ein Punk. Das war fürs Programm zu viel und es hat wohl eine Brust darin erkannt :-) Musste das Bild etwas "abschneiden", dann gings durch.
2. Erschreckend
JuanCalato 09.07.2015
Ich finde es erschreckend, wie sehr wir uns hier in Deutschland der nachgerade überborden Prüderie unserer amerikanischen "Freunde" unterwerfen, ohne dies auch nur einen Moment in Frage zu stellen. Eine nackte Brust ist hier nichts anstößigen, das untersagt werden dürfte, auch ein nackter Mensch an sich nicht. Wir geben diesen verklemmten Betreibern gegenüber ohne jegliche Not Freiheiten auf, von denen diese gefälligst ihre Finger zu lassen haben.
3. Hurra
stirnrunzlerin52 09.07.2015
jetzt bekommen wir das puritanische USA Sittenbild aufgedrückt, hauptsache wir beschweren uns über intolerante islamische Länder oder Gewohnheiten. Was sind Pornobilder oder unsittliche Darstellungen? Gewaltopfer und Unfallbilder sind erlaubt, ein Frauen- oder Männerakt nicht. Schade das sich Menschen freiwillig einer zensur unterordnen die festlegt was sitlich anstößig ist ohne auch nur einmal darüber eine Diskussion zu führen!
4. Ach wie wichtig!
luigi_lucheni 09.07.2015
Besser wäre wohl ein Programm, das hetzerische, fremdenfeindliche, gewaltverherrlichende Nazipropagande erkennt und löscht.
5. Warum sollten keine Pornografischen Inhalte versandt werden? - oftmals interessanter als der RestMüll on Twitter
x33o 09.07.2015
Twitter wird auf mehrere Milliarden geschätzt. Das Geschäftskonzept bleibt mir bis heute unklar. Kostenlose Kurzinfos über die Semmel am Praterstern generiert ja nun recht wenig Gewinne. Also mal die ZielGruppenAnalyse verbessern ;)
Alle Kommentare öffnen
    Seite 1    

© SPIEGEL ONLINE 2015
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH



Zum Autor
  • Richard Meusers schreibt als Autor für SPIEGEL ONLINE über die Digitalisierung.



Anzeige
  • Christian Stöcker:
    Spielmacher

    Gespräche mit Pionieren der Gamesbranche.

    Mit Dan Houser ("Grand Theft Auto"), Ken Levine ("Bioshock"), Sid Meier ("Civilization"), Hideo Kojima ("Metal Gear Solid") u.v.a.

    SPIEGEL E-Book; 2,69 Euro.

  • Bei Amazon kaufen.
Der kompakte Nachrichtenüberblick am Morgen: aktuell und meinungsstark. Jeden Morgen (werktags) um 6 Uhr. Bestellen Sie direkt hier: