Künstliche Intelligenz Twitter will Pornobilder automatisch erkennen

Noch braucht man viele Mitarbeiter, um anstößige Inhalte in sozialen Netzwerken zu entfernen. Bei Twitter soll dies künftig ein selbst lernendes Programm leisten - ganz ohne Menschen. Eine nicht ganz triviale Aufgabe.

Twitter-Nutzung: Automatische Erkennung von nicht jugendfreien Bildern geplant
Corbis

Twitter-Nutzung: Automatische Erkennung von nicht jugendfreien Bildern geplant


Bei der Automatisierung von Suchprozessen spielt Künstliche Intelligenz eine immer wichtigere Rolle. Ein kleines Startup namens Madbits hat nun ein System zur automatischen Erkennung von nicht jugendfreien Bildern entwickelt. Twitter hat es vor einem Jahr gekauft und will das selbstlernende Programm bald einsetzen.

Wie "Wired" berichtet, soll das Programm inzwischen eine 99-prozentige Trefferrate bei pornografischen und sonstigen anstößigen Inhalten erreichen. Das fünfköpfige Team hat nach der Übernahme durch Twitter ein Jahr an dem Projekt gearbeitet. Nun sei die Technik im Prinzip einsatzfähig.

Derzeit sind bei Unternehmen wie Twitter und Facebook zahlreiche Angestellte damit beschäftigt, das von den Nutzern hochgeladene Material auf unzulässige Motive zu überprüfen. Der Einsatz von Künstlicher Intelligenz könnte die Anzahl der benötigten Mitarbeiter erheblich reduzieren, die sich, so "Wired", mit Penisbildern und Enthauptungsfotos herumschlagen müssen.

Ohne menschliche Nachhilfe drohen peinliche Fehler

Allerdings gibt es noch Schwierigkeiten: Bis jetzt kommen derartige Erkennungsprogramme noch nicht ohne menschliche Nachhilfe aus. So musste sich Google erst letzte Woche dafür entschuldigen, dass die App "Google Fotos" Gesichter von Menschen mit schwarzer Hautfarbe als Gorillas einordnete. Und nicht immer ist nackte Haut gleichbedeutend mit Pornografie. Auf Twitter erscheinen auch Bilder von halbnackten Babys oder stillenden Müttern.

Solche Fehlinterpretationen kommen auch beim neuen Twitter-Projekt vor. Dem Entwickler Clément Farabet zufolge werden neben den 99 Prozent korrekt als anstößig erkannten Bildern weitere sieben Prozent eigentlich unproblematischer Motive als Porno deklariert. Solche Fehler müssen manuell korrigiert werden..

Um den Prozess des maschinellen Lernens zu verbessern und zu beschleunigen, sollen entsprechende Künstliche-Intelligenz-Projekte unter dem Namen Twitter Cortex zusammengefasst werden. Laut "Wired" werden sich die Madbits-Entwickler dafür mit den Angestellten des erst vor drei Wochen von Twitter übernommenen Startups WhetLab zusammenschließen.

In naher Zukunft soll Twitter Cortex imstande sein, alle Tweets zu analysieren. "Damit können wir sie besser einordnen und herausfinden", woran die Nutzer interessiert seien, so Twitters Entwicklungschef Alex Roetter.

meu



Forum - Diskutieren Sie über diesen Artikel
insgesamt 15 Beiträge
Alle Kommentare öffnen
Seite 1
swerdnabob 09.07.2015
1. Klappt nicht gut
Hat Instagram ja auch. Wollte da mal eine Kirchen-Rundkuppel posten, die war leicht rosa und in der Mitte ein Punk. Das war fürs Programm zu viel und es hat wohl eine Brust darin erkannt :-) Musste das Bild etwas "abschneiden", dann gings durch.
JuanCalato 09.07.2015
2. Erschreckend
Ich finde es erschreckend, wie sehr wir uns hier in Deutschland der nachgerade überborden Prüderie unserer amerikanischen "Freunde" unterwerfen, ohne dies auch nur einen Moment in Frage zu stellen. Eine nackte Brust ist hier nichts anstößigen, das untersagt werden dürfte, auch ein nackter Mensch an sich nicht. Wir geben diesen verklemmten Betreibern gegenüber ohne jegliche Not Freiheiten auf, von denen diese gefälligst ihre Finger zu lassen haben.
stirnrunzlerin52 09.07.2015
3. Hurra
jetzt bekommen wir das puritanische USA Sittenbild aufgedrückt, hauptsache wir beschweren uns über intolerante islamische Länder oder Gewohnheiten. Was sind Pornobilder oder unsittliche Darstellungen? Gewaltopfer und Unfallbilder sind erlaubt, ein Frauen- oder Männerakt nicht. Schade das sich Menschen freiwillig einer zensur unterordnen die festlegt was sitlich anstößig ist ohne auch nur einmal darüber eine Diskussion zu führen!
luigi_lucheni 09.07.2015
4. Ach wie wichtig!
Besser wäre wohl ein Programm, das hetzerische, fremdenfeindliche, gewaltverherrlichende Nazipropagande erkennt und löscht.
x33o 09.07.2015
5. Warum sollten keine Pornografischen Inhalte versandt werden? - oftmals interessanter als der RestMüll on Twitter
Twitter wird auf mehrere Milliarden geschätzt. Das Geschäftskonzept bleibt mir bis heute unklar. Kostenlose Kurzinfos über die Semmel am Praterstern generiert ja nun recht wenig Gewinne. Also mal die ZielGruppenAnalyse verbessern ;)
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2015
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.