12.08.2017

EinwurfTöff töff die Wildsau

Die Schwäche der künstlichen Intelligenz reizt zu boshaften Streichen.
Je schlauer der Computer wird, desto ärger haut er auch mal daneben. Forscher foppten kürzlich die viel bewunderte Spracherkennung von "Google Voice". Wo auf Englisch von "Wachskerzen und silbernen Kerzenleuchtern" die Rede war, verstand die Maschine etwa: "möchte Scheibe Ofenfilter zähl sechs". Es genügte, in die Sprachaufnahme nahezu unhörbare Rauschmuster zu mischen. Für den Computer, der ja in Wahrheit nichts wirklich versteht, entstand dadurch eine gänzlich neue Datenlage. Darauf war er nicht trainiert.
Ähnliches gelang zuvor schon mit Bildern: ein paar winzige Manipulationen, und der Computer erkannte im Hamster einen Blumenkohl. Oder im Schulbus einen Vogel Strauß. Wer so schöpferisch deliriert, kann immerhin nicht ganz doof sein. Ein Tier nimmt nur wahr, was ist. Erst die künstliche Intelligenz schwingt sich nun auf die Höhe künstlichen Irreseins. Computer lernen immer besser, Bilder und Wörter zu erkennen – doch liegt der Input nur knapp neben der Erwartung, bricht das System zusammen. Das ist nicht nur lustig, denn im Leben kommt vieles unerwartet. Genau genommen: das allermeiste. Unmöglich, die Maschine darauf im Voraus zu trainieren. Was nun? Auch die Wissenschaft ist ratlos.
Sollte jemandem unwohl sein angesichts der Tendenzen zum Überwachungsstaat: Hier zeigt er eine offene Flanke. Man stelle sich vor, wie zwei Subjekte am Telefon über geheime Pläne tuscheln – und der großmächtige Geheimdienstcomputer versteht: "Mein Urmel schlumpft sich Knatterspeck töff töff die Wildsau". Womöglich blüht uns da eine neue Kultur erfinderischer Subversion.
Übrigens lässt sich die Gesichtserkennung von Überwachungskameras durch spezielle Brillen mit bunt gemusterten Rahmen in den Wahnsinn treiben. In einem Testlauf identifizierte der Computer die bebrillte Schauspielerin Reese Witherspoon prompt als den Kollegen Russell Crowe.
Von Manfred Dworschak

DER SPIEGEL 33/2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung


DER SPIEGEL 33/2017
Titelbild
Der digitale SPIEGEL
Diese Ausgabe jetzt digital lesen

Die digitale Welt der Nachrichten. Mit interaktiven Grafiken, spannenden Videos und beeindruckenden 3-D-Modellen.
Sie lesen die neue Ausgabe noch vor Erscheinen der Print-Ausgabe, schon freitags ab 18 Uhr.
Einmal anmelden, auf jedem Gerät lesen - auch offline. Optimiert für Windows 8, Android, iPad, iPhone, Kindle Fire, BlackBerry Z10 sowie für PC/Mac.

Abo-Angebote

Den SPIEGEL lesen oder verschenken und Vorteile sichern!

Jetzt Abo sichern
Ältere SPIEGEL-Ausgaben

Kostenloses Archiv:
Stöbern Sie im kompletten SPIEGEL-Archiv seit
1947 – bis auf die vergangenen zwölf Monate kostenlos für Sie.

Wollen Sie ältere SPIEGEL-Ausgaben bestellen?
Hier erhalten Sie Ausgaben, die älter als drei Jahre sind.

Artikel als PDF
Artikel als PDF ansehen

Einwurf:
Töff töff die Wildsau

Video 02:47

Stillgelegtes Kraftwerk im Ruhrgebiet Spektakuläre Sprengung in zwei Akten

  • Video "Whistleblower Daniel Ellsberg: Wartet nicht, bis die Bomben fallen" Video 04:59
    Whistleblower Daniel Ellsberg: "Wartet nicht, bis die Bomben fallen"
  • Video "Gelbwesten-Proteste in Paris: Demonstranten beleidigen bekannten Philosophen antisemitisch" Video 02:24
    Gelbwesten-Proteste in Paris: Demonstranten beleidigen bekannten Philosophen antisemitisch
  • Video "Indonesien: Chaotische Evakuierung nach Flugzeug-Crash" Video 01:04
    Indonesien: Chaotische Evakuierung nach Flugzeug-Crash
  • Video "Snowkiting: Deutscher Doppelsieg auf zugefrorenem Alpensee" Video 01:25
    Snowkiting: Deutscher Doppelsieg auf zugefrorenem Alpensee
  • Video "Mein Leben unter WasserFaszination Tauchen: Auge in Auge mit Hai, Buckelwal und Co." Video 25:33
    Mein Leben unter WasserFaszination Tauchen: Auge in Auge mit Hai, Buckelwal und Co.
  • Video "Frankreich: Erneut Krawalle bei Gelbwesten-Protest" Video 01:26
    Frankreich: Erneut Krawalle bei "Gelbwesten"-Protest
  • Video "Rekord-Treffen: Alles voller Schlümpfe!" Video 01:30
    Rekord-Treffen: Alles voller Schlümpfe!
  • Video "Vor NBA-All-Star-Game: Diallo krönt sich zum Dunk-Champion" Video 01:58
    Vor NBA-All-Star-Game: Diallo krönt sich zum Dunk-Champion
  • Video "Filmstarts: Dann schlag mich doch K.o." Video 06:29
    Filmstarts: "Dann schlag mich doch K.o."
  • Video "Fünf-Meter-Python in der Wäschekammer: Mutige Australierin fängt Riesenschlange ein" Video 01:54
    Fünf-Meter-Python in der Wäschekammer: Mutige Australierin fängt Riesenschlange ein
  • Video "Dashcam-Video: Fahrt auf zugefrorenem See endet dramatisch" Video 01:12
    Dashcam-Video: Fahrt auf zugefrorenem See endet dramatisch
  • Video "Webvideos der Woche: Surfer von Monsterwellen erfaßt" Video 04:17
    Webvideos der Woche: Surfer von Monsterwellen erfaßt
  • Video "Anklage eines Fahrlehrers: Zur Unselbstständigkeit erzogen" Video 04:22
    Anklage eines Fahrlehrers: "Zur Unselbstständigkeit erzogen"
  • Video "Streit um Grenzmauer: Das muss gestoppt werden" Video 02:27
    Streit um Grenzmauer: "Das muss gestoppt werden"
  • Video "Endlich verständlich: Wann kann in den USA der Notstand ausgerufen werden?" Video 01:46
    Endlich verständlich: Wann kann in den USA der Notstand ausgerufen werden?
  • Video "Stillgelegtes Kraftwerk im Ruhrgebiet: Spektakuläre Sprengung in zwei Akten" Video 02:47
    Stillgelegtes Kraftwerk im Ruhrgebiet: Spektakuläre Sprengung in zwei Akten