Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.

VW-Skandal: Lügen und lügen lassen

Von

Roboter in der Schaltzentrale: Können Maschinen lügen? Zur Großansicht
Corbis

Roboter in der Schaltzentrale: Können Maschinen lügen?

VW hat Autos das Lügen beigebracht. Die Software, die Abgastests überlisten konnte, ist der Vorbote einer neuen Zeit: In Zukunft werden uns Computer immer öfter täuschen, erste Kostproben gibt es schon jetzt.

Computer können mittlerweile Dinge, die man ihnen vor wenigen Jahren noch nicht zugetraut hätte. Halluzinieren zum Beispiel. In drei Tagen Schach spielen lernen. Pokern. Oder lügen.

Darum geht es beim VW-Skandal ja im Kern: Irgendwer im Konzern kam auf die Idee, Autos das Lügen beizubringen. Wenn das Auto auf der Straße fährt, bläst es Schadstoffe in die Luft, als gäbe es kein Morgen. Wenn es dann auf dem Prüfstand steht, also auf seine Abgasemissionen getestet wird, merkt es das und benimmt sich plötzlich so, wie es von ihm erwartet wird: Es verstellt sich, im Wortsinn. Es spuckt vorübergehend weniger Dreck in die Luft, solange es sich beobachtet fühlt. Wie ein Teenager, der schnell die Zigarette wegwirft, wenn die Eltern um die Ecke kommen.

Ohne Emotion, ohne Bewusstsein

Autos stecken heute, so wie viele andere technische Errungenschaften auch, voller autonomer Systeme. Sie tun Dinge aufgrund der Daten, die ihnen vorliegen, sie treffen Entscheidungen, wenn auch - für die Eingeweihten - ziemlich vorhersehbare.

Wenn die manipulierten VW-Autos feststellten, dass das Lenkrad lange nicht bewegt wurde, bestimmte Drehzahlen für bestimmte Zeiten eingehalten wurden und so weiter, rief niemand "Aha, Vorsicht!", niemand wurde hektisch. Wenn Software Entscheidungen trifft, dann ist das ein genauso emotions- und bewusstseinsloser Prozess wie jeder andere digitale auch. Eine Lüge wird aus dem Verhalten erst durch den Beobachter, denn der wird getäuscht.

Natürlich erfüllt das trotzdem nicht die präzise psychologische Definition des Konzepts Lüge. Beim Menschen setzt Lügen ja voraus, dass man sich seiner Missetat bewusst ist und damit rechnet, dass im Bewusstsein des Gegenübers durch die Lüge ein falsches Bild entsteht. Kinder können erst dann richtig lügen, wenn sie eine sogenannte theory of mind entwickelt haben, wenn sie sich also vorstellen können, dass auch im Kopf der anderen etwas vor sich geht. Etwas, das man womöglich beeinflussen kann. Das klappt erst bei etwa Drei- bis Vierjährigen. Man könnte es auch so formulieren: Echte künstliche Intelligenz, die auch mit Bewusstsein ausgestattet ist, haben die Computer erst dann, wenn sie so gut lügen können wie Vorschüler.

Bislang dagegen täuscht Software ohne Verständnis für den Beobachter, aber auch ohne schlechtes Gewissen. Diejenigen, die dafür gesorgt haben, dass sie das tut, sind die wahren Betrüger, nur lassen sie eben die Technik für sich lügen. Wenn das geschieht, sind die eigentlichen Missetäter meist längst weit weg. Wer mit Software umgehen kann, den macht sie mächtiger, das gilt auch und insbesondere für Lügner.

Software belügt Software

VW ist ein zweifellos spektakulärer, aber nicht der erste Fall, in dem jemand Software für sich betrügen lässt. Anfang September wurde zum Beispiel in den USA gegen den Briten Navinder S. Anklage erhoben. Ihm wird vorgeworfen, für den sogenannten Flash Crash an der Wall Street vom 6. Mai 2010 verantwortlich zu sein. S. hatte Software benutzt, um an der Börse zu handeln. Wenn die Vorwürfe gegen ihn stimmen, dann log auch diese Software.

Er habe Scheinaufträge für bestimmte Indexderivate platziert, so das FBI und die zuständige US-Aufsichtsbehörde. US-Aktien im Dow Jones Index verloren, angeblich als Folge von S.'s Aktivitäten, zwischenzeitlich eine Billion Dollar an Wert, der Index selbst fiel vorübergehend um 1000 Punkte. Es war der schnellste und heftigste Kursverlust seiner Geschichte.

Gerade in den Bereichen, in denen Menschen wie S. unterwegs sind, also etwa beim blitzschnellen Handel an den Börsen der Welt, liegt die Macht heute ohnehin längst maßgeblich bei den Computern. Einen Flash Crash kann es nur geben, weil als Reaktion auf bestimmte Ereignisse autonome Handelsalgorithmen in Sekundenbruchteilen bestimmte Dinge tun, zum Beispiel möglichst schnell Aktien verkaufen. Und das tun sie unter Umständen offenbar auch dann, wenn ihnen diese Ereignisse von einem anderen Programm vorgegaukelt wurden: Software belügt Software.

Computerassistiertes Lügen

Tatsächlich trifft diese Kurzfassung auch auf den VW-Skandal zu, denn selbstverständlich werden auch die offenbar manipulierten Abgasmessungen letztlich von zumindest teilautonomen Systemen durchgeführt, von Software also.

Diese Art von Lug und Trug mithilfe neuer, mächtiger Werkzeuge zum Täuschen, Tricksen, Manipulieren und Verschleiern wird uns in den kommenden Jahren immer häufiger begegnen. Im Zuge dessen, was heute Industrie 4.0 oder auch Internet der Dinge genannt wird, werden autonome Systeme immer weiter in unseren Alltag vordringen. Wenn alles mit Sensoren ausgestattet und vernetzt ist, dann kann man Systeme auch selbstständig auf Umweltbedingungen reagieren lassen.

Sie können das oft ja sogar besser als der Mensch, sonst gäbe es keine Fahrerassistenzsysteme, kein ABS, keine Spurhalteassistenten. Selbstverständlich kann man diesen autonomen Systemen auch beibringen, sich besonders artig zu benehmen, wenn die Kontrolleure vorbeischauen. In die Black Boxes der autonomen Systeme nämlich werden die nur in den seltensten Fällen hineinsehen.

In der Welt der Zukunft wird Software auch an anderen Stellen als im Auto derart autonom agieren, sei es in Fabriken, in der Logistik, oder, besonders beunruhigend: beim Militär.

Künftig wird also sicher nicht weniger gelogen und betrogen werden als heute - aber vermutlich viel effizienter.

Zum Autor
Jeannette Corbeau
Christian Stöcker leitet das Netzwelt-Ressort von SPIEGEL ONLINE. Er schreibt über Netzpolitik und den NSA-Skandal ebenso wie über neue Computerspiele - und er ist promovierter Psychologe.

E-Mail: Christian_Stoecker@spiegel.de

Mehr Artikel von Christian Stöcker

Diesen Artikel...
Forum - Diskussion über diesen Artikel
insgesamt 184 Beiträge
Alle Kommentare öffnen
    Seite 1    
1. Vorsicht vor Analogien
kategorien 25.09.2015
Software lügt nicht, so wenig wie ein Hammer oder ein Stuhl lügt. Software ist insofern für Manipulationen genau so anfällig wie eine Plakatwand. Dass Software so komplex sein kann, dass sie selbst Eingeweihte nicht mehr überblicken, heißt nicht, dass die Auswertung der Ergebnisse der Software ein Problem darstellt -- andernfalls wären wir nie imstande auf Naturgesetze zu reagieren, die wir kaum oder nicht verstehen.
2. Computer täuschen nicht
Leser222 25.09.2015
Der Mensch täuscht und benützt zu diesem Zweck u.a. Computer. Selbst wenn ein Bot selbständig mit Menschen kommuniziert (automatisierte Callcenter), ist das immer noch der Programmierer der da spricht und nicht der Computer.
3. Leider....
2cv 25.09.2015
....killt die "Industrie 4.0" sich mit diesen Methodiken ihren eigenen Business Case. Und damit ist eine der Todsünden, nämlich Gier, auch in ihrer digitalen Form genau so präsent wie vor zweitausend Jahren. Es hat sich nichts geändert...!
4. Warum ist dieser Beitrag ein Top-Beitrag?
axel_roland 25.09.2015
Der von Sascha Lobo gestern war ERHEBLICH besser.
5. total normal
albert schulz 25.09.2015
Es soll auch Preßerzeugnisse geben, die nur ganz selten und aus Versehen wahrheitsgemäß berichten. Normalerweise erfährt man nur das, was man erfahren soll.
Alle Kommentare öffnen
    Seite 1    
Diskussion geschlossen - lesen Sie die Beiträge! zum Forum...

© SPIEGEL ONLINE 2015
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH





Anzeige
  • Christian Stöcker:
    Spielmacher

    Gespräche mit Pionieren der Gamesbranche.

    Mit Dan Houser ("Grand Theft Auto"), Ken Levine ("Bioshock"), Sid Meier ("Civilization"), Hideo Kojima ("Metal Gear Solid") u.v.a.

    SPIEGEL E-Book; 2,69 Euro.

  • Bei Amazon kaufen.
Der kompakte Nachrichtenüberblick am Morgen: aktuell und meinungsstark. Jeden Morgen (werktags) um 6 Uhr. Bestellen Sie direkt hier: