Tödlicher Uber-Unfall Fürchtet euch ruhig

Viele Menschen stehen Roboterautos skeptisch gegenüber - obwohl sie viele Verkehrstote verhindern könnten. Diese Aversion ist allerdings weitaus weniger irrational, als man denkt, meint der SciFi-Autor Tom Hillenbrand.

Selbstfahrendes Auto (Symbolbild)
Getty Images/RooM RF

Selbstfahrendes Auto (Symbolbild)


Es gibt vieles, vor dem uns gruselt. Mehr als die Hälfte der Deutschen hat Angst vor Gift im Essen (58 Prozent) und vor Naturkatastrophen (56 Prozent). Was uns jedoch mit namenloser Furcht erfüllt, sind selbstfahrende Autos. Laut Emnid graust 84 Prozent davor, von einem Pkw mit künstlicher Intelligenz (KI) kutschiert zu werden.

Diese Zahlen wurden erhoben, bevor ein selbstfahrender Pkw der Firma Uber - offenbar ohne zu bremsen - eine Passantin niedermähte. Vermutlich sind die Vorbehalte gegen Robo-Autos nun größer als die gegen Plutonium-Genmais.

Es ist leicht, sich über diese scheinbar irrationale Furcht lustig zu machen. In Deutschland stirbt alle 2,7 Stunden ein Mensch im Straßenverkehr. Es scheint gewiss zu sein, dass die lenkenden Maschinen von morgen weitaus weniger Personen das Leben kosten werden als die lenkenden Menschen von heute. Eine Reduktion der Verkehrstoten um 90 Prozent sei möglich, sagen Optimisten.

Der Irrglaube von der perfekten Maschine

Diese Zusammenhänge zu verstehen, ist nicht schwer. Woher also kommt die immense Ablehnung des Robocars?

Sie hängt zum einem mit unserem sich wandelnden Technologieverständnis zusammen. Früher war die Maschine ein Ding aus Eisen, das dampfte, zischte und des Öfteren in die Luft flog. Heute ist die Maschine leise, sauber und nahezu störungsfrei.

Geht doch einmal etwas schief, gehen wir an die Decke. Dies lässt sich mithilfe psychologischer Experimente nachweisen. Forscher bezeichnen das Phänomen als "algorithm aversion": Menschen gehen (fälschlicherweise) davon aus, dass Maschinen perfekt sind. Sobald deren Unvollkommenheit offenbar wird, wie etwa im Fall des Uber-Autos, nehmen Menschen (fälschlicherweise) an, sie könnten es besser. Fehler von Maschinen werden unerbittlich kritisiert, eigene Fehler hingegen umgehend rationalisiert und verziehen: Ja, ich hatte auch einen Unfall. Aber jetzt weiß ich doch, was ich damals falsch gemacht habe.

Die rote Linie wird bald überschritten

Neben dieser psychologischen Blockade dürfte es einen weiteren Grund dafür geben, dass wir uns mit autonomen Autos schwer tun. Es handelt sich um eine Art kulturelles Unbehagen, das viele von uns instinktiv spüren, aber nicht benennen können: Es ist die Ahnung, dass wir mit der Einführung des selbstfahrenden Autos eine rote Linie im Verhältnis von Mensch und Maschine überschreiten. Wir bewegen uns schon länger auf diese Linie zu. Aber erst jetzt wird uns bewusst, was sie bedeutet.

Seit Jahren geben wir Kontrolle an Maschinen ab. KI errechnet unsere Kreditratings, sie trägt unsere Flugbuchungen in den Kalender ein, sie weiß, wo wir geparkt haben. All dies war nur das Präludium. Es ging um kleine Dinge, um kleine Entscheidungen. Doch nun, und das versetzt uns unterbewusst in Unruhe, geht es an die großen.

Schon vor 40 Jahren hat uns Joseph Weizenbaum in seinem Buch "Die Macht der Computer und die Ohnmacht der Vernunft" vor diesem Moment gewarnt. Egal wie schlau eine Maschine sei, so der KI-Pionier, sie könne nur entscheiden. Ein Mensch hingegen sei auch in der Lage zu wählen.

Wir geben die Entscheidung ab

Was Weizenbaum meinte: Einen Algorithmus kann man zwar so programmieren, dass er für viele Eventualitäten sinnvolle Reaktionen parat hält. Aber ein Rechner vermag niemals moralische Entscheidungen zu treffen. Und deshalb, so Weizenbaums Appell, sollten wir die ganz wichtigen Entscheidungen nie von Maschinen treffen lassen.

Wir sind dabei, Weizenbaums Rat zu ignorieren. Wir geben gerade die Kontrolle über einige sehr wichtige Entscheidungen ab. Denn auch, wenn die KI unfallfreier fährt als der Mensch, wird es immer wieder zu jenen Situationen kommen, die man in der philosophischen Ethik als Trolley-Problem bezeichnet.

Das Gedankenexperiment geht so: Eine führerlose Tram rast auf eine Menschenmenge zu. Es gibt eine Weiche, man könnte den Zug also auf ein anderes Gleis umleiten, auf dem nur ein Mensch steht.

Den Hebel umlegen? Oder den Dingen ihren Lauf lassen?

Wie modelliert man das Trolley-Problem in einem selbstfahrenden BMW? Die Rollator-Oma überfahren oder lieber das Kind mit dem Roller? Es ist unmöglich, alle denkbaren Szenarien einzuprogrammieren. Der Computer wird in vielen Fällen selbst entscheiden müssen, auf Basis von Sensordaten und statistischen Werten, auf Erfahrungswerten aus dem machine learning.

ANZEIGE
Tom Hillenbrand:
Hologrammatica

Thriller

KiWi-Taschenbuch; 560 Seiten; 12 Euro

Es ist keineswegs gesagt, dass ein Mensch in derartigen Situationen bessere Entscheidungen träfe als eine KI. Aber das ist nicht der Punkt. Der Punkt ist, dass wir der Maschine die wichtigste aller Entscheidungen anvertrauen: die über Leben und Tod.

Das dürfen derzeit nicht einmal Drohnen des US-Militärs. Bevor sie feuern, muss ein Mensch die kill decision geben. Wenn Maschinen unsere Autos lenken, unsere DHL-Lieferwägen, Kräne und Bagger, werden KI-Systeme täglich über Fragen von Leben und Tod entscheiden. Wenn wir die Kontrolle über diese Frage abgeben, geben wir dann nicht alle Kontrolle ab?

Die tote Passantin von Arizona erinnert uns daran. Wir ahnen instinktiv, dass wir bald in einer andere Welt leben werden.

Im Video: Uber bei tödlichem Unfall womöglich schuldlos



insgesamt 147 Beiträge
Alle Kommentare öffnen
Seite 1
wolle0601 21.03.2018
1. Entscheidungen über wichtige Dinge
liegen heute vielleicht nicht in den Händen von Maschinen, aber bei Menschen, denen ich weniger vertraue als Algorithmen, auch wenn diese vielleicht noch Fehler haben. Angefangen beim Betrunkenen, der. meint noch prima fahren zu können, und bis zum Staatenlenker. Ich denke, speziell autonome Autos werden uns eine ganz neue Freiheit geben. Zum Beispiel ländliche Gebiete neu erschließen und die Ära vollgestopfter Städte beenden.
pr8kerl 21.03.2018
2. Milliarden für eine unsinnige Entwicklung
Hat jemand mal eine Umfrage unter Männern gestartet und gefragt, ob sie selbstfahrende Autos überhaupt wollen? Oder wollen Männer nicht viel lieber selber lenken? Heißt der Slogan "Aus Freude am Fahren" oder "Aus Freude am Gefahrenwerden?" Neuerdings könnte er heißen "Freude an Gefahren". Die Industrie gibt hier Milliarden für eine unsinnige Entwicklung aus und merkt es nicht mal. Wie dumm ist das denn. Es ist wie im Märchen um "Des Kaisers neue Kleider". Man müsste sagen "Des Kaisers unsinnige Entwicklung". Aber Geld für saubere Autos bereitstellen wollen die Konzernlenker nicht.
hdudeck 21.03.2018
3. Sieht so aus, das der Autor
"KI errechnet unsere Kreditratings, sie trägt unsere Flugbuchungen in den Kalender ein, sie weiß, wo wir geparkt haben." keine Ahnung hat, was KI ist. Merke, Algorithm und Program Code machen noch keine KI aus. Mir persoehnlich ist der Hype um selbsfahrende Autos ein wenig unverstaendlich. Warum wird jetzt so ein Ding daraus gemacht, und warum wird angenommen, das dt Hersteller so weit zurueck sind? Da wird scheinbar PR mit Fortschritt verwechselt. Darin sind die US Firmen besonders gut, und ebenso in ihrer Ruecksichtlosigkeit um den schnellen Umsatz zu machen, sorry wenn dabei jemand stirbt. Scheinbar gab es noch nicht einmal einen Programm Code um das Fahrzeug nach einem Unfall anzuhalten. Naja, war ja nur eine homeless person die auch noch eigene Schuld hat, so einfach auf die Strasse zu gehen, wie kann die das so machen. Warum werden zum Beispiel selbstfahrende Autos in Sonnenscheinstaaten getestet? Ja genau, weil die Sensoren eben jede Menge Schwierigkeiten haben, wenn es Dunkel ist (siehe Unfall), es Regnet, Nebel herscht oder es schneit. Sind sensoren erst einmal verdreckt arbeiten selbst die Besten nicht mehr einbandfrei. Freue mich schon auf die Zeit wo man selbstfahrende Autos am Strassenrand stehen sieht weil die (nicht existierende KI) dem Auto sagt das es anhalten musss. Dum, wenn man dann noch nicht einmal mehr ein Lenkrad hat, um das Auto zu parken (was die meisten dann sowieso verlernt haben werden) Na, dann mal viel Spass in der Zukunft. Das gleiche gilt uebrigens auch fuer die E-Mobilitaet. Es wird gerne ausgeblendet, das sich das alles nicht ueber Nacht herstellen laest, das die Infrastruktur dafuer nicht existiert, und sich eben auch entsprechende Umweltprobleme dadurch nicht beseitigen lassen kann, da ein Verursacher einfach durch einen Anderen ersetzt wird. Merke,, Tesla verbrennt immer noch Millionen - mal sehen wie lange das so noch funktioniert.
Barrigaga 21.03.2018
4. 3.500 Verkehrstote täglich
Jeden Tag kommen im Straßenverkehr weltweit ca. 3.500 Menschen ums Leben, knapp 10 in Deutschland. In Deutschland waren es vor knapp 30 Jahren noch über 30 am Tag. Autonomes Fahren wird alleine deshalb nicht aufzuhalten sein. Autonomes, geteiltes, vernetztes und elektrisches Fahren miteinander verschmolzen wird unsere Mobilität in den nächsten 10 Jahren revolutionär verändern. Es wird nur noch 1/5 kosten, leiser, sauberer, sicherer und in der Stadt sogar schneller. Da können die Stammtische aufschreien, sich auf den Boden werfen und bockig werden, wie ein Kind. Es lässt sich nicht ändern. Allein aus ökonomischen Gründen. Die ökologischen kommen als Sahnehäubchen obendrauf.
lordofaiur 21.03.2018
5. Besser ist es
den Roboter Auto fahren zu lassen als ob es ein 90-jähriger Greis tut. Ich bin ein großer Fan dieser Zukunftstechnologie und verspüre auch keine Angst. Der Computer kann vieles besser als der Mensch und Autofahren gehört definitiv dazu.
Alle Kommentare öffnen
Seite 1
Diskussion geschlossen - lesen Sie die Beiträge! zum Forum...

© SPIEGEL ONLINE 2018
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.