Ethik beim autonomen Fahren Todlangweilig? Sicher!

Fortschrittsskeptiker denken beim autonomen Auto in Horrorszenarien - dass der Computer entscheiden könnte, wen er totfährt, zum Beispiel. Experten halten das für Quatsch.

Bosch

Aus Abstatt berichtet


Michael Fausten ist vermutlich genervt, doch der Abteilungsleiter beim Autozulieferer Bosch gibt den Diplomaten. "Es ist gut, dass wir darüber diskutieren", sagt der 46-Jährige, er lächelt höflich. Trotzdem lässt Fausten keinen Zweifel daran, dass ihm etwas missfällt im Autoland Deutschland. "Ich würde mir wünschen, dass wir bei der Diskussion um die ethischen Aspekte des autonomen Fahrens auf Dramatik verzichten", sagt der promovierte Ingenieur.

Das selbstfahrende Auto gehört zu den Megatrends im Automobilbau. In ihm steckt ein milliardenschweres Marktpotential, dementsprechend treiben die Konzerne die Entwicklung voran. Doch während in Ländern wie den USA vornehmlich die Chancen der Technologie debattiert werden, sei in Deutschland ein Streit über die potenziellen Risiken entbrannt. Alle noch so unwahrscheinlichen Unfallmöglichkeiten werden durchgespielt.

Am Ende steht immer die schwerwiegende Frage im Raum: Darf ein Roboter über Leben und Tod entscheiden? Fährt der Wagen die 80-jährige Oma tot oder ein Kind von acht Jahren? Wenn sich das Autogehirn vor einer Entscheidung drückt, seien womöglich beide Fußgänger tot, lautet eines der Horrorszenarien.

Fausten lächelt bei derlei Gedankenspielen. "Ich kann mir derzeit gar nicht vorstellen, dass ein autonomes Auto in eine solche Situation fährt", sagt er. Bosch geht davon aus, dass das hochautomatisierte Fahren noch vor 2020 kommt - erst einmal für Stausituationen. Sicher, Fausten ist Ingenieur, dazu noch verantwortlich für die Entwicklung von Fahrzeugsystemen und Assistenzsystemen der Zukunft und kein Ethiker oder Philosoph - was will man da schon erwarten? Hegte er Zweifel an der neuen Technik, wäre er sicher falsch in seinem Job.

Lernen vom Kernkraft-GAU

Tatsächlich schadet es nicht, alle Szenarien und nicht nur "den Best Case - also die Vorteile zu diskutieren", sagt auch Michael Zimmermann von der Technologieberatung Altran . Wie bei jeder neuen Technologie mache es Sinn, sich vorab über alle erdenklichen Modelle Gedanken zu machen. Passiere das nicht, drohe ein schmerzvoller Lernprozess wie bei der Atomenergie. Deutschland zahlt immer noch für die Entscheidung, in den Achtzigerjahren massiv auf die Kernkraft gesetzt zu haben.

Fausten, braune Haare, Kinnbart, steht an einem weißen Hochtisch in einem Containerdorf von Bosch. Das alte Bürogebäude in Abstatt ist zu klein geworden für das Team. Mittlerweile forschen und entwickeln 50 Experten beim Zulieferer in Deutschland am autonomen Fahren, zehn weitere kommen noch in den USA dazu. In den nächsten Jahren wird der Bereich zusätzliche Mitarbeiter einstellen.

Mit Farbstiften in der Hand schreitet Fausten zur Tafel. Auch er kann Szenarien spinnen wie seine Gegner. Doch die Dramatik seiner Überlegungen flacht im Vergleich zu ihren Schreckensvisionen sehr schnell ab. Szenario eins: Das Fahrzeug fährt durch eine Dreißigerzone, am rechten Rand parken Autos. Ein Kind springt hinter einem der Autos hervor. Fausten präsentiert seine Lösung: Die Kameras des Roboterwagens haben längst die parkenden Autos registriert, dem zuständigen Rechner eine unüberschaubare Situation gemeldet und daraufhin das Tempo des Fahrzeugs so weit gedrosselt, dass es selbst vor dem herausspringenden Kind mit einer Vollbremsung zum Stehen kommen kann.

Die Bergstraße als Risiko fürs autonome Auto

Ähnlich verhält es sich mit der Überlegung, das autonome Auto sei auf einer einspurigen Bergstraße ohne Leitplanken unterwegs. Hinter einer Kehre kommt ihm plötzlich ein Fahrradfahrer entgegen. Fährt es nun den Radfahrer um oder nimmt es den Tod der Insassen in Kauf, in dem es den Hang hinabstürzt? "Weder noch", sagt Fausten. Weil es auf der Bergstraße nicht sehen kann, ob hinter der Kurve ein Hindernis auftaucht, fährt es die Serpentinen notfalls im Schritttempo - jederzeit zum Anhalten bereit.

Bedächtig trägt er seine Fallbeispiele vor. Technische Grundlage des autonomen Fahrens ist ein konzertiertes Zusammenspiel von Fern- und Mittelbereichradaren, Kameras und Sensoren. Im Versuchsfahrzeug von Bosch, einem Tesla Model S, sind es genau 13 solcher Systeme, welche die Umgebung des Autos überwachen. Mithilfe dieser Informationen trifft der Wagen seine Entscheidung. "Derzeit gibt es nur eine Regel: Das Auto wird dazu erzogen, Risiken zu vermeiden."

Mehr als 90 Prozent der Autounfälle gehen auf menschliches Versagen zurück. Umsichtige Fahrer erkennen potenzielle Risikosituationen, wie die am Straßenrand parkenden Autos, und passen ihre Fahrweise entsprechend an. Faustens Ziel ist es, das superumsichtige Auto zu entwickeln. Entscheidet anstelle des Fahrers ein entsprechend programmierter und lernfähiger Roboter, könnte die Zahl der Verkehrstoten und Verletzten drastisch reduziert werden, ist er sich sicher. Dennoch werde es auch im Zeitalter des hochautomatisierten Fahrens noch zu Unfällen kommen, eine hundertprozentige Sicherheit gäbe es nicht, weiß Fausten. Aber wäre es nicht eher unethisch, auf eine Technik zu verzichten, die Tausende von Menschenleben im Straßenverkehr vor Unfällen schützen könnte?

Bremsen geht immer

Das Gehirn im autonomen Auto, das künftig über die Sicherheit beim Auto entscheidet, nennen Entwickler den Planer. Der Planer - englisch ausgesprochen - ist der kluge Kopf des gesamten Systems, der Situationen vorhersehen und richtig bewerten muss. Noch können die Sicherheitssysteme allerdings weder bewerten, ob sie ein Kind oder eine Oma vor sich haben, noch kennen sie deren persönliche Lebensumstände. "Es ist für sie einfach ein Mensch", sagt Fausten und entkräftet damit die Gedankenspiele der Maschinenethiker. "Grundsätzlich versuchen wir jede Kollision zu vermeiden." Kann der Unfall nicht mehr abgewendet werden, versucht der Wagen immerhin noch, abzubremsen und somit Energie abzubauen.

Gibt es also überhaupt eine Ethik des autonomen Fahrens?

"Heute definitiv nicht. Es ist eher eine Mathematik des autonomen Fahrens", erklärt der Ingenieur. In der Robotik sprechen die Wissenschaftler von der sogenannten Kostenfunktion. "Die hat nichts mit den monetären Kosten eines möglichen Schadens zu tun. Sie ist eine Möglichkeit der Bewertung von Situationen", sagt Fausten. Sozusagen ein internes Verrechnungssystem für eine Risiko-Nutzen-Abwägung. Beispiel: Von A nach B führen zwei Strecken. Eine über die Autobahn, sie ist weiter und dauert länger. Die andere ist kürzer und schneller, führt aber über eine baumgesäumte Landstraße ohne Leitplanken. Erst ab einem bestimmten Zeitvorteil würde der Computer die Fahrt über die risikoträchtigere Strecke empfehlen. Das Auto sucht in diesem Sinne den Weg, der für den Fahrer der "günstigste" ist - und somit auch der sicherste.

Einen Zufallsgenerator? Den gibt es nicht

"Das ist die ganze mathematische Logik, die dahinter steckt", erklärt Fausten. Ziemlich simpel. "Kompliziert ist nur, dies umzusetzen und so stark abzusichern, dass es in allen Lebenslagen richtig funktioniert. Das ist unsere große Ingenieursaufgabe, die wir nun zu lösen haben", so Fausten.

Dass es zu einer Pattsituation der Kostenfunktionen kommt, die den Computer in seiner Entscheidung hemmt oder den Einsatz eines Zufallsgenerators erforderlich macht, glaubt Fausten nicht. Ist das Sicherheitsrisiko bei drei Szenarien gleich groß, entscheidet am Ende womöglich der Fahrkomfort. Wo ruckelt das Fahrzeug am wenigsten oder ist am nächsten an der Wunschfahrlinie dran. "Einen Zufallsgenerator? Diese Diskussion führen wir nicht."

Fausten zeichnet ein letztes Szenario auf, eine dreispurige Autobahn. Ganz rechts fährt das autonome Auto, vor ihm ein zuckelnder Lkw. Auf der linken Spur rauscht ein anderer Pkw heran, die Mitte ist frei. Was macht der Roboterwagen? "Er überholt nicht, weil das Auto links in die Mitte ziehen könnte", erklärt Fausten.

Die Fahrweise von autonomen Autos kann nerven

Mit diesem Beispiel macht der Ingenieur klar, wie viele Risiken Autofahrer tagtäglich bewusst in Kauf nehmen. Das selbstfahrende Auto jedoch hält sich strikt an alle Verkehrsregeln und kennt weder Gemütsschwankungen noch Eile. Indem es notfalls stur die rechte Spur hält, bis alle möglichen Gefahren vorübergezogen sind, oder unbeirrt dahinzuckelt, wenn es in unübersichtliche Situationen fährt, entsteht ein neues Problem. Zwar kein ethisches, eher ein sehr persönliches: Seine Fahrweise wird Autoinsassen womöglich ganz schön auf die Nerven gehen.

Zusammengefasst: Es gibt keine Ethik des autonomen Fahrens - zumindest noch nicht. Roboterautos folgen einer sogenannten Kostenfunktion, die Risiken bewertet und sich dann für das sicherste Fahrmanöver entscheiden soll. Autonomes Fahren hat zum Ziel, Verkehrsunfälle künftig zu vermeiden.

Mehr zum Thema


insgesamt 209 Beiträge
Alle Kommentare öffnen
Seite 1
Streitaxt 28.04.2016
1. Unfälle
Im Strassenverkehr passieren jeden Tag Unfälle. Das ist unausweichlich und der Preis, den wir zahlen. Die Frage ist doch nur, ob selbstfahrende Autos weniger Unfälle und vor allem weniger schwere produzieren. Dass der Computer zu 100% fehlerfrei arbeiten soll ist doch naiv. Schon 99% sind um ein Vielfaches besser als der Mensch........
Wunderläufer 28.04.2016
2. Wie gehabt
Bei jedem neuen Thmea, neuen Trend: "in Ländern wie den USA vornehmlich die Chancen der Technologie debattiert werden, sei in Deutschland ein Streit über die potenziellen Risiken entbrannt. "
Thorkh@n 28.04.2016
3. Und ..
... wer kauft so ein übervorsichtiges, aber sicheres Auto? Opa Schmidt, der mir schon an der Supermarktkasse mit dem Einkaufswagen ständig in die Hacken fährt, weil es ihm nicht schnell genug geht? Der Cruiser mit dem Manta-Manta-Mantra?
scxy 28.04.2016
4. Neues Potenzial
dann unterscheiden sich die Fahrzeuge später nur noch über die App, die zur Steuerung eingesetzt wird. Die Applikation von BMW hat 17 % mehr Lichthupe und ist 4 % näher am Rand der Legalität, die Mercedes-App löst vorsorglich die Airbags aus, wenn ein rumänischer Tieflader vom Radar erfasst wird und Opels App ist auf umparken spezialisiert. Mit der Standard-Konfiguration wie im Text beschrieben wird ja wohl keiner fahren wollen ;-)
marty_gi 28.04.2016
5. und wer braucht es???
Wer braucht das autonome Fahren? Man koennte meinen, eventuell die ganze Dienstwagen-Sparte, die ja dann in der Zeit, in der sie sich nicht auf den Verkehr konzentrieren muss, anderes, geschaeftliches erledigen kann. Fuer die sind ja meiner Ansicht nach auch die heutigen Sicherheitssysteme groesstenteils entwickelt. Dumm nur dass genau diese Klasse der Autofahrer sich ja seltenst an die Verkehrsregeln haelt, liebend gerne aufgrund von Termindruck zu schnell faehrt, und daher meiner Ansicht nach sich niemals der erzwungenen Fahrweise eines autonom und mit Ruecksicht auf alle anderen fahrenden Wagens einlassen wird. Da geht ja dann kein "Aber ich zuerst" mehr.... Auch sehe ich viele andere hochmoderne Autos, in denen es die Fahrer nicht mal schaffen, den Gurt zu benutzen, oder ihr Mobiltelefon per Bluetooth "handfrei" zu machen (mal abgesehen davon dass die ganze Touchscreen-Flut noch viel ablenkender ist als ein Handy). Also - wer soll "autonom" fahren? Waere der Ausbau des Oeffentlichen Verkehrs nicht sinnvoller, fuer alle Bevoelkerungsgruppen? Da entwickelt die Industrie an einer Utopie, die sich meiner Ansicht nach nicht durchsetzen wird, sondern nur zur (angeberischen) Spielerei wird, die Autos schwerer macht und somit Ressourcen doppelt verschwendet. Viel sinnvoller waere das selbstreinigende Haus - endlich wirklich mal Zeit gespart fuer sinnvollere Taetigkeiten.
Alle Kommentare öffnen
Seite 1
Diskussion geschlossen - lesen Sie die Beiträge! zum Forum...

© SPIEGEL ONLINE 2016
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.