Studie zu moralischen Entscheidungen Würden Sie einen Menschen opfern, um fünf andere zu retten?

In Zukunft könnte künstliche Intelligenz über Leben und Tod entscheiden. Forscher haben untersucht, wie Menschen bei einer moralischen Grundsatzfrage reagieren würden.
Gleisbauer bei der Arbeit (Symbolbild): Das Umstellen der Weiche könnte Leben retten

Gleisbauer bei der Arbeit (Symbolbild): Das Umstellen der Weiche könnte Leben retten

Foto: Pingcheng Zuo/ iStockphoto/ Getty Images

Es ist ein furchteinflößendes Szenario: Eine Straßenbahn rast ungebremst auf eine fünfköpfige Gruppe von Gleisbauarbeitern zu. Der Weichensteller könnte den Zug auf ein Nebengleis umleiten, auf dem nur ein Mensch arbeitet. Soll er einen Menschen opfern, um fünf andere zu retten?

Dieses moralische Gedankenexperiment beschäftigt Philosophen, Psychologen und Rechtswissenschaftler seit Jahrzehnten – und es erhält in Zeiten der Entwicklung künstlicher Intelligenz gesteigerte Bedeutung. Wenn selbstfahrende Autos oder Roboter in Notsituationen Entscheidungen wie Menschen treffen sollen, müssen sich die Programmierer mit einer der schwerwiegendsten Fragen menschlicher Moral befassen: Unter welchen Umständen kann eine Gesellschaft die Tötung eines anderen Menschen tolerieren?

Das skizzierte Gedankenexperiment wird in der Wissenschaft als Trolley-Problem bezeichnet, der Name leitet sich vom englischen Wort für Straßenbahn ab.

Körper als Bremsklotz

Neben der Möglichkeit, den Bauarbeiter auf dem Nebengleis durch Umstellen der Weiche sterben zu lassen (Switch-Szenario), enthält es noch zwei weitere Varianten: Im zweiten Setting, dem sogenannten Loop-Szenario, führt das Nebengleis später wieder zum Hauptgleis zurück, auf dem die fünf Bauarbeiter stehen.

Durch das Umstellen der Weiche stirbt der Mann auf dem Nebengleis, doch sein Körper verhindert, dass der Waggon auf das Hauptgleis zurückrollt und die fünf anderen tötet. Im Unterschied zum ersten Szenario wird der Tod des einzelnen Menschen hierbei nicht nur in Kauf genommen, sondern sein Körper wird gezielt als Bremsklotz eingesetzt, um die Gruppe der Bauarbeiter zu retten.

Die drei Szenarien des "Trolley-Problems": Switch, Loop und Footbridge

Die drei Szenarien des "Trolley-Problems": Switch, Loop und Footbridge

Foto: Awad et al.

In einem dritten Szenario führt eine Brücke über die Gleise. Die fünf Bauarbeiter können nur vor der heranrasenden Straßenbahn gerettet werden, wenn ein Mensch von der Brücke auf die Gleise gestoßen wird. Sein Körper blockiert den Zug. Auch in diesem sogenannten Footbridge-Szenario ist der Tod des Einzelnen notwendig für die Rettung der anderen.

Das Gedankenexperiment klingt unheimlich und es ist selbstverständlich vereinfacht, denn in der Realität wäre die Zahl der Todesopfer im Vorhinein nicht gesichert. Es könnte den Bauarbeitern etwa gelingen, sich selbst zu retten. Oder der Mensch, der von der Brücke geworfen wird, könnte sich nachvollziehbarerweise dagegen wehren. Und dennoch: Das Experiment ist nach Einschätzung von Wissenschaftlern bedeutend, weil es verständlich ist und ethische Beurteilungen vergleichbar macht.

In Deutschland geben 82 Prozent der Befragten an, sie würden die Weiche umstellen

Iyad Rahwan, der den Forschungsbereich Mensch und Maschine am Max-Planck-Institut für Bildungsforschung in Berlin leitet, und sein Team haben nun 70.000 Menschen in 42 Ländern befragt, wie sie sich in den drei Szenarien des Trolley-Problems verhalten würden. Die Ergebnisse wurden in der Fachzeitschrift PNAS  veröffentlicht. Die Forscher wollten herausfinden, ob und wie sich moralische Entscheidungen weltweit unterscheiden.

In einer Frage waren sich die Teilnehmer aus allen Ländern nahezu einig: Sie würden eher den Tod eines Menschen in Kauf nehmen, um fünf andere zu retten, (Switch-Szenario) als die Person gezielt als Bremsklotz einzusetzen (Loop- und Footbridge-Szenario).

Die grundsätzliche Bereitschaft, ein Menschenleben zu opfern, unterscheidet sich jedoch stark nach Land und Weltregion. In Deutschland würden – ähnlich wie in den meisten westlichen Ländern – 82 Prozent den einzelnen Menschen töten, um die Gruppe zu retten. Anders sieht es im asiatischen Raum aus: In China entscheiden sich nur 58 Prozent dafür, die Weiche im Switch-Szenario umzustellen. In Südkorea und Taiwan sind es jeweils knapp 70 Prozent.

Nach Einschätzung der Studienautoren ist die Bereitschaft, einen Menschen zu opfern, in Ländern geringer, in denen man außerhalb von Familie oder Beruf nur schwierig neue Beziehungen knüpfen kann. Die Forscher nehmen an, dass Menschen davor zurückschrecken, kontroverse und unpopuläre Entscheidungen zu treffen, weil sie Angst davor haben, ihre aktuellen Beziehungen zu verlieren. "Die Menschen befürchten möglicherweise, dass sie als 'Monster' wahrgenommen werden könnten, wenn sie bereit sind, das Leben eines Menschen für das Allgemeinwohl zu opfern", sagt Rahwan.

"Das Trolley-Problem hat ein Revival erfahren"

Noch deutlichere Unterschiede traten beim Footbridge-Szenario auf. Die Frage, ob ein Mensch von einer Brücke geworfen werden sollte, um die Straßenbahn zu stoppen und fünf Menschenleben zu retten, wurde von den Studienteilnehmern in Deutschland zur Hälfte mit Ja beantwortet. In China sprach sich nur ein Drittel der Befragten für das Opfern aus, in Vietnam hingegen zwei Drittel.

"Im Zuge der Debatte um autonome Fahrzeuge hat das Trolley-Problem ein Revival erfahren", sagt Rahwan. "Wie sollen selbstfahrende Fahrzeuge sich verhalten, wenn ein Unfall nicht zu verhindern ist? Soll das Fahrzeug einer Menschengruppe ausweichen und dabei den Insassen des Autos opfern?" Universelle Grundsätze, an die sich Ingenieure und Programmierer von autonomen Fahrzeugen halten könnten, gebe es nicht. 

Die Forscher betonen, dass es noch zu früh sei, kausale Zusammenhänge zwischen den moralischen Entscheidungen der Menschen und ihren kulturellen Hintergründen herzustellen. Es gebe jedoch vermehrt Anzeichen dafür, dass die Art und Weise, wie das persönliche Ansehen in einer bestimmten Kultur gepflegt wird, die moralischen Intuitionen der Menschen und somit auch die Entwicklung künstlicher Intelligenz beeinflussen könne.

jki
Die Wiedergabe wurde unterbrochen.