US-Bericht zu autonomen Waffensystemen Wettlauf der Kampfroboter

Ein wichtiges Beratergremium des Pentagon fordert die US-Regierung zu massiven Investitionen in autonome Waffensysteme auf, sonst übernehme China den Spitzenplatz. Droht ein neuer Rüstungswettlauf?
US Marines auf einer Übungspatrouille mit einem Kampfroboter in Kalifornien (im Juli 2016)

US Marines auf einer Übungspatrouille mit einem Kampfroboter in Kalifornien (im Juli 2016)

Foto:

Pfc. Rhita Daniel / 15th Marine Expeditionary Unit

Können, dürfen, sollen autonome Waffen Krieg führen? Man kann diese Frage mit Alltagswissen und etwas Zynismus beantworten. Wer einmal einen Computer bedient hat, wer sich mit Abstürzen und vergrützten Updates herumgeschlagen hat, der kann die Vorstellung nur grotesk finden, dass Maschinen über Leben und Tod entscheiden.

In der Militärtechnik vollzieht sich aber gerade eine Revolution, die dritte grundlegende nach der Erfindung des Schwarzpulvers und der Atomwaffen. »Die enormen technologischen Fortschritte, die in den letzten Jahren in den Bereichen der Robotik und der künstlichen Intelligenz (KI) erzielt wurden, haben diese Vorstellung autonom agierender Waffen an die Schwelle zur konkreten Umsetzung gerückt«, heißt es etwa in einem Gutachten  des Büros für Technikfolgenabschätzung beim Deutschen Bundestag.

In vielen Staaten rund um die Welt wird darüber gesprochen, was die Digitalisierung für den Militärbereich bedeutet – so aktuell auch in den USA. Dort hat ein wichtiges Beratergremium des US-Verteidigungsministeriums dazu gerade Empfehlungen  an Präsident Joe Biden und den Kongress vorgelegt.

Mit besten Grüßen aus dem Silicon Valley

Und mit Computern, ihren Unzulänglichkeiten und ihren Versprechungen, kennt sich die Gruppe jedenfalls aus. Unter den 15 Mitgliedern der National Security Commission on Artificial Intelligence befindet sich der kommende Amazon-Chef Andy Jassy, der bisher bereits für das Cloud-Geschäft des Konzerns verantwortlich war. Google und Microsoft haben ihre Verantwortlichen für künstliche Intelligenz, Andrew Moore und Eric Horvitz, geschickt, Oracle die Vorstandsfrau Safra Catz. Geleitet wurde das Gremium vom früheren Google-Chef Eric Schmid, der auch zwei weiteren Pentagon-Kommissionen vorstand.

Der aktuelle Abschlussbericht der Kommission behandelt die Frage, welche Rolle Amerika künftig bei Entwicklung und Einsatz autonomer Waffensysteme spielen soll. Und wenn es nach Schmid und den anderen Mitgliedern des Gremiums geht, kann es darauf nur eine Antwort geben: Die USA müssen ganz, ganz vorn dabei sein, sonst übernimmt China diesen Platz. Einzig Atomwaffen sollten nicht maschinell gesteuert werden – aber sonst sei die breite Förderung entsprechender Technologien extrem wichtig.

»Die Vereinigten Staaten müssen jetzt handeln, um KI-Systeme einzusetzen und wesentlich mehr Ressourcen in KI-Innovationen zu investieren, um ihre Sicherheit zu schützen, ihren Wohlstand zu fördern und die Zukunft der Demokratie zu sichern«, heißt es in dem Bericht. Ein globales Verbot solcher Waffensysteme wäre dagegen nicht im Interesse des Landes – weil sich die wichtigsten strategischen Gegner ohnehin nicht daran halten würden: »Zusagen von Staaten wie Russland oder China würden wahrscheinlich bedeutungslos sein«, so das Fazit der Kommission.

Amerika solle so viel investieren wie möglich, um einen Vorsprung vor Ländern wie Russland, vor allem aber China zu behalten, diese Dominanz dann für Stabilität sorgen. Aufrüsten für den Frieden, sozusagen. Expertinnen und Experten sehen das kritisch. »Wir sind weiter auf dem Weg zu einem Rüstungswettlauf zwischen den USA sowie China und Russland«, sagt Anja Dahlmann von der Stiftung Wissenschaft und Politik (SWP) in Berlin. Die Amerikaner nähmen an, dass sie die technologische Führung halten und ausbauen könnten. Doch das sei zweifelhaft. »Man kann enorme Zweifel an der Sinnhaftigkeit dieser Schlagrichtung haben«, bestätigt auch Frank Sauer von der Universität der Bundeswehr in München.

Verhandlungen laufen seit Jahren

Dass die Kommission die Idee trotzdem vertritt, kann durchaus eigennützige Motiv haben. Viele der Mitglieder haben ein Interesse daran, dass das US-Militär möglichst viel Geld in die Digitalisierung steckt. Amazon und Oracle streiten sich zum Beispiel gerade vor Gericht, wer für das Pentagon ein milliardenteures Cloud-System aufbauen kann. Und Kommissionschef Schmid ist offenbar Investor bei gleich mehreren Militärtechnikfirmen. »Er hat viele, viele finanzielle Anreize, um sicherzustellen, dass das Verteidigungsministerium und andere Bundesbehörden KI aggressiv einsetzen«, sagt  auch John Davisson vom Electronic Privacy Information Center in Washington.

Aber wäre ein internationales Verbot autonomer Waffen überhaupt realistisch? Bei den Vereinten Nationen in Genf laufen dazu seit Jahren Gespräche im Rahmen der Konvention über bestimmte konventionelle Waffen. Richtig voran kommen sie nicht. Das hat wohl mit politischem Willen zu tun, aber auch mit der Komplexität der Materie. Sprengköpfe und Panzer lassen sich vergleichsweise einfach zählen, die Reichweite von Raketen berechnen – mit Algorithmen sind die Dinge etwas komplizierter.

Bewaffneter Roboter auf einer Messe in der ukrainischen Hauptstadt Kiew (im Oktober 2016)

Bewaffneter Roboter auf einer Messe in der ukrainischen Hauptstadt Kiew (im Oktober 2016)

Foto: Sergey Dolzhenko/ dpa

Die Menschenrechtsorganisation Human Rights Watch hat im vergangenen Jahr in einem Bericht  die Positionen der Staaten zusammengetragen. Demnach haben sich nur rund 30 Länder, vor allem aus Südamerika, Afrika und Asien, klar für ein internationales Verbot ausgesprochen.

Bei vielen anderen Ländern, darunter Deutschland, sei die Position etwas komplizierter. Zwar heißt es im Koalitionsvertrag  der aktuellen Bundesregierung: »Autonome Waffensysteme, die der Verfügung des Menschen entzogen sind, lehnen wir ab. Wir wollen sie weltweit ächten.« Doch Human Rights Watch beklagt, Deutschland habe zwar an jedem CCW-Treffen zu Killerrobotern in den Jahren 2014 bis 2019 teilgenommen, die Beamten hätten aber »Vorschläge zur Aufnahme von Vertragsverhandlungen nicht unterstützt«. Stattdessen habe Deutschland zusammen mit Frankreich eine politische Erklärung vorgeschlagen, die aber nicht rechtsverbindlich wäre.

»Die deutsche Rolle ist ambivalent«, sagt auch SWP-Forscherin Dahlmann. Das beginne bereits damit, dass der Begriff »ächten« aus dem Koalitionsvertrag viel Interpretationsspielraum lässt und niemand genau wisse, »was er hier eigentlich bedeuten soll«. Geht es also um ein rechtlich bindendes Verbot? Geht es um eine politische Absichtserklärung, dass man die Technologie nicht gut findet?

In der Regierung gibt es dazu verschiedene Positionen. Im Auswärtigen Amt kann man sich ein internationales Verbot autonomer Waffen gut vorstellen, Minister Heiko Maas erklärt dies auch regelmäßig öffentlich. Doch die Diplomaten in den Verhandlungen bekommen keine Weisung, das auf internationaler Bühne auch so zu fordern. Und im Verteidigungsministerium würde es mancher im Zweifel ohnehin wohl lieber bei einer Absichtserklärung belassen.

Das hat vermutlich auch mit dem neuen Luftkampfsystem FCAS zu tun, das Deutschland, Frankreich und Spanien zusammen entwickeln wollen . Das »Future Combat Air System« soll ab dem Jahr 2040 die Kampfjets »Eurofighter« und die französische »Rafale« ersetzen. Es umfasst neben einem klassischen Kampfflugzeug auch sogenannte Remote Carrier, die vom Jet ausgesetzt werden können und dann im Verbund operieren. Diese unbemannten Flugkörper sollen die Fähigkeiten von Lenkflugkörpern und Drohnen verbinden und dürften zumindest einige autonome Funktionen haben, die Details werden gerade festgelegt.

So könnte das Kampfflugzeug des »Future Combat Air System« ausehen

So könnte das Kampfflugzeug des »Future Combat Air System« ausehen

Foto: CHARLES PLATIAU / REUTERS

In den USA mehren sich derweil auch kritische Stimmen zum Einsatz künstlicher Intelligenz beim Militär – und die stammen nicht nur von Friedensaktivisten. Da ist zum Beispiel Mary Cummings, auf ihrer F/A-18 einst eine der ersten Kampfpilotinnen der Navy. Heute befasst sie sich an der Duke University in Durham (Bundesstaat North Carolina) mit autonomen Waffen.

Der Großteil der KI-Entwicklung finde im kommerziellen Bereich statt, sagt  sie. »Das Militär ist weit, weit, weit hinterher.« Cummings bezeichnet sich selbst als »Techno-Realistin«. Künstliche Intelligenz beim Militär sei wichtig, sie werde auch für zukünftige Entwicklungen wichtig sein – aber die »Hysterie«, dass sie übermäßig leistungsfähig sei, »das ist nicht wahr«.

Die Risiken eines Rüstungswettlaufs durch KI-Waffen sind also real, die vermeintlichen militärischen Vorteile nicht unbedingt. Vielleicht kommt auch Präsident Biden zu dieser Erkenntnis. Dass ihm Rüstungskontrolle am Herzen liegt, hat er bereits unmittelbar zu Beginn seiner Amtszeit erkennen lassen. Da einigte er sich mit Russlands Präsident Wladimir Putin auf eine Verlängerung des atomaren Abrüstungsvertrags »New Start«. Forscher Sauer sagt daher: »Ich kann mir vorstellen, dass es aus der Biden-Regierung auch einen neuen Impuls für die Gespräche zu autonomen Waffensystemen gibt.«