Wissenschaft

Zuckerberg vs. Musk

Wir sind zu dumm für künstliche Intelligenz

Zwei Milliardäre werden giftig: Es geht um die Frage, ob künstliche Intelligenz die Menschheit bedroht. Der Streit zwischen Mark Zuckerberg und Elon Musk ist sehr unterhaltsam - geht aber am Thema vorbei.

Eine Kolumne von

DPA

Die Roboterdame "Pepper"

Sonntag, 30.07.2017   16:46 Uhr

Elon Musk gehört zu den Menschen, für die Science-Fiction-Bücher keine Unterhaltungsliteratur sind, sondern konkrete Beschreibungen optionaler Zukünfte. Er selbst und seinesgleichen haben nach dieser Lesart die Aufgabe, aus den diversen Optionen die passenden auszuwählen und Realität werden zu lassen, möglichst zügig. Deshalb bauen Musks Firmen die ersten Elektroautos, die als Statussymbole durchgehen und Raketen, mit denen er den Mars besiedeln will. Und deshalb warnt er unablässig und stetig lauter werdend vor den Gefahren, die rapide Verbesserungen im Bereich der künstlichen Intelligenz (KI) der Menschheit bringen werden, glaubt man Musk.

Mark Zuckerberg liest auch ganz gern mal ein Science-Fiction-Buch. Er hat sogar einen Favoriten mit Musk gemeinsam: "A Player of Games" von Iain M. Banks. Der Roman ist ein interessanter Berührungspunkt zwischen den beiden. Er entstammt der sogenannten Culture-Reihe, in der Banks eine interplanetare Utopie ausmalt. Eine Welt, in der Menschen so lange leben, wie sie wollen, sich Kunstgenüssen, dem Streben nach Erleuchtung oder aber Drogen- und Sexexzessen hingeben können. In wunderschönen, künstlich geschaffenen Landschaften existieren sie frei und unbeschwert, dürfen aber, wenn sie unbedingt wollen, auch intergalaktische Abenteuer und Begegnungen mit fremden Spezies erleben, sich als Fortschrittskolonialisten betätigen.

"All unserer Dummheit entledigt"

Möglich wird diese Existenz dank mächtiger, wohlwollender, superintelligenter KIs, die all die fantastischen Menschenspielplätze bauen und betreuen, beseelt von einem nie so recht erklärten Beschützerinstinkt für die schwachen, fehlbaren Menschlein. Banks, der auch sehr düstere Bücher über die reale Welt geschrieben hat, benutzte künstliche Intelligenz, um die kleinmütigen, aggressiven und selbstsüchtigen Menschen von heute ins Paradies zu hieven, an "den Ort, den zu erreichen wir hoffen könnten, nachdem wir uns all unserer Dummheit entledigt haben", wie er drei Jahre vor seinem Tod erklärte.

Zuckerberg hat diese Vision augenscheinlich überzeugt, Musk weniger. Der Tesla-Gründer warnt beständig vor den Gefahren superintelligenter Maschinen, gern mit drastischen Bildern. Erst vor zwei Wochen erklärte er bei einer Tagung der Gouverneure aller US-Staaten: "Ich läute immerzu die Alarmglocke, aber bevor die Leute nicht Roboter sehen, die auf den Straßen Leute umbringen, wissen sie nicht, wie sie reagieren sollen, weil das so wenig greifbar scheint."

Zuckerberg findet das "negativ" und "verantwortungslos"

Als Mark Zuckerberg vor einer Woche bei einem Live-Gespräch mit Facebook-Nutzern auf Musks Warnungen angesprochen wurde, reagierte er unwirsch. Er sei "optimistisch", was das Thema KI angehe, und könne "Leute, die diese Weltuntergangszenarien beschwören", einfach nicht verstehen. Die seien so "negativ", ja nachgerade "verantwortungslos".

Als Musk dann via Twitter verlauten ließ, er habe "mit Mark über das Thema gesprochen" und dabei festgestellt, dass der über ein "sehr eingeschränktes Verständnis" der Materie verfüge, packten sowohl Science-Fiction-Fans als auch Freunde öffentlicher Milliardärsstreitereien das Popcorn aus.

Nun hat Zuckerberg in dieser Frage handfeste Interessen - seine eigene KI-Abteilung ist mit internationalen Spitzenkräften bestückt und bemüht sich angestrengt, den Vorsprung von Googles KI-Laboren einzuholen. Musk aber fordert Regulierung für die Entwicklung von KI-Systemen und zwar "proaktiv, nicht reaktiv". Eine Position, die im Silicon Valley sehr unüblich ist und die Ambitionen von Facebook, Google und Co. natürlich behindern könnte.

Eine KI, die uns betrachtet, wie wir Ameisen betrachten

Tatsächlich aber gehen sowohl Musks "Roboter, die Menschen töten"-Visionen als auch Zuckerbergs uneingeschränkter Optimismus am aktuellen Kern des Themas vorbei. Das Szenario, das Warner wie Musk, Stephen Hawking oder der Neurowissenschaftler und Philosoph Sam Harris beschwören, ist dieses: Sobald wir eine KI erschaffen, die tatsächlich klüger ist als kluge Menschen, wird sie sich anschließend selbst immer weiter verbessern, und zwar rasend schnell. Diese Superintelligenz, wie der Oxford-Philosoph Nick Bostrom das genannt hat, könnte nett zu uns sein - oder uns ähnlich betrachten, wie wir Ameisen: manchmal putzig, interessant, oft aber lästig und im Zweifelsfall aus dem Weg zu räumen.

Die aktuell realen Gefahren von lernenden Softwaresystemen gehen von auf den ersten Blick weit trivialeren Eigenschaften aus: Lernende Systeme, die ihre Daten über gut und schlecht, falsch und richtig, relevant und irrelevant von uns Menschen beziehen, verhalten sich allzu oft genauso gut oder schlecht wie wir. Sie lernen, um es mit Iain Banks zu sagen, "all unsere Dummheit" mit: unseren Rassismus, unsere kognitiven Kurzschlüsse, unsere Tendenz zur Bösartigkeit, unsere Schwäche für die schnelle, leicht zu erreichende Belohnung, unsere Fehlurteile.

So dumm wie wir?

Es ist längst so weit: Algorithmische Systeme zur Entscheidung über Bewährungsauflagen diskriminieren Schwarze, Facebooks Sortiersystem begünstigt die Verbreitung von Hass, Wut und Lügen, Google bietet versehentlich Leuten, die auf der Suche nach Argumenten für Holocaustleugnung sind, Hilfestellung, automatische Handelssysteme verursachen Börsen-Crashes und so weiter. Kollateralschäden überall. Spätestens dann, wenn solche Systeme anfangen, Waffen zu steuern, wird es wirklich bedrohlich.

Musk hat also in gewisser Weise recht: Autonome Entscheidungssysteme brauchen Aufsicht und Kontrolle, und das besser früher als später. Das Risiko besteht derzeit aber nicht primär darin, dass die Maschinen zu klug werden - sondern darin, dass wir noch zu dumm sind, sie wirklich klug zu machen.

Forum

Forumskommentare zu diesem Artikel lesen
Weitere Artikel
© SPIEGEL ONLINE 2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH