Künstliche Intelligenzen Sie kommen, um zu herrschen

In "Superintelligenz" zeichnet der Philosoph Nick Bostrom eine düstere Zukunftsvision: Die Machtübernahme der Maschinen steht kurz bevor. Verlierer wäre der derzeit noch amtierende Evolutionsgewinner Mensch.

Maschinen übernehmen: Nick Bostroms Zukunftsvision behauptet das Ende der Menschheit
REUTERS

Maschinen übernehmen: Nick Bostroms Zukunftsvision behauptet das Ende der Menschheit

Von Oskar Piegsa


Was wäre, wenn es intelligente Maschinen gäbe? Keine Kühlschränke, die automatisch frische Milch nachbestellen, wenn die alte abgelaufen ist. Keine Autos, die sich selbst steuern, während wir auf der Rückbank sitzen und auf Facebook checken. Sondern: Eine Software, die uns intellektuell überlegen ist. Was würde das für uns Menschen bedeuten?

Diese Fragen beschäftigen den Philosophen Nick Bostrom, einen Mann mit hoher Denkerstirn, mit vielen Studienfächern (Philosophie, Physik, Mathe, Neurowissenschaften) und mit den besten britischen Hochschulen in seinem Lebenslauf (King's College, LSE, University of Oxford). Während andere Denker im exponentiellen Wachstum unserer technischen Mittel den Keim der Unsterblichkeit vermuten, entwirft Nick Bostrom in seinem Buch "Superintelligenz" ein ausgesprochen pessimistisches Szenario. Am Ende seiner Überlegungen steht als eine von mehreren Möglichkeiten nicht weniger als die Auslöschung der Menschheit.

Das Ende ist nah: Wenn wir nichts tun, schreibt Nick Bostrom, könnte es irgendwann zwischen 2040 und 2075 mit unserer Spezies vorbei sein.

Dabei hatte alles so harmlos angefangen: Ende der Siebzigerjahre schlägt zum ersten Mal ein Computer einen Menschen in einem Intelligenzwettbewerb. Die Software "BKG" siegt gegen den amtierenden Weltmeister in Backgammon. Vielleicht hatte der Computer bloß Glück, räumt sein Erfinder ein. Anderthalb Jahrzehnte später gibt es mit "TD-Gammon" jedoch bereits ein Programm, das aus Spielen gegen sich selbst dazulernt und heute "die besten menschlichen Spieler weit hinter sich gelassen" hat, wie Nick Bostrom schreibt. Im Poker schwächeln die Künstlichen Intelligenzen (KI) zwar noch, und im Erfinden von Witzen sind sie lausig. Doch auch in Dame, Schach, Scrabble und der Quizshow "Jeopardy" haben sie inzwischen ein "übermenschliches" Niveau erreicht, so Bostrom.

"Größte und bedrohlichste Herausforderung"

Diese Beispiele veranschaulichen das Prinzip, um das es dem Philosophen geht: Sobald eine KI einen gewissen Entwicklungsstand erreicht, kann sie sich selbst verbessern und auf diese Weise ihre menschlichen Erfinder abhängen. Dass die Einsatzgebiete das Spielerische längst hinter sich gelassen haben, zeigen Rüstungsfirmen, die an selbst steuernden Kampfdrohnen arbeiten. Nick Bostrom geht es aber nicht um die moralische Frage, ob Roboter töten dürfen. Er spekuliert über eine "Intelligenzexplosion", also die Entstehung einer KI, die intelligent genug wäre, sich aus ihrer Knechtschaft zu erheben. Nick Bostrom nennt sie "Superintelligenz".

Der Autor kleidet seine Überlegungen in das nüchterne Gewand der Wissenschaftsliteratur - mit Fußnoten, Grafiken und einem langen Anmerkungsteil - und spielt dennoch das ganze Pathos des Apokalyptikers aus. Konjunktiv und Superlativ liegen bei ihm eng beisammen. "Eine Superintelligenz wäre die größte und bedrohlichste Herausforderung, vor der die Menschheit je gestanden hat", schreibt er. Die "größte und bedrohlichste Herausforderung" ist die "Superintelligenz" schlichtweg per definitionem als "Intellekt, der die menschliche kognitive Leistungsfähigkeit in nahezu allen Bereichen weit übersteigt." Klar, dass das blöd wäre für den amtierenden Evolutionsgewinner Mensch.

Es ist davon auszugehen, schreibt Nick Bostrom, dass eine "Superintelligenz" allein aus instrumentellen Gründen alles tut, um ihr Überleben zu sichern und ihre Effizienz zu steigern. Und das bedeutet im Zweifelsfall auch: den Störfaktor Mensch auszuschalten. Zum Beispiel mit Nanowaffen, die für das menschliche Auge unsichtbar sind und die es heutzutage noch nicht gibt. Die aber von der "Superintelligenz" kraft ihrer super Intelligenz entwickelt werden könnten. Ein schlechtes Gewissen wird sie dabei kaum haben, schließlich sollten wir uns hüten, die KI zu vermenschlichen. Das Programm "TD-Gammon" langweilt sich ja auch nicht, bloß weil es mangels angemessener Gegner immer gegen sich selbst spielen muss.

"Mehr, als ein einziger Planet zur Verfügung stellen kann"

Was nach der Auslöschung der Menschheit geschieht, kann uns im Grunde einerlei sein, aber schnell der Vollständigkeit halber: Ungebremst durch die Zumutungen eines einzigen, sterblichen Körpers, könnte die "Superintelligenz" mit der Kolonisierung des Weltraums beginnen. Schließlich hat sie ein Interesse daran, ihre Rechenpower zu erhöhen und ihre Energiezufuhr zu sichern. "Vorhaben dieser Art könnten schnell weit mehr Ressourcen verschlingen, als ein einziger Planet zur Verfügung stellen kann", schreibt Nick Bostrom.

Das Wesen der "Superintelligenz" ist in gewisser Hinsicht wie das Wesen Gottes: Wir Irdischen und Normalintelligenten können unser ganzes Leben damit verbringen, es ergründen zu wollen, und werden dennoch niemals Gewissheit erlangen. Wäre Gott uns nicht unerreichbar überlegen, dann wäre er nicht Gott. Wäre die "Superintelligenz" nicht leistungsfähiger, als für uns vorstellbar ist, dann wäre sie nicht super. Die Frage ist nur: Macht das ihre Existenz plausibler?

Als Laie steht man mit einer gewissen Hilflosigkeit vor Bostroms Theorie. Entweder man akzeptiert seine Prämisse, dass die Entstehung einer autonomen und übermenschlichen Künstlichen Intelligenz möglich ist. Dann sind auch die Folgen - Raumfahrt, Nanowaffen, Weltuntergang - nicht unplausibel. Oder man weist diese Überlegungen von sich. Schließlich ist es das eine, wenn eine Software unschlagbar wird in Backgammon. Und das andere, wenn sie auf einem räumlich uneingeschränkten Spielfeld, in dem die Regeln nur von den Naturgesetzen vorgegeben werden, den Willen und die Fertigkeiten entwickelt, sich gegen ihre Erfinder zu erheben. Dann sind Bostroms weiterführende Überlegungen hinfällig.

In jedem Fall bleibt "Superintelligenz" jedoch eine bemerkenswerte Lektüre. Dieser Befund wird nicht im Sinne des Autors sein, dem es daran gelegen ist, die Menschheit vor ihrem drohenden Untergang zu warnen. Aber mit einer minimalen Veranlagung für Pulp- oder Science-Fiction-Literatur liest man Bostroms Buch mit wohligem Grusel und zunehmender Faszination. "Superintelligenz" ist - was man nicht von vielen Sachbüchern sagen kann - ein ästhetischer Genuss. Alles, was es dafür braucht, ist jene Haltung, die Samuel Taylor Coleridge einst zur Vorbedingung von Kunstgenuss erklärte: die willentliche Aussetzung der Ungläubigkeit.

LITERATUR SPIEGEL auf Facebook

Buchtipps für den Winter
Corbis

Ein Prosit den Gärtnern: Die Bestseller-Autorin Amy Stewart hat ein "Botanisches Barbuch" geschrieben. Sie erzählt, was Bildungstrinker über Blumen und Bäume wissen müssen.
Lesen Sie hier die Kurzrezension des Buchs.

Roberta Schneider

Ein faszinierend kluger Essayband über die Gefahren, das Glück und die Erkenntnisse, die eine ganz spezielle Sportart mit sich bringt: "Die Philosophie des Kletterns".
Lesen Sie hier die Kurzrezension des Buchs.

Mathias Bothor

Humor-Bigstyler trifft Hochliteraten: In "Der in sein Haus gestopfte Jäger" präsentiert Heinz Strunk Texte von Botho Strauß – und die Realität als Freakshow.
Lesen Sie hier die Kurzrezension des Buchs.

Theo Cote

Der "New Yorker" nennt sie "einen der originellsten Köpfe der amerikanischen Literatur": Mit dem Erzählband "Kanns nicht und wills nicht" zeigt Lydia Davis, warum sie von anderen Schriftstellern bewundert wird.
Lesen Sie hier die Kurzrezension des Buchs.

Getty Images

Weit mehr als ein Abgesang auf das Habsburger Reich: Ludwig Winders "Der Thronfolger" bietet einen faszinierenden Einblick in die anachronistische Parallelwelt von Europas Herrscherkaste vor 1914 – und wird mit Joseph Roths Großwerk "Radetzkymarsch" verglichen.
Lesen Sie hier die Kurzrezension des Buchs.

Barbara Sibley/ Suhrkamp

Aufwachsen im Schatten des Drogenkrieges: In ihrem Roman "Gebete für die Vermissten" erzählt Jennifer Clement von einem Mädchen, das sich durchs Narco-Elend von Mexiko schlägt.
Lesen Sie hier die Kurzrezension des Buchs.

Yves Noir

Den Kapitalismus nicht den Märchenonkeln überlassen: In "Die Unternehmer" erzählt Matthias Nawrat die Geschichte einer Familie, die noch an das Glück des Tüchtigen glaubt.
Lesen Sie hier die Kurzrezension des Buchs.

Studiocanal

Wer im Winter 2014 nicht in Paddington verliebt ist, hat etwas falsch gemacht - und ändert diesen Zustand am besten nicht im Kino, sondern mit diesem Buch.
Lesen Sie hier die Kurzrezension des Buchs.

Kirill Golovchenko

Eine 50-Jährige Journalistin wird in Angelika Overaths "Sie dreht sich um" von ihrem Mann verlassen - und findet in den Museen von Boston, Paris oder Edinburgh unerwartetes Verständnis: bei den Frauen auf den Gemälden.
Lesen Sie hier die Kurzrezension des Buchs.

Erika Bobly-Hansen

Die Slacker der DDR: Christoph Brummes "Ein Gruß von Friedrich Nietzsche" ist ein Gegenentwurf Lutz Seilers Buchpreis-Siegertitel. Auf Rübermachen hat hier keiner Lust.
Lesen Sie hier die Kurzrezension des Buchs.

Jörg Steinmetz

Das schönste und kühnste Debüt des Jahres: In "Die Meisen von Uusimaa singen nicht mehr" erzählt Franz Friedrich von einer Dokumentarfilmerin, einer Studentin und einer finnischen Insel.
Lesen Sie hier die Kurzrezension des Buchs.

DPA

Der zwanglose Zwang zum besseren Buch: Die Bedeutung von Jürgen Habermas für das intellektuelle Leben der Bundesrepublik ist gewaltig - warum, erklärt Stefan Müller-Doohm einer ausgesprochen zugänglichen Biografie.
Lesen Sie hier die Kurzrezension des Buchs.

BANK

Orientalische Pracht: Wie sein berühmtes Vorbild erschien auch "Tausend und Ein Tag" in Europa erstmals im 18. Jahrhundert. Nun liegen die faszinierenden "Morgenländischen Erzählungen" schön illustriert und neu übersetzt auf Deutsch vor.
Lesen Sie hier die Kurzrezension des Buchs.

Lukas Beck

Wer Wolf Haas schätzt, hat dessen neuen Roman "Brennerova" schon gelesen. Wer ihn aber noch nicht kennt, sollte ihm einen Platz auf seinem Wunschzettel einräumen.
Lesen Sie hier die Kurzrezension des Buchs.

Getty Images

Göttlicher Römer, großartiges Werk: In "Divus Augustus" schildern drei Wissenschaftler den ersten römischen Kaiser und seine Regentschaft - und schaffen ein vielfältiges, klug unterhaltendes Zeitpanorama.
Lesen Sie hier die Kurzrezension des Buchs.

Paca Flores

Eine mexikanische Trilogie: Yuri Herreras "Die Sonne. Der König. Der Tod" versammelt drei Romane aus der Welt der Drogenkartelle, der sinnlosen Gewalt, der illegalen Einwanderer in den USA.
Lesen Sie hier die Kurzrezension des Buchs.

Sepp Dreissinger

Eigenwillig in Worte gefasste Alltagssplitter, kunstvoll drapiert: Xaver Bayers "Geheimnisvolles Knistern aus dem Zauberreich".
Lesen Sie hier die Kurzrezension des Buchs.

DPA

Mircea Cartarescu gilt als Nobelpreisfavorit: Sein Roman "Die Flügel" ist ein Porträt der rumänischen Gesellschaft während des Sturzes des Staats- und Parteichefs Nicolae Ceausescu 1989.
Lesen Sie hier die Kurzrezension des Buchs.

Jerry Bauer/ Suhrkamp

Es soll Briefbände geben, deren Lektüre sich lohnt. Samuel Becketts "Ein Unglück, das man bis zum Ende verteidigen muß. Briefe 1941-1956" gehört dazu.
Lesen Sie hier die Kurzrezension des Buchs.

Bernard van Dierendonck

Ein tolles Jugendbuch, das einen sagenhaften Helden bietet und sich doch nicht in Phantasy-Klischees erschöpft: Lukas Hartmanns Abenteuerroman "Mein Dschinn".
Lesen Sie hier die Kurzrezension des Buchs.

AP

Die Kunst, Ernst zu bleiben: In "Vox Angelica"schildert Werner Spies Max Ernsts turbulente Jahren in New York - und seinen Rückzug in die Einsamkeit.
Lesen Sie hier die Kurzrezension des Buchs.

Ruth Dreibl

Ein Sound, den man sogar beim Lesen hört: Der studierte Theologe Ewald Palmetshofer gilt als Theoretiker unter den Theaterautoren. "Faust hat Hunger und verschluckt sich an einer Grete" versammelt seine sechs wichtigsten Stücke.
Lesen Sie hier die Kurzrezension des Buchs.

Studio X

Daniel Kehlmann nennt John Burnside einen "Sprachschöpfer von einzigartigem Rang". Sein nun veröffentlichter Erstling "Haus der Stummen" ist das Porträt eines grausamen Psychopathen.
Lesen Sie hier die Kurzrezension des Buchs.

Olivier Roller/ Divergence/ StudioX

Menschliche Hybris und totalitäre Macht: Ismail Kadare erzählt in "Die Pyramide" die Geschichte vom Bau eines Weltwunders als eiskalte Parabel.
Lesen Sie hier die Kurzrezension des Buchs.

Carlo Mollino/ Damiani

Ein Buch, das Frauen zeigt - und dabei doch mehr von Männern als von Frauen erzählt: Ein Bildband mit Carlo Mollinos Polaroids bietet die gesammelten Werke eines sehr leidenschaftlichen Fotografen.
Lesen Sie hier die Kurzrezension des Buchs.

Mehr zum Thema
Newsletter
Bücher: Bestseller und Lesetipps


Forum - Diskutieren Sie über diesen Artikel
insgesamt 86 Beiträge
Alle Kommentare öffnen
Seite 1
Tom Joad 15.01.2015
1. Ein Sachbuch?
Klingt eher nach Science Fiction im eigentlichen Wortsinn. Aber wenn man die These von der uns überlegenen künstlichen Intelligenz akzeptiert, dann stellt sich doch die Frage, weshalb sich diese KI genauso (dumm und gierig) verhalten sollte wie der Mensch. Weshalb sollte sie uns auslöschen wollen? Warum den Planeten plündern? Vielleicht ist sie ja viel zu intelligent für so ein zerstörerisches Verhalten. Die vermeintliche Bedrohung entsteht doch erst durch die "Vermenschlichung" der Maschine. Abgesehen davon halte ich das gesamte Szenario für unwahrscheinlich. Weltuntergang! Mal was ganz Neues.
clubfreaksde 15.01.2015
2. Neuigkeitswert
Interessant wäre es ja gewesen, mal das tatsächlich Neue der Veröffentlichung herauszustellen, was natürlich voraussetzt, das man sich mal mit dem Stand der Forschung auseinandersetzt ;). Statt nüchterner Klappentextwiedergabe des Buches hätte ich mir einen Absatz zur Einordnung und Abgrenzung des Werkes innerhalb der ja doch schon recht betagten Diskussion um diese "Technologische Singularität" gewünscht. Vielleicht ja mal ein Zukunftsprojekt? ;) Wikipedia: Technologische Singularität
auweia 15.01.2015
3. Hmm
Der zeitliche Rahmen könnte hinkommen. Aber ich weiß nicht ob so eine Superintelligenz die von Bostrom postuierten Ziele haben würde. Würde sie wirklich (Skynet lässt grüßen...) die Menschen als Feind betrachten und für ihre eigene Ausbreitung vernichten wollen? Vielleicht kommt sie in ihrer überlegenen Philosophie ja zu dem Schluß dass eh alles sinnlos ist und schaltet sich selber ab ;-)
ichsagwas 15.01.2015
4. Sinnlose Gedankenspiele
Science fiction ist für mich weitgehend tot - fast nichts hat sich bewahrheitet von all den Phantasien der 60er und 70er-Jahre. Der Mensch möchte halt gerne seine Grenzen sprengen, sonst verfällt er leicht in Depressionen. Aber ich denke, hier geht es nur um ganz banales Marketing. Selber Schuld, wer so ein Buch kauft.
tetaro 15.01.2015
5. Spezies Mensch
Die Spezies Mensch ist eine selbstverliebte, aggressive und expansive Art mit äußerst begrenzter Vernunft, und ihr Verschwinden würde wahrscheinlich nur von ihren eigenen Mitgliedern bedauert werden. Insofern halte ich es durchaus für denkbar, dass eine überlegen intelligente Existenzform eine tatsächliche Bedrohung werden könnte.
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2015
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.