Zukunftsforschung Künstliche Intelligenz wird das All erobern

Er hat keine Angst vor superintelligenten Maschinen - Jürgen Schmidhuber ist einer der führenden Forscher in Sachen künstliche Intelligenz. Hier erklärt er seine Zuversicht - und warum das All für Roboter gemacht ist.

Ein Interview von

Mars-Rover Curiosity (Selbstporträt): "Der Asteroidengürtel ist voller Material für selbstreplizierende Roboterfabriken"
REUTERS

Mars-Rover Curiosity (Selbstporträt): "Der Asteroidengürtel ist voller Material für selbstreplizierende Roboterfabriken"


Künstliche Intelligenz (KI) macht derzeit rasante Fortschritte: Googles Tochterfirma Deepmind etwa hat gerade ein System vorgestellt, das menschliche Profis im Spiel Go schlagen kann, was lange als unmöglich galt. Gleichzeitig warnen Prominente wie der Physiker Stephen Hawking oder Tesla-Gründer Elon Musk vor den Gefahren einer "Superintelligenz", wie der Oxford-Philosoph Nick Bostrom so eine übermenschliche KI nennt.

Möglich sind die rasanten Fortschritte dank des Wachstums von Rechenleistung und Speicherkapazität, aber auch dank immer besserer Algorithmen. Eine zentrale Rolle spielen auch künstliche neuronale Netze, digitale Konstrukte, die grob der Morphologie menschlicher Gehirne nachempfunden sind. Solche Netzwerke sind lernfähig und schon jetzt vielerorts im Einsatz, von der Sprach- und Bilderkennung bis hin zu automatischen Übersetzungen.

Einer der Pioniere und weltweit führenden Forscher in diesem Bereich ist der deutsche Informatiker Jürgen Schmidhuber, heute einer der Leiter des Schweizer KI-Forschungsinstituts IDSIA. Die Arbeiten seiner Forscherteams zu künstlichen neuronalen Netzen revolutionierten unter anderem Handschrifterkennung, Spracherkennung, maschinelle Übersetzung und automatische Bildbeschreibung, sie können beispielsweise bei der Krebsfrüherkennung helfen. Heute werden sie von Firmen wie Google, Microsoft, IBM und Baidu eingesetzt. Ehemalige Schmidhuber-Doktoranden gehören zu den ersten Mitarbeitern des von Google aufgekauften KI-Unternehmens Deepmind.

  • Hubert Burda Media
    Jürgen Schmidhuber, Jahrgang 1963, will schon seit seiner Kindheit eine sich selbst verbessernde künstliche Intelligenz bauen, die klüger ist als er selbst.
SPIEGEL ONLINE: Sie haben bei einem Vortrag kürzlich gesagt, Menschen werden bald nicht mehr die intelligentesten Wesen auf dem Planeten sein, weil die KIs sie überholen werden. Macht ihnen das keine Angst?

Schmidhuber: Nein. Mehr Angst habe ich vor anderen Menschen, die mir ähnlich sind, und daher ähnliche Ziele haben, und damit vielleicht auch einen Grund, sich mit mir zu streiten.

SPIEGEL ONLINE: Sie haben einen Aufruf unterzeichnet, in dem vor solchen autonomen Waffen gewarnt wird.

Schmidhuber: Ja, doch die scheinen unaufhaltsam. Natürlich wird KI auch vom Militär eingesetzt. Jeder General, der weiß, dass sich selbstfahrende Autos auch als halbwegs intelligente Minensucher verwenden lassen, wird nicht mehr das Leben seiner Soldaten riskieren wollen, sondern lieber solche Maschinen einsetzen. Das ist jedoch harmlos im Vergleich zur gut 60 Jahre alten Technologie der Wasserstoffbomben. Eine davon hat mehr Zerstörungskraft als alle Waffen des 2. Weltkriegs zusammen, ganz ohne KI. Was braucht eine militärische Supermacht? Wasserstoffbomben und Interkontinentalraketen, um sie innerhalb von ein bis zwei Stunden zu jedem Punkt der Erde zu transportieren. Wer das kann, ist militärisch unantastbar. Leute mit einem Finger am Drücker von 7000 Wasserstoffbomben erscheinen mir viel gefährlicher als KIs.

SPIEGEL ONLINE: Aber was ist, wenn die KI am Ende über den Einsatz der Wasserstoffbomben entscheidet, wie im Film "War Games"?

"War Games" (1983): Großrechner gebietet über Atomwaffen
ddp images

"War Games" (1983): Großrechner gebietet über Atomwaffen

Schmidhuber: Ich merke schon, Sie wollen mit mir heute nicht darüber reden, wie unsere KIs und künstlichen neuronalen Netze aktuell bereits Milliarden Menschen helfen können, etwa durch klügere Smartphones und automatische Krebsfrüherkennung; Sie interessieren sich mehr für mögliche Gefahren der ferneren Zukunft. Na gut. Im "War Games"-Szenario wäre einiges schiefgelaufen. Sie werden einer KI, mit der Sie wenig Erfahrung haben, kaum ein Atomkraftwerk anvertrauen, sondern lieber einem Menschen. Aber nicht mal bei dem können Sie sicher sein, dass seine Frau ihn nicht morgen verlässt, er wahnsinnig wird und entscheidet: "Jetzt lasse ich mein Kernkraftwerk hochgehen und nehme noch ein paar mit." Ebenso wenig, wie man beweisen kann, dass ein Mensch niemals einen katastrophalen Fehler machen wird, kann man es bei hinreichend komplexen Systemen.

SPIEGEL ONLINE: Gerade das klingt doch sehr beunruhigend.

Schmidhuber: Aber nicht beunruhigender als das, was wir sowieso schon vom Menschen kennen. Wie gesagt, ein gewisser langfristiger Schutz besteht eher darin, dass Konflikte aus gemeinsamen Zielen erwachsen. Wer teilt Ihre Ziele? Vor allem andere Menschen. Weniger die KIs, die sich im Sonnensystem mit seinen gigantischen bisher ungenutzten Ressourcen ausbreiten werden und vielleicht nur peripher an der winzigen Biosphäre interessiert sind, deren Sauerstoff Roboter rosten lässt. Die superklugen KIs der Zukunft werden sich vor allem für andere superkluge KIs interessieren und weniger für Menschen und Frösche. Menschen interessieren sich ja auch mehr für andere Menschen als für Frösche.

Fotostrecke

32  Bilder
Künstliche Intelligenz im Kino: Gnadenlose Schaltkreise
SPIEGEL ONLINE: Sie selbst sprechen manchmal vom "künstlichen Wissenschaftler" ...

Schmidhuber: Tatsächlich können wir schon künstliche Wissenschaftler der rudimentären Sorte bauen. Die haben ein lernendes Weltmodell, versuchen vorherzusagen, was passiert, wenn sie dies oder jenes tun, versuchen, die Daten, die sie dabei erfassen, zu komprimieren, so wie Einstein, Newton oder Kepler das erfolgreich betrieben haben durch das Entdecken einfacher mathematischer Naturgesetze. Das künstliche neuronale Netzwerk das die Experimente erfindet, die zu Daten führen, aus denen man was lernen kann, bekommt dafür interne Belohnungen, motivierende Freudensignale, die es versucht zu maximieren. Der Wunsch nach Selbstständigkeit ist damit schon ins System eingebaut - es setzt sich bis zu einem gewissen Grade seine eigenen Ziele, wie ein Kind, hat also schon eine gewisse Freiheit. Wir sprechen auch von artificial curiosity, künstlicher Neugier.

Laborratte: Interessante Experimente - an Menschen?
AFP

Laborratte: Interessante Experimente - an Menschen?

SPIEGEL ONLINE: Nehmen wir mal an, wir haben jetzt so neugierige KIs. Eine davon stellt fest, dass wir gerade dabei sind, die Biosphäre zu zerstören. Was, wenn die KI entscheidet, dass man uns dringend aufhalten muss?

Schmidhuber: Wenn wir schon wild spekulieren: Eine solche wohlmeinende KI, die das Leben erforscht, wird wohl auch höchst interessiert sein an der durch Menschen geprägten Übergangsphase vom nicht so intelligenten Leben hin zur KI selbst. Sie wird verstehen wollen, wie menschliche Gesellschaften funktionieren: Was treibt die an? Wie schuf ihre technologische Zivilisation schließlich die ersten KIs? Ich kann nicht sehen, welches Motiv ein vernünftiger - unter Umständen auch künstlicher - Wissenschaftler haben könnte, Vertreter dieses hochinteressanten Teils seiner Geschichte zu eliminieren, so wie in gewissen Schwarzenegger-Filmen.

SPIEGEL ONLINE: Wir Menschen tun unseren Forschungsobjekten, etwa Laborratten, ja zum Teil brutale Dinge an. Was, wenn die KI auch lauter aus ihrer Sicht interessante Experimente mit Menschen macht?

Ebola-Virus: Schädliche Lebewesen absichtlich ausrotten?
dpa

Ebola-Virus: Schädliche Lebewesen absichtlich ausrotten?

Schmidhuber: Es gibt etliche menschliche Wissenschaftler, die anderen Tieren Qualen zufügen, um herauszufinden, wie die funktionieren. Das ist bedenklich. Aber zumindest will kaum ein Mensch bewusst ganze Arten ausrotten, abgesehen von Krankheitserregern. Ist es gerechtfertigt, das Ebola-Virus zu eliminieren, eines der wenigen wirklich bedrohlichen nicht menschlichen Wesen, mit denen wir einen krassen Zielkonflikt haben? In der langen Evolutionsgeschichte wurden immer wieder Lebensformen durch andere ersetzt. Vorherrschende Wertvorstellungen haben sich dabei oft gewandelt. Vor langer Zeit gab es viele Methan atmende Bakterien. Wir denken heute, es war gut, dass sich die Sauerstoffatmer durchgesetzt haben, aber was würden die Methanatmer dazu sagen?

SPIEGEL ONLINE: Oder aus der Sicht von Geschöpfen, für die, wie sie es vorhin angesprochen haben, die Atmosphäre der Erde eher ein Hindernis darstellt? Die der Meinung sind, es wäre schöner, wenn die Erde ein schönes Vakuum hätte, weil man dann kein Problem mit Rost hat?

Schmidhuber: Man könnte schon naive Science-Fiction-Romane dieser Art schreiben. Aber es gibt ja bereits eine Menge Vakuum da draußen, da braucht es nicht noch mehr, und vermutlich gibt es für KIs Millionen Beweggründe, so eine hochinteressante, komplexe Biosphäre wie die unsere - die einzige, von der wir bislang wissen - zu erhalten. Menschen finden Naturschutzgebiete ja auch gut.

"Culture"-Roman von Iain M. Banks: Wohlmeinende Künstliche Intelligenzen

"Culture"-Roman von Iain M. Banks: Wohlmeinende Künstliche Intelligenzen

SPIEGEL ONLINE: Wohlmeindende KIs, die sich um die Menschheit kümmern, das klingt sehr nach den "Culture"-Romanen des verstorbenen Schriftstellers Iain M. Banks. Eine in einem paradiesischen Zustand lebende, über das Universum verteilte Menschheit und gütige KIs, die im Hintergrund die Fäden ziehen?

Schmidhuber: Banks und früher schon viele andere haben hierzu interessante Geschichten geschrieben. Die meisten setzen leider die bekannte Physik außer Kraft. Da gibt es Reisen mit Überlichtgeschwindigkeit und so weiter. Aus dramaturgischer Sicht sind die zwar wünschenswert für kurzlebige Menschen. Aber der Weltraum ist nicht für Menschen gemacht, sondern für entsprechend konstruierte Roboter, die sich dort wohlfühlen. Der Asteroidengürtel etwa ist voller Material für Milliarden selbst replizierender Roboterfabriken.

"Raumschiff Enterprise": Die KI braucht keinen Warp-Antrieb
ddp images/ Paramount/ INTERTOPICS/ mptv

"Raumschiff Enterprise": Die KI braucht keinen Warp-Antrieb

SPIEGEL ONLINE: Künstliche Intelligenz, die Weltraumroboter einsetzt?

Schmidhuber: Klar, denn fast alle Ressourcen in Form von Energie und Materie befinden sich dort draußen. KIs werden vielleicht innerhalb weniger Millionen Jahre die ganze Milchstraße auf recht konventionelle Weise kolonisieren, im Rahmen dessen, was mit heute bereits absehbaren Technologien physikalisch möglich ist, sagen wir, mit einem Prozent der Lichtgeschwindigkeit, zum Beispiel durch lasergetriebene Lichtsegel. Wenn eine selbst replizierende Roboterfabrik mal den großen Sprung zum nächsten Stern geschafft hat, kann sie in dessen Asteroidengürtel anfangen, die Infrastruktur zu schaffen, die man braucht, um wirklich elegant zu reisen.

SPIEGEL ONLINE: Elegant zu reisen?

Schmidhuber: Per Radio, mit Lichtgeschwindigkeit. Eine KI, die was auf sich hält, reist natürlich per Funk von einem Sonnensystem zum nächsten, und wird dort wieder zusammengebaut. Wie lange wird es dauern, bis die ganze Galaxis mit entsprechenden Empfangsstationen voll ist? Vielleicht kaum zehn Millionen Jahre, ein kleiner Bruchteil des galaktischen Jahres.

SPIEGEL ONLINE: Die KI braucht also keinen Warp-Antrieb?

Schmidhuber: Keineswegs. Warpdrive, Hypersprung und so weiter, das ist menschliches Wunschdenken der Fünfzigerjahre des letzten Jahrhunderts. Isaac Asimovs galaktisches Imperium beruhte darauf, und ich verstehe auch jeden menschenzentrierten Science-Fiction-Autor, der sich so etwas wünscht, aber es ist nun einmal so unrealistisch. Die wahre Zukunft im Weltraum gehört nicht den Menschen, sondern der künstlichen Intelligenz. Sehen wir die Menschheit als bedeutende Stufe für den nächsten Schritt des Universums hin zu immer unfassbarerer Komplexität.

Mehr zum Thema


Forum - Diskussion über diesen Artikel
insgesamt 249 Beiträge
Alle Kommentare öffnen
Seite 1
AlexZatelli 06.02.2016
1. Endlich!
Es war schon immer ein Irrsinn, so etwas fragiles wie einen Menschen dort hinauf in zu schiessen. Welch ein Aufwand an Sicherheitstechnik. Roboter statt Teflonpfannen! (Eh nur ein Schmäh, die Bratpfanne).
event.staller 06.02.2016
2. Super-Intelligenz bedeutet hoffentlich,
daß der so künstlich Über-Kluge den Schaden, den er anrichtet kann, viel weiter voraussieht und frühzeitiger vermeidet als der nur "natürlich" Kluge. Sofern das "Künstliche" wirklich schlau genug ist, um auch eine höhere Moral zu haben, wäre es tatsächlich "super".
Markus Landgraf 06.02.2016
3. Der Mensch ist besser geeignet
Menschen können mit Weltraumstrahlung viel besser umgehen, als Computer. Ein laptop würde im Erdorbit keine halbe Stunde durchhalten. Die leistungsfähigen computer im Weltraumeinsatz gibt es auf der ISS - und dort funktionieren sie nur, weil sie zusammen mit den Astronauten im Habitat untergebracht sind. Die ewige Mär vom Menschen ersetzenden Roboter muss endlich mal aus den Köpfen verschwinden.
Maverlized 06.02.2016
4. Zeit
heißt das Zauberwort! Die Spezies, die für ihre Ausbreitung die Entfernungen im Weltall überbrücken muss/will, muss "fit" sein im darwinschen Sinne für eine völlig neue "Lebens"-Bedingung: die Zeit! Das erreicht sie dadurch, dass die Dauer ihres "Lebens"-Zyklus' in der Größenordnung der Dauer der Reise liegen muss - oder höchstens 1-2 Zehnerpotenzen darüber. Das muss nicht den Sprung vom Leben zur KI erfordern. Das kann auch durch Langlebigkeit organischen (menschlichen) Lebens erreicht werden. Stichwort: Altern! Auch hier verzeichnet die Menschheit bereits enorme Fortschritte. Das Problem einer solchen Anpassung - für KI genauso wie Lebensformen - ist, dass damit zwangsläufig die Evolutionsgeschwindigkeit sinkt. Aber das kommt ja der Entwicklung des Weltalls entgegen. Auch hier wird vorausgesagt, dass Veränderungen in einem expandierenden Universum, welches zuletzt nur noch aus zerstrahlenden Neutronen, Protonen und Elektronen besteht, extrem langsam ablaufen. Intelligenz sei in einem solchen Universum aber durchaus denkbar - der Zeit angepasst. Es bleibt spannend
i6lam 06.02.2016
5. Intelligenz?
Sind wir sicher, das das nicht künstliche Dummheit ist?
Alle Kommentare öffnen
Seite 1
Diskussion geschlossen - lesen Sie die Beiträge! zum Forum...

© SPIEGEL ONLINE 2016
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.