21.02.2011

SPIEGEL-GESPRÄCH

Da ist niemand zu Hause

Von Bethge, Philip und Dworschak, Manfred

Der Computerpionier David Gelernter über den Sieg des IBM-Rechners "Watson" in der Quizshow "Jeopardy", die Aussichten auf ein künstlich geschaffenes Bewusstsein und den Glauben zukunftsfroher Visionäre an ein ewiges Leben auf der Festplatte

SPIEGEL: Herr Gelernter, wir suchen einen Begriff. Der amerikanische Journalist Ambrose Bierce umschrieb ihn als "vorübergehendes Irresein, heilbar durch Heirat". Wissen Sie, was gemeint ist?

Gelernter: Keine Ahnung.

SPIEGEL: Die Liebe.

Gelernter: Oh, die Liebe.

SPIEGEL: Ja, und die Frage stammt aus dem Fundus der TV-Quizshow "Jeopardy". Der IBM-Supercomputer "Watson" hatte kein Problem, die Lösung zu finden. Dann weiß Watson wohl, was Liebe ist, oder?

Gelernter: Er hat nicht die geringste Ahnung. Die Forschung auf dem Feld der Künstlichen Intelligenz, der KI, hat noch nicht einmal angefangen, sich mit Gefühlen zu beschäftigen. Das Problem ist: Wir denken nicht nur mit dem Verstand. Denken kann nur ein Geist, der auch einen Körper hat. Ein Gefühl wie Liebe übersteigt Watsons Fähigkeiten bei weitem.

SPIEGEL: Warum kann der Computer trotzdem so gut bei "Jeopardy" mithalten?

Gelernter: Weil dafür kein Körper nötig ist. Nichts von dem, was Sie während des Spiels sagen, müssen Sie glauben oder wirklich verstehen. So ein Quiz ist derart oberflächlich, dass selbst eine Maschine ohne Gefühle, ohne Wahrnehmungen und ohne inneres Selbst gewinnen kann.

SPIEGEL: Watsons Kontrahenten, die "Jeopardy"-Champions Ken Jennings und Brad Rutter, hatten allerdings das Gefühl, gegen einen Menschen zu spielen. Wie kommt es, dass wir überhaupt erwägen, Watson als uns ebenbürtig anzusehen?

Gelernter: Ich glaube, dass sogar mein Papagei Ike mir ebenbürtig ist (lacht und deutet zu seinem Harlekin-Ara hinüber). Aber im Ernst: Ich würde lieber mit Watson plaudern als mit gewissen Leuten an meiner Universität. Jedes Baby vermenschlicht seinen Teddybär. Das ist ein machtvolles menschliches Bedürfnis.

SPIEGEL: Watson hat den großen "Jeopardy"-Wettkampf der vergangenen Woche mit niederschmetterndem Vorsprung gewonnen. Kann er uns zumindest etwas über den menschlichen Geist lehren?

Gelernter: Watson wurde nicht gebaut, um den menschlichen Verstand zu studieren. Die IBM-Entwickler würden das auch niemals behaupten. Ihre Strategie war: Vergesst das Gehirn, lasst uns stattdessen aus roher Rechenkraft etwas erschaffen, das mit einem Menschen wetteifern kann. Das Ergebnis ist ein außerordentliches Stück Technologie, das - anders als IBMs Schachcomputer "Deep Blue" - bedeutende Folgen für die KI-Forschung haben wird.

SPIEGEL: Sie können sich aber nicht dazu durchringen, Watson intelligent zu nennen?

Gelernter: Kommt darauf an, wie oberflächlich Sie Intelligenz definieren. In einem tieferen Sinn erfordert sie ein Selbst, das seine Gedanken fühlt und sich bewusst ist, dass es denkt. Nichts davon trifft auf Watson zu.

SPIEGEL: Angenommen, wir füttern Watson nun mit Unmengen von Poesie und Dichtung statt mit Fakten. Der Computer wäre wohl bald in der Lage, recht kompetent über Gefühle zu sprechen. Macht ihn das uns nicht ähnlicher?

Gelernter: Gut möglich. Aber die Kluft zwischen menschenähnlichem und menschlichem Verhalten ist gigantisch. Füttern Sie Watson ruhig mit Keats. Da liest er dann "Mein Herz tut weh, und schläfriges Erlahmen quält mich". Was um Himmels willen soll ihm das denn bedeuten? Wenn ein Poet "mein Herz tut weh" schreibt, entspringt das einem Gefühl mitten in der Brust. Oder ein "schläfriges Erlahmen quält mich": Watson war niemals schläfrig oder wach, er weiß auch nicht, was Schmerz ist. Er versteht nichts von Poesie. Natürlich könnte er immer noch "Jeopardy" gewinnen, etwa in der Kategorie "Britische Dichter". Auch Literaturwissenschaft basiert auf einer Menge Daten, mit denen ein Computer nun mal sehr gut umgehen kann. Aber es ist und bleibt ein großer Schwindel.

SPIEGEL: Was ist so besonders am menschlichen Gehirn, dass es von einer Maschine nicht nachgebildet werden kann?

Gelernter: Das Gehirn ist radikal anders aufgebaut als ein Computer. Physik und Chemie sind fundamental für seine Aktivität. Das Gehirn bewegt Signale mit Hilfe einer Reihe unterschiedlicher Neurotransmitter von Neuron zu Neuron. Es besteht aus Zellen mit bestimmten Eigenschaften, gebaut aus bestimmten Proteinen. Es ist ein ausgesprochen kompliziertes Stück Biologie. Der Computer dagegen ist eine rein elektronische Maschine, die aus Halbleitern und anderem Krimskrams besteht. Ich kann das Gehirn genauso wenig auf einem Computerchip replizieren wie Orangensaft. Für den Saft brauche ich eben eine Orange.

SPIEGEL: Sie haben einmal behauptet, eine Maschine müsse erst Tagträume haben und halluzinieren, bevor man von Denken sprechen könne. Ist das Ihr Ernst?

Gelernter: Absolut. Menschen schwanken zwischen verschiedenen Bewusstseinszuständen hin und her, und es ist unmöglich, den Verstand zu verstehen, ohne dieses Spektrum zu verstehen. Es gibt Phasen, in denen wir äußerst wach und konzentriert sind, da können wir sehr gut analytische Probleme lösen. Am anderen Ende des Spektrums jedoch, etwa wenn wir erschöpft sind, driften unsere Gedanken davon. In diesem Zustand funktioniert der Verstand völlig anders. Wir beginnen, frei zu assoziieren. Nehmen Sie Rilke: Urplötzlich fiel ihm auf, dass der Flug einer Fledermaus dem Sprung in einer Tasse gleicht. Ein merkwürdiges, ein starkes Bild. Niemand vor ihm hat das gesagt. Aus solchen neuen Analogien entsteht Dichtung, aber auch wissenschaftliche Einsicht. Gefühle haben eine Menge damit zu tun. Warum sollte man ein fliegendes Tierchen mit einem gesprungenen Stück Porzellan kombinieren? Weil die beiden Dinge - zumindest für Rilke - mit vergleichbaren Gefühlen aufgeladen sind.

SPIEGEL: Wir sind aber doch auch in der Lage zu denken, ohne gleich poetisch zu werden.

Gelernter: Das ist wahr. Am oberen Ende des Spektrums, dort, wo die Gedanken durch logische Regeln diszipliniert werden, spielen Analogien keine Rolle. Dort habe ich Hypothesen und arbeite mich durch bis zu meinen Schlussfolgerungen. Diese Art von Intelligenz braucht keine Gefühle und keinen Körper. Doch hat sie auch fast überhaupt keine Bedeutung für den Menschen. Rein analytisch und logisch denken wir so gut wie nie. Und um kreativ und erfinderisch zu sein, brauchen wir Gefühle. Daran wiederum ist der Körper intensiv beteiligt, der sie hervorbringt.

SPIEGEL: Warum sollte nicht auch Watson gelegentlich mit interessanten Bildern und Ideen glänzen können? Müsste er nicht einfach Textbausteine aus seinem riesigen Speicher neu zusammenwürfeln?

Gelernter: Ich glaube, dass es tatsächlich möglich ist, eine kreative Maschine zu bauen, wahrscheinlich sogar eine Maschine, die halluzinieren könnte. Aber sie würde uns in keiner Weise gleichen. Sie wäre immer eine Täuschung, eine Fassade. Es ist vollkommen plausibel, dass etwa das Modell "Watson 2050" einen Poesiewettbewerb gewinnt. Es wird womöglich ein wundervolles Sonett schreiben, das ich schön und bewegend finde und das weltberühmt wird. Aber würde das bedeuten, dass Watson einen Verstand hat, eine Idee von sich selbst? Natürlich nicht. Da ist niemand zu Hause. Da ist nichts drin.

SPIEGEL: Bei einem Menschen wissen Sie auch nicht ohne weiteres, ob was drin ist.

Gelernter: Ich weiß, dass ich ein Mensch bin. Und wenn Sie auch ein Mensch sind, dann glaube ich daran, dass Sie intelligent sind. Und zwar nicht, weil Sie irgendeinen Test bestanden haben; auch nicht, weil Sie die Differentialrechnung oder Latein beherrschen. Sie könnten sogar tief schlafen - und dennoch, käme jemand vorbei und würde mich fragen: "Ist er intelligent?", so würde ich sagen: "Natürlich ist er das, er ist ein Mensch." Die einzige Intelligenz, die jeder von uns je aus erster Hand erfahren hat, ist die eigene. Das beobachtbare Verhalten sagt nichts darüber aus, was in einem anderen vor sich geht. Wir können Intelligenz nur dann verlässlich zuschreiben, wenn wir ein Geschöpf sehen, das uns gleicht.

SPIEGEL: In Lausanne in der Schweiz arbeiten Wissenschaftler an dem Projekt "Blue Brain". Sie versuchen, die Biologie des Gehirns eins zu eins in einen Supercomputer zu übertragen, Zelle für Zelle. In etwa zehn Jahren soll ein kompletter Nachbau des menschlichen Gehirns fertig sein. Wäre das dann nicht "ein Geschöpf, das uns gleicht"?

Gelernter: Schon möglich, dass sie einen sehr akkuraten Gehirnsimulator schaffen. Mit so einem Modell könnten sie das Verhalten des Gehirns bis hin zur Übertragung von Signalen exakt voraussagen. Aber sie werden damit genauso wenig einen Verstand erzeugen wie ein Wettermodell einen Hurrikan erzeugt.

SPIEGEL: Fragen wir andersherum: Wenn es uns gelänge, eine Maschine zu konstruieren, die Bewusstsein wenigstens auf verblüffend perfekte Weise vortäuscht - wäre es dann nicht egal, ob sie wirklich Verstand besäße?

Gelernter: Das macht ja schon heute keinen Unterschied mehr. Im Irak und in Afghanistan zum Beispiel gibt es diese Minenräumroboter. Die Soldaten an der Front fühlen sich ihren Maschinen verbunden; sie sind traurig, wenn so ein Roboter zerstört wird. Und in 50 Jahren werden all die einsamen Menschen auf der Welt viel bessere Roboter haben, die ständig da sind und sich mit ihnen unterhalten: "Wie geht es dir heute? Gestern hattest du ja diese schlimmen Rückenschmerzen." Solche Sachen. Werden die Leute menschliche Gefühle für diese Roboter hegen? Absolut. Die Frage ist nur: Macht es etwas aus, dass sie in gewisser Weise betrogen werden? In praktischer Hinsicht vermutlich nicht, in philosophischer Hinsicht sehr wohl. Wenn Sie daran interessiert sind, was einen Menschen ausmacht - nun, der Roboter wird es Ihnen nicht sagen.

SPIEGEL: Zahlreiche Forscher arbeiten bereits daran, Robotern zu besseren Körpern zu verhelfen. Ausgerüstet mit Sensoren aller Art, sollen die Maschinen ihre Umgebung wahrnehmen und erforschen, ähnlich wie es Menschen tun.

Gelernter: Aber ein gefälschter Körper an einem Computer bringt immer noch keine echten Gefühle hervor. Wenn Sie sich Ihren Fuß stoßen, registriert Ihr Gehirn Schmerz. Wenn Sie an etwas Schönes denken, fühlt sich der Körper gut, und dem Verstand wiederum geht es gleich noch besser und so weiter. Diese Rückkopplung ist wichtig für menschliches Verhalten. Im Körper eines Roboters jedoch werden nur binäre Schalter umgelegt und elektrische Ströme manipuliert.

Nehmen wir mal einen Regenwurm. Sie könnten vielleicht eines Tages in ein Chemielabor gehen und genau die Proteine erzeugen, aus denen so ein Wurm besteht, und am Ende haben Sie einen echten Wurm, nämlich genau so ein schleimiges braunes Ding. Wenn Sie die gesamte Biologie von Grund auf kopieren, bekommen Sie tatsächlich ein identisches Abbild. Einen Menschen könnten Sie - rein theoretisch - auf diese Weise ebenfalls erzeugen.

SPIEGEL: Das geht auch einfacher.

Gelernter: Eben.

SPIEGEL: Und wenn wir statt des echten Wurms einen Regenwurm-Roboter bauen mit einem Prozessor und allen Sensoren, die so ein Tier braucht?

Gelernter: Dann hat das höchstens oberflächlich mit einem Regenwurm zu tun.

SPIEGEL: Manche Ihrer Kollegen sind weit optimistischer. Der US-Computerforscher Ray Kurzweil zum Beispiel sagt voraus, irgendwann werde zwangsläufig Bewusstsein entstehen - schon weil die Anzahl von Transistoren auf einem Chip so rasend schnell wächst. Bald werde die Rechenkapazität eines menschlichen Gehirns um ein Vielfaches übertroffen.

Gelernter: Wenn ein einfacher Computer keinen Orangensaft herstellen kann, wie soll es dann ein weit komplexerer können? Computerchips sind einfach der falsche Stoff. Es ist unmöglich, Bewusstseinszustände mit Hilfe von Software zu erzeugen, egal wie komplex die Programme auch sein mögen. Kann ein Wunder geschehen, wenn man sehr viele Bauteile zusammensteckt? Vielleicht. Aber ich habe keinen Anlass, daran zu glauben. Die Leute unterschätzen die Komplexität eines natürlichen Organismus. Und sie überschätzen Kinofilme über künstliche Menschen, Terminatoren und verständige Computer wie etwa den berühmten Hal in Stanley Kubricks "2001".

SPIEGEL: Kurzweils Ideen sind ausgesprochen populär. Warum?

Gelernter: Im Mittelalter versuchten die Alchemisten, Gold zu produzieren. Im digitalen Zeitalter ist der Verstand dran. Verstehen Sie mich nicht falsch: Diese Forschungsrichtung ist sehr interessant. Nur einen Verstand wird sie nicht hervorbringen.

SPIEGEL: Die Anhänger der sogenannten Singularitätsbewegung in den USA erwarten den Siegeszug hochintelligenter Maschinen, die eines Tages vielleicht sogar Teil unseres Körpers werden.

Gelernter: Uns werden mehr Möglichkeiten denn je geboten, das Menschsein zu zerstören, indem wir seine Bedeutsamkeit leugnen. Es gibt Leute, die sagen: "Bevor ich sterbe, werde ich meinen gesamten Geistesinhalt auf einen Server hochladen; so werde ich ewig leben." Jedes Kind erkennt, was daran falsch ist: Wer stirbt, ist tot - egal ob es dann eine oder eine Million Kopien dessen gibt, was man im Kopf hatte. Das hilft einem nichts, denn man ist ja tot. Der Verstand verhalte sich zum Gehirn wie die Software zur

Hardware - das war die große philosophische Analogie der vergangenen Jahrzehnte. Aber das ist lächerlich. Der Verstand ist keine Software, bei der es egal ist, auf welcher Hardware man sie zum Laufen bringt.

SPIEGEL: Was ist denn der Unterschied?

Gelernter: Von einer Software kann man beliebig viele Kopien machen. Man kann sie auf Millionen Computern installieren, und es ist immer die gleiche Software. Der Verstand aber kann nur auf exakt einer Plattform laufen. Er funktioniert nur in einem einzigen Gehirn. Sie können ihn nicht auf einer Festplatte sichern und später wieder benutzen.

SPIEGEL: Nur mal als Gedankenspiel: Was würde geschehen, wenn man das Gehirn einer Person in den Kopf einer anderen übertragen würde?

Gelernter: Der Verstand der ersten Person wäre für immer verloren, weil er Teil eines Körpers war und mit diesem Körper interagierte. Aus medizinischer Sicht wäre es allerdings interessant zu sehen, ob das Gehirn flexibel genug wäre, sich auf einen neuen Körper einzustellen.

SPIEGEL: Angenommen, die populären Visionen der Singularisten lassen sich nicht verwirklichen: Welchen Weg wird die KI-Forschung einschlagen?

Gelernter: Ich hoffe, dass Philosophen und Kognitionsforscher zusammen eine ausgefeilte Theorie des Verstands entwickeln. Wir müssen diese lächerliche Obsession mit den Computern loswerden, die enormen Schaden angerichtet hat. Davon ganz unabhängig aber wird die KI-Forschung immer leistungsfähigere Maschinen hervorbringen, die viele unserer Probleme lösen und viele unserer Fragen beantworten. Niemand wird behaupten, sie hätten Verstand, aber sie werden sehr nützlich sein.

SPIEGEL: Würde es Sie verlocken, einen eigenen leistungsstarken Assistenten wie Watson im Haus zu haben?

Gelernter: Natürlich. Watson ist eine brillante, aufregende Maschine. Wir brauchen seine Fähigkeiten.

SPIEGEL: Stellen wir uns mal vor, einer von Watsons Nachfahren sei bereits auf Erbsengröße geschrumpft; er könnte direkt ins Gehirn eingepflanzt werden. Wäre es nicht wundervoll, all dieses Wissen unmittelbar zur Verfügung zu haben?

Gelernter: Das bleibt dann immer noch ein Gerät, das ich bedienen muss. Ich kann aber auch schon jetzt auf alles Wissen von Watson zugreifen. Dafür muss ich nur meinen Laptop öffnen. Macht es einen Unterschied, ob ich eine Frage nicht in zehn Sekunden, sondern in zehn Mikrosekunden beantworten kann? Das hängt davon ab, wie ich mich als menschliches Wesen definiere. Könnte ich "Jeopardy" gewinnen, wenn ich direkten Zugriff auf Millionen zusammenhangloser Fakten hätte? Aber ja. Würde es mir Glück, Befriedigung oder das Gefühl des Triumphs bringen? Keineswegs.

SPIEGEL: Würden Sie Ihren Papagei gegen Watson eintauschen?

Gelernter: (lacht) Niemals. Sehen Sie ihn an! Er hat ein Gesicht. Er hat ein breites Lächeln auf seinem Schnabel. Er ist eine Kreatur mit Gefühlen und Interessen, und er ist Teil der Familie. Sie müssten mir schon weit mehr für meinen Papagei bieten als ein Stück Software.

SPIEGEL: Herr Gelernter, wir danken Ihnen für dieses Gespräch.


DER SPIEGEL 8/2011
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGEL-Verlag Rudolf Augstein GmbH & Co. KG.

Dieser Artikel ist ausschließlich für den privaten Gebrauch bestimmt. Sie dürfen diesen Artikel jedoch gerne verlinken.
Unter http://www.spiegelgruppe-nachdrucke.de können Sie einzelne Artikel für Nachdruck bzw. digitale Publikation lizenzieren.

DER SPIEGEL 8/2011
Titelbild
Der digitale SPIEGEL
Diese Ausgabe jetzt digital lesen

Die digitale Welt der Nachrichten. Mit interaktiven Grafiken, spannenden Videos und beeindruckenden 3-D-Modellen.
Sie lesen die neue Ausgabe noch vor Erscheinen der Print-Ausgabe, schon sonntags ab 8 Uhr.
Einmal anmelden, auf jedem Gerät lesen - auch offline. Optimiert für Windows 8, Android, iPad, iPhone, Kindle Fire, BlackBerry Z10 sowie für PC/Mac.

Abo-Angebote

Den SPIEGEL lesen oder verschenken und Vorteile sichern!

Jetzt Abo sichern
Ältere SPIEGEL-Ausgaben

Kostenloses Archiv:
Stöbern Sie im kompletten SPIEGEL-Archiv seit
1947 – bis auf die vergangenen zwölf Monate kostenlos für Sie.

Wollen Sie ältere SPIEGEL-Ausgaben bestellen?
Hier erhalten Sie Ausgaben, die älter als drei Jahre sind.

Artikel als PDF
Artikel als PDF ansehen

SPIEGEL-GESPRÄCH:
Da ist niemand zu Hause