SPIEGEL-Gespräch Computer träumen nicht

Gelernter, 61, ist Professor für Computerwissenschaft an der Yale University. 1993 wurde er durch eine Briefbombe des sogenannten Unabombers, eines psychopathischen Mathematikers, der in einer Attentatserie Sprengsätze an Wissenschaftler und Technologen verschickte, schwer an Hand und Auge verletzt. In seinem jüngsten Buch "Gezeiten des Geistes" erklärt Gelernter, warum Computer und künstliche Intelligenz die Tiefen der menschlichen Subjektivität nicht ausloten können(*).

Gelernter: Computer haben immer Soziopathen angelockt.

SPIEGEL: Nette Pointe, aber Sie beziehen sich da selbst natürlich nicht ein.

Gelernter: Die Computertechnik verschafft uns eine unglaubliche Macht. Ein guter Programmierer kann ganz allein mit seiner Tastatur ungeheuer viel aufbauen und dann durch Umlegen eines Schalters lebendig werden lassen. Technologieverliebte verfallen diesen Maschinen. Ihr Leben hängt von ihnen ab, ihre geistige Aktivität konzentriert sich auf sie. Deshalb wünschen sie, dass diese Maschinen möglichst gut, stark und erfolgreich sind – eine Erfüllung ihrer selbst. Die Herrscher im Universum des Geistes.

SPIEGEL: Der Computer wäre das perfekte Gehirn, der menschliche Geist die Software, die auf der Hardware im Kopf läuft?

Gelernter: Für die Computertheorie des Geistes ist diese Analogie von entscheidender Bedeutung. Sie wäre eine wunderbar eingängige Erklärung des menschlichen Geistes, wenn sie sich denn als wahr erweisen würde. Sie vereinfacht ein hoch kompliziertes Problem. Sie scheint das Geheimnis der Schöpfung wissenschaftlich zu entschlüsseln. Und genau deshalb hat sie eine Menge Unheil im Denken gestiftet.

SPIEGEL: Kann man irgendwann einen echten Geist aus Software konstruieren, einen vollständigen Geist, der nicht nur rechnen kann? Ist es nur eine Frage der Zeit, bis wir dafür Supercomputer haben, die leistungsfähig genug sind, um mit dem Programm "Geist" zu arbeiten, sich also von der Ausführung von Befehlen zu emanzipieren und selbstständig zu denken?

Gelernter: Solche Computer wird es geben, gar keine Frage, aber der klassische Computer wird nie ein Bewusstsein wie der Mensch erlangen, er wird keinen Daseinsmodus haben, er wird keine Emotionen fühlen, er wird nicht in der Lage sein, die Welt zu erleben und sich etwas vorzustellen. Warum sollte irgendjemand so etwas glauben? Dafür fehlt dem maschinellen Gehirn die Verbindung mit einem Körper. Technologen sind Materialisten des Geistes, aber sie sind paradoxerweise nicht materialistisch genug: Wir können das Leibliche nicht außer Acht lassen. Wir denken auch mit unserem Leib. Er ist der Resonanzboden des Geistes.

SPIEGEL: Dass der menschliche Geist zu mehr imstande ist als nur zu rationalem, kalkulierendem Denken, weiß jeder. Trotzdem steht Rationalität an der Spitze der mentalen Pyramide.

Gelernter: Mein Gefühlszustand ist Teil meiner geistigen Verfassung. Im hellwachen Zustand kann ich hoch abstrakt, rein intellektuell an Probleme herangehen und entsprechend handeln. Analytisch, von Gefühlen nicht gestört – das ist das Verfahren, das der westliche Rationalismus zum idealen Maßstab gemacht hat. Aber der lebendige Geist ist nicht auf Knopfdruck hellwach. Er wird müde, er schaltet ab, schweift umher, verliert sich in Assoziationen, dämmert dahin, fängt an zu träumen. Im Laufe eines Tages durchläuft er verschiedene Bewusstseinsstadien, die von der reinen Vernunft bis zu Halluzinationen und Albträumen reichen. Das nenne ich die Gezeiten des Geistes, wie Ebbe und Flut. In ihnen manifestiert sich immer auch ein körperliches Befinden.

SPIEGEL: Aber könnten wir nicht ein neues, künstliches Bewusstsein erzeugen, einfach dadurch, dass die richtigen Computerbefehle ausgeführt werden? Einen Geist, der von unserem eigenen Bewusstsein getrennt wäre, der dennoch die Welt wahrnähme und sie ähnlich wie ein Mensch spüren und erleben könnte?

Gelernter: Möglich ist die Computersimulation von Bewusstsein und Gefühlen. Menschen können Gefühle vortäuschen, Computer können simulieren. Davon lässt sich eine Menge lernen, solange wir nicht so naiv sind, Simulation und Wirklichkeit zu verwechseln. Der Schauspieler, der Hamlet oder Faust gibt, bleibt ein Schauspieler, egal wie überwältigend seine Ausdrucksfähigkeit ist. Diese Grenze verwischt sich für einen Wissenschaftler, dessen ganze Weltanschauung sich auf Informatik stützt. Die Anhänger der Computertheorie des Geistes sind intellektuell korrumpiert – nicht durch Geld, sondern durch Machtfantasien. Wobei Letztere natürlich noch durch den Umstand verstärkt werden, dass unglaublich viel Geld im Geschäft mit der Datenverarbeitung steckt. Der alte Spruch, wonach Wissen Macht ist, hat eine unheimliche Dimension erreicht.

SPIEGEL: Die künstliche Intelligenz hat immense Fortschritte gemacht. Bedeutet rationales oder vernünftiges Denken letztlich nicht doch Rechnen, also das Befolgen von Regeln in einem Prozess, Schritt für Schritt? Und ist es nicht das, worauf es für den Menschen ankommt?

Gelernter: Nur zum Teil. Das ist der Grund, warum das Fachgebiet diesen Namen trägt: künstliche Intelligenz, nicht künstlicher Geist, künstliches Denken oder künstliche Vernunft. Rationalität ist nur ein Segment des menschlichen Geistes. Das obere. Wenn ich in die unteren Teile hinabsinke, bis in den Dämmerzustand und den Traum, wird meine innere Welt lebendig, aber mein Denken gewissermaßen unrein. Wissenschaftler haben dafür nur Verachtung, sie können mit ästhetischem oder emotionalem Denken nichts anfangen. Wenn sie es untersuchen wollen, versuchen sie nur wieder, es zu rationalisieren. Aber Sie können Kunstverständnis nicht mit biochemischen oder neurophysiologischen Prozessen im Gehirn erklären.

SPIEGEL: Aber ist das rationale Denken als Ausdrucksform der Intelligenz nicht das eigentliche Definitionsmerkmal des menschlichen Geistes? Gefühle teilen wir auch mit Tieren.

Gelernter: Nicht das Bewusstsein, also die Selbstreflexion des Intellekts. Ein Computer könnte den menschlichen Intelligenzquotienten um ein Tausendfaches übertreffen und bliebe doch, philosophisch gesehen, ein Zombie.

SPIEGEL: Kommt es darauf noch an, wenn der Computer künstliche Intelligenz in so vielen Bereichen zum Ausdruck und zur Anwendung bringen könnte, dass sich der Rest des Geistes dadurch mimetisch ergänzen ließe?

Gelernter: Mit Philosophen wie John Searle, Thomas Nagel oder Colin McGinn bin ich der ketzerischen Meinung, dass Computer nicht in der Lage sind, Subjektivität herzustellen – die Welt in unserem Kopf, ein eigenes Seelenleben, eine eigene private geistige Landschaft, durch die kein anderer wandern kann. Ich kann einen Roboter fragen: "Hast du ein Bewusstsein?" Und er kann antworten: "Aber sicher, blöde Frage, was denkst du denn?" Ich kann ihn fragen, wie er sich fühlt, und er kann darauf antworten: "Glänzend, ich unterhalte mich bestens mit dir." Aber ich kann ihn nicht glücklich machen, indem ich ihm Erdbeeren mit Sahne anbiete. Das wäre idiotisch. Er hat kein Bewusstsein für Glück. Es gibt keinen Geist in der Maschine, keine menschliche Geistesgegenwart. In ihr ist nichts. Die wirkliche Frage lautet: Wie leicht lassen wir uns durch die Performance des Computers täuschen? Erliegen wir seiner Magie?

SPIEGEL: Zumindest das magische Denken wäre dem Computer fremd. Die Grenzen der Technologie scheinen endlos erweiterbar. Kapituliert der menschliche Geist vor der künstlichen Intelligenz?

Gelernter: Die Leistungsfähigkeit der Maschine übersteigt unsere Vorstellungskraft. Aber das galt auch schon für die Stärke von Motoren. Wir glauben, mit der künstlichen Intelligenz der Schöpfung eines übernatürlichen Geistes beizuwohnen und den Stein der Weisen gefunden zu haben. In Wirklichkeit verstehen wir bis heute das Bewusstsein nicht. Wir können Subjektivität nicht erklären, vielleicht werden wir es nie können.

SPIEGEL: Sie meinen, der Naturalismus oder die materialistische Wissenschaft kann es nicht. Metaphysische, spirituelle oder religiöse Erklärungen gäbe es ja.

Gelernter: Sie sind unbefriedigend. Gefühle leiten den Geist. Körper und Seele spiegeln einander. Das Bewusstsein hat zwei Bereiche: einen äußeren und einen inneren. Der äußere wird durch Wahrnehmungen bestimmt, der innere durch Erleben und Erinnern. Bewusstsein ist Gesehenes und Sehender zugleich, das Beobachtete und der Beobachter. Wie ein Zimmer mit Aussicht. Aus dem Zimmer beobachten wir sowohl die Welt draußen als auch die private Welt drinnen. Das Problem ist unsere eigenartige Position innerhalb des Phänomens, das wir verstehen wollen.

SPIEGEL: Welche Rolle spielen die Geisteswissenschaften bei der Erforschung des Bewusstseins?

Gelernter: Literatur, Dichtung, Kunst, aber auch Philosophie und Freuds Tiefenpsychologie sind der Schlüssel zum Eintritt in die inneren Bereiche des Bewusstseins, Heute ist Freud in der Wissenschaft fast nicht mehr präsent. An den Universitäten werden die geisteswissenschaftlichen Fächer immer mehr beschnitten und zurückgedrängt. Der kulturelle Druck zwingt den akademischen Nachwuchs in den objektiv-wissenschaftlichen, analytischen Teil des geistigen Spektrums. Die Folge ist eine Verkümmerung der emotionalen Existenz und des kommunikativen Austauschs, die wir in den sozialen Netzwerken, aber auch im Kunstbetrieb und im Entertainment-Business bereits feststellen können. Früher konnte man bei einem Manuskript oder einem Brief praktisch auf einen Blick erkennen, ob die Handschrift von einem Mann oder einer Frau stammte. Heute findet Kommunikation weitgehend körperlos statt. Eine ähnliche Verzerrung spielt sich im Verhältnis zur Kunst ab. Moderne Kunst wird nach ihrem Marktwert bemessen. Das Kunstwerk ist ein Objekt für den Verstand geworden, statt einen neuen Bezug zur Welt zu eröffnen.

SPIEGEL: Kommunikation und Kunst sind doch deswegen nicht gefühllos geworden?

Gelernter: Gedanken werden gezielt durch Sprache ausgedrückt. Gefühle drücken wir zunächst durch den Zustand unseres Körpers aus: Mimik, Tonfall, Gesten und so weiter. Gefühle lassen sich in der Regel auch ohne Sprache mitteilen; darauf beruht das Prinzip der bildenden Kunst. Glück oder Trauer sind Zustände des Seins und als solche ihrem Wesen nach nicht berechenbar. Ein Geist umfasst das Denken und das Sein. Software kann als Output kein Sein liefern. Deshalb ist die Computertheorie des Geistes abwegig.

SPIEGEL: Mit Rationalität hat die Menschheit es ganz schön weit gebracht. Die Vorherrschaft der westlichen Zivilisation beruht auf ihren wissenschaftlichen Erkenntnisleistungen.

Gelernter: Alles, was wir Fortschritt nennen, findet im rationalen Spektrum des Geistes statt. Wir sind jedoch an einem Punkt angelangt, an dem wir Gefahr laufen, den Humanismus, der ebenfalls eine Errungenschaft des westlichen Denkens ist, den Götzen der Technologie und der Wissenschaftsgläubigkeit zu opfern.

SPIEGEL: Ist das der Grund, weshalb Sie neben den großen Dramatikern und Dichtern auch Freud so hoch schätzen?

Gelernter: Als junger Mann und Student liebte ich es, Freud zu lesen. Mein Interesse für den Geist war anfangs an ihm orientiert. Freud war ein sorgfältiger Beobachter. Er zeigte uns, dass wir etwas darüber lernen, was in unserem Geist vorgeht, wenn wir uns mit unseren Träumen und Einschlafgedanken auseinandersetzen. Nicht zuletzt hatte Freud eine Obsession, die auch mich faszinierte: Religion.

SPIEGEL: Er war ein Atheist, der versuchte, die Ursprünge der Religion psychoanalytisch zu erforschen. Mit Theologie hatte das nichts zu tun.

Gelernter: Er gehört zu jenen Atheisten, die Gott nicht gleichgültig lässt. Das im öffentlichen Leben der westlichen Welt am meisten verdrängte und beschwiegene Gefühl ist der Glaube an Gott. Gott ist insofern nicht totzukriegen. In unserer Geisteswelt ist Gott eine verbreitete und zugleich unterdrückte Vorstellung. Wissenschaftsgläubige würden Gottesgläubige am liebsten eliminieren, so wie das rationale Spektrum des Geistes das Gefühlsspektrum am liebsten verdrängen möchte. Darin steckt auch eine Reaktion der Angst vor der Macht nicht unbedingt des Irrationalen, sondern des Nichtlogischen.

SPIEGEL: Ein Gottesbeweis ist die Vorstellung von Gott aber nicht.

Gelernter: Nein, die Präsenz Gottes im Geist hat nichts mit der Existenz oder Nichtexistenz Gottes zu tun. Gott ist kein Ding und keine Person.

SPIEGEL: Kommen wir ohne Gott oder ohne metaphysische Konzepte, ja ohne mythisches Denken nicht aus, wenn wir den Geist zu erklären versuchen?

Gelernter: Das weiß ich nicht. Ich habe keine metaphysische Antwort auf die Fragen des Seins. Aber ich kann Glücksempfinden auch nicht einfach auf biochemische oder neurophysiologische Abläufe im Gehirn reduzieren. Die materialistische Wissenschaft greift beim Bewusstsein immer und zwangsläufig zu kurz, sie verfehlt das wirklich Wichtige. Ich glaube, dass wir unser Denken weiter öffnen müssen. Die exakte Wissenschaft ist in den vergangenen fünfzig, sechzig Jahren die neue Religion unseres Zeitalters geworden: eine fantastische Kraft der Selbstermächtigung, so überzeugt von sich selbst, dass sie, wie früher die Religion, Nichtgläubige und Zweifler als Häretiker ausgrenzt und ihre Dogmatik durchsetzt. Sie ist die letzte Ideologie.

SPIEGEL: Wäre ein neuer Spiritualismus oder eine neue Religiosität nicht Verrat an der Aufklärung?

Gelernter: Darum geht es nicht. Eine Rückkehr zur europäischen Tradition der humanistischen Bildung und Erziehung wäre ja keine Absage an den Rationalismus, sondern ein Bekenntnis zur Radikalität der Vernunft, die das Leben im Ganzen im Blick behält.

SPIEGEL: Wo läge denn die korrigierende Kraft, die dem Sinnverlust entgegenwirkt?

Gelernter: Zum Beispiel in der Wiederaneignung von Kunst, Dichtung und Philosophie. Wenn ich könnte, würde ich allen angehenden Wissenschaftlern ein komprimiertes Studium generale der Humanwissenschaften verordnen, bevor sie ein Fachbuch über Neurophysiologie oder Informatik auch nur aufschlagen dürften. Ich arbeite in meinen Einführungskursen an der Universität mit Beispielen aus Literatur und Kunst; die meisten meiner Kollegen sind skeptisch und finden, derlei habe im Computerfach nichts zu suchen. Wollte ich Gott einführen oder den Begriff der Seele, würden die meisten meiner Studenten wahrscheinlich die Flucht ergreifen. Es ist eine Flucht vor der Subjektivität.

SPIEGEL: Weil die Welt der reinen Wissenschaft eine emotionale Eiszeit hervorgebracht hat?

Gelernter: Pure Rationalität schafft keine Bindung. Der wissenschaftliche Mensch, welcher der kalten Sprache des rechnenden, logischen Denkens gehorcht, ist heimatlos, weil er den Lebenszusammenhang und damit das Gefühl für das Eigene, seine Identität, verliert. Neben dem Glauben an Gott ist Heimweh wahrscheinlich das am weitesten verdrängte private Gefühl des modernen Menschen, die Sehnsucht nach einem Garten Eden, einem Zuhause, das es nicht mehr gibt. Wir wollen irgendwo dazugehören, Sicherheit als Teil eines Ganzen gewinnen.

SPIEGEL: Ist es nicht eine gefährliche Anmaßung, nach einem Sinnzusammenhang zu suchen, der dem Menschen in der Geschichte seine letzte Bestimmung zu zeigen vorgibt?

Gelernter: Das Gefühl der Sinnentleerung ist nicht minder gefährlich. Schmerz, Wut und Frustration können durchaus heilsam sein. Das dunkle Spektrum des Geistes lässt sich auf Dauer nicht ausblenden.

SPIEGEL: Auch Politik ist kein rein rationales Geschäft. Wer ein Problem in unendlich viele kleine Schritte zerlegt, verliert das Ziel aus den Augen.

Gelernter: Er hat keine Vision. Politiker, zumindest in Amerika, müssen eine Vision vermitteln, ohne sie fehlt es an Führung. Der Erfolg des Wüterichs Donald Trump in den US-Vorwahlen zeigt, dass die Amerikaner von einem Politiker Emotionen erwarten. Sie wählen keinen Rechner. Emotionen lassen sich aus dem Gemeinschaftsleben nicht heraushalten, und Populisten sind erfolgreich, nicht obwohl, sondern gerade weil sie sich der Rationalität widersetzen. Von Wittgenstein gibt es den berühmten Satz: Wovon man nicht reden kann, darüber muss man schweigen. Im Leben gilt die abgewandelte Botschaft: Worüber man nicht logisch sprechen kann, das muss man dennoch fühlen. Populisten wie Trump geben diesen Gefühlen eine Stimme. Sie erinnern uns daran, dass unser Geist zwar rechnen, aber auch abschweifen, umherirren, sich empören, träumen und halluzinieren kann. Jede Nacht sagt uns unser Geist, wer wir auch, wer wir noch sind. Und jeden Morgen vergessen wir es wieder.

SPIEGEL: Mr Gelernter, wir danken Ihnen für dieses Gespräch.