07.08.1978

Hermann C. Flessner über Joseph Weizenbaum: „Die Macht der Computer und die Ohnmacht der Vernunft“Gefährlicher Dialog

Joseph Weizenbaum, 55, gebürtiger Berliner, ist Professor für Computerwissenschaften am Massachusetts Institute of Technology (MIT). Er wurde bekannt als Erfinder einer Computersprache ("Slip") und war jahrelang Leiter der MIT-Arbeitsgruppe für künstliche Intelligenz. -- Hermann C. Flessner, 47, ist Professor für Angewandte Informatik im Ingenieurwesen an der Ruhr-Universität Bochum.
Joseph Weizenbaum, Professor am Massachusetts Institute of Technology in Cambridge/USA, der von sieh behauptet, daß er ein Faible für sinnvolle und schöne Instrumente und Maschinen habe, war nicht der erste Kritiker künstlicher Intelligenz und der Geräte, denen man künstliche Denkeigenschaften unterstellt, aber er war der erste auf seinem Fachgebiet.
Seit mehr als zehn Jahren hat er sich eingehend mit Begleiterscheinungen und Folgen des Einsatzes von Computern auseinandergesetzt und seine Gedanken in Vorträgen und Publikationen begründet. Frühzeitig kündigte er Computer-Erfolge an, aber er war auch einer der ersten, der negative, ja apokalyptische Folgen warnend vorhergesagt hat. Mit seinem auf deutsch erschienenen Buch über "Die Macht der Computer und die Ohnmacht der Vernunft" hat er die verdienstvolle Arbeit auf sich genommen, die technischen, vor allem aber die nichttechnischen, mit dem Computer-Einsatz und der Computer-Entwicklung verbundenen Konsequenzen umfassend darzustellen.
Weizenbaum rechnet den Computer nicht zu jener Gattung von Werkzeugen, die prothetische Eigenschaften aufweisen wie Hammer oder Speer (zur effektiveren Nutzung der Muskelkraft) oder wie Mikrophon und Radio (zur Erweiterung des Stimmbereiches).
Aber der Autor macht auch deutlich, daß ein Vergleich zwischen menschlichen Fähigkeiten und denen von Computern auf sehr schwachen Füßen steht, daß der Mensch selbst erstens keine Maschine ist und daß es zweitens "bestimmte Aufgaben gibt, tu deren Lösung keine Computer eingesetzt werden sollten, ungeachtet der Frage, ob sie zu deren Lösung überhaupt eingesetzt werden können".
Weizenbaum, vor schon mehr als einer Dekade durch sein Programm "Eliza" bekannt geworden -- ein Rechenprogramm, mit dem Menschen über eine Schreibmaschine oder Bildschirm-Konsole regelrechte Dialoge mit einem Computer führen können ist offensichtlich gar nicht glücklich über die Unterstellung von Fähigkeiten, die Weiterentwicklungen seines Programmes vermeintlich haben sollen, wenn er dieses auch nicht ausdrücklich schreibt.
Durch die jeden Computer-Spezialisten aufregende Bezeichnung "Computer-Gehirn" -- übrigens nicht von Journalisten in das Rennen konkurrierender Begriffe geworfen, wie häufig vermutet, von ihnen jedoch als zugkräftig dankbar aufgegriffen - wurden den programmgesteuerten, informationsverarbeitenden Automaten Fähigkeiten zugeschrieben, die der Autor auf das richtige Maß zurücksetzt.
Informatiker, Ingenieure und Techniker müssen sich sagen lassen, daß ausgerechnet ein Vertreter ihrer Fachgebiete im weitesten Sinne, nämlich der Ingenieur Edmund Berkeley, erstmals schrieb, daß Elektronenrechner maschinelle Idioten seien. Er sagte: "Auch Idioten haben ein Gehirn, und ich bin nicht sicher, ob man nicht einige von ihnen darauf trainieren könnte, lange Zahlenkolonnen zu addieren und zu subtrahieren. Warum", so äußert er weiter, "soll nicht ein technisches Gebilde mit in gewissen Grenzen vergleichbaren Eigenschaften als Elektronengehirn bezeichnet werden?"
Eigenschaften wie diese macht Weizenbaum den Computern -- trotz seines frühen Programmes "Eliza" oder besser, nach Erfahrungen mit "Eliza" -- nicht nur streitig, er räumt mit vergleichbaren Definitionen gründlich auf. Wie er das macht, ist von Kapitel zu Kapitel lesenswert.
Auf welche Weise Computer die Gesellschaft zu ändern und die Bevölkerung zu beeinflussen drohen, wird erst klar, wenn man den Computer nicht nur als technisches Instrument kennengelernt hat und ihn zu bedienen versteht, sondern -- was mindestens ebenso wichtig ist -- erörtert hat, woher die Macht des Computers, fast könnte man sagen, die Macht der Computer über die Menschen, zu kommen scheint -- Thema des zweiten Kapitels dieses Buches.
Computer sind autonome Maschinen und in diesem Sinne vergleichbar mit Uhren, die nach der Voreinstellung einer Anfangszeit von allein arbeiten und entscheidende Phasen im Vernunftdenken der Menschen eingeleitet haben. Daß Computer auch das Leben von solchen Menschen schon heute nachhaltig beeinflussen, die mit Computern direkt nichts zu tun haben, macht Weizenbaum an einer lange zurückliegenden vergleichbaren Entwicklung deutlich: "Die Druckerpresse verwandelte die Welt selbst für jene Menschen, die, etwa zur Zeit Martin Luthers, Analphabeten blieben und vielleicht nie in ihrem Leben ein Buch zu Gesicht bekamen." Wer will eine Parallelität zur Erscheinungsform der Computer-Ergebnisse in der heutigen Welt leugnen, flattern ihm doch fast täglich von Computern ausgestellte Rechnungen, Quittungen, Bankauszüge und so weiter auf den Tisch?
Wenn Computer Maschinen sind, autonom arbeitende Maschinen, und wenn sie richtig funktionieren, dann folgen sie nicht einfach einem Gesetz; sie sind Verkörperungen von Gesetzen. Im Tischrechner zum Beispiel findet man die Verkörperung arithmetischer Gesetze wieder. Kaum jemand kommt jedoch auf die Idee, bei der Durchführung von Additionen an den mechanischen oder elektronischen Funktionsablauf zu denken. Er denkt so, als arbeite die Maschine wie sein Gehirn. Ihm ist natürlich klar, daß dieses nicht wirklich so ist. Erst wenn wiederholt falsche Ergebnisse ausgerechnet werden, kommt uns in den Sinn zu sagen, daß mit der Maschine etwas nicht stimmen kann. Keiner denkt dann etwa daran, daß die Gesetze der Arithmetik aufgehoben sein oder sich geändert haben könnten.
Ohne Rechenprogramme, die von den Anwendern der Computer geschrieben werden, um deren veränderbaren Einsatz zu ermöglichen, wären Computer im Grunde genommen nichts weiter als einmal konstruierte Automaten, für immer wieder gleich ablaufende Vorgänge eingerichtet. Man braucht also Programme und Programmierer.
Die Fähigkeit, Programme schreiben zu können, erzeugt aber in vielen das Gefühl, einen Teil der Macht der Computer für sich einsetzen zu können. Dabei ist nach kritischer Beurteilung diese Macht bestenfalls daran erkennbar, daß in der Regel mühsam begründete und aneinandergereihte Arbeitsschritte mit Hilfe des Computers in unvorstellbar großer Geschwindigkeit ablaufen können.
Es ist übrigens für Programmierer problematisch, große Rechenprogramme herzustellen, die sie in allen Schritten durch und durch verstehen. Was heißt hier: verstehen? Doch niemals mehr, als eine bestimmte Verständnistiefe erlangt zu haben.
Wenn jemand Geld wechselt, bedient er sich beispielsweise der Regeln der Arithmetik, wenn auch der einfachsten. Kennt er deswegen aber auch die Axiome. sprich "Spielregeln", auf denen die Arithmetik aufbaut und nach denen er den Betrag seines Wechselgeldes bestimmt? Interessiert er sich überhaupt dafür?
Gleiches gilt durchaus auch für die Arbeitsweise von Leuten, die das Programmieren wie ein Handwerk betreiben. Sie verdienen damit ihr Geld, Programm und Computer sind gleichbedeutend mit Regeln und Handwerkszeug. Die meisten Programmierer verfahren so. Deshalb kann nicht jedem Programmierer zugesprochen werden, daß er alle Aufgaben, für die er gute Programme schreiben kann, auch bis in die tiefsten Gründe versteht.
Den "zwanghaften Programmierern" widmet Weizenbaum ein ganzes Kapitel. Sie sind für ihn Computer-Fetischisten -- ein internationales Phänomen. Fr schreibt: "Überall, wo man Rechenzentren eingerichtet hat, kann man aufgeweckte junge Männer mit zerzaustem Haar beobachten, die oft mit tief eingesunkenen, brennenden Augen vor dem Bedienungspult sitzen; ihre Arme sind angewinkelt, und sie warten nur darauf, daß ihre Finger -- zum Losschlagen bereit auf die Knöpfe und Tasten zuschießen können, auf die sie genauso gebannt starren wie ein Spieler auf die rollenden Würfel."
Später dann: "Sie arbeiten bis zum Umfallen, 20, 30 Stunden an einem Stück. Wenn möglich, lassen sie sich ihr Essen bringen: Kaffee, Cola und belegte Brötchen. Wenn es sich einrichten läßt, schlafen sie sogar auf einer Liege neben dem Computer." Sind das die Menschen, die Macht über Computer haben und die Macht der Computer repräsentieren? Wohl kaum. Doch wer hat sie dann?
Wie kann man einen zwanghaften Programmierer von einem schwer arbeitenden, abgeklärten Berufsprogrammierer unterscheiden, der lediglich seine Aufgabe lösen will und für diese motiviert ist? Nach Weizenbaum durch die Tatsache, daß gewöhnliche Berufsprogrammierer sich der Aufgabe widmen, die gelöst werden soll, während zwanghafte Programmierer es hauptsächlich als Mittel zum Zweck betrachten, eine Wechselbeziehung mit dem Computer herzustellen.
Der wirkliche Fachmann betrachtet das Programmieren als Mittel und nicht als Selbstzweck. Seine Befriedigung bezieht er aus der Lösung eines inhaltlichen Problems und nicht daraus, dem Computer seinen Willen aufgezwungen zu haben.
Die Besessenheit vieler "Nur-Programmierer" -- wie man sie auch bezeichnen könnte -- läßt sie zwangsläufig zu brillanten Kennern ihres Computers werden. Sie sind vertraut mit allen Phasen des Arbeitsablaufes, vom Eingeben der Programme und der Daten bis zur Bedienung der Computer mit ihren Zusatzgeräten, der Computer-Peripherie.
Übrigens, meint Weizenbaum, seien zwanghafte Programmierer dafür bekannt, daß sie keine Bücher über die Materie läsen, an der sie eigentlich arbeiteten. Sind sie selbst schon Teile der Maschinen, für die sie arbeiten? Lassen sie sich auch programmieren?
Das wäre in der Tat eine Teilgefahr, viel größer als die Gefahr, die man den Instrumenten aus Blech, Draht und Glas selbst zuschreibt. Denn es gilt, auch darauf wird ausdrücklich hingewiesen, daß der "Sklave aus Blech, Draht und Glas" nur das kann und nur in dem Umfang aus vorgegebener Ablaufroute ausbricht, wie es vom Programmierer vorbestimmt ist. Das Fehlverhalten von Programmen ist immer auf technische Programmierfehler zurückzuführen.
Die Macht der Computer wird aber erst unheimlich, wenn die Vernunft ihrer nicht mehr mächtig ist. Zum Beispiel dann, wenn mächtige Personen unserer Erde, mit den Möglichkeiten und Grenzen von Computern nicht vertraut, letzteren größere Leistungsfähigkeiten unterstellen, als man ihnen abverlangen kann.
Schlimm wird es, wenn bei derartiger Überforderung zwangsläufig nicht brauchbare Ergebnisse als Hilfe bei wichtigen Entschlüssen verwendet werden. Somit sind Weizenbaums Kapitel über die künstliche Intelligenz, über die unverständlichen Programme (unverständlich für Anwender, die dieses gar nicht merken und brauchbare Hilfsmittel zur Hand zu haben glauben) und schließlich der Abschnitt mit der Überschrift "Gegen den Imperialismus der instrumentellen Vernunft" diejenigen mit den wichtigsten Aussagen.
Was ist, wenn Computer von Personen bedient werden, die nicht die geringste Ahnung davon haben, was in diesen Maschinen eigentlich vor sich geht? Im Vietnam-Krieg trafen nach Weizenbaum Computer, aufgrund ihrer Programme und nach Eingabe von Informationen durch Offiziere, die "Entscheidung", welche Dörfer bombardiert werden sollten und welche Gebiete eine genügend hohe Dichte von Gegnern aufwiesen, so daß aufgrund des Programmes "legitimerweise" über ihnen Bomben abgeworfen werden konnten.
Was ist, wenn Programme nur von ihren geistigen Vätern verstanden werden, die aber nicht zwangsläufig die Bedeutung der Parameter, sprich Eingabedaten, für den Ablauf der Programme überblicken? Und was ist, wenn die Kenner der Ausgangsgrößen und Parameter Programme in Unkenntnis ihrer Fähigkeiten und in Unkenntnis des Umfanges ihrer Aussagekraft einsetzen und den Computer-Ergehnissen mehr Aussagekraft unterstellen als zulässig?
Ausführlich setzt sich der Autor mit der Gefahr von Mißverständnissen und der Überschätzung der Fähigkeiten von Programmen auseinander. Es ist nicht allein die Gefahr, daß Computer uns verleiten, alle Denkarbeiten mit Routinecharakter immer schneller ausführen zu lassen, und wir dabei vergessen, nach welchen Kriterien wir programmierwürdige Aufgaben auswählen sollen, bei welchen der Einsatz von Computern sinnvoll ist und bei welchen absolut unsinnig und unwichtig.
In Interviews wurde Weizenbaum unterstellt, daß er nicht rational argumentiere. ln seinem Buch verwahrt er sich dagegen, indem er betont, daß er für eine Rationalität spricht, von der man Intuition nicht trennen kann.
Wörtlich: "Ich plädiere für den rationalen Einsatz von Naturwissenschaft und Technik, nicht für deren Mystifikation und erst recht nicht für deren Preisgabe. Ich fordere die Einführung eines ethischen Denkens in die naturwissenschaftliche Planung. Ich bekämpfe den Imperialismus der instrumentellen Vernunft, nicht die Vernunft an sich."
Weizenbaum meint eine Vernunft, die auch die Fähigkeit einbezieht, eine Wahl. zu treffen und nicht nur eine Entscheidung. Entscheidungen können notfalls über Computer-Programme gefällt werden. Eine Wahl setzt Fähigkeiten voraus, die Computer zwangsläufig nicht haben können.
Ein Computer kann in unvorstellbarer Geschwindigkeit eine bestimmte Adresse aus einem Telephonbuch herausfinden. Nach Weizenbaum wird wohl nie ein Programm mit Fähigkeiten geschaffen werden können, die selbst ein Baby aufweist, nämlich am Gesicht der Mutter erkennen zu können, ob sie lacht oder traurig ist.
Von Hermann C. Flessner

DER SPIEGEL 32/1978
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung


DER SPIEGEL 32/1978
Titelbild
Abo-Angebote

Den SPIEGEL lesen oder verschenken und Vorteile sichern!

Jetzt Abo sichern
Ältere SPIEGEL-Ausgaben

Kostenloses Archiv:
Stöbern Sie im kompletten SPIEGEL-Archiv seit
1947 – bis auf die vergangenen zwölf Monate kostenlos für Sie.

Wollen Sie ältere SPIEGEL-Ausgaben bestellen?
Hier erhalten Sie Ausgaben, die älter als drei Jahre sind.

Artikel als PDF
Artikel als PDF ansehen

Hermann C. Flessner über Joseph Weizenbaum: „Die Macht der Computer und die Ohnmacht der Vernunft“:
Gefährlicher Dialog

  • Stimme aus dem Sarg: Toter spricht auf seiner eigenen Beerdigung
  • Rituale im britischen Unterhaus: "Lady Usher of the Black Rod"
  • Englands Trainer nach rassistischen Vorfällen: "Wir haben ein Statement abgeliefert"
  • Optische Illusionen: Alles höchst verwirrend