AUS DEM SPIEGEL
Ausgabe 8/2011

Computer "Da ist niemand zu Hause"

AFP/ IBM

2. Teil: "Der Verstand ist keine Software"


SPIEGEL: Warum sollte nicht auch Watson gelegentlich mit interessanten Bildern und Ideen glänzen können? Müsste er nicht einfach Textbausteine aus seinem riesigen Speicher neu zusammenwürfeln?

Gelernter: Ich glaube, dass es tatsächlich möglich ist, eine kreative Maschine zu bauen, wahrscheinlich sogar eine Maschine, die halluzinieren könnte. Aber sie würde uns in keiner Weise gleichen. Sie wäre immer eine Täuschung, eine Fassade. Es ist vollkommen plausibel, dass etwa das Modell "Watson 2050" einen Poesiewettbewerb gewinnt. Es wird womöglich ein wundervolles Sonett schreiben, das ich schön und bewegend finde und das weltberühmt wird. Aber würde das bedeuten, dass Watson einen Verstand hat, eine Idee von sich selbst? Natürlich nicht. Da ist niemand zu Hause. Da ist nichts drin.

SPIEGEL: Bei einem Menschen wissen Sie auch nicht ohne weiteres, ob was drin ist.

Gelernter: Ich weiß, dass ich ein Mensch bin. Und wenn Sie auch ein Mensch sind, dann glaube ich daran, dass Sie intelligent sind. Und zwar nicht, weil Sie irgendeinen Test bestanden haben; auch nicht, weil Sie die Differentialrechnung oder Latein beherrschen. Sie könnten sogar tief schlafen - und dennoch, käme jemand vorbei und würde mich fragen: "Ist er intelligent?", so würde ich sagen: "Natürlich ist er das, er ist ein Mensch." Die einzige Intelligenz, die jeder von uns je aus erster Hand erfahren hat, ist die eigene. Das beobachtbare Verhalten sagt nichts darüber aus, was in einem anderen vor sich geht. Wir können Intelligenz nur dann verlässlich zuschreiben, wenn wir ein Geschöpf sehen, das uns gleicht.

SPIEGEL: In Lausanne in der Schweiz arbeiten Wissenschaftler an dem Projekt "Blue Brain". Sie versuchen, die Biologie des Gehirns eins zu eins in einen Supercomputer zu übertragen, Zelle für Zelle. In etwa zehn Jahren soll ein kompletter Nachbau des menschlichen Gehirns fertig sein. Wäre das dann nicht "ein Geschöpf, das uns gleicht"?

Gelernter: Schon möglich, dass sie einen sehr akkuraten Gehirnsimulator schaffen. Mit so einem Modell könnten sie das Verhalten des Gehirns bis hin zur Übertragung von Signalen exakt voraussagen. Aber sie werden damit genauso wenig einen Verstand erzeugen wie ein Wettermodell einen Hurrikan erzeugt.

SPIEGEL: Fragen wir andersherum: Wenn es uns gelänge, eine Maschine zu konstruieren, die Bewusstsein wenigstens auf verblüffend perfekte Weise vortäuscht - wäre es dann nicht egal, ob sie wirklich Verstand besäße?

Gelernter: Das macht ja schon heute keinen Unterschied mehr. Im Irak und in Afghanistan zum Beispiel gibt es diese Minenräumroboter. Die Soldaten an der Front fühlen sich ihren Maschinen verbunden; sie sind traurig, wenn so ein Roboter zerstört wird. Und in 50 Jahren werden all die einsamen Menschen auf der Welt viel bessere Roboter haben, die ständig da sind und sich mit ihnen unterhalten: "Wie geht es dir heute? Gestern hattest du ja diese schlimmen Rückenschmerzen." Solche Sachen. Werden die Leute menschliche Gefühle für diese Roboter hegen? Absolut. Die Frage ist nur: Macht es etwas aus, dass sie in gewisser Weise betrogen werden? In praktischer Hinsicht vermutlich nicht, in philosophischer Hinsicht sehr wohl. Wenn Sie daran interessiert sind, was einen Menschen ausmacht - nun, der Roboter wird es Ihnen nicht sagen.

SPIEGEL: Zahlreiche Forscher arbeiten bereits daran, Robotern zu besseren Körpern zu verhelfen. Ausgerüstet mit Sensoren aller Art, sollen die Maschinen ihre Umgebung wahrnehmen und erforschen, ähnlich wie es Menschen tun.

Gelernter: Aber ein gefälschter Körper an einem Computer bringt immer noch keine echten Gefühle hervor. Wenn Sie sich Ihren Fuß stoßen, registriert Ihr Gehirn Schmerz. Wenn Sie an etwas Schönes denken, fühlt sich der Körper gut, und dem Verstand wiederum geht es gleich noch besser und so weiter. Diese Rückkopplung ist wichtig für menschliches Verhalten. Im Körper eines Roboters jedoch werden nur binäre Schalter umgelegt und elektrische Ströme manipuliert.

Nehmen wir mal einen Regenwurm. Sie könnten vielleicht eines Tages in ein Chemielabor gehen und genau die Proteine erzeugen, aus denen so ein Wurm besteht, und am Ende haben Sie einen echten Wurm, nämlich genau so ein schleimiges braunes Ding. Wenn Sie die gesamte Biologie von Grund auf kopieren, bekommen Sie tatsächlich ein identisches Abbild. Einen Menschen könnten Sie - rein theoretisch - auf diese Weise ebenfalls erzeugen.

SPIEGEL: Das geht auch einfacher.

Gelernter: Eben.

SPIEGEL: Und wenn wir statt des echten Wurms einen Regenwurm-Roboter bauen mit einem Prozessor und allen Sensoren, die so ein Tier braucht?

Gelernter: Dann hat das höchstens oberflächlich mit einem Regenwurm zu tun.

SPIEGEL: Manche Ihrer Kollegen sind weit optimistischer. Der US-Computerforscher Ray Kurzweil zum Beispiel sagt voraus, irgendwann werde zwangsläufig Bewusstsein entstehen - schon weil die Anzahl von Transistoren auf einem Chip so rasend schnell wächst. Bald werde die Rechenkapazität eines menschlichen Gehirns um ein Vielfaches übertroffen.

Gelernter: Wenn ein einfacher Computer keinen Orangensaft herstellen kann, wie soll es dann ein weit komplexerer können? Computerchips sind einfach der falsche Stoff. Es ist unmöglich, Bewusstseinszustände mit Hilfe von Software zu erzeugen, egal wie komplex die Programme auch sein mögen. Kann ein Wunder geschehen, wenn man sehr viele Bauteile zusammensteckt? Vielleicht. Aber ich habe keinen Anlass, daran zu glauben. Die Leute unterschätzen die Komplexität eines natürlichen Organismus. Und sie überschätzen Kinofilme über künstliche Menschen, Terminatoren und verständige Computer wie etwa den berühmten Hal in Stanley Kubricks "2001".

SPIEGEL: Kurzweils Ideen sind ausgesprochen populär. Warum?

Gelernter: Im Mittelalter versuchten die Alchemisten, Gold zu produzieren. Im digitalen Zeitalter ist der Verstand dran. Verstehen Sie mich nicht falsch: Diese Forschungsrichtung ist sehr interessant. Nur einen Verstand wird sie nicht hervorbringen.

SPIEGEL: Die Anhänger der sogenannten Singularitätsbewegung in den USA erwarten den Siegeszug hochintelligenter Maschinen, die eines Tages vielleicht sogar Teil unseres Körpers werden.

Gelernter: Uns werden mehr Möglichkeiten denn je geboten, das Menschsein zu zerstören, indem wir seine Bedeutsamkeit leugnen. Es gibt Leute, die sagen: "Bevor ich sterbe, werde ich meinen gesamten Geistesinhalt auf einen Server hochladen; so werde ich ewig leben." Jedes Kind erkennt, was daran falsch ist: Wer stirbt, ist tot - egal ob es dann eine oder eine Million Kopien dessen gibt, was man im Kopf hatte. Das hilft einem nichts, denn man ist ja tot. Der Verstand verhalte sich zum Gehirn wie die Software zur Hardware - das war die große philosophische Analogie der vergangenen Jahrzehnte. Aber das ist lächerlich. Der Verstand ist keine Software, bei der es egal ist, auf welcher Hardware man sie zum Laufen bringt.

SPIEGEL: Was ist denn der Unterschied?

Gelernter: Von einer Software kann man beliebig viele Kopien machen. Man kann sie auf Millionen Computern installieren, und es ist immer die gleiche Software. Der Verstand aber kann nur auf exakt einer Plattform laufen. Er funktioniert nur in einem einzigen Gehirn. Sie können ihn nicht auf einer Festplatte sichern und später wieder benutzen.

SPIEGEL: Nur mal als Gedankenspiel: Was würde geschehen, wenn man das Gehirn einer Person in den Kopf einer anderen übertragen würde?

Gelernter: Der Verstand der ersten Person wäre für immer verloren, weil er Teil eines Körpers war und mit diesem Körper interagierte. Aus medizinischer Sicht wäre es allerdings interessant zu sehen, ob das Gehirn flexibel genug wäre, sich auf einen neuen Körper einzustellen.

SPIEGEL: Angenommen, die populären Visionen der Singularisten lassen sich nicht verwirklichen: Welchen Weg wird die KI-Forschung einschlagen?

Gelernter: Ich hoffe, dass Philosophen und Kognitionsforscher zusammen eine ausgefeilte Theorie des Verstands entwickeln. Wir müssen diese lächerliche Obsession mit den Computern loswerden, die enormen Schaden angerichtet hat. Davon ganz unabhängig aber wird die KI-Forschung immer leistungsfähigere Maschinen hervorbringen, die viele unserer Probleme lösen und viele unserer Fragen beantworten. Niemand wird behaupten, sie hätten Verstand, aber sie werden sehr nützlich sein.

SPIEGEL: Würde es Sie verlocken, einen eigenen leistungsstarken Assistenten wie Watson im Haus zu haben?

Gelernter: Natürlich. Watson ist eine brillante, aufregende Maschine. Wir brauchen seine Fähigkeiten.

SPIEGEL: Stellen wir uns mal vor, einer von Watsons Nachfahren sei bereits auf Erbsengröße geschrumpft; er könnte direkt ins Gehirn eingepflanzt werden. Wäre es nicht wundervoll, all dieses Wissen unmittelbar zur Verfügung zu haben?

Gelernter: Das bleibt dann immer noch ein Gerät, das ich bedienen muss. Ich kann aber auch schon jetzt auf alles Wissen von Watson zugreifen. Dafür muss ich nur meinen Laptop öffnen. Macht es einen Unterschied, ob ich eine Frage nicht in zehn Sekunden, sondern in zehn Mikrosekunden beantworten kann? Das hängt davon ab, wie ich mich als menschliches Wesen definiere. Könnte ich "Jeopardy" gewinnen, wenn ich direkten Zugriff auf Millionen zusammenhangloser Fakten hätte? Aber ja. Würde es mir Glück, Befriedigung oder das Gefühl des Triumphs bringen? Keineswegs.

SPIEGEL: Würden Sie Ihren Papagei gegen Watson eintauschen?

Gelernter: (lacht) Niemals. Sehen Sie ihn an! Er hat ein Gesicht. Er hat ein breites Lächeln auf seinem Schnabel. Er ist eine Kreatur mit Gefühlen und Interessen, und er ist Teil der Familie. Sie müssten mir schon weit mehr für meinen Papagei bieten als ein Stück Software.

SPIEGEL: Herr Gelernter, wir danken Ihnen für dieses Gespräch.

Das Gespräch führten die SPIEGEL-Redakteure Philip Bethge und Manfred Dworschak



insgesamt 198 Beiträge
Alle Kommentare öffnen
Seite 1
Xeno87 24.02.2011
1. ...
Naja, Watson versteht zwar nichts von Poesie, das tun aber 90% aller Menschen auch nicht. Menschen können aber wunderbar nachäffen und reproduzieren. Und ob eine künstliche Intelligenz mit Gefühlen besser wäre als eine ohne, wage ich zu bezweifeln. Objektivität ist das einzige Maß, Gefühle sind nur die Hilfsmittel unserer niederen Instinkte, um uns das tun zu lassen, was sie möchten. Der einzige Unterschied zwischen Watson und einem Menschen ist, dass Watson sich seiner nicht bewusst ist, und das ist eine der schwierigsten auf dem Weg zur echten K.I.
emiliolojo 24.02.2011
2. jajjajjaa
Zitat von Xeno87Naja, Watson versteht zwar nichts von Poesie, das tun aber 90% aller Menschen auch nicht. Menschen können aber wunderbar nachäffen und reproduzieren. Und ob eine künstliche Intelligenz mit Gefühlen besser wäre als eine ohne, wage ich zu bezweifeln. Objektivität ist das einzige Maß, Gefühle sind nur die Hilfsmittel unserer niederen Instinkte, um uns das tun zu lassen, was sie möchten. Der einzige Unterschied zwischen Watson und einem Menschen ist, dass Watson sich seiner nicht bewusst ist, und das ist eine der schwierigsten auf dem Weg zur echten K.I.
Was ist nur aus uns geworden, und was steht uns noch bevor. Wie koennen sie nur sowas behaupten. Unter menschlichem Denken verstehe ich, dass am Ende es bewertet werden muss, inwiefern es dem Menschen nützt, also eine Ethik mit impliziert. Maschinelles Kalkulieren hat ja nur den eigenen Selbstzweck der maximalen Gewinnoptimierung. Wie sonst sind solche Dinge moeglich wie Schinkenimitat ( Gel-Schinken), Analog-Käse, Industriefisch und Dioxin Ei. Ich neige nicht zu Übertreibungen wenn ich behaupte der Deutsche an und für sich hat keine Kultur. Deutsche sind von Grund auf unmenschlich, da sein Agieren auf ein rein maschinelles abarbeiten von Prozessabläufen bestimmt ist, also absolut unfähig einer menschlichen Reflexion. Ganz deutlich wird das beim Essen. Der Deutsche ist was er isst und das schert ihn einen Dreck. Essen ist für ihn ein Muss eine Notwendigkeit, das da zwangsläufig die Qualität auf der Strecke bleiben muss erklärt sich von selbst. http://cruisenbcn.wordpress.com/2011...n-deutschland/
petit_fleur 24.02.2011
3. Seit 35 Jahren nichts wirklich neues...
Zitat von sysopDer Computerpionier David Gelernter über den Sieg des IBM-Rechners "Watson" in der Quizshow "Jeopardy", die Aussichten auf ein künstlich geschaffenes Bewusstsein und den Glauben zukunftsfroher Visionäre an ein ewiges Leben auf der Festplatte http://www.spiegel.de/spiegel/0,1518,746570,00.html
bei der Nachbildung der Gehirnfähigkeiten durch was auch immer. Einer meiner Bekannten der sich an der Stanford Uni mit der Adaptierung von Gehirnfähigkeiten beschäftigt hatte besuchte nach langer Zeit den dortigen Bookstore. Bei der Suche nach "Artifical Intelligence" fand er fast nur Literatur zu diesem Thema die es vor 35 Jahren auch schon gab. Aus meiner Sicht ist der aus einer veknüpften Riesenregistratur bestehende Watson eine tolle Maschine, aber kein Weg zur diesem Ziel. Dankenswerter Weise versucht man in Lausanne mittels eines aufwendigen Projektes einen Weg dorthin zu finden.
carlos451 24.02.2011
4. Grad der Komplexität
Zitat von sysopDer Computerpionier David Gelernter über den Sieg des IBM-Rechners "Watson" in der Quizshow "Jeopardy", die Aussichten auf ein künstlich geschaffenes Bewusstsein und den Glauben zukunftsfroher Visionäre an ein ewiges Leben auf der Festplatte http://www.spiegel.de/spiegel/0,1518,746570,00.html
Mir scheint nur der Grad der Komplexität ist der Unterschied zwischen Mensch und Maschine. Warum sollte ein Android, der über ein künstliches ausreichend grosses Gehirn und eine Unmenge an Sensoren an allen Körperteilen verfügt, nicht auch Müdigkeit und Schmerz empfinden. Nach einer Weile der Erfahrung seiner eigenen Sensorik und der fremden Umwelt wird er auch Bewusstsein, Liebe und Hass erfahren. Von daher steht für mich ausser Frage, ob man langfristig den Menschen nachbauen kann. Die Frage ist vielmehr, ob es möglich ist bessere weil ethischere "Menschen" zu bauen. Vermutlich wird eine hochintelligente Maschine, die dem Menschen nachempfunden ist, in einer Zwangslage sich durchaus aus Ratio für das Töten entscheiden und dies dann auch noch ethisch rechtfertigen.
Alderamin 24.02.2011
5. Pessimist
Gelernter scheint mir ein wenig zu pessimistisch eingestellt zu sein: ---Zitat von Gelernter--- Schon möglich, dass sie einen sehr akkuraten Gehirnsimulator schaffen. Mit so einem Modell könnten sie das Verhalten des Gehirns bis hin zur Übertragung von Signalen exakt voraussagen. Aber sie werden damit genauso wenig einen Verstand erzeugen wie ein Wettermodell einen Hurrikan erzeugt. ---Zitatende--- Der Unterschied zwischen Wettermodell und Hurrikan ist der, dass die Simulation nicht mit der Umwelt interagiert, es wird keine Luft bewegt, und schon gar nicht genug, das wäre völlig unmöglich. Ein Gehirn interagiert mit seiner Umgebung durch Wahrnehmung und Sprache/Bewegung, und das wäre durchaus von einer Hardware, die durch eine Hirn-Simulation gesteuert würde, umsetzbar. Ich denke, dass am Gehirn nichts mystisches ist. Es basiert auf anderen Schaltmechanismen und arbeitet massiv parallel mit hunderten Milliarden von Zellen; eine CPU arbeitet hingegen schön getaktet seriell und auch Mehrprozessorkerne oder Multiprozessor-Rechner arbeiten letztlich seriell an verschiedenen Teilen des gleichen Problems (Vektoroperationen, Grafikverarbeitung) oder an verschiedenen seriellen Programmen. Dennoch spricht nichts dagegen, die Funktionsweise des Gehirns in einem schnellen Rechner exakt zu simulieren. Wenn man nur die exakte Verschaltung wüsste und reproduzieren könnte. Wenn an einer Nervenzelle nichts magisches ist, dann ist es dass auch nicht an vielen. Und wenn man eine simulieren kann, kann man auch ein Gehirn simulieren. Und der Input/Output dieser Simulation könnte ebensogut wie ein echtes Gehirn sein. Wenn es keine Seele gibt (und dafür gibt es keinen Grund, siehe http://www.gottlosgluecklich.de/?page_id=676), dann muss eine exakte Simulation eines Gehirns auch ein Bewusstsein hervorbringen. Vermutlich gibt es dann auch eine einfachere Möglichkeit, z.B. über neuronale Netze simplere "Nervenzellen" abzubilden und es wäre eine effizientere Generierung von Bewusstsein machbar. Die Frage ist allerdings, ob es einen intellektuellen Sinn hätte, ein künstliches Bewusstsein zu schaffen. Wir benutzen Rechner doch einfach als Helfer, und das sollen sie auch bleiben. Es wäre schön, wenn man mit ihnen per Sprache kommunizieren könnte, und sie könnten auf Zuruf Routineaufgaben zu Hause erledigen (putzen, einkaufen, eine Frage beantworten, sich Dinge für uns merken, Fremdsprachen übersetzen), aber fühlen und denken müssen sie dafür nicht. Daher ist der Watson-Ansatz vielleicht der für die Praxis relevantere.
Alle Kommentare öffnen
Seite 1

© DER SPIEGEL 8/2011
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.