AUS DEM SPIEGEL
Ausgabe 16/2018

Digital-Experte Domingos "Wir überlassen den Maschinen die Kontrolle, weil sie so großartig sind"

Pedro Domingos gilt als führender Experte zum Thema "Künstliche Intelligenz"; sein Buch "The Master Algorithm" hat sogar Chinas Staatschef Xi im Bücherregal. Er glaubt, dass moderne Technologien die Demokratie bedrohen. Warum?

Forscher Domingos: "Künstliche Intelligenz stellt einen Kulturbruch dar"
Daniel Berman / DER SPIEGEL

Forscher Domingos: "Künstliche Intelligenz stellt einen Kulturbruch dar"

Ein Interview von und  in Seattle


Ein stiller Flur im Informatikzentrum an der Universität von Washington in Seattle: Rechts sitzen junge Software-Ingenieure im Kunstlicht fensterloser Zimmer an ihren Laptops, links öffnet der Informatikprofessor Pedro Domingos die Tür zu seinem Büro, das den Blick auf riesige Bäume auf dem Campus freigibt.

Domingos, 52, ist mit einem Buch berühmt geworden, das Microsoft-Gründer Bill Gates und den früheren Google-Chef Eric Schmidt begeistert hat: "The Master Algorithm", ein Standardwerk über die Technologie der künstlichen Intelligenz (KI). Das 2015 erschienene Erfolgsbuch beschreibt, wie lernende Maschinen unseren Alltag verändern, von den sozialen Netzwerken über die Wissenschaft, die Wirtschaft und die Politik bis zur modernen Kriegsführung.

Vor Kurzem hat sich ein dritter Prominenter als Leser von Domingos' Buch geoutet - Chinas Staatschef Xi Jinping. Als das Staatsfernsehen seine Neujahrsansprache ausstrahlte, entdeckten Zuschauer neben Marx' "Kapital" und den "Ausgewählten Werken" von Mao Zedong auch "The Master Algorithm" in Xis Bücherregal. "Das Buch wird viel gelesen in China", sagt Domingos. "Wahrscheinlich sind Xi und seine Leute deshalb darauf aufmerksam geworden. Gut möglich, dass es inzwischen noch populärer ist." Auch ins Russische, Japanische, Koreanische und in viele andere Sprachen ist das Buch übersetzt worden - ins Deutsche noch nicht.

SPIEGEL: Herr Professor Domingos, Russlands Präsident Wladimir Putin sagt: Wer in der Technologie der künstlichen Intelligenz die Führung übernimmt, wird die Welt beherrschen. Stimmt das?

Roboterkopf aus Hongkong: "Was können wir damit nicht alles anfangen?"
AP

Roboterkopf aus Hongkong: "Was können wir damit nicht alles anfangen?"

Titelbild
Dieser Artikel ist aus dem SPIEGEL
Heft 16/2018
Berechtigte Sorge, übertriebene Angst - die Fakten zur Debatte um Islam und Heimat

Domingos: Ich stimme ihm zu. Künstliche Intelligenz ist eine sehr mächtige Technologie, und der Rüstungswettlauf auf diesem Feld hat längst begonnen. In 20 Jahren könnte das Rennen entschieden sein. Russland kommt gut voran, doch wahrscheinlicher ist, dass China gewinnt. Wir könnten bald in einer Welt leben, die zwar nicht buchstäblich von China kontrolliert wird, wohl aber faktisch, weil es die Cyberwelt beherrscht.

SPIEGEL: Warum kommt das der Weltherrschaft gleich?

Domingos: Künstliche Intelligenz senkt die Kosten des Wissens, und zwar um riesige Dimensionen. Ein effektives, auf lernende Maschinen aufgebautes System kann Dinge leisten, die heute eine Million Menschen leisten, von der Wirtschaft bis zur Cyberspionage. Stellen Sie sich ein Land vor, das tausendmal so viel Wissen produziert wie alle anderen. Das ist die Herausforderung, vor der wir stehen.

SPIEGEL: Auch Chinas Staatschef Xi Jinping interessiert sich für künstliche Intelligenz. Haben Sie vor den Bildern von seiner Ansprache gewusst, dass Ihr Buch in seinem Regal steht?

Domingos: Ich habe es nicht gewusst, Xi Jinping macht das offenbar immer so. Die Bücher in seinem Regal vermitteln eine Botschaft. Im Falle meines Buchs lautet sie: Wir glauben an die künstliche Intelligenz. Ich war nicht wirklich überrascht, als ich davon erfuhr. Peking sagt, dass China auf diesem Feld zur Weltmacht aufsteigen will.

SPIEGEL: Was überwog, als Sie Ihr Buch dort sahen - das Gefühl der Bestätigung oder der Beunruhigung?

Domingos: Es war zugleich aufregend und unheimlich. Aufregend, weil sich China so schnell entwickelt und es unzählige Möglichkeiten gibt, wie die Chinesen und der Rest der Welt von künstlicher Intelligenz profitieren können. Unheimlich, weil China von einem autoritären Regime regiert wird, das fest entschlossen ist, lernende Algorithmen zur Kontrolle seiner Bevölkerung zu nutzen. Und dabei stehen wir erst am Anfang dieser Entwicklung. Man kann mit künstlicher Intelligenz, wie mit jeder Technologie, Gutes und Schlechtes tun. Bislang haben wir uns auf das Gute konzentriert, und davon gibt es sehr viel. Aber ebenso groß sind die Möglichkeiten, diese Technologie zu missbrauchen.

SPIEGEL: Ist es ein Zufall, dass sich gerade zwei Autokraten wie Xi und Putin so für künstliche Intelligenz interessieren?

Domingos: Die Menschen in Amerika, Europa und Asien denken ganz unterschiedlich über diese Technologie. Im Silicon Valley dominiert ein sehr optimistisches, von libertären Ideen geprägtes Bild. Anders in Europa: Vor Kurzem nahm ich an einer Konferenz in Berlin teil und war wie erschlagen vom Pessimismus, der dort herrschte. Auf jeder Sitzung hieß es: Oh, da müssen wir uns aber fürchten. Bis jemand die treffende Frage stellte: Warum heißt diese Konferenz eigentlich "Humanity Disrupted" - also "zerrissene Menschheit"? Warum nennen wir sie nicht "Humanity Enhanced" - also "erweiterte, verbesserte Menschheit"? Ja, künstliche Intelligenz stellt einen Kulturbruch dar. Aber sie bringt uns auch weiter.

SPIEGEL: Und China, Russland?

Domingos: Dort sehen die Regime leider nicht das libertäre, sondern das autoritäre Potenzial. Xi und Putin sagen sich: Was können wir mit dieser Technik nicht alles anfangen?

SPIEGEL: Überlassen wir Europäer den Autokraten dieses Feld?

Domingos: Es gibt viele Anwendungen, auf lokaler und nationaler Ebene, von der Medizin bis zur Verkehrssteuerung, die in den USA und China längst genutzt werden, viel weniger dagegen in Europa. Ja, so gesehen bleibt Europa hinter seinen Möglichkeiten zurück.

SPIEGEL: Ihr Buch wurde unter anderem ins Russische und Chinesische übersetzt, aber weder ins Deutsche noch ins Französische.

Domingos: Mein Agent hat mir von Anfang an gesagt: "Du wirst dieses Buch auf der ganzen Welt verkaufen, aber nicht in Frankreich und Deutschland." Genau so ist es gekommen. Mein Agent hatte recht, als er sagte: "Die Deutschen und Franzosen mögen diese Dinge nicht."

SPIEGEL: Sie warnen selbst davor, dass die Technologie in die falschen Hände geraten könnte. Sind wir nicht zu Recht besorgt?

Domingos: Diese Gefahr besteht, und was die Regulierung von künstlicher Intelligenz betrifft, ist Europa weiter als die USA. Allerdings wird dort zu viel reguliert, ohne die Technik zu verstehen.

SPIEGEL: Wie meinen Sie das?

Domingos: Die europäische Datenschutz-Grundverordnung, die Ende Mai wirksam wird, legt zu großen Wert auf die sogenannte Erklärbarkeit, also die Frage, warum ein Algorithmus so und nicht anders entscheidet. Nehmen wir die Krebsforschung, wo maschinelles Lernen heute schon eine große Rolle spielt. Ist es mir lieber, meine Diagnose basiert auf einem Algorithmus, der zu 90 Prozent akkurat, aber im Detail nicht erklärbar ist - oder auf einem, der nur zu 80 Prozent genau ist, den ich aber verstehe? Ich würde mich für das genauere System entscheiden.

SPIEGEL: Kann man nicht beides haben, Genauigkeit und Verständlichkeit?

Domingos: Die besten lernenden Algorithmen sind neuronalen Netzwerken nachgebildet, die von Nervensystemen inspiriert sind, wie sie in Tieren und Menschen vorkommen. Diese Algorithmen sind hochgradig akkurat, weil sie auf der Basis riesiger Datenmengen einen Ausschnitt der Welt besser verstehen als wir. Aber sie sind völlig undurchsichtig. Selbst wir Experten verstehen nicht, wie sie genau funktionieren. Wir wissen nur, dass sie funktionieren. Wir sollten deshalb keine Regeln aufstellen, die nur vollständig erklärbare Algorithmen erlauben. Es ist schwierig, die Komplexität der Wirklichkeit zu erfassen und die Dinge dabei einfach zu halten.

Staatschef Xi bei Neujahrsansprache: "China ist im Vorteil"

Staatschef Xi bei Neujahrsansprache: "China ist im Vorteil"

SPIEGEL: Wie sollte man künstliche Intelligenz dann regulieren?

Domingos: Kein Gesetz wird je detailliert genug sein, um mit der Komplexität moderner Algorithmen mithalten zu können. Was man regulieren kann, sind die objektiven Funktionen eines Algorithmus, also etwa das Ziel von Facebook, seine Nutzer so lange wie möglich auf der Seite zu halten. Da kann die Aufsichtsbehörde sagen: Okay, ihr wollt Geld verdienen, aber dabei müsst ihr gewisse gesellschaftlich relevante Regeln einhalten, zum Beispiel transparent sein und keine falschen Informationen verbreiten.

SPIEGEL: Was sollte man nicht regulieren?

Domingos: Beispielsweise sollte man nicht festlegen, dass Daten ausschließlich dafür verwendet werden dürfen, wofür sie gesammelt wurden. Das klingt zunächst plausibel - aber wenn die Menschheit diesem Prinzip früher gefolgt wäre, hätten wir heute kein Penicillin und keine Röntgentechnik. Zufall, also das Entdecken neuer Dinge in alten Daten, ist für wissenschaftlichen Fortschritt unerlässlich.

SPIEGEL: Haben Sie europäischen Politikern das erklärt?

Domingos: Ich habe mit vielen Politikern gesprochen, allerdings weniger mit europäischen. Das ist paradox, denn Europa hat hervorragende KI-Experten - nicht so viele wie die USA, doch die Qualität ihrer Forschung ist derzeit noch besser als die ihrer chinesischen Kollegen. Aber China holt auf...

SPIEGEL: ...und wird mit seinem autoritären Modell am Ende an uns vorbeiziehen?

Domingos: Der frühere Google-Chef Eric Schmidt sagt voraus, dass China 2025 vorn liegen wird, weil es eine konzertierte Strategie verfolgt. Das ist gut möglich. Amerikas Vorteil sind die Grundlagenforschung und das sprudelnde Wagniskapital, welches das Wissen von den Universitäten in die Wirtschaft überträgt. Chinas Vorteil sind die großen Datenmengen, aus denen lernende Algorithmen schöpfen können. Europas Vorteil ist seine Vielfalt. Wenn ich zwischen den Datenpools Europas und Chinas wählen müsste, würde ich mich für Europa entscheiden, denn chinesische Daten sind sehr homogen und deshalb auf vielen Feldern redundant. Außerdem ist China sehr nachlässig beim Schutz der Privatsphäre - was zugleich ein Nach- und ein Vorteil ist.

SPIEGEL: Warum?

Domingos: Nun, in der Krebsforschung zum Beispiel halte ich es geradezu für die ethische Pflicht der Patienten, ihre Daten zu teilen. Das werden sie aber nicht tun, wenn sie wie in China Zweifel daran haben müssen, dass ihre Daten sicher sind. Die Qualität der Daten mag dort also geringer sein, auch wenn das Volumen größer ist.

SPIEGEL: Wird der Rüstungswettlauf um die künstliche Intelligenz künftig eher zwischen Staaten oder zwischen einzelnen Unternehmen ausgetragen?

Domingos: Die Welt wird sich in dieser Hinsicht völlig verändern, die Grenzen verschieben sich. Wenn ich mit Militärs spreche - ein großer Teil meiner Forschung wird vom Pentagon finanziert -, dann haben sie die Hoffnung lange aufgegeben, dass der Gegner vor der Tür gehalten werden kann. In die Cyberwelt ist der Gegner längst eingedrungen, sosehr wir auch versuchen, alle Ritzen abzudichten. Deshalb geben sich die Chinesen auch solche Mühe, einen Überwachungsstaat aufzubauen.

SPIEGEL: Was hat das mit den Internetfirmen zu tun?

Domingos: Dort ist der Wettlauf am weitesten vorangeschritten. Bislang agieren die großen KI-Unternehmen weitgehend im Stillen, schon aus Gründen des Wettbewerbs. Noch arbeiten die größten Firmen unabhängig und ganz für sich - fünf oder sechs der zehn führenden in den USA, zwei oder drei in China. Über kurz oder lang aber werden diese Firmen und die Staaten immer enger zusammenarbeiten. Auch da ist China im Vorteil, denn die Regierung und die Unternehmen helfen einander dort hemmungslos - was in den USA so nicht der Fall ist.

SPIEGEL: Welches sind die führenden Firmen?

Domingos: Nummer eins ist Google mit seiner riesigen Zahl von Experten und Abteilungen, die sich ausschließlich künstlicher Intelligenz und maschinellem Lernen widmen, wie DeepMind und Google Brain. Auf Platz zwei folgt Microsoft, dahinter Facebook und Amazon - in dessen Logistikzentren Hunderttausende Menschen arbeiten, die das Unternehmen wahrscheinlich lieber heute als morgen durch Roboter ersetzen würde.

SPIEGEL: Und in China?

Domingos: Dort sind der Onlinehändler Alibaba und der Internetriese Tencent die Besten - vor allem aber die Suchmaschine Baidu, die massiv auf künstliche Intelligenz setzt.

SPIEGEL: Autoritäre Regime, Militärs, Spionage und nun, vor wenigen Wochen, der Datenskandal bei Facebook - wie kommt es, dass Sie künstliche Intelligenz trotzdem positiv sehen?

Domingos beim SPIEGEL-Gespräch: "Die Deutschen mögen diese Dinge nicht"
Daniel Berman/ DER SPIEGEL

Domingos beim SPIEGEL-Gespräch: "Die Deutschen mögen diese Dinge nicht"

Domingos: Sehen Sie sich an, wie sehr moderne Technologie die Welt in den vergangenen 200 Jahren verändert hat. Ja, furchtbare Dinge sind passiert - aber das Gesamtergebnis ist überwältigend positiv. Es gibt gute Gründe, zugleich optimistisch und pessimistisch zu sein, ja für beides werden die Gründe immer triftiger. Ich bleibe vorsichtig optimistisch.

SPIEGEL: Ist der Facebook-Skandal nicht genau der "große Knall" in der digitalen Welt, vor dem Sie bereits in Ihrem Buch gewarnt haben?

Domingos: Facebook ging immer schon besonders sorglos mit Daten um, setzte viel aufs Spiel - und korrigierte sich erst dann, wenn es zu weit gegangen war. Es ist kein Zufall, dass Facebook weniger Vertrauen genießt als die anderen großen Internetfirmen, und diese Abrechnung jetzt war abzusehen. Andererseits ist Facebook heute nicht mehr das, was es vor ein paar Jahren war. Ein Datenabfluss wie an die Beratungsfirma Cambridge Analytica würde heute so nicht mehr passieren.

SPIEGEL: Wie würden Sie Facebook regulieren?

Domingos: Facebook macht viele fragwürdige Dinge. Seine Algorithmen zielen darauf ab, die Nutzer möglichst lange an sich zu binden. Das macht auch jede gute Fernsehshow, jeder Roman, jedes Sportereignis. Aber Facebook nutzt eben künstliche Intelligenz, um die Aufmerksamkeit der Nutzer zu seinen Gunsten zu maximieren, und das richtet Schaden an: Menschen sitzen Fake News auf, sie werden falsch informiert und polarisiert. Das sind ernste Probleme. Und das ist der Grund, warum die Politik einschreiten und Grenzen setzen muss.

SPIEGEL: Können soziale Netzwerke für eine Demokratie gefährlich werden?

Domingos: Sie sind zugleich eine Gefahr und eine Chance. Genau genommen steckt die Demokratie heute noch im 19. Jahrhundert fest. Die Kommunikation mit unseren Volksvertretern beschränkt sich auf ein paar Bit pro Jahr - lächerlich. Eine Möglichkeit, diesen Missstand zu beheben, wäre ein digitales Modell, das die Bürger besser in die Entscheidungen ihrer Regierungen einbindet - zum Beispiel, indem man ein digitales Modell des einzelnen Bürgers und seiner politischen Prioritäten erstellt, das der Volksvertreter dann zurate zieht. Das ist mit den Mitteln des maschinellen Lernens sehr gut möglich und wird bereits erprobt. Hier liegt eine Chance.

SPIEGEL: Und die Gefahr?

Domingos: Die besteht darin, dass soziale Netzwerke zur Manipulation missbraucht werden. Wobei wir die Dinge nicht übertreiben dürfen. Bislang sind die sozialen Netzwerke vor allem daran interessiert, Werbung zu platzieren. Für Facebook beträgt der Wert eines Nutzers ungefähr 50 Dollar, obwohl er im Jahr vielleicht 50.000 Dollar ausgibt. Mehr hat all dieses maschinelle Lernen bislang nicht erreicht. Die Vorstellung, dass man mit künstlicher Intelligenz Wahlen entscheiden kann, halte ich derzeit noch für übertrieben. Aber die Technologie schreitet voran.

SPIEGEL: Was ist am Ende gefährlicher an der künstlichen Intelligenz - Datenlecks wie bei Facebook oder der Orwell-Staat, wie ihn Autokraten bauen wollen?

Domingos: Wenn autoritäre Staaten bessere Algorithmen schreiben als wir in den Demokratien, dann haben wir ein Problem. Man könnte frei nach Trotzki sagen: Vielleicht interessierst du dich nicht für künstliche Intelligenz, aber die künstliche Intelligenz interessiert sich für dich. So wie Amerika an Anwälte glaubt, glaubt China an Ingenieure. Einige von Chinas Führern sind Ingenieure. Für sie ist die Gestaltung einer Gesellschaft ein technisches Problem: Wir programmieren eine Maschine so, dass sie sich so verhält, wie wir das wollen. Für solche Politiker ist künstliche Intelligenz sehr verführerisch.

SPIEGEL: Auch die Führer der Sowjetunion hätten gern die Welt beherrscht.

Domingos: Ja, und sie sind der Demokratie und dem Kapitalismus unterlegen. Aber stellen Sie sich vor, was sie mit den Algorithmen unserer Zeit hätten anrichten können. Computer sind die ultimativen Bürokraten. Sie können jedermann zu jeder Zeit kontrollieren, sie sind absolut unbestechlich - in der Hand eines Korrupten aber absolut korrupt. In einer offenen Gesellschaft kann ich als Oberbefehlshaber einer Armee meinen Soldaten Befehle erteilen, aber in den meisten westlichen Staaten haben die das Recht, einen schlechten Befehl zu verweigern. Ein Computer tut, was ich ihm sage.

SPIEGEL: Überschätzen wir heute womöglich den technischen Fortschritt der künstlichen Intelligenz? Wo sie uns im Alltag begegnet, in der Gesichts- und Stimmenerkennung, enttäuscht sie uns meistens.

Domingos: Technologie entwickelt sich kurzfristig immer langsamer, langfristig aber viel schneller, als wir erwarten. Die künstliche Intelligenz ist dafür ein Paradebeispiel. Die KI-Systeme, mit denen wir heute im Alltag zu tun haben, sind unglaublich dumm. Es ist keine Intelligenz in Sprachassistenten wie Alexa oder Siri.

SPIEGEL: Warum? Ist es wirklich so schwer, aus Dutzenden Anfragen ein paar einfache Dinge über uns zu lernen?

Domingos: Es ist extrem schwierig. Wir Menschen sind intelligent, deshalb halten wir Intelligenz für etwas Einfaches. Uns ist nicht bewusst, dass wir die gesamte Geschichte der Evolution in uns tragen. Aber die technische Entwicklung beschleunigt sich. Wir haben in den vergangenen 50 Jahren 1000 Meilen zurückgelegt und Erstaunliches erreicht. Aber wir haben noch eine Million Meilen vor uns, und dafür werden wir nicht mehr so lange brauchen.

SPIEGEL: "Hinreichend fortschrittliche künstliche Intelligenz", schreiben Sie in Ihrem Buch, "ist von Gott nicht unterscheidbar." Bitte erklären Sie diesen Satz.

Domingos: Das ist die Abwandlung eines Gedankens des Science-Fiction-Autors Arthur C. Clarke: "Hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden." Was ich damit sagen will: Wir Menschen fürchten uns vor einem Aufstand der Maschinen. Der wird nicht geschehen, Maschinen haben keinen Willen. Sehr wohl aber ist es möglich, dass wir freiwillig den Maschinen die Kontrolle überlassen, einfach, weil sie so großartig sind und mehr Daten verarbeiten können als wir. Ist ein Smartphone nicht wie Magie?

SPIEGEL: Es kommt also am Ende darauf an, wer die Maschinen steuert?

Domingos: So ist es. Die Geschichte lehrt, dass wir verführbar sind und deshalb nur allzu bereit, künstlicher Intelligenz Entscheidungen zu überlassen, die wir selbst treffen sollten. Aber in Wahrheit ist es nicht die künstliche Intelligenz, die Entscheidungen trifft. Es sind die Leute, die die künstliche Intelligenz kontrollieren. Wer steuert künftig die Algorithmen? Sind wir das - oder ist es Xi Jinping? Das ist die Frage.

SPIEGEL: Herr Professor Domingos, wir danken Ihnen für dieses Gespräch.



© DER SPIEGEL 16/2018
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.