Menschheitsgeschichte Das Experiment sind wir

Auf den ersten Blick haben sie nichts miteinander zu tun. Doch der Fall Cambridge Analytica, der Uber-Unfall und ein obskurer Fachartikel zeigen: Wir erleben etwas menschheitsgeschichtlich Einzigartiges.

imago/ Ikon Images

Eine Kolumne von


"Die größte Schwäche der Menschheit ist ihre Unfähigkeit, die Exponentialfunktion zu verstehen."
Der Physiker Al Bartlett in "The Essential Exponential!"

Stellen Sie sich bitte folgende Situation vor - das Beispiel ist nicht von mir: Zwei Personen gehen jeweils 30 Schritte. Person eins macht normale Schritte, eins plus eins plus eins plus eins, und ist anschließend 30 Schritte weit weg. Person zwei hat Supersiebenmeilenstiefel an und macht exponentielle Schritte, sprich: Jeder Schritt ist doppelt so lang wie der vorangegangene. 1 plus 2 plus 4 plus 8 plus 16 und so weiter.

Wie weit kommt Person Zwei in 30 Schritten? Schätzen Sie mal, schnell, ohne Nachdenken oder Hilfsmittel.

Na?

Die richtige Antwort lautet: Person zwei hat nach 30 Schritten vermutlich nasse Füße, denn sie hat den Erdball fast 30 Mal umrundet.

Die Geschichte über den geköpften Schlaumeier

Menschen, das haben Sie gerade selbst erlebt, sind sensationell schlecht darin, exponentielle Entwicklungen kognitiv zu erfassen. Wir können das einfach nicht. Wir haben uns Werkzeuge gebaut - zuallererst natürlich die Mathematik -, um damit umzugehen, dass es Exponentialfunktionen wirklich gibt.

Wir haben graphische Darstellungen entwickelt, die das verrückte, explosive dieser Art von Funktion in ordentliche, scheinbar übersichtliche Diagramme pressen: Die Kurve wird nach rechts immer steiler, irgendwann sieht sie fast senkrecht aus. Aber was das wirklich bedeutet, geht nicht in unsere Köpfe.

Es gibt eine berühmte Geschichte, um das zu illustrieren: die vom oberschlauen Erfinder des Schachspiels, der von einem indischen König zur Belohnung angeblich bescheiden erbat, für jedes weitere Feld auf dem Brett jeweils doppelt so viele Reiskörner zu bekommen. Die Zahl, die dabei auf Feld Nummer 64 herauskommt, hat 21 Stellen. Angeblich verlor der impertinente Spielerfinder seinen Kopf, als der König das endlich begriffen hatte.

Software, die sich selbst verbessert

Wir alle sind ein bisschen wie der König in der Geschichte. Wir stecken mitten in einer exponentiellen Entwicklung, schon seit Jahrzehnten, aber wir sind nach wie vor unfähig, das wirklich zu begreifen. Vermutlich sind wir gerade irgendwo im Knie der Exponentialkurve. Wir sind das größte Experiment der Menschheitsgeschichte, allerdings eines ohne Kontrollgruppe: Können siebeneinhalb Milliarden Menschen, die die Exponentialfunktionen nicht wirklich begreifen, mit einer sich exponentiell verändernden Welt umgehen oder nicht?

Die ständige Verdopplerei der Gegenwart ist nicht die erste in der Geschichte - auch die Verbreitung des Automobils oder die Ölförderung zum Beispiel folgten zeitweilig Exponentialkurven. Aber die Digitalisierung, sprich: Moores Gesetz - auch wenn es sich im Moment seinem Ende zu nähern scheint -, verändert die Welt schneller und nachhaltiger als jede vorangegangene.

Vergleichen Sie mal die Zeitspanne zwischen der Erfindung des Autos und seiner Allgegenwart mit der zwischen der Einführung des iPhones und der Allgegenwart des Smartphones. Und jetzt kommt zu Moore's Law der nächste Exponentialturbo hinzu.

Allein in den vergangenen zehn Tagen hat es drei anschauliche Beispiele für die zahllosen, kaum vorhersagbaren Auswirkungen dieser Entwicklung gegeben: der Unfall mit dem selbstfahrenden Auto, bei dem in den USA eine Frau ums Leben kam, den Skandal um Cambridge Analytica und Facebook - und ein wenig beachtetes Forschungspapier über neuronale Netze - dazu gleich mehr.

Der wissenschaftliche Fortschritt und sein dunkler Bruder

Die ersten zwei sind Beispiele für den Aspekt der exponentiellen Entwicklung, den Digitalisierung und Kapitalismus gemeinsam hervorbringen. Man könnte sagen, der technisch-wissenschaftliche Fortschritt und der globalisierte Kapitalismus sind ungleiche Brüder, die einander nützen, aber nicht dieselben Ziele verfolgen. Beide haben Großes geschaffen und furchtbare Gräuel auf dem Gewissen. Der eine allerdings weit mehr Gräuel als der andere. Gemeinsam sind sie unglaublich mächtig.

Der wissenschaftliche Fortschritt sorgt fürs Exponentielle. Und der Markt sorgt für Geld und Strukturen, die nötig sind, um diese Veränderungsmacht in atemberaubendem Tempo in den Alltag hineinwirken zu lassen. Oft schneller, als die Regulierung nachkommt. "Skalieren" heißt das jetzt.

"Skalieren" im Business-Kontext ist: Dinge bauen, die exponentielles Potential haben, dann mit Geld bewerfen und sehen, ob die Kurve wirklich immer steiler wird. Ein nicht unwesentlicher Anteil der internationalen Finanzbranche wettet permanent Geld auf Exponentialfunktionen. Und das hat Konsequenzen. Lesen sie zum Beispiel mal diesen nur 14 Jahre alten SPIEGEL-Artikel über selbstfahrende Autos.

"Ganz gut, aber nicht gut genug"?

Kathrin Passig hat vor Jahren einen grandiosen Aufsatz über die "Standardsituationen der Technologiekritik" geschrieben, in der diese Art Blick auf technische Entwicklungen als immer wiederkehrendes Stadium entlarvt wird. Beim Uber-Unfall haben wir es mit Situation Nummer sechs zu tun: "Im Prinzip ganz gut, aber nicht gut genug".

Die Phase "nicht gut genug" ist aber in einem real existierenden exponentiellem Entwicklungsprozess ein menschheitsgeschichtlicher Wimpernschlag. Ich halte es zum Beispiel für sicher, dass selbstfahrende Autos eines nicht fernen Tages so gut sein werden, dass man Menschen lieber nicht mehr ans Steuer lässt. Exponentiell besser werden aber auch maschinelle Übersetzungen, Spracherkennung und vieles andere.

Die Ausreden der Exponentialfürsten

Jemand aus dem Jahr 1988 würde, zu uns gebeamt, die Welt von 2018 als Science-Fiction-Welt erleben. Aber selbst das wirklich zu begreifen, fällt uns heute schwer. Fühlt sich doch an, als gäbe es Smartphones schon ewig. Und was passiert in den nächsten 30 Jahren?

Das Dumme ist, dass diese exponentiellen Entwicklungen neben viel Geld schwer vorhersagbare Nebenwirkungen produzieren. Möglichkeiten, Demokratien zu manipulieren zum Beispiel. Von den derzeitigen Exponentialfürsten hört man im Moment deshalb auffällig häufig die Ausrede: "Die Maschine war's!"

Wer hätte ahnen können, dass Suchmaschinen oder Videoplattformen versehentlich Biotope für Nazis und Islamisten schaffen würden? Wer hätte gedacht, dass man mit allgegenwärtigen Kommunikations- und Überwachungsplattformen das gesellschaftliche Klima würde beeinflussen können? Wer hätte gedacht, dass Algorithmen Menschen diskriminieren würden?

Und jetzt das dritte Beispiel - für die Gänsehaut

Das oben versprochene dritte Beispiel ist übrigens Folgendes: Am 15. März erschien ein unscheinbares Arbeitspapier, in dem zwei Informatiker neuronale Netze beschreiben, die sich selbst replizieren können. Software-Systeme also, die sich nicht nur selbst optimieren, sondern auch vermehren. Das Tolle daran sei, schreiben Oscar Chang und Hod Lipson von der Columbia University, dass damit jetzt "die Möglichkeit ständiger Verbesserung durch natürliche Selektion" bestehe. Für Software.

Sie erinnern sich vielleicht, dass sich kürzlich ein Software-System selbst in drei Tagen beigebracht hat, besser Go zu spielen als alle Go-Spieler der Geschichte und sein eigener Vorgänger. Ähnliche Systeme werden, das weiß ich aus sicherer Quelle, sehr bald Forschungsaufgaben übernehmen. Versuchen Sie mal, das im Kopf mit einem System zu kombinieren, das stetig neue, bessere Versionen seiner selbst schaffen kann. Ist in etwa so schwer wie das mit den 30 exponentiellen Schritten.

Auch wenn Moore's Law sich möglicherweise seinem vorläufigen Ende zuneigt: Die Exponentialfunktion hat uns weiter fest im Griff. Wir, die wir in dieser menschheitsgeschichtlich einmaligen Versuchsanordnung leben, täten gut daran, uns endlich eine Strategie für den Umgang damit zu überlegen.

Mehr zum Thema
Newsletter
Kolumne - Der Rationalist


insgesamt 153 Beiträge
Alle Kommentare öffnen
Seite 1
Frank Klipp 25.03.2018
1. Noch nicht vollständig
Guter Artikel. Es fehlt noch die Ergänzung, dass facebook &co. mittlerweile aus Online-Verhalten, Physiognomie u.a. nicht vermeidbaren Verhalten bzw. Eigenschaften zutreffende Psychogramme erstellen. Der Mensch ist in diesem Spiel die Manipulationsmasse, eine aus Maschinensicht unzulängliche, aber steuerbare Komponente. Diese Entwicklung lässt sich weder aufhalten, noch wirksam steuern. Zwei Szenarien scheinen zunehmend realistisch: 1. wir sind ohne KI nicht mehr überlebensfähig. 2. Kriege drehen den Stand der Entwicklung wieder zurück. Beides kann parallel oder sequentiell stattfinden. Wir werden dies weder aufhalten noch wirksam steuern.
unky 25.03.2018
2. Höchste Zeit
"Wir, die wir in dieser menschheitsgeschichtlich einmaligen Versuchsanordnung leben, täten gut daran, uns endlich eine Strategie für den Umgang damit zu überlegen." Ja, und das sollten wir schnell angehen, denn sonst werden wir eines Tages überrascht feststellen, dass eine hochentwickelte KI beschließt, die Menschen als Irrweg der Natur anzusehen - weil sie diese täglich vernichten anstatt für deren Schutz zu arbeiten - und die Menschheit eliminieren.
lesseworld 25.03.2018
3. Unsinn
Die Produktivitätsgewinne der Industrialisierung waren im Vergleich zum vorindustriellen Zeitalter um ein Vielfaches größer. Die maschinelle Landwirtschaft hat zu einer Ausbreitung des Homo sapiens geführt, die in der Geschichte ihresgleichen sucht. Dagegen sind *ALLE* technischen Erfindungen der jüngsten Vergangenheit Peanuts; absolut zu vernachlässigen. Sie alle haben quasi keinerlei Auswirkungen auf Geburten- / Sterberaten resp. das Lebensalter der globalen Mensscheit. Da hatten und haben vermeintlich profane Dinge wie der Zugang zu sauberem Trinkwasser oder Schutzimpfungen einen bedeutend größeren Einfluss. Alle Erfindungen der Neuzeit sind nichts weiter als Gimmicks - im Vergleich zu den Veränderungen des 18./19. Jahrhunderts.
himone 25.03.2018
4. interessant aber doch zu viel des guten
Es ist sicherlich richtig, dass wir in einer Zeit extrem schneller Veränderung Leben. und es ist auch richtig, dass wir uns keine Exponentialfunktionen vorstellen können. Aber das einzige Beispiel vom Autor ist Moore Gesetz, ansonsten beruht die gesamte Argumentation mehr auf dem Gefühl "abgehängt" zu werden als auf Fakten. ich persönlich finde einen Vergleich zu Industrialisierung passender. Während bislang noch viele Jobs und Arbeitsweisen den vor 15 Jahren gleichen, sind am Horizont doch schon die ersten Veränderungen zu erkennen. sicherlich werden Computer Forschungsaufgaben, wie im Artikel geschrieben übernehmen. Allerdings gab es vor 200 Jahren auch noch nicht den Industriearbeiter - so dass selbst wenn diese Aufgaben von Computern gesteuert werden, auch bei uns Aufgaben entstehen die es noch zu finden gilt. und ähnlich wie die Sozialgesetze ende des 18. jh. und Regelungen der Arbeitsbedingungen besteht gerade hier noch extremer Handelsbedarf. im Moment ist das Internet noch ein fast rechtsfreier Raum in dem Entwicklungen auch deshalb mit einer ungeheuren Geschwindigkeit vonstatten gehen. dieses muss sich über die nächsten Jahrzehnte sukzessive ändern.
Newspeak 25.03.2018
5. ...
Der Umgang damit, wenn es die negativen Folgen betrifft, ist, sein lassen. Es gibt keine Naturgesetzlichkeit, dass wir jeden technischen Fortschritt auch in die Tat umsetzen. Seit 30 Jahren gibt es die Möglichkeit der genetischen Manipulation des Menschen. Aber um diesen Punkt wurde ein Tabu aufgebaut, das erstaunlich mächtig ist. Nicht einmal konsequente Provozierer wie Nordkorea tun das (soweit man weiss). Warum erforscht nieman weltweit, was im Augenblick des Todes wirklich passiert? Weil der Tod die stärksten Tabus mit sich bringt. Entgegen der Behauptung von manchen, der Mensch mache immer alles, was möglich ist. Nein, tut er nicht. Natürlich, sobald Geld zu verdienen ist, oder Macht zu erlangen, was eigentlich auch dasselbe ist, sehen die Dinge anders aus. Man kann das aber auch nutzen. Macht die Dinge, die nicht passieren sollen, so teuer, dass es sich nicht lohnt, sie zu tun.
Alle Kommentare öffnen
Seite 1
Diskussion geschlossen - lesen Sie die Beiträge! zum Forum...

© SPIEGEL ONLINE 2018
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.