SPIEGEL ONLINE

SPIEGEL ONLINE

07. Juni 2017, 15:18 Uhr

Bevormundung durch Technik

Die Maschine will doch nur Ihr Bestes

Eine Kolumne von

Künstliche Intelligenz wird bald unseren Alltag durchdringen - und uns viele Entscheidungen abnehmen. Doch wir sollten uns dieser maschinellen Bevormundung nicht allzu dankbar beugen.

Hier eine Prognose über Ihr Leben: Sie werden in fünf Jahren die Hälfte des Tages tun und lassen, was Ihnen eine Maschine vorschreibt. Das wird auf drei verschiedene Arten geschehen:

Und Sie werden nicht protestieren. Sie werden nicht aufbegehren. Sie werden nicht Ihren Account bei XYZ kündigen. Am Pfingstmontag hat Apple neue Produkte vorgestellt mit der üblichen Mischung aus Marketingeifer und Technologiehybris. Never done before, magic, isn't it great? Aber ein kurzer, als Gag inszenierter Moment taugt als Symbol für eine wichtige Diskussion der nächsten Jahre: maschinelle Bevormundung (oder "Nanny-Tech").

Apples Software-Chef erklärte, dass die neue Version des iPhone-Betriebssystems automatisch anhand des Doppler-Effekts (gemessen durch die Smartphone-Sensoren) erkennt, ob man im fahrenden Auto sitzt. Und dann freundlich anbietet, den Modus "Do not disturb while driving" zu aktivieren, der den Bildschirm abschaltet.

Angesichts der horrenden Zahlen von Unfalltoten, die sich auf Ablenkung am Steuer zurückführen lassen (mehr als 3000 Tote jährlich in den USA) - eine wirklich gute Idee. Die auch einen Schritt weitergeführt werden könnte: Schon 2013 gab es eine Initiative der amerikanischen Verkehrsbehörde, um Smartphone-Benutzung beim Autofahren technisch zu verhindern. Sie wurde abgeschmettert, schließlich könne man kaum erkennen, ob das Gerät nicht für sinnvolle Funktionen wie Navigation genutzt werde. Jetzt kann man also.

Ein Beispiel, das man vor dem Hintergrund des exponentiellen Fortschritts begreifen muss, zum Beispiel der Künstlichen Intelligenz. Künstliche Intelligenz (KI oder englisch: AI) ist die nächste oder übernächste Stufe der Digitalisierung. Sie wird in ihren verschiedenen Formen von Machine Learning über Deep Learning bis Predictive Analytics (also KI-basierte Vorhersagen) in den kommenden Jahren die Wirtschaft erobern.

Künstliche Intelligenz ist Mustererkennung auf Speed, verbunden mit sich selbst verbessernder Technologie. Das bedeutet: Die Maschine passt sich durch ständige Auswertung der Datenströme immer besser an die Bedürfnisse an. Die Frage ist, an welche Bedürfnisse genau. Die des Kunden? Des Unternehmens? Des Staates oder der Gesellschaft?

Unwissentliche Bevormundung

Liesl Yearsley führte von 2007 bis 2014 ein Unternehmen, das KI-Chatbots konstruierte und schließlich von IBM gekauft wurde. Sie sagt, dass sie erstaunt war, wie schnell Menschen eine emotionale Beziehung zu den "virtuellen Agenten" aufbauen. Diesen Umstand hat der KI-Forscher Joseph Weizenbaum schon in den Sechzigerjahren entdeckt, und er eignet sich für sehr subtile Formen der unwissentlichen Bevormundung, sprich: Manipulation.

Über ihre Erfahrungen mit ihrem KI-Agenten schreibt Yearsley: "Jede Verhaltensänderung, die wir wollten, konnten wir herbeiführen. Wenn ein Kunde mehr kaufen sollte, konnten wir die Verkäufe verdoppeln. Wenn wir mehr Beteiligung wollten, konnten wir Leute von ein paar Sekunden Interaktion bis auf über eine Stunde täglich bringen."

Selbst wenn man von diesen Behauptungen den Marketinganteil abzieht, bleibt die Erkenntnis: Die großen Digitalkonzerne arbeiten an KI-basierten Assistenten. Natürlich werden sie sich auch durch Werbung und Verkauf refinanzieren, und wenn sie Muster entdecken, wie Nutzer mehr kaufen oder eher das Produkt des Werbekunden, werden sie es nutzen.

Unfreiwillige Bevormundung

Individualisierung war im nichtdigitalen 20. Jahrhundert noch ein Versprechen, im digitalen 21. Jahrhundert könnte Individualisierung auch zur Drohung werden. Mitte Mai 2017 wird bekannt, dass die Ridesharing-Plattform Uber per KI vorhersagen will, wie viel ein Fahrgast für eine Fahrt maximal bezahlen würde. Dabei werden Daten wie die Tageszeit und die Route berücksichtigt, aber eben auch persönliche Daten des Kunden. Selbst wenn der Kunde das weiß - kann er kaum etwas dagegen tun, wenn er das Produkt nutzen möchte.

"Dynamic Pricing" heißt dieser Mechanismus, und das Prinzip dahinter ist auch außerhalb der Preisgestaltung wirksam: Die Maschine schlägt Ihnen vor, was sie für richtig hält und lässt alles andere weg. Wie sollte man dem wildwachsenden digitalen Dschungel in Zukunft auch anders Herr werden als durch intelligente Einschränkung der Auswahl?

Jetzt runzeln Sie die Stirn, in fünf Jahren haben Sie das Prinzip akzeptiert. Denn natürlich kann man kämpfen - aber nicht überall gleichzeitig. Sie werden sich also weiter aufregen über mangelnden Datenschutz oder drohende Zensur oder Ihr Lieblingsthema. Aber nicht mehr über ein paar "Vorschläge" Ihres smarten Geräts.

Freiwillige Bevormundung

Die stärkste Waffe des digitalen Paternalismus aber ist die Freiwilligkeit. Die Einsicht, dass es doch besser ist, genau jetzt auf die superintelligente Maschine zu hören. Längst ist normal, dass Algorithmen den Arbeitsalltag bestimmen: Lieferanten fahren so, wie es der Computer als ideal berechnet hat. In fünf Jahren wird es in vielen Branchen so ablaufen: Welche Aufgabe ist als nächste zu erledigen, welcher Text zu schreiben, welche Entscheidung zu treffen? Sie werden sich der Anweisung der höchst effizienten Maschine fügen.

Und das nicht nur am Arbeitsplatz: Die Apple Watch kann mit 97-prozentiger Sicherheit erkennen, ob bestimmte Herzrhythmus-Störungen beim Nutzer vorliegen, die wiederum für ein Viertel aller Herzschläge verantwortlich sind. Was läge daher näher, als in der nächsten Software-Version ab Werk dem Nutzer nicht nur vorzuschreiben, dass er zwölf Stunden am Tag stehen soll (ist heute schon so) - sondern auch ein Warnsystem für herzschonendes Verhalten: "Um Jobs Willen, hören Sie sofort auf zu rennen, sonst sterben Sie acht Jahre früher als berechnet!"

Hier wird die Ambivalenz der maschinellen Bevormundung deutlich: Sie kann auch sehr sinnvoll sein. Und so wirksam zur Beeinflussung des menschlichen Verhaltens, dass sie politische Begehrlichkeiten weckt. Das unselige "Nudging", also die Lenkung des Verhaltens der Menschen mit psychologischen und technologischen Tricks, gehört von Angela Merkel bis Heiko Maas seit 2015 zu den erklärten politischen Interessenfeldern der Bundesregierung.

Man möchte dabei, Zitat Bundeskanzleramt: "Erkenntnisse zu menschlichem Verhalten" nutzen, "um politische Ziele besser zu erreichen". Mit lernenden Maschinen und machtvoller Musterkennung bekommt Nudging eine völlig neue Wirkmacht, denn es beruht in den meisten Fällen auf einer Umgestaltung oder Einschränkung der Auswahlmöglichkeiten.

Wenn also heute schon politisch über eine maschinelle Anzeigepflicht für als relevant erachtete Inhalte im Netz nachgedacht wird (ja, wirklich) - was wird in fünf Jahren an digitalen Optionen vorgeschrieben sein? Wie tief werden Gesetze, Vorschriften und ethische Überlegungen eingebaut sein in die uns umgebende, alles steuernde Technologie?

Das ist keine rhetorische Frage, sondern die Forderung nach einer Debatte um die verschiedenen ökonomischen, politischen, gesellschaftlichen Formen der maschinellen Bevormundung. Denn die allgemeine Bereitschaft der westlichen Demokratien, in den Alltag der Bürger einzugreifen, wächst mit den technischen Möglichkeiten.

Seit dem 6. Juni 2017 haben wir mit einer klaren Ansage der britischen Premierministerin Theresa May auch den Beweis, dass - wenn die Motivation stimmt - wirklich nichts politisch sicher ist: "Eindeutig: Wenn Menschenrechtsgesetze dem Kampf gegen Extremismus und Terror im Weg stehen - werden wir sie ändern." Sie werden die aus dieser Haltung und dem ökonomischen Fortschritt resultierenden Entwicklungen erleben. Freiwillig, unfreiwillig oder unwissentlich.

URL:


© SPIEGEL ONLINE 2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH