Bevormundung durch Technik Die Maschine will doch nur Ihr Bestes

Künstliche Intelligenz wird bald unseren Alltag durchdringen - und uns viele Entscheidungen abnehmen. Doch wir sollten uns dieser maschinellen Bevormundung nicht allzu dankbar beugen.

Gerade vorgestellt: Apples vernetzter Lautsprecher HomePod mit integrierter Sprachassistentin
AFP

Gerade vorgestellt: Apples vernetzter Lautsprecher HomePod mit integrierter Sprachassistentin

Eine Kolumne von


Hier eine Prognose über Ihr Leben: Sie werden in fünf Jahren die Hälfte des Tages tun und lassen, was Ihnen eine Maschine vorschreibt. Das wird auf drei verschiedene Arten geschehen:

  • freiwillig, weil es richtig scheint,
  • unfreiwillig, weil es (für Sie) nicht anders geht,
  • oder unwissentlich.

Und Sie werden nicht protestieren. Sie werden nicht aufbegehren. Sie werden nicht Ihren Account bei XYZ kündigen. Am Pfingstmontag hat Apple neue Produkte vorgestellt mit der üblichen Mischung aus Marketingeifer und Technologiehybris. Never done before, magic, isn't it great? Aber ein kurzer, als Gag inszenierter Moment taugt als Symbol für eine wichtige Diskussion der nächsten Jahre: maschinelle Bevormundung (oder "Nanny-Tech").

Apples Software-Chef erklärte, dass die neue Version des iPhone-Betriebssystems automatisch anhand des Doppler-Effekts (gemessen durch die Smartphone-Sensoren) erkennt, ob man im fahrenden Auto sitzt. Und dann freundlich anbietet, den Modus "Do not disturb while driving" zu aktivieren, der den Bildschirm abschaltet.

Angesichts der horrenden Zahlen von Unfalltoten, die sich auf Ablenkung am Steuer zurückführen lassen (mehr als 3000 Tote jährlich in den USA) - eine wirklich gute Idee. Die auch einen Schritt weitergeführt werden könnte: Schon 2013 gab es eine Initiative der amerikanischen Verkehrsbehörde, um Smartphone-Benutzung beim Autofahren technisch zu verhindern. Sie wurde abgeschmettert, schließlich könne man kaum erkennen, ob das Gerät nicht für sinnvolle Funktionen wie Navigation genutzt werde. Jetzt kann man also.

Ein Beispiel, das man vor dem Hintergrund des exponentiellen Fortschritts begreifen muss, zum Beispiel der Künstlichen Intelligenz. Künstliche Intelligenz (KI oder englisch: AI) ist die nächste oder übernächste Stufe der Digitalisierung. Sie wird in ihren verschiedenen Formen von Machine Learning über Deep Learning bis Predictive Analytics (also KI-basierte Vorhersagen) in den kommenden Jahren die Wirtschaft erobern.

Künstliche Intelligenz ist Mustererkennung auf Speed, verbunden mit sich selbst verbessernder Technologie. Das bedeutet: Die Maschine passt sich durch ständige Auswertung der Datenströme immer besser an die Bedürfnisse an. Die Frage ist, an welche Bedürfnisse genau. Die des Kunden? Des Unternehmens? Des Staates oder der Gesellschaft?

Unwissentliche Bevormundung

Liesl Yearsley führte von 2007 bis 2014 ein Unternehmen, das KI-Chatbots konstruierte und schließlich von IBM gekauft wurde. Sie sagt, dass sie erstaunt war, wie schnell Menschen eine emotionale Beziehung zu den "virtuellen Agenten" aufbauen. Diesen Umstand hat der KI-Forscher Joseph Weizenbaum schon in den Sechzigerjahren entdeckt, und er eignet sich für sehr subtile Formen der unwissentlichen Bevormundung, sprich: Manipulation.

Über ihre Erfahrungen mit ihrem KI-Agenten schreibt Yearsley: "Jede Verhaltensänderung, die wir wollten, konnten wir herbeiführen. Wenn ein Kunde mehr kaufen sollte, konnten wir die Verkäufe verdoppeln. Wenn wir mehr Beteiligung wollten, konnten wir Leute von ein paar Sekunden Interaktion bis auf über eine Stunde täglich bringen."

Selbst wenn man von diesen Behauptungen den Marketinganteil abzieht, bleibt die Erkenntnis: Die großen Digitalkonzerne arbeiten an KI-basierten Assistenten. Natürlich werden sie sich auch durch Werbung und Verkauf refinanzieren, und wenn sie Muster entdecken, wie Nutzer mehr kaufen oder eher das Produkt des Werbekunden, werden sie es nutzen.

Unfreiwillige Bevormundung

Individualisierung war im nichtdigitalen 20. Jahrhundert noch ein Versprechen, im digitalen 21. Jahrhundert könnte Individualisierung auch zur Drohung werden. Mitte Mai 2017 wird bekannt, dass die Ridesharing-Plattform Uber per KI vorhersagen will, wie viel ein Fahrgast für eine Fahrt maximal bezahlen würde. Dabei werden Daten wie die Tageszeit und die Route berücksichtigt, aber eben auch persönliche Daten des Kunden. Selbst wenn der Kunde das weiß - kann er kaum etwas dagegen tun, wenn er das Produkt nutzen möchte.

"Dynamic Pricing" heißt dieser Mechanismus, und das Prinzip dahinter ist auch außerhalb der Preisgestaltung wirksam: Die Maschine schlägt Ihnen vor, was sie für richtig hält und lässt alles andere weg. Wie sollte man dem wildwachsenden digitalen Dschungel in Zukunft auch anders Herr werden als durch intelligente Einschränkung der Auswahl?

Jetzt runzeln Sie die Stirn, in fünf Jahren haben Sie das Prinzip akzeptiert. Denn natürlich kann man kämpfen - aber nicht überall gleichzeitig. Sie werden sich also weiter aufregen über mangelnden Datenschutz oder drohende Zensur oder Ihr Lieblingsthema. Aber nicht mehr über ein paar "Vorschläge" Ihres smarten Geräts.

Freiwillige Bevormundung

Die stärkste Waffe des digitalen Paternalismus aber ist die Freiwilligkeit. Die Einsicht, dass es doch besser ist, genau jetzt auf die superintelligente Maschine zu hören. Längst ist normal, dass Algorithmen den Arbeitsalltag bestimmen: Lieferanten fahren so, wie es der Computer als ideal berechnet hat. In fünf Jahren wird es in vielen Branchen so ablaufen: Welche Aufgabe ist als nächste zu erledigen, welcher Text zu schreiben, welche Entscheidung zu treffen? Sie werden sich der Anweisung der höchst effizienten Maschine fügen.

Und das nicht nur am Arbeitsplatz: Die Apple Watch kann mit 97-prozentiger Sicherheit erkennen, ob bestimmte Herzrhythmus-Störungen beim Nutzer vorliegen, die wiederum für ein Viertel aller Herzschläge verantwortlich sind. Was läge daher näher, als in der nächsten Software-Version ab Werk dem Nutzer nicht nur vorzuschreiben, dass er zwölf Stunden am Tag stehen soll (ist heute schon so) - sondern auch ein Warnsystem für herzschonendes Verhalten: "Um Jobs Willen, hören Sie sofort auf zu rennen, sonst sterben Sie acht Jahre früher als berechnet!"

Hier wird die Ambivalenz der maschinellen Bevormundung deutlich: Sie kann auch sehr sinnvoll sein. Und so wirksam zur Beeinflussung des menschlichen Verhaltens, dass sie politische Begehrlichkeiten weckt. Das unselige "Nudging", also die Lenkung des Verhaltens der Menschen mit psychologischen und technologischen Tricks, gehört von Angela Merkel bis Heiko Maas seit 2015 zu den erklärten politischen Interessenfeldern der Bundesregierung.

Man möchte dabei, Zitat Bundeskanzleramt: "Erkenntnisse zu menschlichem Verhalten" nutzen, "um politische Ziele besser zu erreichen". Mit lernenden Maschinen und machtvoller Musterkennung bekommt Nudging eine völlig neue Wirkmacht, denn es beruht in den meisten Fällen auf einer Umgestaltung oder Einschränkung der Auswahlmöglichkeiten.

Wenn also heute schon politisch über eine maschinelle Anzeigepflicht für als relevant erachtete Inhalte im Netz nachgedacht wird (ja, wirklich) - was wird in fünf Jahren an digitalen Optionen vorgeschrieben sein? Wie tief werden Gesetze, Vorschriften und ethische Überlegungen eingebaut sein in die uns umgebende, alles steuernde Technologie?

Das ist keine rhetorische Frage, sondern die Forderung nach einer Debatte um die verschiedenen ökonomischen, politischen, gesellschaftlichen Formen der maschinellen Bevormundung. Denn die allgemeine Bereitschaft der westlichen Demokratien, in den Alltag der Bürger einzugreifen, wächst mit den technischen Möglichkeiten.

Seit dem 6. Juni 2017 haben wir mit einer klaren Ansage der britischen Premierministerin Theresa May auch den Beweis, dass - wenn die Motivation stimmt - wirklich nichts politisch sicher ist: "Eindeutig: Wenn Menschenrechtsgesetze dem Kampf gegen Extremismus und Terror im Weg stehen - werden wir sie ändern." Sie werden die aus dieser Haltung und dem ökonomischen Fortschritt resultierenden Entwicklungen erleben. Freiwillig, unfreiwillig oder unwissentlich.

Mehr zum Thema
Newsletter
Kolumne - Die Mensch-Maschine


insgesamt 125 Beiträge
Alle Kommentare öffnen
Seite 1
zeichenkette 07.06.2017
1. Tja
Menschen tun Dinge und ändern ihre Welt. Das haben sie schon immer getan, vom ersten Werkzeuggebrauch und der Sprache an. Dass wir mit Veränderungen erst einmal zurechtkommen müssen, und dass das Mühe kostet, ist schon klar, aber immer nur Angst vor Veränderungen hat noch nie etwas gebracht. Wir haben heute sehr viel mehr Probleme mit Natürlicher Dummheit als mit Künstlicher Intelligenz.
whoispaul 07.06.2017
2. Apple?
ich habe nur Sachen von Apple Inc. - diese andere Firma ist unseriös, da ist ja schon der Name gestohlen!
mcpoel 07.06.2017
3. Es liegt an uns- immer noch!
Wir können entscheiden, ob wir selbstfahrende Autos oder vernetzte Toaster kaufen. Wir können auch die Sprechstunden unserer MdBs aufsuchen und ihnen sagen, was wir wollen- und was nicht. Es liegt an uns, wieviel wir zulassen oder wieviele Vorgaben per Gesetz wir haben wollen.
GoranBaranac 07.06.2017
4. Naja...
Alles gut und schön was Sie schreiben Herr Lobo. Aber es bleibt immer noch dem einzelnen überlassen diese Dinge zu nutzen - oder auch nicht. Mein Schwager nutzt Clouds, rennt immer dem neuesten Iphone hinterher, postet jeden Scheiß auf fb, ändert täglich sein whattsapp-pb und bestellt auf Amazon Dinge deren Versand er online bis zum Packstation beobachtet. Er - ich nicht. Eine Frage der Faulheit? Oder der Fortschrittsverweigerung? Wer meint alle digitalen Möglichkeiten nutzen zu müssen dem bleibt halt auch die schlechte Seite nicht erspart. Klar kann mir das auch auf der Arbeit passieren - aber da verlangt es mein Chef von mir. Privat kann ich immer noch die Finger davon lassen. Zuhause kann ich immer noch entscheiden ob mein Smart-TV ans Internet angeschlossen werden muss. Oder ob ich mit dem Abonnement von Online-Angeboten alle meine Daten preisgebe. Wird Big brother jetzt Realität? Nur wenn Sie ihm den Durchmarsch bis ins Wohnzimmer erlauben...
jojack 07.06.2017
5. Debattieren kann man
...nur nützen wird das nichts. So zumindest die Mehrheitsmeinung der Philosophen und Zukunftsforscher, die sich gerade en masse am Thema AI abarbeiten. Zu attraktiv ist AI, als dass gegenwärtig irgend jemand damit aufhören würde, daran zu forschen. Und das wäre ja auch absurd. Nach Jahrzehnten weitgehend praxisferner AI-Forschung und diversen AI-Wintern, sehen wir nun endlich nützliche Dienste. Gerade dann den Stecker zu ziehen, wäre wenig nachvollziehbar. Und per AI aufgeschlaute Consumer-Dienste sind sowieso nicht das eigentliche Problem. AI entscheidet schon sehr bald über viel handfestere Dinge, als darüber Auskunft zu erteilen, ob Siri mich heiraten will. Stellenbesetzungen werden zukünftig von AI erledigt. Wenn man die mit den gewünschten Zielparametern füttert, kommen vielleicht auch bessere Entscheidungen heraus, als beim Personalchef.
Alle Kommentare öffnen
Seite 1
Diskussion geschlossen - lesen Sie die Beiträge! zum Forum...

© SPIEGEL ONLINE 2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.