04.02.2017

ComputerDie Kassandra von Gerlhausen

Yvonne Hofstetter prophezeit die Weltherrschaft der Algorithmen, sie gilt als führende Expertin für künstliche Intelligenz. Aber: Sie übertreibt maßlos. Wieso wird sie gefeiert?
Im Dörfchen Gerlhausen nördlich von München wachsen Geschöpfe von abgründiger Intelligenz heran. Sie bestehen aus Software, und sie hausen in den Computern der Firma Teramark Technologies. Setzte man solche Wesen einmal frei, wäre ihre Zerstörungskraft wohl bald einer Atombombe vergleichbar.
So stellt das Yvonne Hofstetter dar, die Geschäftsführerin des Unternehmens. Angst vor den eigenen Erfindungen, sagt sie, das kenne jeder in der Firma – "diesen Grusel, wenn man sieht, wie leistungsfähig unsere künstlichen Intelligenzen sind".
Zum Glück stehen die Monster von Gerlhausen unter fachmännischer Obhut. Und mit den Jahren hat sich Hofstetter an sie gewöhnt, als wären es Haustiere. Sogar "eine Art Bewusstsein" schreibt die Chefin ihnen zu: "Sie wissen sozusagen, dass es sie gibt."
Angeblich sind die künstlichen Schlaumeier gerade für ungenannte Kunden mit der Analyse von Finanzmärkten beschäftigt. Jetzt wäre es natürlich interessant, die famose Schar bei der Arbeit zu sehen. Aber Hofstetter empfängt an ihrem Firmensitz keine Journalisten mehr; lieber trifft sie sich ein halbes Autostündchen entfernt am Flughafen München – ganz die gehetzte Geschäftsfrau zwischen Kundentermin und Weiterflug. Ihre Leute kämen ja sonst gar nicht mehr zum Arbeiten, sagt sie. Dieser Medienrummel sei ganz schön "disruptiv".
Hofstetter ist eine Meisterin des ganz großen Getöses. Gleich mit ihrem ersten Buch, erschienen vor zweieinhalb Jahren, kam sie auf die SPIEGEL-Bestsellerliste. Sein Titel: "Sie wissen alles". Die studierte Juristin beschwört darin eine totalitäre Kontrollgesellschaft herauf – datensammelnde Konzerne von Google bis Facebook seien bald imstande, schreibt sie, unser ganzes Leben zu durchdringen. Ihr erster Satz: "Der Skandal ist ungeheuerlich."
Mit diesem Furor etablierte sich die Autorin als die deutsche Seherin der Stunde, Abteilung Computer und Big Data. Auch andere mögen tief in die digitale Zukunft blicken, doch Hofstetter ist schon dort. "Ich lebe in einer Zeit", sagte sie Ende vergangenen Jahres im Fernsehen, "die auf Sie alle noch zukommen wird. Ich bin schon hinübergeschritten in diese andere Welt."
Von dort drüben erreichte uns nun ein zweites Buch: "Das Ende der Demokratie". Es ist noch verwegener geraten als das erste: Hofstetter malt ein Schreckenspanorama von intelligenten Maschinen, die unser Innerstes ausleuchten, unsere Absichten vorausahnen, selbstständig unser Verhalten steuern. Die Politik sei drauf und dran, die Kontrolle zu verlieren.
Das Buch ist aus der Sicht einer Expertin geschrieben, die es wissen muss – weil sie solche algorithmischen Dämonen ja selbst im Haus hat. Über viele Seiten hinweg erörtern zwei Mitarbeiter ihrer Firma ernsthaft, wie sich ein "künstlicher Politiker" von überlegener Kompetenz programmieren ließe. Es hört sich an, als könnten sie solch ein digitales Geschöpf jederzeit einstöpseln.
In diesem entfesselten Tatsachenroman tritt auch eine Superintelligenz namens Ai auf. Sie spielt in einer Simulation millionenfach variiert die Zukunft Europas durch und kann dann mit geeigneten Maßnahmen irgendwie die Demokratie retten.
Plötzlich beugt Hofstetter sich vor und sagt, als müsste sie jetzt dringend etwas klarstellen: "Also Ai gibt es."
Jetzt im Ernst?
"Ja, wir arbeiten seit Jahren damit."
Gemeint ist ein lernfähiger Algorithmus, der Finanzexperten hilft, das Risiko schwankender Wechselkurse zu kalkulieren. Die Firma, behauptet Hofstetter, habe ihn für einen Investmentfonds entwickelt. Diese Software sei aber ebenso gut in der Lage, selbstständig Städte zu planen – und eben auch die Politik zu steuern. Man müsse sie nur mit den nötigen Daten füttern.
In Wahrheit übersteigen solche Visionen von regierenden Automaten bei Weitem die Fähigkeiten der Computertechnik auf absehbare Zeit. Kein Experte, vereinzelte Fantasten vielleicht ausgenommen, hielte so etwas für machbar.
Wie weit kann es jemand bringen, der so daherredet?
Nun, das "Handelsblatt" nennt Yvonne Hofstetter "Deutschlands bekannteste Expertin für künstliche Intelligenz". Und für die "Frankfurter Allgemeine Sonntagszeitung" ist sie "eine der größten Kritikerinnen des Datenkapitalismus". Landauf, landab zirkuliert die Seherin aus Gerlhausen in den Medien, sie schreibt Artikel, gibt Interviews in Hörfunk und Fernsehen.
Ihr Rollenfach ist die Kronzeugin, sie füllt es mit verblüffendem Erfolg. Als Geschäftsführerin von Teramark Technologies hat die Frau offenbar Schreckliches gesehen, und nun muss sie uns aufrütteln. Sie ist zur Überläuferin aus Gewissensgründen geworden, zur "Zeugin der Anklage" ("Süddeutsche Zeitung").
Deshalb darf Hofstetter nun vorhersagen, was immer sie will. So gut wie jeder Artikel über sie kommt zum gleichen Schluss: Sie wisse, wovon sie spreche.
Die Firma mit ihrem geheimnisvollen KI-Geschäft verleiht der Frau Autorität. Hofstetter ist stolz darauf, "eines der weltweit führenden kleinen Unternehmen" auf diesem Gebiet zu leiten: "Nur wenige Menschen dürften überhaupt verstehen, was wir machen." Der Vorsprung verdanke sich ihrem Partner, dem Programmierer Christian Brandlhuber – "der ist Weltklasse!"
Teramark ist spezialisiert auf die Verarbeitung riesiger Datenmengen für Behörden und Unternehmen. So pauschal ist es überall zu lesen. Aber stimmt es auch?
Sitz der Firma ist ein Wohnhaus gleich gegenüber dem Dorfkirchlein von Gerlhausen. Auf ihrer Website ist über etwaige Kundschaft wenig zu erfahren. Auch auf Nachfrage will Hofstetter keine Namen nennen: Da sei sie leider allseits von Geheimhaltungsklauseln gefesselt.
Selbst in den einschlägigen Unternehmensdatenbanken ist kaum etwas über Teramark zu finden. Die letzten verfügbaren Zahlen zur Ertragslage sehen jedoch nicht gut aus: 2011, im dritten Jahr nach der Gründung, erwirtschaftete die Firma nur noch einen Überschuss von 8330,47 Euro. Ein Jahr später, 2012, sank der Jahresgewinn noch einmal auf 2466,05 Euro.
Im gleichen Jahr war Mitgesellschafter Brandlhuber bereits in einem Freiberuflerportal auf Jobsuche. "Senior Researcher" Scott Muller ist bis heute bei Xing als "Arbeit suchend" gemeldet. Seit 2013 veröffentlicht Teramark überhaupt keine Zahlen zum Gewinn mehr.
Im Jahr 2014 aber kam Hofstetters Bestseller auf den Markt. Damit tat sich, so viel ist sicher, ein neues Geschäftsfeld auf: die Apokalypse aus erster Hand, produziert für eine gruselbedürftige Öffentlichkeit.
Nicht alles an Hofstetters Publikationen ist abstruser Alarmismus. Über weite Strecken beschreibt die Autorin einfach nur kundig, was die neueste Ausspähtechnik kann und wofür sie eingesetzt wird – alles solide, allerdings auch nicht sehr aufregend.
Und natürlich wird, wer im Internet unterwegs ist, an jeder Ecke unmerklich durchleuchtet und registriert – "sie" wissen schon so einiges. Noch ist jedoch keineswegs ausgemacht, was sich aus den erbeuteten Datenschätzen überhaupt herauslesen lässt.
Der Werbeindustrie zum Beispiel fällt es immer noch sichtlich schwer, einzelne Internetnutzer mit maßgeschneiderter Reklame zu verfolgen. Ein Journalist der "Zeit" wunderte sich kürzlich, warum Google ihm auf Schritt und Tritt Autowerbung präsentiert – obwohl ihm Autos seit je piepegal sind. Die Suchmaschine sollte ihn eigentlich längst in- und auswendig kennen. Daraufhin posaunte der Kollege überall im Netz aus, dass er Laufschuhe wirklich dringend suche, doch Google spielte ihm partout keine Laufschuhreklame zu.
Offenbar ist es nicht so einfach, aus rohen Datenmassen die richtigen Schlüsse zu ziehen. Aber für Hofstetter genügt generell schon der Hauch einer Möglichkeit: Was theoretisch in ferner Zukunft nicht ganz auszuschließen ist, verwandelt sich unter ihren Augen in eine akute Gefahr – für Apokalyptiker ein ergiebiges Verfahren.
Computer mögen uns in einigem überlegen sein, nur die Frage ist immer: worin? Schon vor Jahrzehnten deklassierten uns die Taschenrechner im Wurzelziehen, ohne dass jemand den Schluss zog, die kleinen Teufel könnten alsbald die Regierungsgeschäfte übernehmen.
Heute arbeiten KI-Forscher zum Beispiel an simplen Programmen, die relativ selbstständig ein gemeinsames Ziel anstreben, ähnlich wie Ameisen in einer Kolonie. Fachleute sprechen von Softwareagenten, aber sie meinen das nur im übertragenen Sinn. Die Autorin dagegen nimmt die klangvolle Metapher kurzerhand wörtlich. Sie spricht von "künstlichem Leben"; diese Agenten seien die Superintelligenz der Zukunft. Mit dem gleichen Recht könnte sie künstliches Leben in einer Kuckucksuhr entdecken – aber der Laie weiß hier wohl längst nicht mehr, wo ihm der Kopf steht.
Denn flink wie eine Hütchenspielerin wechselt Hofstetter unentwegt von solidem Erklären zu schwadronierender KI-Esoterik und retour. Das ist ihre Methode. In einem naiven Medienmilieu, das sich mit künstlicher Intelligenz nicht auskennt, kann sie damit bezaubern. Auf diesem Gebiet hat ohnehin, wie es scheint, jeder Apokalyptiker die Lizenz zum freien Spintisieren.
Bei unaufhörlichem Großalarm ist die Aufmerksamkeit des Publikums freilich bald ausgezehrt. Wer so haltlos übertreibt, bringt obendrein die berechtigte Kritik in Misskredit. Mit einem Wort: So ruiniert man die Debatte. Nicht umsonst irrlichtert sie oft ins Surreale, sobald es um die Zukunft des digitalen Gemeinwesens geht.
Typisch dafür ist das "Digital-Manifest", das neun Experten vor einem Jahr veröffentlichten. Neben Hofstetter warnen da namhafte Forscher wie der Physiker Dirk Helbing oder der Psychologe Gerd Gigerenzer vor der "Automatisierung der Gesellschaft" und der "Fernsteuerung unseres Verhaltens" durch Algorithmen.
Die illustre Runde hält es für absehbar, "dass Supercomputer menschliche Fähigkeiten bald in fast allen Bereichen übertreffen werden – irgendwann zwischen 2020 und 2060". In Wahrheit gibt es keine Grundlage für derartige Prognosen; Computer leisten Erstaunliches in engen Grenzen, sind von allgemeiner Intelligenz allerdings noch himmelweit entfernt.
Anlass zur Sorge in digitalen Sphären gibt es dennoch reichlich – nicht zuletzt vor staatlichen Spähgelüsten. Man denke an die Vorratsdatenspeicherung oder die gerade erst erweiterten Schnüffelbefugnisse des Bundesnachrichtendienstes.
Der Überwachungsstaat jedoch ist, merkwürdig genug, für Hofstetter kein Thema. Sie fürchtet allein die datensammelnden Konzerne aus Übersee. Wie Kolonialmächte, so glaubt sie, drohten Google, Apple, Facebook das alte Europa zu übernehmen; es gehe um den Konflikt zweier Systeme: Die "US-amerikanische Profitmaximierung", schreibt die Autorin, pralle auf "die 'Lebensdienlichkeit' des europäischen Marktgeschehens".
In der treuherzigen Verklärung des alten Kontinents ähnelt die Unternehmerin dem verstorbenen "FAZ"-Mitherausgeber Frank Schirrmacher, einem nicht minder brausenden Apokalyptiker. Der hatte zu Lebzeiten eine europäische Suchmaschine zum Schutz vor transatlantischer Skrupellosigkeit gefordert. Schirrmacher hat Hofstetter entdeckt und gefördert, sie verehrt ihn bis heute dafür..
"Sie müssen ein Buch schreiben", habe Schirrmacher ihr einst gesagt: "Sie wissen, wie die Systeme funktionieren. Ihnen glaubt man – ich hingegen bin nur Beobachter." So erzählt Hofstetter das. Zeugen waren nicht zugegen, aber es könnte natürlich so gewesen sein. Schirrmacher starb, bevor das erste Buch erschien.
Sein Tod war ein schwerer Schlag, sagt die Autorin heute – "meine Großmutter ist in der gleichen Woche verstorben, das hat mich längst nicht so mitgenommen". Jede einzelne Seite des Werks, so steht es im Nachwort, sei entstanden "im gemeinsamen guten Kampf für die Idee vom freien Menschen". Vor seinem Ableben aber hinterließ ihr Schirrmacher, wie es scheint, noch einen echten Prädikatstitel: "Yvonne Hofstetter ist eine Schlüsselfigur bei der Debatte um unsere gesellschaftliche Zukunft." Mit diesen Worten wird der große Verblichene gern zitiert, wo Hofstetter auftritt.
Auch für dieses Lob gibt es keine Quelle außer der Gelobten selbst. "Schirrmacher hat mir das mal persönlich gesagt", behauptet Hofstetter. "Ich finde das bestimmt noch irgendwo in einer E-Mail."
Dieser Artikel wurde nachträglich bearbeitet.
Mail: manfred.dworschak@spiegel.de
Von Manfred Dworschak

DER SPIEGEL 6/2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung


DER SPIEGEL 6/2017
Titelbild
Der digitale SPIEGEL
Diese Ausgabe jetzt digital lesen

Die digitale Welt der Nachrichten. Mit interaktiven Grafiken, spannenden Videos und beeindruckenden 3-D-Modellen.
Sie lesen die neue Ausgabe noch vor Erscheinen der Print-Ausgabe, schon freitags ab 18 Uhr.
Einmal anmelden, auf jedem Gerät lesen - auch offline. Optimiert für Windows 8, Android, iPad, iPhone, Kindle Fire, BlackBerry Z10 sowie für PC/Mac.

Abo-Angebote

Den SPIEGEL lesen oder verschenken und Vorteile sichern!

Jetzt Abo sichern
Ältere SPIEGEL-Ausgaben

Kostenloses Archiv:
Stöbern Sie im kompletten SPIEGEL-Archiv seit
1947 – bis auf die vergangenen zwölf Monate kostenlos für Sie.

Wollen Sie ältere SPIEGEL-Ausgaben bestellen?
Hier erhalten Sie Ausgaben, die älter als drei Jahre sind.

Artikel als PDF
Artikel als PDF ansehen

Computer:
Die Kassandra von Gerlhausen