Christian Stöcker

Regulierung im Digitalen Lob der Langsamkeit

Die rasend schnelle Digitalisierung lässt die Gesetzgebung alt, langsam und manchmal ein bisschen vertrottelt aussehen. Vielleicht sollten wir das Regieren einfach den Maschinen überlassen?

"Der Code oder die Architektur legt die Bedingungen fest, unter denen das Leben im Cyberspace abläuft."
Harvard-Professor Lawrence Lessig, " Code is Law  " (2000)

Dass Softwarecode Gesetzen gleicht, ist unter Internetauskennern schon um die Jahrtausendwende zum Gemeinplatz geworden. 1999 erschien die erste Auflage von Lawrence Lessigs Buch "Code und andere Gesetze des Cyberspace". Das obige Zitat stammt aus einem auch heute noch sehr lesenswerten Essay , der dessen Kerngedanken zusammenfasst.

"Unregulierbarkeit ist eine Funktion des Codes", heißt es darin, "aber der Code kann sich ändern". Damals, 2000, wehte noch der Hauch der Anarchie durchs Netz, aber Lessig ist ein Mann mit Weitblick: Andere Schichten könnten auf das gestapelt werden, was die Basisfunktionalität des Internets ausmache, schrieb er, und "diese anderen Architekturen können das Verhalten im Netz fundamental regulierbar machen". Facebook gab es damals noch nicht.

Irgendwas ist immer, wir haben uns daran gewöhnt

Bei Software hat man sich längst daran gewöhnt, dass sie nie perfekt ist. Die meisten von uns akzeptieren ständige Sicherheitsupdates als Selbstverständlichkeit. Der Code kann sich nicht nur ändern, er muss es, weil er nie ganz fertig ist. Und künftig wird er in noch höherem Tempo noch komplexer werden, denn jetzt beginnt Software, sich selbst zu schreiben.

Die Sicherheits- und Qualitätslücken der lernenden Maschinen der Zukunft könnten noch gravierendere Konsequenzen als die von heute haben: Das Gesichtserkennungssystem, das einen Flugpassagier fälschlicherweise als Terroristen einstuft, die Roboterwaffe , die eine Schildkröte für ein Gewehr hält, der diskriminierende Personalauswahl- oder Bewährungsalgorithmuslgorithmus, das vermeintlich intelligente Videonetzwerk, das Verschwörungstheoretikern Publikum verschafft. Und das sind nur die Beispiele, die wir jetzt schon sehen können.

Ich bin ein Fan des Fortschritts, aber ich glaube tatsächlich, dass der FDP-Slogan "Bedenken second" in dieser Phase eher nicht der richtige ist.

Die traurige Geschichte vom Roboterfonds

Einmal ist das Prinzip "Code is Law" schon in aller Konsequenz umgesetzt und prompt aufs Gemeinste missbraucht worden: Die Geschichte von The DAO kann man beispielsweise bei "Wired " nachlesen, hier die Kurzfassung: Ein deutscher Softwareentwickler hatte die Idee, Blockchain-Technik einzusetzen, um einen dezentralen, autonom handelnden Investmentfonds aufzulegen. Alle Regeln und Verträge waren im Code selbst festgeschrieben.

Grob vereinfacht: The DAO sollte das Geld seiner Anteilseigner, am Ende waren es 150 Millionen Dollar, selbsttätig investieren. Die Software sollte gleichzeitig dafür sorgen, dass Gewinne und Verluste fair und ohne Mogeln an die Anteilseigner weitergereicht wurden.

Unglücklicherweise ließ sich der DAO offenbar austricksen. Im Sommer 2016 verschwanden deshalb 50 Millionen Dollar in Kryptowährung. Es gab gewissermaßen eine Gesetzeslücke im Code, die jemand ausnutzte. Anschließend gab es sogar Streit darüber, ob der Diebstahl nicht eigentlich in Ordnung sei, schließlich hatten die Diebe sich ja nur die Buchstaben und Zahlen des Codes zunutze gemacht. Ein bisschen, als ob derjenige mit dem besten Anwalt gewinnt, auch wenn er moralisch augenscheinlich im Unrecht ist.

Wenn man Systeme baut, die anschließend nicht mehr angetastet werden sollen, sollte man sich sehr sicher sein, dass nichts schiefgehen kann. Das kann man aber bei - hinreichend komplexer - Software nie.

Alt, nicht "smart", langsam - aber sicher?

Womit wir bei den echten, langsamen, nicht "smarten" Gesetzen wären. Wir leben in einer Welt, die sich in atemberaubendem Tempo verändert. Reguliert wird sie mit Gesetzen und Verträgen, die mit diesem Tempo kaum mithalten können. Was wird schneller fertig - verlässliche selbstfahrende Autos oder die entsprechende Gesetzgebung?

Das beste aktuelle Beispiel ist die neue Europäische Datenschutzverordnung, die im Mai in Kraft treten wird. Seit der Text finalisiert wurde, hat es bereits technische Entwicklungen gegeben, die seine Autoren in dem langen, zähen Prozess der Ausarbeitung kaum hätten vorhersehen können. Wird sie trotzdem funktionieren? Können Gesetze Dinge regulieren, die es bei ihrer Verabschiedung noch gar nicht gab?

In den USA zum Beispiel gibt es Mahner, die davor warnen, die EU-Verordnung werde die Entwicklung im Bereich Künstlicher Intelligenz in Europa bremsen. Konkret geht es um Artikel 22 , dessen erster Absatz folgendermaßen lautet:

"Die betroffene Person hat das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung - einschließlich Profiling - beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt."

Der US-Rechtsexperte Andrew Burt zum Beispiel, der früher einmal für das FBI gearbeitet hat, fürchtet, dass diese Regelung und ihre vermutete Auslegung  "potentiell verheerende Auswirkungen auf die aufregende Zukunft von Gesetzestechnologie" haben könnte, "einschließlich automatischer und selbsterfüllender Verträge".

Hängt China uns dann nicht ab?

Regulierungskritiker verweisen gern darauf, dass andere Weltgegenden, allen voran China, mit dem Daten- und Persönlichkeitsrechtsschutz nicht so zimperlich sind. Sie könnten dem Westen, vor allem Europa, in Sachen KI auch deshalb den Rang ablaufen.

Das mag sein. Und es ist zweifellos richtig, dass die Regulierer gut daran täten, ihr Arbeitstempo etwas zu beschleunigen. Vor allem aber ist es wichtiger denn je, dass sie ihre Aufgabe mit extremem Weitblick angehen. Mit dem gleichen Anspruch auf Zukunftsfestigkeit, wie er an Verfassungen angelegt wird. Ich persönlich möchte nicht in einer KI-Welt mit Chinas Wertesystem leben.

Auf absehbare Zeit wird "Code ist Gesetz" zwar weiterhin irgendwie stimmen, aber mitnichten der Umkehrschluss "Gesetze sind Code". Gesetze vollziehen sich eben nicht selbst.

Das bedeutet auch, dass - wie es im Fall der Datenschutzgrundverordnung fast sicher passieren wird - viele Jahre lang Gerichte damit beschäftigt sein werden, in Einzelfällen zu entscheiden, was die Worte des Gesetzes denn nun eigentlich bedeuten. Und das ist vermutlich auch besser so. Höchstrichterliche Urteile sind in funktionierenden Rechtsstaaten Updates für Gesetze mit Sicherheitslücken. Diverse Bundesregierungen können das bestätigen.

Zum Schluss noch mal ein 18 Jahre alter Satz von Lawrence Lessig: "Entscheidungen über Code und Gesetze werden Entscheidungen über Werte sein."

Die Wiedergabe wurde unterbrochen.