EU-Weißbuch zu künstlicher Intelligenz Diese Kamera weiß, wer du bist

Die EU-Kommission hat ein Strategiepapier zum Thema künstliche Intelligenz veröffentlicht - vorbei an der eigenen KI-Hochkommission. Das Seltsamste an dem Papier ist, was nicht darin steht.
Überwachungskamera, Banksy-Graffiti

Überwachungskamera, Banksy-Graffiti

Foto:

Photofusion/ Universal Images Group via Getty Images

Anfang Februar herrschte im Europäischen Parlament eine gewisse Aufregung. Im Intranet des Parlaments war ein Dokument aufgetaucht, in dem es um den Einsatz künstlicher Intelligenz (KI) ging. "Artificial Intelligence for better Services", war der Titel. Einer der Vorschläge: "biometriebasierte Sicherheit und Dienstleistungen für die Mitglieder (Abgeordneten)".

Eine Abgeordnete der niederländischen Liberalen, Sophia in't Veld, die dem Ausschuss für Bürgerrechte angehört, war irritiert . Sie verlangte eine Erklärung  von der Parlamentsdirektion. Die Vertretung der im Parlament Angestellten schloss sich an : Niemand wollte sein Gesicht künftig scannen lassen, um ins Parlament zu kommen. Die Direktion beeilte man sich, zu versichern, dass es "kein Projekt zur Gesichtserkennung im EU-Parlament" gebe. Das Dokument sei alt, überholt und hätte gar nicht im Intranet auftauchen dürfen.

Auch Nichtparlamentarier mögen Gesichtserkennung im öffentlichen Raum nicht. So sprachen sich 2017 drei Viertel der Befragten in einer Studie zum Beispiel gegen Gesichtserkennungssysteme in Supermärkten  aus, auch wenn es dafür Rabatte geben sollte. In einer anderen Umfrage fanden nur 17 Prozent, dass deutsche Behörden uneingeschränkt Gesichtserkennung einsetzen dürfen sollten .

Gesichtserkennung verbieten? I wo!

Nun hat die EU-Kommission gerade ein Weißbuch zum Thema künstliche Intelligenz vorgelegt. Bis kurz vor dessen Veröffentlichung war man davon ausgegangen, dass darin ein vorläufiges Verbot des Einsatzes von Gesichtserkennungssystemen im öffentlichen Raum zumindest erwogen würde . Aber selbst das ging offenbar irgendjemandem zu weit.

Das Weißbuch mit dem Untertitel "Ein europäischer Ansatz für Exzellenz und Vertrauen"  soll eine Art erster strategischer Aufschlag der Kommission von Ursula von der Leyen in Sachen KI werden.

Nun hat die EU vor einiger Zeit eine sogenannte Hochkommission zum Thema Ethik in der KI eingesetzt, deren Aufgabe eigentlich darin besteht, Vorschläge für die künftige Regulierung dieser potenziell so veränderungsmächtigen Technologie zu machen. Diese Hochkommission hat ihre Arbeit aber noch gar nicht beendet. Sie wird in dem Papier lobend erwähnt, und einige Zwischenergebnisse ihrer Arbeit werden auch referiert - aber das ist alles.

Bei einem Treffen des Ethik-Gremiums am Dienstag vergangener Woche bekam einer der Vertreter der Zivilgesellschaft dem Vernehmen nach einen Wutanfall: Er frage sich, warum er jetzt seit eineinhalb Jahren regelmäßig zu Terminen erscheine und an Vorschlägen mitwirke, wenn die Kommission dann mal eben und ohne Absprache ein Strategiepapier veröffentlichte.

Keine Zukunfts-, sondern eine Gegenwartstechnologie

Vertreter der Techbranche in der Hochkommission waren demnach ebenso irritiert, aber aus ganz anderen Gründen: Das Weißbuch enthielt ihnen zu viele mögliche Einschränkungen.

So ist es ja eigentlich immer, wenn in Brüssel über Regulierung gesprochen wird: Vertreter von Zivilgesellschaft und NGOs wünschen sich klare Grenzen, Vertreter der betroffenen Branchen wollen vor allem, dass man sie erst einmal in Ruhe machen lässt, möglichst ohne Regulierung. So war es zum Beispiel bei der Datenschutzgrundverordnung. Beide Seiten aber dürften erstaunt gewesen sein über diese seltsame, unerwartete Leerstelle.

Das Weißbuch stuft nämlich "remote biometric identification", also biometrische Identifikation von Weitem, womöglich ohne Wissen der Betroffenen, explizit als "Hochrisikofall" ein. Ja, es erwähnt sogar explizit "spezifische Grundrechtsrisiken". Grundsätzlich verboten werden soll der Einsatz von Gesichtserkennung und ähnlicher Technik aber nun doch nicht. Sie soll aber nur eingesetzt werden dürfen, wenn das "gerechtfertigt und verhältnismäßig" sei und zudem "angemessenen Sicherheitsvorkehrungen" unterliege. Man wolle jetzt eine "breite europäische Debatte" darüber in Gang setzen, über Umstände, die "wenn überhaupt", den Einsatz rechtfertigen könnten.

Nun nimmt eine "breite europäische Debatte" in der Regel Jahre in Anspruch. Die Entwicklung im Bereich KI und Gesichtserkennung verläuft aber in atemberaubendem Tempo. Das umstrittene, auf Gesichtserkennung spezialisierte US-Unternehmen Clearview hat gerade erst Schlagzeilen gemacht, weil seine Kundenliste offenbar abhandenkam - sie umfasst Strafverfolger, Banken, Schulen - und europäische Behörden. Wir reden hier nicht von einer Zukunfts-, sondern von einer Gegenwartstechnologie. Aber die EU-Kommission will erst noch einmal in Ruhe europaweit diskutieren, während Fakten geschaffen werden?

Victor Orbán gefällt das bestimmt

Gerade der deutsche Innenminister Horst Seehofer hat diverse Male deutlich gemacht, dass er Kameras mit Gesichtserkennungssystemen im öffentlichen Raum eigentlich wirklich gern hätte, stößt aber auf Widerstand. In anderen europäischen Staaten dürfte es ähnliche Bedürfnisse geben - namentlich in solchen, in denen Rechtsstaatlichkeit und Grundrechte durchaus zur Disposition stehen, Ungarn etwa oder Polen.

Solche Staaten könnten in den nächsten Jahren Fakten schaffen. Was ein Staat, dem rechtsstaatliche Grundprinzipien gleichgültig sind, mit dieser Technologie im Zweifelsfall anstellen kann, ist derzeit in China zu sehen, insbesondere in der Provinz Xinjiang. Dort ist die muslimische Minderheit der Uiguren einer umfassenden Hightech-Totalüberwachung und Unterdrückung ausgesetzt, die selbst George Orwell in Erstaunen versetzt hätte . Wer auffällt, und sei es durch einen Bart, kommt ins Lager. Kameras mit Gesichtserkennung spielen in dem System eine zentrale Rolle.

Aber gibt es doch Terroristen!

Ist das also der "europäische Ansatz für Exzellenz und Vertrauen"? Erst einmal in aller Ruhe darüber zu diskutieren, ob die ständige Totalüberwachung der eigenen Bevölkerung im öffentlichen Raum nicht vielleicht doch "gerechtfertigt und verhältnismäßig" sein könnte? Denn ein Argument für noch mehr Befugnisse fällt Sicherheitsbehörden im Zweifel ja immer ein: Terroristen.

Die EU ist in Sachen KI und maschinelles Lernen in einer schwierigen Lage: Sie droht zwischen dem Geld und dem Know-how der Silicon-Valley-Giganten und dem unbedingten Fortschrittswillen der chinesischen Führung zerrieben zu werden. Die Antwort auf dieses Dilemma kann aber nicht sein, europäische Grundwerte aufzugeben - denn die sind im Moment unser wichtigster Trumpf.

Die Wiedergabe wurde unterbrochen.