Patrick Beuth

KI-Weißbuch der EU-Kommission Irgendein Argument für Gesichtserkennung wird sich schon finden

Patrick Beuth
Ein Kommentar von Patrick Beuth
Ein Kommentar von Patrick Beuth
Zwar bezeichnet die EU-Kommission Gesichtserkennung als Hochrisikotechnik. Aber irgendein Grund, sie zu gestatten, wird sich schon finden - das scheint die Prämisse zu sein.
Die EU-Kommission will Hürden für die Gesichtserkennung, aber keine unüberwindbaren Mauern

Die EU-Kommission will Hürden für die Gesichtserkennung, aber keine unüberwindbaren Mauern

Foto:

Sven Hoppe/ dpa

Der Mut hat die EU-Kommission verlassen, noch bevor sie ihn gefunden hatte. In einem Entwurf  für das Weißbuch zur künstlichen Intelligenz (KI) aus dem Dezember wurde ein vorübergehendes Verbot für den Einsatz von Gesichtserkennung im öffentlichen Raum zumindest noch erwogen - und am Ende des Absatzes doch verworfen. In der gestern vorgestellten finalen Fassung  ist davon gar nichts mehr übrig geblieben. Die Kommission mag einen Bann von Gesichtserkennung nicht einmal mehr ignorieren.

Die Idee war, Zeit zu gewinnen – im Entwurf war von drei bis fünf Jahren die Rede – für eine gründliche Risikobewertung, um die EU-Bürger vor einem Missbrauch der Technik zu schützen.

Wie sinnvoll ein so vorsichtiges Vorgehen hätte sein können, zeigt der Fall Clearview AI. Die bis vor Kurzem völlig unbekannte US-Firma hat den schlimmsten anzunehmenden Umgang mit Gesichtserkennungstechnik zum Geschäftsmodell gemacht: Sie verkauft den Zugang zu ihrer illegitim erstellten Gesichtsfotodatenbank – inklusive Bildern von EU-Bürgern  - an Polizeibehörden, ohne sich irgendeiner Form von Aufsicht, Kontrolle oder Transparenzregeln zu unterwerfen.

Die EU-Kommission gesteht in ihrem Weißbuch durchaus ein, dass Missbrauchsszenarien realistisch sind. Es bestehe die Gefahr, dass KI "von staatlichen Behörden oder anderen Stellen zur Massenüberwachung genutzt" wird, heißt es darin beispielsweise. Oder auch "Der Einsatz von KI-Anwendungen für die Zwecke der biometrischen Fernidentifikation und anderer in die Privatsphäre eingreifender Überwachungstechnologien würde ausnahmslos als mit hohem Risiko behaftet angesehen".

Was technisch möglich ist, soll auch regulatorisch irgendwie möglich sein

Der "Hochrisiko"-Ansatz ist der interessanteste Teil des Weißbuchs. Hier entwirft die Kommission einige Ideen für einen künftigen Regulierungsrahmen, die weltweit wohl einmalig wären. "Zum gegenwärtigen Zeitpunkt" steht dort etwa, sei die Kommission "der Auffassung", dass zumindest manche Hochrisiko-Anwendungen vorab einer "Konformitätsbewertung" zu unterziehen wären.

Fällt die negativ aus, müssten die Entwickler der lernenden Software noch vor dem ersten Einsatz nachbessern – "indem beispielsweise das System in der EU so nachtrainiert wird, dass alle geltenden Anforderungen erfüllt werden".

Wirtschaftslobbyisten werden gegen diesen Vorschlag absehbar Sturm laufen, weshalb die Formulierung "zum gegenwärtigen Zeitpunkt" erahnen lässt, wie viel davon in einem konkreten Richtlinienvorschlag übrig bleiben könnte.

Ein genereller Verzicht auf Gesichtserkennung im öffentlichen Raum, der nicht zuletzt eine Signalwirkung außerhalb Europas entfalten könnte, ist für die Kommission offensichtlich keine Option. Stattdessen verweist sie noch auf die bestehenden Schutzmaßnahmen: die Datenschutz-Grundverordnung (DSGVO) und die Richtlinie zum Datenschutz bei der Strafverfolgung . In denen steht, verkürzt gesagt: Gesichtserkennung ist grundsätzlich verboten, außer wenn nicht.

Um den "möglichen gesellschaftlichen Bedenken" Rechnung zu tragen, will die Kommission nun eine "breit angelegte europäische Debatte über die besonderen Umstände, die eine solche Nutzung rechtfertigen könnten, sowie über gemeinsame Sicherheitsvorkehrungen einleiten". Es bleibt der Eindruck, dass die Kommission alles, was technisch möglich ist, auch regulatorisch irgendwie möglich machen will.