Die EU-Kommission will Europa zu einem weltweit führenden Standort für "vertrauenswürdige" Anwendungen der künstlichen Intelligenz (KI) machen. Sie wolle ein "digitales Europa", das "offen, fair, vielfältig und demokratisch" sei, erklärte Kommissionspräsidentin Ursula von der Leyen am Mittwoch. Um den Anschluss an China und die USA nicht zu verlieren, will die Kommission erreichen, dass die Investitionen in KI bis 2020 auf jährlich 20 Milliarden Euro steigen.

Gleichzeitig schlägt sie eine staatliche Kontrolle besonders risikobehafteter KI-Anwendungen vor. Als sogenannte Hochrisikoanwendungen stuft die Kommission den Einsatz von maschinellem Lernen in den Bereichen Medizin, Verkehr, Polizei und Justiz ein. Angesichts der Gefahr von Diskriminierung, Verletzungen, Todesfällen oder rechtlichen Konsequenzen müssten die Vorgehensweisen der eingesetzten Systeme "transparent, nachvollziehbar und unter menschlicher Kontrolle" bleiben, heißt es.

Die Kommission fordert deshalb, dass Behörden in der Lage sein müssten, solche Systeme zu überprüfen, "wie sie Kosmetika, Autos oder Spielzeuge kontrollieren." Zum Beispiel sollen Daten, die zum Trainieren künstlicher neuronaler Netze verwendet werden, vorgehalten werden, damit sie auf Ausgewogenheit überprüft werden können. Bei weniger risikoreichen Systemen reiche dagegen "ein freiwilliges Kennzeichnungssystem", das zeige, dass vorgegebene Standards eingehalten würden.

Eigene Datenaustauschräume für Verkehr, Gesundheit und Klima

Eine parallel veröffentlichte Datenstrategie soll Wirtschaft, Forschung und Verwaltung das Potenzial ständig wachsender Datenmengen erschließen, die für die Entwicklung von KI notwendig sind. Ziel sei "ein wirklicher Binnenmarkt für Daten", der persönliche und anonymisierte Informationen nach europäischen Standards schütze. Für Bereiche wie den Verkehrssektor, das Gesundheitssystem oder den Klimaschutz etwa sollen eigene Datenräume geschaffen werden, in denen Informationen ohne Hindernisse ausgetauscht werden.

Um einen Überblick über die Vorstellungen von Zivilgesellschaft und Wirtschaft zu KI zu bekommen, startet die Kommission bis Mitte Mai eine öffentliche Befragung. In einem dazu erstellten Weißbuch fragt die Behörde unter anderem, inwieweit die neue Technologie reguliert werden soll und unter welchen Bedingungen Gesichtserkennung genutzt werden könnte. Der zwischenzeitlich von Kommissionsexperten erwogene Vorschlag, über ein vorübergehendes Verbot von automatischer Gesichtserkennung im öffentlichen Raum zumindest nachzudenken, um Zeit für die Risikobewertung zu gewinnen, ist im endgültigen Dokument nicht mehr enthalten. Die Datenschutz-Grundverordnung (DSGVO) lasse eine breite Einführung der Technik in Europa aber ohnehin nicht zu, heißt es dazu aus Kommissionskreisen.