Foto: Ryzhi / iStockphoto / Getty Images

KI-Verordnung der EU »Es gibt Schlupflöcher in diesem Gesetzentwurf«

Die Europäische Union will den Einsatz künstlicher Intelligenz in allen Lebensbereichen regulieren. Für Nikolett Aszódi von der Organisation AlgorithmWatch geht der Entwurf nicht weit genug.
Ein Interview von Marco Wedig

Dein SPIEGEL: Worum geht es bei der KI-Verordnung der Europäischen Union?

Aszódi: Die KI-Verordnung ist die erste Gesetzgebung weltweit, die darauf abzielt, KI in allen Lebensbereichen zu regulieren. Die rechtlichen Vorschriften richten sich danach, wie hoch oder niedrig das Risiko für die Gesundheit, Sicherheit und Grundrechte von Menschen bewertet wird: KI-Systeme mit inakzeptablen Risiken sind verboten. Für Systeme mit hohem Risiko gelten die meisten Vorschriften des Gesetzes. Für KI-Systeme mit begrenztem Risiko gelten bestimmte Transparenzpflichten. Und Systeme mit geringen oder minimalen Risiken sind nicht reguliert.

Dein SPIEGEL: Fangen wir mal mit den KI-Systemen an, die ein nicht akzeptierbares Risiko darstellen. Was kann man sich darunter vorstellen?

Aszódi: Dazu zählt zum Beispiel der dauerhafte Einsatz von Kameras mit Gesichtserkennungssoftware an öffentlichen Plätzen. Solche KI-Anwendungen sollen verboten werden. Es gibt allerdings Schlupflöcher in diesem Gesetzentwurf.

Dein SPIEGEL: Welche denn?

Aszódi: KI-Systeme, die für militärische Zwecke genutzt werden, sind von den Regeln ausgenommen. Und wenn die »nationale Sicherheit« betroffen ist, greifen die Regeln auch nicht. Ein Staat könnte sich also auf die »nationale Sicherheit« berufen und damit eine Massenüberwachung über Gesichtserkennungssysteme rechtfertigen. Wir fordern, dass an dieser Stelle nachgeschärft wird.

Dein SPIEGEL: Die Fußball-WM in Katar
Foto: Dein SPIEGEL

»Hast du mal daran gedacht, die WM zu boykottieren?« Das ist eine der Fragen, die zwei Kinderreporter von »Dein SPIEGEL« dem Fußballnationalspieler Leon Goretzka vor dem Turnierstart in Katar stellten. Goretzka sprach mit ihnen auch über die Chancen der Nationalelf und die zunehmende Belastung für die Spieler. Warum Katar die Weltmeisterschaft ausrichten darf, obwohl das Land die Menschenrechte verletzt, erklärt ein weiterer Text. Das Kinder-Nachrichtenmagazin »Dein SPIEGEL« gibt es am Kiosk. Eltern können das Heft auch online kaufen:

Bei Amazon bestellen 

Bei meine-zeitschrift.de bestellen 

Dein SPIEGEL: Sie sprachen eben schon von der zweiten Kategorie, den sogenannten Hochrisiko-KI-Systemen. Was ist damit gemeint?

Aszódi: Gemeint sind Systeme, die zum Beispiel in den Bereichen Grenzkontrolle, Strafverfolgung, Bildung oder Arbeitsplatz verwendet werden – zum Beispiel eine Software, die mithilfe von KI den richtigen Kandidaten für eine Stelle auswählt. Oder ein KI-System, das vorhersagt, wo und wann ein Verbrechen wahrscheinlich geschehen wird. Bevor ein System in einem dieser Bereiche eingesetzt wird, muss der Anbieter sicherstellen, dass sein System die im Gesetz festgelegten Verpflichtungen erfüllt. Aber der Anbieter hat ja ein Interesse daran, sein System zu verkaufen. Wir wollen, dass Systeme, die wahrscheinlich Auswirkungen auf den Einzelnen und die Gesellschaft haben, einer angemessenen Kontrolle durch unabhängige Expertinnen und Experten unterliegen. Außerdem fehlt es an Transparenz gegenüber den von risikoreichen KI-Systemen betroffenen Menschen. Bürgerinnen und Bürger sollen darüber informiert werden, wenn sie einem Hochrisiko-KI-System ausgesetzt sind. Wenn ein KI-System zum Beispiel eine Bewerbung um einen Arbeitsplatz ablehnt, muss die Bewerberinnen und Bewerber erfahren können, wie diese Entscheidung zustande kam. Und man muss dagegen vorgehen können. Auch an diesem Punkt müsste in dem Gesetzentwurf noch nachgebessert werden.

Dein SPIEGEL: Wen betrifft die KI-Verordnung?

Aszódi: Alle Bürgerinnen und Bürger in der EU und Firmen, die von ihnen entwickelte KI-Systeme in der EU verkaufen wollen. So wie das Gesetz aktuell formuliert ist, werden eher die Unternehmen gestärkt. Aus unserer Sicht sollten aber ganz klar die Rechte der Menschen im Vordergrund stehen.

Dein SPIEGEL: Gibt es noch weitere Kritikpunkte?

Aszódi: Die Verordnung verpflichtet die Anbieter, ein KI-System mit hohem Risiko aus Gründen der Transparenz in einer EU-Datenbank zu registrieren. Das ist erst mal gut. Man wüsste jedoch nicht, in welchen Zusammenhängen – wann, wo und von wem – diese Systeme tatsächlich genutzt werden. Außerdem lässt die KI-Verordnung die ökologischen Auswirkungen von KI-Systemen außer Acht. Hier müsste ebenfalls Transparenz geschaffen werden, und dieser Aspekt sollte bei der Risikobewertung auch eine Rolle spielen.

Dein SPIEGEL: Wann wird die KI-Verordnung verabschiedet?

Aszódi: Ursprünglich sollte die Plenarversammlung im EU-Parlament im November 2022 stattfinden. Es ist jedoch damit zu rechnen, dass sich dieser Prozess verzögern und bis Anfang 2023 hinziehen wird. Der EU-Rat will im Dezember 2022 eine Einigung erzielen. Wenn beide Institutionen intern zu einer Übereinstimmung gelangt sind, fangen die Trilog-Verhandlungen an, bei denen sich die Kommission, Parlament und Rat abschließend einigen müssen, voraussichtlich 2023.

Dein SPIEGEL – Das Nachrichten-Magazin für Kinder
Foto: Dein SPIEGEL

Liebe Eltern,

Kinder wollen die Welt verstehen. Sie interessieren sich für Natur, Menschen und Technik. Sie stellen Fragen. Und sie geben sich nicht mit den erstbesten Antworten zufrieden. Darum gibt der SPIEGEL für junge Leserinnen und Leser ab acht Jahren ein eigenes Nachrichtenmagazin heraus.

»Dein SPIEGEL« erscheint jeden Monat neu und bietet spannende, verständlich geschriebene Geschichten aus aller Welt, Interviews und News aus Politik und Gesellschaft. Für noch mehr Spaß sorgen Comics, Rätsel und kreative Ideen zum Mitmachen.

Informationen und Angebote
Die Wiedergabe wurde unterbrochen.