Stellungnahme des Ethikrates: »KI darf den Menschen nicht ersetzen«

Bietet der vermehrte Einsatz künstlicher Intelligenz für die Gesellschaft mehr Chancen oder Risiken? Diese Frage hat den Deutschen Ethikrat beschäftigt – sein Antwortversuch ist fast 300 Seiten lang.

Alena Buyx: Sie ist die Vorsitzende des Deutschen Ethikrats

Foto: Jürgen Heinrich / IMAGO

Der Ethikrat hat für die Nutzung sogenannter künstlicher Intelligenz (KI) klare und nach Einsatzbereichen getrennte Leitlinien gefordert. Grundsätzlich müsse künstliche Intelligenz »menschliche Entfaltung erweitern und darf sie nicht vermindern«, erklärte die Vorsitzende des Gremiums, die Medizinethikerin Alena Buyx, zur Präsentation einer Stellungnahme des Ethikrates. »KI darf den Menschen nicht ersetzen.«

Der Deutsche Ethikrat ist ein unabhängiges Gremium, das sich mit ethischen Fragen und Herausforderungen im Bereich der Naturwissenschaften, Medizin und Gesundheitsversorgung beschäftigt. Die 26 Mitglieder werden von der Präsidentin des Deutschen Bundestages ernannt. Der Bundestag oder die Bundesregierung können den Ethikrat beauftragen, zu bestimmten Themen zu beraten.

Eine Arbeitsgruppe des Ethikrates hatte die Stellungnahme mit dem Titel »Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz« in den vergangenen beiden Jahren ausgearbeitet. Beispielhaft wird in der 287 Seiten langen Stellungnahme  auf vier Anwendungsbereiche eingegangen: Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung.

»Wichtig, genau hinzuschauen«

Es habe sich gezeigt, dass die Beurteilung von KI »immer kontext-, anwendungs- und personenspezifisch erfolgen muss«, erklärte das Gremium. Das Delegieren von Tätigkeiten an Maschinen könne »für verschiedene Personengruppen, Akteure und Betroffene ganz unterschiedliche Auswirkungen haben«, erläuterte die Sprecherin der Arbeitsgruppe, Judith Simon. »Daher ist es wichtig, genau hinzuschauen, für wen dies mit erweiterten Handlungsspielräumen verbunden ist und wessen Handlungsmöglichkeiten eher vermindert werden.«

Für den Medizinbereich beziehen sich die Empfehlungen des Ethikrates unter anderem auf die Qualitätssicherung bei der Entwicklung und Nutzung von KI-Produkten. Dabei müsse ein ärztlicher Kompetenzverlust vermieden werden, heißt es. Zudem müsse die Privatsphäre von Patientinnen und Patienten mit intensiver Datennutzung in der medizinischen Forschung in Einklang gebracht werden.

Der Einsatz von KI in der schulischen Bildung sollte nach den Empfehlungen nicht durch technologische Visionen gesteuert werden, sondern sich an grundlegenden Bildungsvorstellungen orientieren. Er sollte sich zudem auf Elemente beschränken, die nachweislich die Kompetenzen und sozialen Interaktionen der Lernenden erweitern.

Forscher sollten leichter an Daten kommen

Im Bereich der öffentlichen Kommunikation und Meinungsbildung empfiehlt der Ethikrat unter anderem Weiterentwicklungen der Regeln für Online-Plattformen hinsichtlich der Auswahl und Moderation von Inhalten sowie zu personalisierter Werbung und zum Datenhandel. Außerdem fordert er besseren Zugang zu Plattform-Daten für die Forschung und empfiehlt, den Aufbau einer digitalen Kommunikationsinfrastruktur in öffentlich-rechtlicher Verantwortung zu erwägen.

Für den Einsatz von KI in der öffentlichen Verwaltung rät der Ethikrat zu Ansätzen, die vor Diskriminierungen schützen und dem blinden Befolgen maschineller Empfehlungen vorbeugen. Weiterhin fordert er, dass Einzelfallbetrachtungen sowie die Einsichts- und Einspruchsrechte von Betroffenen gewährleistet werden.

»KI-Anwendungen können menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzen«, sagte der Philosoph Julian Nida-Rümelin, der stellvertretender Vorsitzende des Ethikrates ist.

mbö/AFP/dpa