»Wettrennen außer Kontrolle« Experten fordern Denkpause für künstliche Intelligenz
Logo von GPT-4: Die Nachfolger sollten erst einmal warten, fordern Kritiker
Foto: Jaap Arriens / NurPhoto / IMAGODas Geschäft mit künstlicher Intelligenz (KI) ist in einen Ankündigungswettlauf der großen IT-Konzerne ausgeartet. In einem offenen Brief fordern viele Experten und Führungskräfte aus der IT-Industrie nun eine sechsmonatige Pause beim Trainieren neuer, leistungsfähiger KI-Systeme. Zu den Unterzeichnern gehören Elon Musk, einer der Mitgründer von OpenAI, und Apple-Mitgründer Steve Wozniak.
Der Brief wurde vom gemeinnützigen Future of Life Institut herausgegeben und mittlerweile von mehr als tausend Personen unterzeichnet. Die Verfasser äußern die Sorge, dass die derzeitige Entwicklung aus dem Ruder läuft. »Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sein werden«, heißt es in dem Schreiben . Die Entwickler von KI-Systemen befänden sich derzeit in einem Wettrennen um immer neue Ankündigungen, das »außer Kontrolle« geraten sei.
Ohne Planung überwiegen die Risiken
Während die Techbranche immer neue KI-basierte Lösungen vorstellt, die Routinearbeiten übernehmen sollen, sehen die Verfasser des Schreibens eine Reihe von Gefahren. Zum einen befürchten sie, dass mithilfe der neuen Techniken Propaganda und Hasskommentare in ungekanntem Ausmaß verbreitet werden könnten. Zum anderen sehen sie die Auswirkungen der Technologie auf die Arbeitswelt kritisch: Auch Arbeitsplätze, die Menschen als erfüllend empfinden, könnten abgebaut werden, fürchten sie. Die für eine verantwortliche Nutzung der neuen Technik notwendige Planung »findet derzeit nicht statt«, heißt es in dem Schreiben. Zuvor hatten bereits Institutionen wie Europol oder der deutsche Ethikrat mögliche Risiken von KI-Anwendungen aufgezeigt.
Die sechsmonatige Trainingspause, die die Unterzeichner fordern, bezieht sich auf das Training von KI-Systemen, die leistungsfähiger sind als GPT-4, das neueste bereits veröffentlichte Modell von OpenAI. Während des Moratoriums sollten die aktuellen Entwicklungen dann von externen Experten geprüft werden, so die Idee: Die führenden KI-Entwickler sollten zudem gemeinsame Sicherheitsprotokolle entwickeln. Die Entwicklung von KI-Techniken müsse während der sechs Monate aber nicht gänzlich ausgesetzt werden, heißt es.
Für den Fall, dass sich die Branche nicht auf die vorgeschlagene Denkpause einlässt, fordern die Verfasser des offenen Briefs ein Eingreifen staatlicher Regulatoren.
Zu den Unterzeichnern des Schreibens gehört neben vielen Forschern Emad Mostaque, der Gründer und Chef von Stability AI. Auch Google-Mitarbeiter, die mit der Entwicklung von KI-Lösungen betraut sind, sind dabei. Auffällig ist jedoch das Fehlen von Angestellten des Marktführers OpenAI. Elon Musk war bereits vor Jahren aus dem Unternehmen ausgeschieden. Die Firma hat sich auf Anfrage der Nachrichtenagentur Reuters noch nicht zu dem offenen Brief geäußert.
