Sperre in Italien ChatGPT droht auch in Deutschland Datenschutzärger
Logo von ChatGPT: Werden persönliche Daten rechtmäßig verarbeitet?
Foto: Dado Ruvic / REUTERSNachdem die italienische Datenschutzbehörde am Freitag der Firma OpenAI untersagt hat, persönliche Daten von italienischen Bürgerinnen und Bürgern zu verarbeiten, hat das Unternehmen kurzfristig ChatGPT in Italien gesperrt. Doch das Problem ist damit nicht gelöst, wie die deutsche Bundesdatenschutzbehörde dem SPIEGEL bestätigt.
Die italienische Behörde wirft OpenAI Verstöße gegen unterschiedliche Gesetze vor. Zum einen beklagen sie einen fehlenden Jugendschutzfilter, der sicherstellen soll, dass sich keine Jugendlichen unter 13 Jahren zu dem Dienst anmelden und darüber auf nicht jugendfreie Informationen zugreifen. Wesentlich tiefer greift jedoch der Vorwurf der unzulässigen Datenverarbeitung.
We of course defer to the Italian government and have ceased offering ChatGPT in Italy (though we think we are following all privacy laws).
— Sam Altman (@sama) March 31, 2023
Italy is one of my favorite countries and I look forward to visiting again soon!
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Kurz nach dem Bekanntwerden der Entscheidung der Italiener hatte OpenAI-Gründer Sam Altman erklärt, den Dienst in Italien einzustellen. Kundinnen und Kunden, die Geld für den Dienst bezahlt haben, sollen Rückerstattungen bekommen. Damit kann OpenAI zwar das Problem mit dem fehlenden Jugendschutzfilter lösen, nicht aber die tiefergehenden Probleme mit der Datenverarbeitung. Altman betonte, dass OpenAI der Auffassung sei, nicht gegen Datenschutzrechte zu verstoßen.
Der »Frankfurter Allgemeinen Zeitung« erklärte Guido Scorza, Vorstandsmitglied der italienischen Datenschutzbehörde zwar: »Wir wollen das Datensammeln nicht verbieten.« Jedoch seien wesentliche Einschränkungen notwendig: »Eine Person, die Daten hergibt, hat das Recht, darüber informiert zu werden, was damit geschieht – dass die Daten beispielsweise für die Weiterentwicklung eines Algorithmus genutzt werden«, erklärte der Jurist.
OpenAI soll Methoden offenlegen
Um dies sicherzustellen, verlangen die Italiener zunächst Transparenz von OpenAI. Bis heute ist nicht viel darüber bekannt, welche Texte als Lernmaterial für ChatGPT dienten. Dass dazu persönliche Daten gehören, scheint aber offensichtlich. So kann der Chatbot auf Zuruf plausibel klingende, aber oftmals falsche Lebensläufe von Personen produzieren. Dies legt nahe, dass dem Chatbot echte Lebensläufe als Trainingsmaterial vorgelegt wurden.
Hinzu kommen Daten, die Nutzerinnen und Nutzer offenbaren, wenn sie in ein Gespräch mit dem Chatbot treten. Die Italiener bestehen nun darauf, dass OpenAI mehr über die eigenen Methoden und das Geschäftsmodell offenlegt. Andernfalls drohen hohe Geldbußen von bis zu vier Prozent des weltweiten Umsatzes. Nach der milliardenschweren Kooperation mit Microsoft könnte ein solches Bußgeld einen hohen Millionenbetrag erreichen. Zudem könnten alle EU-Mitglieder der Firma bestimmte Datenverarbeitungen untersagen.
Auf Anfrage des SPIEGEL stützt die deutsche Datenschutzbehörde das Vorgehen der italienischen Kollegen. »Trainingsdaten einer KI unterliegen wie auch andere Daten der DSGVO, wenn es sich dabei um personenbezogene Daten handelt«, erklärt eine Sprecherin. Da OpenAI seinen Sitz in den USA habe, könne jede europäische Aufsichtsbehörde tätig werden.
Gleichzeitig sei man an den Ergebnissen der italienischen Kollegen sehr interessiert: »Wir haben sie zur Sperrung von ChatGPT bereits um weiterführende Informationen gebeten und werden diese dann an die zuständigen Landesdatenschutzaufsichtsbehörden und Landesmedienanstalten weitergeben«, erklärt die Behördensprecherin.
Dann droht OpenAI neuer Ärger: Wenn die Italiener überzeugend einen Verstoß gegen die europaweit geltende Datenschutzgrundverordnung darlegen, müssten die deutschen Behörden ebenfalls gegen OpenAI vorgehen.
