Deepfake-App Zao China im Gesichtstausch-Rausch

Mit einer neuen Smartphone-App lassen sich Porträtfotos im Handumdrehen in Filme und Musikvideos montieren. Zum Start in China gab es aber erst mal Ärger um die Privatsphäre.

Florence Lo / REUTERS

Von


Ein Selfie reicht, um die Hauptrolle in Spielfilmen und Musikvideos zu übernehmen. Binnen weniger Tage wurde die Deepfake-App Zao in China zum viralen Hit. Die Software ermöglicht es ihren Anwendern, Hollywood- und Popstars in kurzen Videoclips ihr eigenes Gesicht digital "überzuziehen".

Der Spieleentwickler Allan Xia etwa hat sein Gesicht in eine Serie von Filmszenen mit Leonardo DiCaprio montieren lassen. Die Clips seien "in weniger als acht Sekunden aus einem einzigen Foto erzeugt" worden, schreibt er auf Twitter.

Beispiele wie dieses haben dafür gesorgt, dass Zao in den wenigen Tagen seit der Einführung am vergangenen Freitag bereits die am häufigsten heruntergeladene Gratis-App in China geworden ist. Damit produzierte Clips und Memes fluten die sozialen Netzwerke des Landes. Allerdings gilt das auch nur für China, denn bislang ist Zao ausschließlich dort verfügbar.

Alle Rechte an allem gingen an die Entwickler

Der Hype, den die Fake-Videos dort ausgelöst haben, ist gewaltig, die Bedenken aber auch. So hatte eine kontroverse Klausel in den Nutzerbedingungen von Zao für Ärger gesorgt. Nutzer mussten alle Rechte an den von ihnen mit der App erstellten Inhalten abgeben. Sie traten "völlig freie, unwiderrufliche, unbefristete, übertragbare und wieder lizenzierbare Rechte" an die Entwickler der App ab. Die umstrittenen Passagen seien aber mittlerweile aus den Nutzerbedingungen entfernt worden, berichtet "Radii China".

"Wir verstehen die Bedenken aller Beteiligten bezüglich des Datenschutzes vollständig", heißt es in einer Erklärung, die auf dem Weibo-Konto der App veröffentlicht wurde. "Wir sind uns des Problems bewusst und überlegen, wie wir es lösen können. Wir brauchen ein wenig Zeit." In den Allgemeinen Geschäftsbedingungen heißt es nun, dass benutzergenerierte Inhalte nur noch mit Zustimmung der Anwender für andere Zwecke verwendet werden und dass alle gelöschten Inhalte von den Servern des Unternehmens entfernt werden.

Überweisung per Gesichtserkennung

Kritiker fürchten, dass Kriminelle die per App generierten Selfies nutzen könnten, um sich Zugang zu Bankkonten oder anderen Diensten zu verschaffen. In China wird Gesichtserkennungstechnologie zunehmend zur biometrischen Absicherung von Onlinebestellungen und Bezahlvorgängen eingesetzt.

Der größte chinesische Online-Bezahldienstleister, Alipay, hat versichert, dass ein mit Apps wie Zao erstelltes Porträt nicht dazu verwendet werden könnte, um die Gesichtserkennung ihres Bezahlsystems zu überlisten. Sollte ein solcher Fall doch eintreten - was laut Alipay eben sehr unwahrscheinlich sei - würde man dem Opfer seinen Schaden in voller Höhe ersetzen.

Die Bedenken haben bereits Konsequenzen für die App: Einem Bericht von "Techcrunch" zufolge können Nutzer von WeChat Zao-Videos zwar in das soziale Netzwerk hochladen. Wenn sie aber versuchen, Download-Links zu Zao zu verbreiten oder die App herunterzuladen, wird ihnen eine Warnung angezeigt: "Diese Webseite wurde mehrfach gemeldet und enthält Sicherheitsrisiken", heißt es darin. "Um eine sichere Online-Umgebung zu gewährleisten, wurde der Zugang zu dieser Seite gesperrt."

Angst vor Manipulationen

Die Zao-App ist nach Aufregern wie dem Obama-Fake-Video ein weiteres Beispiel dafür, wie schnell und einfach ein digitaler Gesichtstausch mittlerweile machbar ist. Es besteht die Gefahr, dass solche täuschend echten, aber digital gefälschten Aufnahmen zukünftig auch zur Verbreitung von Falschnachrichten eingesetzt werden könnten.

Im Fall von Zao scheint das Risiko derzeit noch begrenzt. Vor allem weil sich nur von der App vorgegebene Videos verwenden lassen. Der Gesichtstausch-Algorithmus ist also nur auf diese Szenarien trainiert.

Damit die App realitätsgetreue Szenen generiert, können Nutzer auch mehrere Gesichtsausdrücke hochladen - dennoch sind die Fake-Ergebnisse offenbar noch weit von täuschender Echtheit entfernt.

"Es ist klar, dass Zao nicht wirklich auf Genauigkeit setzt, sondern auf ein subjektives, gut aussehendes Ergebnis", sagt der Spieleentwickler Allan Xia zu seinen mit der App erstellten Clips. "Ähnlich wie bei einer Beauty-Cam-App behält die App die Gesichtsstruktur der ursprünglichen Akteure bei, sodass die Ergebnisse mehr oder weniger immer gut aussehen und die Benutzer zum Teilen anregen", so Xia. Er kann sich aber gut vorstellen, dass derartige Software Nutzer künftig zum Teil interaktiver Netflix- oder Disney-Serien machen könnten: "Das neue Mitglied der Avengers... bist du."



insgesamt 1 Beitrag
Alle Kommentare öffnen
Seite 1
franxinatra 03.09.2019
1. Vor einigen Jahren gab es soetwas in Schweden..
da konnte man sein eigenes Foto in einen Werbeclip (eines Energieversorgers?) einfügen; war ein hübscher Spaß der leider nicht weiter nutzbar war; hoffe, dass da keine Urheberrechte tangiert sind, mit Zao... ;-)
Alle Kommentare öffnen
Seite 1

© SPIEGEL ONLINE 2019
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung


TOP
Die Homepage wurde aktualisiert. Jetzt aufrufen.
Hinweis nicht mehr anzeigen.