Forum: Netzwelt
Deepfakes: Im falschen Film
YouTube/ TheFakening

Deepfakes taugen bisher vor allem für spektakuläre Schlagzeilen. Potenziell jedoch gelten sie als mächtige Werkzeuge für Desinformation und Betrug. Wer entwickelt neue Erkennungsmethoden - und wer soll die anwenden?

Seite 1 von 2
aschu0959 12.09.2019, 20:26
1. Es ist an der Zeit

für mehr Wahrheit im Internet, nicht für gefälschte Informationen !
Da sind die Politiker gefordert, also wird wohl jahrelang nichts pas-sieren, bis das Problem nicht mehr zu behandeln ist. Ich traue nur noch dem Spiegel.

Beitrag melden Antworten / Zitieren
krautrockfreak 12.09.2019, 21:03
2. Das wird noch ein Riesenproblem werden!

Eigentlich sollten sich alle Regierungen einig sein, solche Software zu verbieten, denn das ist ein mächtigeres Werkzeug als jede Waffe bzw. es ist eine Waffe, die katastrophale Auswirkungen haben wird.

Beitrag melden Antworten / Zitieren
Peer Pfeffer 12.09.2019, 23:04
3. Medien-Phishing

Ich fürchte @1, dass man die Benutzer des Internets nicht durch Politiker zur Wahrheit zwingen kann, denn das hieße massive, unakzeptable Filter und Zensur auf allen Netzschichten, noch kann man @2, irgendwelche Software verbieten. Kann man zwar, aber siehe zb BlackHat-Hacker-Software, geschrieben wird sie trotzdem, wer will kontrollieren, was jemand auf seinem privaten Rechner zuhause so treibt, und die intessierten Kreise kommen auch dran. Man kann ja nicht mal das Herstellen und den Vertrieb von illegalen Drogen unterbinden.

Mit deep learning und anderen Innovationen wird man in der Erkennung sicher noch weiter kommen. Aber vor allem müssen sich alle klar werden, dass Ton-, Bild- und Videoaufnahmen einfach keine evidenten Medien mehr sind. Wer auf Fälschungen reinfällt aus althergebrachtem, naivem guten Glauben, erliegt evtl. einer Art Medien-Phishing.

Beitrag melden Antworten / Zitieren
eugler 12.09.2019, 23:11
4. Über die Quelle

Erkennen lassen sich solche Fakes über die Quellen. Sämtliches Materialien aus den Händen von den Diensten, abhängien Medien ala SPON, Bild usw und von unbekannt müssen per se als unglaubwürdig erkannt werden. Also genau wie bereits heute. Es ändert sich defacto nichts, es werden nur noch mehr Menschen kritisch werden.
Wenn ich an das Bin Laden Video denke, dann ist nun auch dem letzten klar, dass Deep Fake keine neue Technologie ist und wir auch zurückliegenden Medien aus den genannten Quellen nicht hätten vertrauen sollen.

Beitrag melden Antworten / Zitieren
haresu 12.09.2019, 23:22
5. Skepsis

Skepsis wäre schon mal gut. Ist aber nicht mehr besonders verbreitet. Empörung, das lieben die Leute und natürlich Hype. Enttäuschung mögen sie auch ganz gerne, aber nicht wegen der Ent- Täuschung sondern wegen der vorhergegangenen Täuschung. Bald ist der Weg frei, einfach zu glauben was man will, oder wenn man selbst dafür zu faul ist, einfach zu glauben, dass man belogen wird. Ohne irgendwelche Grundlagen braucht man ja auch nicht zu denken. Aber eigentlich wollte ich ja hier das ultimative Rezept gegen Fälschungen verkünden: einfach nicht glauben was man gerne hören möchte. Und immer auch das Gegenteil denken, nur so zur Sicherheit. Mehrheitsmeinungen sollte man generell mißtrauen. Einfachen Lösungen und Kausalitäten ebenso. Und dan gbt es ja noch Profis. Fälschungen werden eigentlich immer erkannt, nur oft haben Menschen daran nicht wirklich Interesse.

Beitrag melden Antworten / Zitieren
Ookami 13.09.2019, 00:31
6. Leute...

Der angesprochene Fall zeigt ein Beispiel für eine simultane veränderung dre Sprachmelodie des Angreifers. Das ist durchaus Stand der Technik. Aber der Artikel ist hier derart skeptisch, dass man meinen könnte, der Author hat sich nie mit neueren Ausprägungen der KI beschäftigt. Von einem entsprechenden Projekt, bei dem selbst die Entwickler gesagt haben, dass es sich auf diese Weise missbrauchen lässt, weshalb sie das trainierte Netzwerk nicht geteilt haben, sondern nur ihre Methode, habe ich schon vor Monaten gelesen.
Ein Stimmimitator als alternativhypothese ? Weit hergeholt.
Die Absätze über die Probleme bei Video-Deep-Fakes sind hier nichtmal relevant.
Statt eine Lehre zu ziehen wird hier alles schöngefärbt. Dabei wäre die Moral von der Geschichte zu sagen, dass so eine Art von Befehl übers Telefon nicht authorisiert sein sollte. Erst nach Bestätigungsmail/Messenger-Nachricht überweisen. Wenn das dann nicht echt ist, ist das interne System gehackt.

Beitrag melden Antworten / Zitieren
stimmtschon 13.09.2019, 00:40
7. oh mein gott

Diese Thematik hat riesiges Potenzial, das Schicksal von Gesellschaften zu beeinflussen. Es ist mächtiger als Atombomben. In 10-15 werden Deepfake-Videos gar nicht mehr erkennbar sein. Nicht mal mehr von Mäusen. Wahlen zu beeinflussen, Stimmungen zu erzeugen, jeden einzelnen von uns zu manipulieren - es wird immer einfacher. Künstliche Intelligenz ist jetzt schon wesentlich schlauer als natürliche. Schade um die schöne Zukunft.

Beitrag melden Antworten / Zitieren
draco20007 13.09.2019, 10:03
8.

Zitat von eugler
Erkennen lassen sich solche Fakes über die Quellen. Sämtliches Materialien aus den Händen von den Diensten, abhängien Medien ala SPON, Bild usw und von unbekannt müssen per se als unglaubwürdig erkannt werden. Also genau wie bereits heute. Es ändert sich defacto nichts, es werden nur noch mehr Menschen kritisch werden. Wenn ich an das Bin Laden Video denke, dann ist nun auch dem letzten klar, dass Deep Fake keine neue Technologie ist und wir auch zurückliegenden Medien aus den genannten Quellen nicht hätten vertrauen sollen.
Und welche Quellen fürden sie denn als glaubwürdig einstufen?
Wenn sie schon SPON misstrauen bleibt nicht viel...

Beitrag melden Antworten / Zitieren
Nonvaio01 13.09.2019, 10:37
9. Loool

Zitat von aschu0959
für mehr Wahrheit im Internet, nicht für gefälschte Informationen ! Da sind die Politiker gefordert, also wird wohl jahrelang nichts pas-sieren, bis das Problem nicht mehr zu behandeln ist. Ich traue nur noch dem Spiegel.
Ihre Ironie ist klasse, Sie sollten mal die "Fakten" von SPon checken, dann faellt ihnen etwas auf.

Beitrag melden Antworten / Zitieren
Seite 1 von 2