Deepfakes von Trump auf Bildschirm

Deepfakes - wenn KI Gesichter und Stimmen verfälscht

Deepfakes machen Prominente zu Porno-Stars und legen Politiker:innen falsche Worte in den Mund. Der Identitätsbetrug erreicht so ein ganz neues Level. Aber wie entstehen die Fakes eigentlich? Das erfährst du im Clip.
0

Das Wichtigste zum Thema Deepfakes

  • "Deepfakes" sind täuschend echte Fake-Manöver, bei denen Videos, Bilder oder Ton-Aufnahmen mithilfe von künstlicher Intelligenz manipuliert werden.

  • Der Begriff setzt sich aus den Worten "Deep Learning" (besonders smarte, KI-gesteuerte Technik) und "Fake" für Täuschung zusammen. Die KI scannt durch echtes Foto- und Video-Material die Mimik von Menschen - und ahmt sie dann in Fakes nahezu perfekt nach.

  • Deepfakes sind ein relativ neues Phänomen. Erstmals fiel der Begriff im Jahr 2017. Während die ersten Fälle noch einfach zu entlarven waren, fällt es durch die stetig smarter werdende Technik mittlerweile selbst Expert:innen schwer, die Täuschungen zu enttarnen.

  • Am häufigsten kommt das sogenannte "Face Swapping" zum Einsatz: Bei Fotos oder Videos werden Gesichter von Personen ausgetauscht. Aber auch Stimmen und Worte werden überraschend authentisch verändert.

  • Die KI-gesteuerte Technik ist sogar in der Lage, real wirkende Personen zu faken, die es im echten Leben überhaupt nicht gibt. Und dafür musst du gar kein Profi sein - es gibt immer mehr Softwares und Apps für Laien.

  • Inzwischen können Deepfakes sogar live, in Echtzeit erzeugt werden - zum Beispiel während Video-Konferenzen. Nicht ungefährlich, wenn es um vertrauliche Informationen geht.

Live-Deepfakes: So echt sehen die gefälschten Videos aus

In Zeiten von Live Calls und Online Meetings boomen die Live-Deepfakes. Jeder kann sich als Söder, Merkel oder Trump ausgeben. Deepfakes zu erkennen ist allerdings äußerst schwer. Unsere Experten geben uns hierfür Tipps.

Deepfake-Chronik: Die bekanntesten Fälle

  • 😲

    2017 wurde ein Video veröffentlicht, in dem Barack Obama unter anderem Donald Trump als "kompletten Volltrottel" betitelt.

  • 🤔

    Natürlich hat der Ex-Präsident das nie wirklich gesagt. Es war eine Deepfake-Aktion des amerikanischen Kabarettisten Jordan Peele und Buzzfeed. Sie zeigte erfolgreich, wie einfach selbst Laien Medien-Material manipulieren können.

  • 👯‍♀️

    Noch im selben Jahr tauchten Deepfake-Videos mit Stars wie Emma Watson, Scarlett Johansson und Taylor Swift als vermeintliche Porno-Darstellerinnen auf.

  • 🧐

    Per "Face Swapping" tauschten die Verantwortlichen die Gesichter der echten Darstellerinnen mit denen der Prominenten aus.

  • 📱

    Es folgten einige intuitive Apps, die Deepfakes auch Laien zugänglich machen - wie "FaceSwap", "DeepFaceLab" (nach eigenen Angaben für rund 95 Prozent der Deepfakes im Netz zuständig), "ZAO" oder "Reface".

  • 👀

    2019 ging die App "DeepNude" an den Start. Mittlerweile ist sie aus Angst vor Missbrauch nicht mehr erhältlich - hier konnte man Fotos von Frauen hochladen und die App verwandelte diese in vermeintliche Nackt-Fotos.

  • 😳

    Die Deepfake-Technik entwickelt sich immer weiter. Expertinnen und Experten vermuten, dass sich die Anzahl der Fake-Inhalte im Netz alle 6 Monate verdoppelt.

Die Identität wechseln wie ein Chamäleon - das macht Deepfakes so gefährlich

Deepfakes bergen ein großes Gefahren-Potenzial. Der Fall rund um die Porno-Inszenierungen zeigt bereits, dass sie rufschädigend sein können. Expertinnen und Experten warnen aber auch vor Falsch-Meldungen durch manipuliertes Material. Das kann vor allem in der Politik für Unruhe sorgen.

Auch für die digitalisierte Geschäftswelt stellen Deepfakes ein Risiko dar. Die Fälschungen können bereits "live" in Video-Konferenzen erstellt werden. Auf diese Weise könnten sich zum Beispiel Kriminelle für Angestellte ausgeben und so an sensible Daten gelangen.

Die guten Seiten der Deepfakes

  • 😃

    Deepfakes sorgen bei Apps wie "Reface" für Lacher. Es ist lustig, wenn James Bond oder Madonna performen und plötzlich dein Gesicht tragen.

  • 🎥

    In der Filmbranche sind Deepfakes eine sichere Alternative für gefährliche Stunts, in denen Doubles bisher ihr Leben riskierten.

  • 🗣️

    Project Revoice ist ein medizinisches Projekt: Menschen, die krankheitsbedingt nicht mehr sprechen können, erhalten durch die Deepfake-Technik einen authentischen Ersatz für ihre Stimme.

Dieses Deepfake-Video mit Obama zeigt, wie echt die Täuschungen wirken können

Externer Inhalt

Dieses Element stammt von externen Anbietern wie Facebook, Instagram und Youtube.

Um diese Inhalte anzuzeigen, aktiviere bitte Personalisierte Anzeigen und Inhalte sowie Anbieter außerhalb des CMP Standards in den

Wie kannst du dich gegen Deepfakes schützen?

  • 🤓

    Sich gegen Deepfakes zu schützen fällt selbst Profis immer schwerer. Dennoch gibt es ein paar Tipps:

  • Dein Gegenüber im Videochat verhält sich irgendwie komisch oder du hast ein ungutes Gefühl? Dann bitte ihn doch mal höflich, die Hand vors Gesicht zu führen.

  • Entsteht eine Störung, handelt es sich mit hoher Wahrscheinlichkeit um einen Live-Deepfake.

  • 👨‍💻

    Einige Firmen und Forschungseinrichtungen arbeiten bereits an Technologien zum Entlarven von Deepfakes.

  • 🤔

    Facebook rief gemeinsam mit Partnern wie Microsoft oder Amazon die "Deepfake Detection Challenge" (kurz: DFDC) ins Leben: Ein Algorhythmus soll KI-gesteuertes Material von echtem unterscheiden.

  • 🔍

    Microsoft will zukünftig mit dem Video Authenticator Foto- und Videomaterial analysieren - und so Deepfakes ermitteln.

Veröffentlicht: 03.05.2021 / Autor: Carina Neumann-Mahlkau