fbpx

Deepfake – Das steckt hinter den Fälschungen

Deepfake

Sogenannte Deepfakes zielen darauf ab, Desinformationen durch gefälschte Bild-, Video- oder Audioaufnahmen zu verbreiten. Diese Fälschungen werden mittlerweile so gut, dass Mensch noch Computer diese kaum mehr von echten Daten unterscheiden können. Was Deepfakes ausmachen, wie Du Dich schützen kannst und wie man sie vielleicht doch erkennt. Erfährst Du in diesem Blogbeitrag:

Desinformationen durch Deepfakes

Das Wort “Deepfake” entstand aus den englischen Wörtern “deep” für “Deep Learing”, eine Form von Maschine Learning, und “Fake” für Fälschung. Deepfakes fanden ihren Anfang in einfacher Fotobearbeitungssoftware und konnten fremde Gesichter auf Körper kopieren. Was zu Beginn noch als Spaß verstanden wurde, nahm im Laufe der Zeit bedrohliche Ausmaße an. So hat sich auch diese Software weiterentwickelt und kann nun Deepfakes in immer besserer Qualität herstellen, sodass es kaum möglich ist zwischen Fakt und Enttäuschung zu unterscheiden.

Geschichte der Deepfakes

Die Geschichte der Deepfakes nahm ihren Anfang auf der Social Media Plattfrom Reddit. In Unterformen, den Subreddits, werden oftmals kuriose bis abstruse Themen diskutiert. So tauchte 2017 ein Subreddit mit dem Namen “deepfakes” auf. In diesem Forum wurden die ersten gefälschten pornografischen Videos von Prominenten veröffentlicht. Innerhalb kürzester Zeit hatte der Subreddit rund 15.000 Anhänger und wurde kurze Zeit später von Reddit gesperrt. Obwohl die Plattform gefälschte Inhalte verbot, konnte der Algorithmus kaum noch aufgehalten werden.

Deepfake Reddit
Bild: pexels

Der anonyme Nutzer hatte den Algorithmus zur Erstellung des gefälschten Bildmaterials als Open Source zur Verfügung gestellt. Das bedeutet, dass jeder Zugriff zu dem Programm hat. So entstand auch eine App, mit der Deepfakes erstellt werden können. Auch ohne große Computerkenntnisse können Face-Swaps ganz einfach durchgeführt werden. Dazu ist neben der App, eine leistungsstarke Grafikkarte benötigt.

So werden Deepfakes erstellt

Um einen Deepfake zu erstellen, muss der Algorithmus mit sehr viel Bild- und Videomaterial gefüttert werden. Je mehr Material von der betroffenen Person zur Verfügung steht, desto besser werden die gefakten Bilder und Videos. In der Regel genügen 300 Bilder aus vielen Perspektiven, um das Gesicht einer Person für Bild- und Videoaufnahmen zu benutzen. Im Deepfake-Code steckt ein neuronales Netz (Autoencoder), das darauf trainiert, Daten zu komprimieren und sie wieder zu dekomprimieren. Dabei versucht der Autoencoder im Laufe der Dekomprimierung ein Ergebnis zu erzielen, das so nah wie möglich an das Original herankommt.

So lernt der Algorithmus wie das Gesicht einer Person aussieht und kann es eigenständig erzeugen. Auch ein Gesicht in Bewegung ist kein Problem für das Programm. Um ein Gesicht schließlich effektiv auszutauschen, muss der Algorithmus zwei Köpfe erkennen: zum einen das Gesicht, das auf den Originalbildern auftaucht und ein Gesicht, mit dem der Tausch durchgeführt werden soll. Der Algorithmus generiert insgesamt zwei Gesichter und setzt nicht das erste Gesicht in das Video, sondern das Zweite, was dort eigentlich nicht hingehört. Bei diesem Vorgang wird keine Kopie des Bildmaterials erstellt, sondern neues Material. So kann auch die Mimik passend zum Originalgesicht erstellt werden.

Quelle: YouTube

Fake ist nicht gleich Fake

Mittlerweile werden nicht nur einfach Fotografien, sondern auch Ton – und Videoaufnahmen gefälscht werden. Aus diesem Grund werden Deepfakes in Kategorien eingeteilt:

  • Kampagnen zur Desinformation: Diese Art von Deepfakes zielt darauf ab, gezielt falsche Informationen zu verbreiten und die Öffentlichkeit absichtlich zu täuschen. In der Regel werden kontroverse Themen angestoßen, um Diskussionen weiter anzuheizen. Dazu zählen z.B. Wahlen, Coronamaßnahmen usw.
  • Klassischer Betrug: Deepfakes werden häufig als Betrugsmasche eingesetzt, bspw. um Geld oder Informationen von den betroffenen Opfern zu entlocken. Dieses Vorgehen hat sicherheitspolitische und strafrechtliche Konsequenzen.
  • Gefakte pornografische Inhalte: Von diesem Deepfakes sind vor allem prominente oder in der Öffentlichkeit stehende Frauen betroffen. Hier wird das Gesicht der betroffenen Person auf das Gesicht eines Pornodarstellers oder -darstellerin kopiert und online verbreitet. Diese Art der Fälschung sind strafbar, da sie massiv in das Persönlichkeitsrecht eingreift und darüber hinaus moralisch höchst fragwürdig.
  • Gefälschte juristische Beweise: Diese Deepfakes sollen das Fehlverhalten von Polizisten dokumentieren, das so nie stattgefunden hat.

So kannst Du Deepfakes erkennen

Mittlerweile wurden Deepfakes auch vonseiten der Politik als potenzielle Bedrohung erkannt und die ersten Maßnahmen wurden ergriffen. Beispielsweise wurde in Kalifornien zwei Gesetze erlassen, die Deepfakes offiziell als illegal erklären. Dazu zählt unter anderem das Verbot der Synthetisierung menschlicher Gesichter zum Erstellen pornografischen Materials und das Verbot der Manipulation von Bildmaterial politischer Kandidaten 60 Tage vor einer Wahl.

Ob diese Maßnahmen ausreichen, sei dahingestellt. Allerdings entwickeln Cybersicherheitsanbieter fortlaufend bessere Erkennungsalgorithmen, die Deepfakes anhand von Bildanalysen erkennen können. Jedoch kannst Du auch selbst auf einige Merkmale achten, um Deepfakes zu erkennen. Beachte dazu folgende Punkte:

  • Mangelnde bzw. fehlende Synchronität von Lippe und Sprache
  • seltenes bis gar kein Blinzeln
  • Veränderungen der Hautfarbe
  • Ruckartige Bewegungen
  • Veränderungen der Beleuchtung von Frame zu Frame
  • Digitale Artefakte im Bild
Deepfake Fake News
Bild: pexels

Sicherheitspraktiken

Neben einem technologischen Schutz kann jeder auch auf grundlegende Sicherheitspraktiken zurückgreifen, um Deepfakes effizient und schnell zu erkennen. Stellst Du zum einen sicher, dass Du und Deine Liebsten sich mit der Problematik auseinandersetzen und die Gefahren erkennen können, gibt es noch diese Tipps:

  • Baue Dir eine gute Medienkompetenz auf und nutze hochwertige Nachrichtenquellen
  • “Vertrauen ist gut, überprüfen ist besser” – Skepsis gegenüber Sprachnachrichten oder Videos von unseriösen Quellen, schützt nicht zu 100 % vor Betrugsversuchen, dennoch hilft es Dir dabei viele Stolperfallen zu vermeiden.
  • Regelmäßige Backups schützen Deine Daten, sollte es doch zu einem Betrug kommen.

Fazit

Für die Zukunft bietet das maschinelle Lernen große Chancen und Möglichkeiten. Beispielsweise arbeitet Google bereits an der automatischen Kategorisierung von Bildern oder auch bei der Entwicklung von selbstfahrenden Autos sind künstliche neuronale Netze und Deep Learning elementar. Deepfakes stellen dabei eine Schattenseite dar, die gesellschaftlich und politisch nicht zu unterschätzen sind. Aus diesem Grund ist es wichtig, Lösungen für die Art von Problemen zu finden, um echte Chancen voll ausnutzen zu können.

Neuste Technik und die besten Deals findest Du bei preisboerse24 >

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.