Was sind Deepfakes und wie gefährlich sind sie?

Woman looking at two deepfakes and being confused as to which one is real
Klicken Sie hier für eine kurze Zusammenfassung
Was sind Deepfakes? Eine kurze Erklärung

Bei Deepfakes handelt es sich um eine Art von synthetischen Medien, entweder Video oder Audio, die das Abbild einer realen Person enthalten, aber einer anderen Person zugeordnet sind. Besorgniserregend ist, dass es immer einfacher wird, Deepfakes zu erstellen. Dies kann ernste Folgen für das Leben normaler Menschen haben, da Deepfakes dazu missbraucht werden können, ahnungslose Opfer zu erpressen. Außerdem werden sie zur Verbreitung von Fake News verwendet, indem sie irreführende Videos von bekannten Personen erstellen.

Vor Deepfakes können Sie sich schützen. Dies sind die Schritte, die Sie unternehmen können:

  • Informieren Sie sich über Deepfakes und wie Sie sie erkennen können.
  • Vermeiden Sie es, Bilder von sich auf öffentlichen Konten in sozialen Medien zu veröffentlichen.
  • Schützen Sie Ihre Geräte, damit Bilder von Ihnen und alle anderen Daten nicht gestohlen und für schändliche Zwecke verwendet werden können.
  • Erklären Sie Ihrer Familie und Ihren Freunden die Risiken von Deepfakes, wenn Sie nicht möchten, dass sie Bilder von Ihnen posten.

Wenn Ihr Konterfei in einem Deepfake-Medium verwendet wird, melden Sie es der sozialen Medienplattform, auf der es geteilt wurde, und wenden Sie sich an die örtlichen Behörden. Je nach Ihrem Wohnort können Sie sich auch an einen Rechtsexperten wenden.

Lesen Sie unseren vollständigen Artikel, um mehr über Deepfakes zu erfahren und wie Sie sich vor ihnen schützen können.

Im zweiten Terminator-Film konnte der T-1000-Roboter sein Äußeres so verändern, dass er wie eine beliebige Person aussah. Deepfakes ähneln einem T-1000-Roboter sehr stark. Es handelt sich um irreführende Medien, die ihr Aussehen so verändern können, dass sie wie jeder andere aussehen und klingen, ob lebendig oder tot. Die Zukunft ist jetzt, und das ist nicht immer etwas Gutes.

Was ist ein Deepfake?

Ein Deepfake ist ein gefälschtes Medium, normalerweise ein Video, das sehr echt aussieht. Hierbei handelt es sich um die Anwendung von KI-Technologie und maschinellem Lernen zur Manipulation von Video und Sprache. Ein Beispiel ist dieses Deepfake von Mark Zuckerberg von Facebook. Das Video, das auf Instagram gepostet wurde, zeigt scheinbar den „fake Mark“, der die ominösen Worte sagt:

„Stellen Sie sich das mal vor: Ein Mann, der die totale Kontrolle über die gestohlenen Daten von Milliarden von Menschen hat, all ihre Geheimnisse, ihr Leben, ihre Zukunft… Das alles verdanke ich Spectre. Spectre hat mir gezeigt, dass derjenige, der die Daten kontrolliert, auch die Zukunft kontrolliert.“

Aber Deepfakes sind relativ kompliziert herzustellen. Maschinelles Lernen erfordert sehr große Datensätze, um neuronale Netzwerke zu trainieren. Zur Erstellung eines Deepfakes enthalten die Daten in der Regel viele Tausende von Bildern zweier Personen, die mit spezieller Software gemorpht und zusammengefügt werden. Anschließend wird die Stimme übereinander gelegt und die Lippen werden synchronisiert.

Deepfakes mit Prominenten mögen für manche lustig sein, aber die Technologie dahinter ist wirklich beängstigend. Sie können sogar gefährlich sein, denn kurze Clips von Prominenten, die unerhörte Dinge sagen, sind nur die Spitze des Eisbergs.

Wie werden Deepfakes eingesetzt?

Es gibt jede Menge Deepfakes da draußen. Allein Facebook hat im Juni 2020 100.000 von ihnen gesammelt, um seinem Algorithmus beizubringen, wie er Deepfake-Videos erkennen kann. Dieser Anstieg in der Nutzung der Deepfake-Technologie zeigt, dass sie immer zugänglicher wird. Mehr Zugänglichkeit bedeutet mehr neuartige Anwendungen, sowohl zum Guten als auch zum Schlechten. Hier sind ein paar der neuesten Anwendungen von Deepfakes und wie sie Menschen schaden.

Fake News

In einer Zeit, in der „Fake News“ zu einem großen Teil der Probleme in der Welt beitragen, haben Deepfakes die Rolle eines Propagandawerkzeugs übernommen.

Das Deepfake-Video von Barack Obama zeigt, wie Deepfakes eingesetzt werden können, um die Wahrheit zu manipulieren und Informationen massenhaft zu veröffentlichen. Deepfakes sind ein sehr wirkungsvoller Mechanismus für diejenigen, die versuchen, die Wahlgewohnheiten der Menschen zu manipulieren.

Es gab große Befürchtungen über die Auswirkungen, die Deepfakes auf die Wahl 2020 haben könnten. Doch wie diese Analyse vom letzten Herbst erklärt, waren Deepfakes in diesem speziellen Fall kein so großes Problem. Der Hauptgrund dafür ist, dass Deepfakes immer noch schwierig zu erstellen sind, zumindest so weit, dass sie nur schwer von der Realität zu unterscheiden sind. In Zukunft könnte ihre Verfügbarkeit für den Massengebrauch jedoch zunehmen. Als solche könnten sie eine echte Bedrohung für zukünftige Wahlen darstellen.

Cyber Crime

Deepfakes sind das perfekte Mittel, um die Online-Kriminalität auf ein neues Level zu bringen. Cyberkriminelle können Deepfakes dazu nutzen, Menschen zu erpressen, damit sie nach ihrer Pfeife tanzen. Das kann auf vielfältige Weise geschehen, zum Beispiel bei Phishing-Angriffen und Sextortion.

Die Deepfake-Technologie wird immer beliebter und wird wahrscheinlich auch für Social Engineering eingesetzt. Das ist eine Taktik, die bei vielen Cyberverbrechen eingesetzt wird, um das menschliche Verhalten zu manipulieren, indem mit unserem Vertrauen gespielt wird, ein Gefühl der Dringlichkeit erzeugt wird, unser Schamgefühl ausgenutzt wird und so weiter.

Sextortion

Sextortion ist ein Paradebeispiel dafür, wie Deepfakes im echten Leben erheblichen Schaden anrichten können. Sextortion ist eine Masche, bei der Cyberkriminelle gewöhnliche Menschen erpressen, Geld zu schicken, indem sie mit der Veröffentlichung von entwürdigenden Videos der betreffenden Person drohen. Der Betrug kann auch ohne ein tatsächliches Video stattfinden, aber Deepfake ist ein Mechanismus, mit dem Kriminelle tatsächlich kompromittierendes Material erstellen können.

Selbst wenn die Opfer wissen, dass das Video nicht echt ist, kann es sein, dass sie keine andere Wahl haben, als zu zahlen, da die Videos manchmal extrem realistisch aussehen können. Auch das ist kein kleines Problem. Im Januar 2021 hat Avast über 500.000 Fälle von Sextortion gegen seine Kunden weltweit untersucht, identifiziert und blockiert.

Phishing und Revenge Porn

Und das ist nur ein Teil eines größeren Problems. Dieselbe Technologie, die für Sextortion eingesetzt wird, kann auch für Phishing verwendet werden. Bei Phishing-Kampagnen geben sich Cyberkriminelle als eine andere Person aus, um Sie zu bestimmten Handlungen zu bewegen. Sie können Sie anrufen und die Stimme Ihres Chefs benutzen, die sie durch Deepfake-Synthetisierung erhalten haben, um nach Unternehmensdaten zu fragen.

Das ist kein hypothetisches Beispiel. Vor ein paar Jahren wurde ein britischer CEO dazu gebracht, 240.000 Dollar an einen Betrüger zu überweisen. Der CEO glaubte, dass er während eines Telefongesprächs mit dem Chef der Muttergesellschaft sprach, der ihn bat, das Geld dringend zu überweisen. Der CEO soll durch eine „Deepfake“-Stimme getäuscht worden sein.

Die Deepfake-Technologie wird auch zur Erstellung von Revenge Porn verwendet. Besonders betroffen sind davon Frauen. Wenn Sie mehr über diese Methode erfahren möchten, lesen Sie bitte diesen Leitartikel von Forbes.

Deepfakes mit Deepfake-Apps erstellen

Die Zao App war die erste Software, die das Erstellen von Deepfakes für jedermann zugänglich machte. Inzwischen ist die Nutzung in den meisten Ländern eingeschränkt, aber in einigen Teilen der Welt, wie z.B. Indien, kann man immer noch darauf zugreifen.

Zao ist aber nicht die einzige App, mit der Sie Deepfake-Videos erstellen können. Viele andere Apps dieser Art sind inzwischen veröffentlicht worden, darunter:

  • Deepfakesweb: eine kostenpflichtige Browser-App, mit der Sie Bilder und Videos zusammenfügen können.
  • DeepFaceLab: ein komplexeres Programm, das von Microsoft entwickelt wurde. Es soll vor allem Studenten und Forschern helfen, Deepfake-Produktionen besser zu verstehen, aber auch Privatpersonen können damit ihre eigenen Videos erstellen. Es ist jedoch etwas schwieriger zu bedienen als Deepfakesweb und erfordert einen viel größeren Datensatz an Medien, um etwas Überzeugendes zu erstellen.
  • Wombo: eine lippensynchrone App, mit der Sie Gesichter in Musikvideos einfügen können. Wenn Sie das Programm in Aktion sehen möchten, sehen Sie sich diesen Clip mit Elon Musk an, der eine vermutlich unerwartete Melodie singt:

Wie Sie sehen, erstellen die meisten Deepfake-Apps, die weithin verfügbar sind, Videos, die nicht unbedingt realistisch sind. Aber das kann sich in Zukunft ändern. Deshalb ist es wichtig, dass Sie lernen, wie Sie sich schützen können.

Wie kann man sich vor Deepfakes schützen?

Google hat ein Repository mit Deepfake-Daten veröffentlicht, um dem Markt für Deepfakes entgegenzuwirken. Die Daten dieser Datenbank werden dazu verwendet, die Tools zu entwickeln, die benötigt werden, um gefälschte Videos zu erkennen, damit sie entfernt werden können. Facebook unterstützt eine ähnliche Initiative und organisiert einen Wettbewerb zur Entwicklung von Software zur Erkennung von Fälschungen. Microsoft hat ein vollwertiges Tool zur Erkennung von Deepfake entwickelt.

Doch reichen diese Bemühungen aus, um Sie vor den Gefahren von Deepfake zu schützen? In der Zukunft vielleicht schon. Im Moment müssen Sie noch Sicherheitsvorkehrungen treffen, wenn Sie nicht unter Deepfakes leiden wollen.

Bilder öffentlich teilen: eine schlechte Idee?

Einige Bilder online zu teilen ist keine Tragödie. Wenn Sie allerdings viele Bilder von sich veröffentlichen, sind Sie ein leichteres Ziel für Cyberkriminelle, die die Deepfake-Technologie einsetzen.

In den Einstellungen der meisten Social Media-Plattformen können Sie Ihr Konto auf „privat“ stellen. Bitten Sie Familienmitglieder und enge Freunde, sich an dieselben Richtlinien zu halten. Denken Sie daran, dass die realistischsten Deepfake-Videos nur mit einem großen Datensatz von Bildern einer Person erstellt werden können. Wenn Sie wenigstens die Bilder von Ihnen, die weithin verfügbar sind, einschränken können, ist die Wahrscheinlichkeit geringer, dass Sie Opfer von Cyberkriminalität mit Deepfakes werden.

Gerätesicherheit verbessern

Neben dem bewussten Umgang mit den Bildern, die Sie veröffentlichen, sollten Sie auch dafür sorgen, dass Ihre Geräte gesichert sind, damit Ihre Daten (einschließlich Bilder und Videos) nicht an die Öffentlichkeit gelangen. Nutzen Sie zu diesem Zweck ein VPN (Virtual Private Network), das Ihnen hilft, online anonym zu bleiben, indem es Ihre IP-Adresse ändert. Anti-Malware-Software kann ebenfalls helfen, insbesondere auf mobilen Geräten.

Kontaktaufnahme mit den Behörden

Sollten Sie schließlich Opfer von Cyberkriminalität im Zusammenhang mit Deepfakes werden, sollten Sie die mit Ihnen erstellten Medien bei der sozialen Plattform melden, auf der sie geteilt wurden. Darüber hinaus sollten Sie sich auch an die örtlichen Behörden wenden und eine formelle Anzeige erstatten. Falls Sie in Medieninhalten vorkommen, die mit Deepfakes erstellt wurden, kann dies als Verleumdung angesehen werden. Sie können sich also auch an einen Anwalt wenden, um Ihre rechtlichen Möglichkeiten zu prüfen.

Eine Deepfake-Zukunftswelt

Deepfakes können zum Spaß verbreitet werden, aber die Technologie wird auch von Cyberkriminellen eingesetzt, um ernsthaften Schaden anzurichten. Prominente Personen sind die einfachsten Ziele für die Erstellung von Deepfakes, insbesondere wenn sie zur Verbreitung von gefälschten Nachrichten verwendet werden, aber die Gefahren von Deepfakes können jeden betreffen. Das Wichtigste, wenn es um Online-Sicherheit und die Nutzung des Internets geht, ist, dass Sie alles, was Sie online sehen, kritisch betrachten. Da Sie nun über die Existenz von Deepfakes Bescheid wissen, denken Sie vielleicht zweimal nach, bevor Sie einem Video eines Regierungsvertreters glauben, der eine ungeheuerliche Behauptung aufstellt.

Wenn Sie mehr darüber erfahren möchten, wie Sie sich vor Cyberkriminalität schützen können, lesen Sie auch unsere Artikel über WhatsApp-Betrug und Revenge Porn.

Was sind Deepfakes? - Häufig gestellte Fragen

Deepfakes sind immer leichter verfügbar und einfacher zu verbreiten. Sie haben noch Fragen zu dieser neuen Art, „fake media“ zu erstellen? In diesem FAQ-Bereich finden Sie unsere Antworten auf die am häufigsten gestellten Fragen zu Deepfakes.

Ein Deepfake-Video ist ein mit der Deepfake-Technologie erstelltes Medienstück, das Video- und Audioelemente enthält. Deepfake-Technologie verwendet KI und Algorithmen für maschinelles Lernen, um bestehende Videos zu verändern und neue Gesichter oder Stimmen über die Originaldatei zu legen. In den meisten beliebten Deepfake-Videos sagt oder tut ein Prominenter etwas Lächerliches oder Ungeheuerliches. Mehr dazu erfahren Sie in unserem Artikel über Deepfakes.

Wir raten dringend davon ab, Deepfakes für schändliche Zwecke zu missbrauchen. Ein Deepfake-Video zu erstellen und öffentlich zu teilen, könnte als Verleumdung und sogar als Erpressung angesehen werden, wenn Sie mit der Person, die in dem Video zu sehen ist, Kontakt aufnehmen.

Wenn Sie sich allerdings nur mit Ihren Freunden amüsieren wollen – zum Beispiel indem Sie Ihr Gesicht in einem Musikvideo deepfaken – können Sie Online-Apps verwenden. Deepfakesweb ermöglicht es Ihnen, Deepfake-Videos zu erstellen, ist aber nicht kostenlos. Je nach Länge des Deepfakes kann die Erstellung von Videos zwischen $5-$75 kosten. Andere Optionen sind Wombo und DeepFaceLab.

Die Identifizierung des ersten Deepfake-Videos ist schwierig. Denn Deepfakes sind nicht einfach auf einmal aufgetaucht, so dass Sie keine klare Grenze zwischen manueller Videobearbeitung und KI-gestützter Videobearbeitung ziehen können. Tatsächlich vermischten sich die beiden Formen der Medienmanipulation allmählich, bis die KI-gestützte Videomanipulation sozusagen „autonom“ wurde.

Allerdings hat der Begriff „Deepfake“ einen klaren Ursprung. Er wurde erstmals 2017 von einem Reddit-Nutzer mit demselben Namen verwendet. Man kann also davon ausgehen, dass die ersten „echten“ Deepfakes nicht viel älter sind.

International security coordinator
Marko has a Bachelor's degree in Computer and Information Sciences. He coordinates and manages VPNOverview.com's team of international VPN researchers and writers.