Wenn Bilder lügen: So schützen Sie sich vor Deepfakes

Was sind Deepfakes?

Der Begriff „Deepfake“ setzt sich aus den englischen Wörtern „Deep Learning“ (eine Methode des maschinellen Lernens) und „Fake“ (Fälschung) zusammen. Gemeint sind damit Bilder, Videos oder Tonaufnahmen, die mithilfe von künstlicher Intelligenz (KI) manipuliert wurden. So lässt sich zum Beispiel das Gesicht oder die Stimme einer Person dahingehend verändern, dass sie scheinbar etwas sagt oder tut, was in Wirklichkeit nie passiert ist.

Vor allem Personen des öffentlichen Lebens wie Politiker oder Schauspieler werden häufig Opfer von Deepfake-Angriffen. Doch auch Privatpersonen sind immer öfter betroffen. Grund dafür ist, dass die technischen Möglichkeiten in den letzten Jahren rasant fortgeschritten sind. Viele Programme sind heute leichter zugänglich und einfach zu bedienen, auch ohne Fachwissen. Es gibt dabei verschiedene Möglichkeiten, eine Datei zu manipulieren.

Bild- und Videomanipulation

Deepfakes von Gesichtern in Bildern oder Videos gehören zu den häufigsten Formen KI-basierter Manipulation. Dabei wird die Mimik digital oft so realitätsnah verändert, dass Laien die Fälschung kaum erkennen können. Die eingesetzte Technik variiert je nach Ziel der Manipulation. Das sind die gängigsten und bekanntesten Methoden:

• Fälschung der Mimik: Dabei imitiert die KI die Mimik einer echten Person und legt sie auf das Gesicht einer anderen – so wirkt es, als würde diese etwas sagen oder tun, was nie passiert ist.
• Face Swapping: Beim Face Swapping wird das Gesicht einer Person durch das einer anderen ersetzt, sodass es aussieht, als wäre die zweite Person im Video oder Bild zu sehen.

Deepfakes von Stimmen

Auch Stimmen lassen sich mit KI-Technologien täuschend echt nachbilden oder verändern. Ein Beispiel aus dem Privatbereich ist der Enkeltrick. Hierbei versuchen Betrüger, ältere Menschen zu täuschen, indem sie sich als Enkel ausgeben. Während Kriminelle früher telefonierten und sich mit eigener Stimme als jemand anderes ausgaben, manipulieren sie heute ihre eigene Stimme in Echtzeit so, dass sie fast genauso klingt wie die eines nahen Verwandten. Solche Stimmmanipulationen sind sehr schwer zu erkennen und erhöhen das Risiko von Täuschungen.

Pornografische Deepfakes oder Deepnudes

Bei pornografischen Deepfakes werden Bilder oder Videos so manipuliert, dass Betroffene scheinbar in einem intimen oder pornografischen Kontext erscheinen. Vor allem Frauen und Mädchen sind betroffen. Die Folgen sind oft enorm: Die psychische Belastung und die sozialen Konsequenzen ähneln häufig denen, die durch die unbefugte Verbreitung echter Nacktaufnahmen entstehen. Solche Inhalte verbreiten sich schnell und lassen sich kaum aus dem Netz entfernen. Zudem ist es für Betroffene schwierig zu beweisen, dass es sich bei den Bildern um Fakes handelt.

Wie gefährlich sind Deepfakes?

Die Wirkung von Deepfakes kann gravierend sein. Manipulierte Inhalte verleumden, diskriminieren oder stellen öffentlich bloß mit teils schwerwiegenden Folgen für den Ruf der Betroffenen. Täter legen ihren Opfern Aussagen in den Mund, die sie nie gemacht haben, oder lassen sie in kompromittierenden, peinlichen oder sogar strafrechtlich relevanten Situationen erscheinen, die in Wahrheit nie passiert sind. Häufig werden solche Fälschungen gezielt für Cybermobbing eingesetzt, um Einzelpersonen bloßzustellen oder systematisch zu schikanieren. Wer solche Inhalte über soziale Medien oder andere Plattformen verbreitet, kann erheblichen Schaden anrichten.

In der Politik sorgen KI-manipulierte Inhalte zunehmend für Desinformationskampagnen, die gezielt Vertrauen in Institutionen oder öffentliche Personen untergraben. Auch im Bereich der Cybersicherheit sind die Gefahren real: Deepfake-Techniken werden beispielsweise beim Phishing eingesetzt, um mit gefälschten Stimmen oder Gesichtern an sensible Daten zu gelangen. Selbst Identitätsdiebstahl ist möglich durch die Umgehung von Stimm- oder Gesichtserkennungssystemen. Die technischen Möglichkeiten entwickeln sich rasant und mit ihnen auch die Risiken.

Sind Deepfakes strafbar?

Aktuell gibt es noch keine klaren gesetzlichen Regelungen in Bezug auf die Erstellung und Verbreitung von KI-generierten Fälschungen. Das Thema wird politisch aber immer relevanter. Im Juli 2024 legte der Bundesrat einen Gesetzesentwurf für einen neuen § 201b StGB vor. Ziel ist es, digitale Fälschungen, die Persönlichkeitsrechte verletzen, künftig strafrechtlich zu verfolgen. Vorgesehen sind Freiheitsstrafen von bis zu zwei Jahren – in besonders schweren Fällen, etwa bei pornografischen Deepfakes, sogar bis zu fünf Jahren. Eine Umsetzung durch Bundestag und Bundesregierung steht bislang noch aus.

Trotz fehlender Gesetze bestehen bereits heute rechtliche Mittel, um sich gegen Deepfakes zur Wehr zu setzen. Je nach Einzelfall zivilrechtlich, strafrechtlich oder datenschutzrechtlich.

Zivilrechtliche Ansprüche:

Deepfakes verletzen oft das sogenannte allgemeine Persönlichkeitsrecht (APR), zum Beispiel das Recht am eigenen Bild oder an der eigenen Stimme. Das APR schützt Sie vor Eingriffen in Ihr Privatleben, vor falschen oder herabwürdigenden Darstellungen in der Öffentlichkeit und vor ungewollter Veröffentlichung von Bildern und persönlichen Informationen.

Verletzen Inhalte Ihr Persönlichkeitsrecht, können Sie die Entfernung und zukünftige Unterlassung verlangen. In manchen Fällen haben Sie auch Ansprüche auf Gegendarstellung oder Widerruf. Zusätzlich zum allgemeinen Persönlichkeitsrecht kann auch das Urheberrecht betroffen sein.

Strafrechtliche Schritte:

Auf diese Gesetze können Sie sich als Betroffener unter anderem beziehen:

• Verletzung des höchstpersönlichen Lebensbereichs: Die Verbreitung von KI-manipulierten Aufnahmen, die dem Ansehen der abgebildeten Person schaden, ist nach § 201a StGB strafbar.
• Beleidigung, üble Nachrede und Verleumdung: Werden Betroffene öffentlich diffamiert oder ihnen Aussagen untergeschoben, die sie nie getätigt haben, kann das mit den Paragrafen 185 bis 187 StGB strafrechtlich verfolgt werden.
• Verbreitung von kinder- oder jugendpornografischen Inhalten (§§ 184b, 184c StGB): Das Erstellen und Verbreiten von kinder- und jugendpornografischen Inhalten ist strafbar. Die Gesetzeslage bezieht sich dabei nicht nur auf echte Inhalte, es können also auch KI-generierte Inhalte unter dieses Gesetz fallen.
• Betrug: Wenn KI-manipulierte Inhalte zur Täuschung von anderen Menschen verwendet werden, wie beim Enkeltrick, zählt das nach § 263 StGB als Betrug.

Datenschutzrechtliche Ansprüche:

Deepfakes können auch Verstöße gegen die DSGVO darstellen. Oft werden dabei echte Bilder oder andere personenbezogene Daten genutzt und manipuliert. Deshalb greifen manchmal auch Datenschutzrechte, zum Beispiel das Recht auf Löschung oder sogar Schadensersatz.

Das bloße Anschauen von KI-manipulierten Bildern oder Videos ist in der Regel nicht strafbar, zumindest solange der Inhalt keine Gesetze verletzt. Dennoch sollten Sie sich bewusst sein, dass Sie möglicherweise rechtlich oder ethisch bedenkliches Material konsumieren. In jedem Fall ist es sinnvoll, einen Rechtsbeistand dazu zu ziehen, wenn Sie von einem Deepfake betroffen sind. Dieser kann Sie individuell beraten.

Erste Hilfe bei Deepfakes

Wenn Sie Opfer eines Deepfakes werden, ist schnelles Handeln gefragt.

• Sichern Sie Beweise, zum Beispiel durch Screenshots, URLs und eine möglichst genaue Dokumentation der Situation.
• Auf Social-Media-Plattformen haben Sie zudem meist die Möglichkeit, Inhalte zu melden. Diese werden dann überprüft und ggf. entfernt.
• Ist ein Deepfake straf- oder zivilrechtlich relevant, können Sie Anzeige erstatten oder eine einstweilige Verfügung beantragen.
• In solchen Fällen ist es hilfreich, eine Rechtsschutzversicherung zu haben. Sie übernimmt in der Regel die Kosten für die juristische Beratung und unterstützt Sie dabei, Ihre Ansprüche durchzusetzen.

So erkennen Sie Deepfakes

KI-manipulierte Inhalte werden immer realistischer. Dennoch gibt es einige Merkmale, auf die Sie achten können, um diese zu identifizieren.

Typische Merkmale für Manipulationen durch KI:

• Unnatürliche oder verzögerte Mimik
• Starrender Blick oder fehlendes Blinzeln
• Monotone Gesichtsausdrücke
• Unstimmige Lichtverhältnisse oder Schattenwürfe
• Unschärfe oder Verzerrungen, besonders am Rand des Gesichts
• Mundbewegungen, die nicht exakt zum Gesagten passen
• Unnatürliche Sprechpausen oder monotone Betonung

Ein kritischer Blick sowohl auf den Inhalt als auch auf dessen Ursprung hilft dabei, Deepfakes frühzeitig zu erkennen und deren Wirkung einzuschätzen. Prüfen Sie den Absender der Inhalte und auch dessen Glaubwürdigkeit.