PR-seitig griffen sie mal wieder tief in die Trickkiste, als der Begriff „Digitale Gewalt“ groß inszeniert in den Medien auftauchte — im Zusammenhang mit vermeintlichen Deepfakes. Plötzlich wurde der Begriff in Verbindung mit angeblich gefälschten pornografischen Inhalten echter Personen gebracht, die massenhaft auf entsprechenden Plattformen bereitgestellt werden sollen.

Dabei ist der Begriff an sich nicht neu: Er wird bereits seit 2011 von sogenannten Frauenrechtsorganisationen verwendet. Das Problem liegt vielmehr in seiner Unschärfe: Der Begriff hat keinen genauen, definierten Inhalt. Man kann ihn also in jeden beliebigen Zusammenhang stellen, und damit ein ernstes Problem suggerieren — unabhängig davon, ob dieses tatsächlich existiert.

Bereits seit 2023 wird er in Bezug auf sogenannte Deepfakes in den Kontext „bildbasierte digitale Gewalt“ gestellt. Dies findet nicht nur in Deutschland statt — sondern wurde bereits auf der höchsten internationalen Ebene — der UN — angesiedelt und thematisiert. Der Begriff diffundiert dabei, wie bei einer organisierten Kampagne, durch alle möglichen Sprachen

Die derzeitige Kampagne wird also schon länger vorbereitet. Ausgearbeitet wurde diese Begrifflichkeit übrigens unter anderem von dem Netzwerk HateAid, das auch jetzt eine zentrale Rolle einnimmt. HateAid, eine angeblich gemeinnützige GmbH, die sich parteiübergreifend gegen sogenannten Hass im Internet einsetzt, ist eine registrierte Lobbyorganisation, die sowohl auf bundesdeutscher als auch auf europäischer Ebene Einfluss auf die Gesetzgebung zu nehmen versucht.

Dies scheint ihr in Deutschland gelungen zu sein. Denn unmittelbar nach dem mittlerweile recht bekannten Gespräch im „Kölner Treff“, ausgestrahlt vom WDR, in dem Collien Fernandes von ihren Erfahrungen bezüglich der angeblich durch ihren Mann von ihr erstellten Deepfakes berichtete — und ihre Ausführungen mit der eher wenig überzeugenden Forderung beendete, eine Klarnamenpflicht im Internet einzuführen — erklärte die derzeitige Justizministerin Hubig, bereits einen Gesetzentwurf in der Schublade zu haben, mit dem Deepfakes demnächst unter Strafe gestellt werden sollen. Bereits die Anfertigung dieser Inhalte kann künftig mit bis zu zwei Jahren Haft geahndet werden.

Dass dieses Gesetz nicht nur auf generierte, pornografische Inhalte abzielt — wahrscheinlich nicht einmal in erster Linie — sondern auch auf KI-generierte Kritik am Handeln der Bundesregierung — oder anderer Akteure — muss hier wohl kaum erwähnt werden.

Es wird aber auch recht ausdrücklich so erklärt. So berichtet das ZDF:

„Neben pornographischen Fake-Bildern nimmt der Gesetzesentwurf auch nicht-sexualisierte Deepfakes ins Visier. Künftig soll deren Verbreitung strafbar sein, wenn sie einen fiktiven Vorgang abbilden, der dem Ansehen einer realen Person schaden kann.“

Dabei besteht hier im Grunde keine Regelungslücke, und somit keine Notwendigkeit, ein neues Gesetz einzuführen. Die falsche Darstellung anderer Personen — durch Deepfakes oder auf andere Weise — ist bereits heute zumindest als Verleumdung strafbar und kann zudem zivilrechtlich durch das Recht am eigenen Bild zu Schadensersatzansprüchen führen. Daher verbietet sich eigentlich sogar die Einführung einer neuen Strafrechtsnorm. Denn das Strafrecht ist grundsätzlich nur das letzte Mittel des Staates.

Im Kontext der bereits 2022 eingeführten „Majestätsbeleidigung“, die eine Welle an juristischer Verfolgung von Kritikern an politischen Persönlichkeiten nach sich zog, lässt all dies eine weitere Verschärfung dieses Vorgehens erahnen.

Denn ein wesentliches Mittel der Kritik besteht im Erstellen von Memes und KI-Videos, welche die Verfehlungen und die Doppelstandards der Regierenden gezielt auf den Punkt bringen. Dem soll ein Riegel vorgeschoben werden.

Hubig traf sich bereits im vergangenen Jahr mit HateAid um über sogenannte Digitale Gewalt zu sprechen — wobei anzunehmen ist, dass das Gesetz hier bereits vorbereitet wurde. Zudem wird HateAid nicht nur im Rahmen des Programmes „Demokratie leben“ des Ministeriums für Familie, Senioren, Frauen und Jugend teilweise finanziert, sondern erhielt darüber hinaus 2025 600.000 Euro vom Justizministerium unter Hubig. Schon seit 2020 wird das Netzwerk unter anderem vom Justizministerium unterstützt: So erhielt es von 2020 bis 2022 1.033.786 Euro aus den Töpfen des Justizministeriums, und 2024 ebenfalls 600.000 Euro.

Gegründet wurde HateAid bereits 2018, unter anderem von dem Kampagnennetzwerk Campact — das bis heute ein großer Anteilseigner ist und augenblicklich mit einer Petition auf den Deepfake-Zug aufspringt. HateAid unterstützt seit Jahren bekannte Persönlichkeiten — etwa Luisa Neubauer — dabei, Gerichtsprozesse gegen Meinungsäußerungen zu führen. Es verfolgt Postings im Internet, die es als „Hasskommentare“ bezeichnet. Dabei geraten allerdings auch straflose Inhalte unter die Räder. Darüber hinaus betreibt es eine „Meldestelle“ für sogenannte Hasspostings und ist als „Trusted Flagger“ im Rahmen des Digital Services Act aktiv. Nicht ohne Grund wurden einige Vorsitzende von HateAid von den USA auf eine Sanktionsliste gesetzt — mit der Begründung, dass HateAid die Meinungsfreiheit gefährde. Eine Einschätzung, der man bei Ansicht des Treibens dieser Organisation getrost zustimmen kann.

Der Kampagnencharakter der ganzen Diskussion über „Digitale Gewalt“ drängt sich geradezu auf. HateAid, offiziell als unabhängiges Netzwerk und Meldestelle präsentiert, wird vom Justizministerium finanziert, aktiv dazu ermuntert, gegen Äußerungen im Netz vorzugehen, vom Ministerium hofiert und in die Ausarbeitung eines Gesetzesentwurfs gegen „Digitale Gewalt“ eingebunden — ein Gesetz, das gezielt auch politische und kritische Inhalte treffen soll.

Mediale Zustimmung wird erzeugt, indem ein eher privater, für die Öffentlichkeit belangloser Fall — Collien Fernandes, deren Mann Christian Ulmen angeblich Accounts auf ihren Namen erstellt und Deepfake Pornos hochgeladen haben soll — in die Öffentlichkeit gezerrt und skandalisiert wird. Dabei beruhen die Vorwürfe bislang ausschließlich auf Behauptungen von Fernandes; Beweise werden nicht präsentiert.

Mittlerweile haben die Anwälte von Christian Ulmen sogar eine Erklärung veröffentlicht, der zufolge die Anschuldigungen gegen Ulmen, Deepfake-Pornos hochgeladen zu haben, eigentlich sogar nie erhoben worden war. Lediglich die geschickte Berichterstattung der Medien hat diesen Zusammenhang hergestellt. Wir erleben also eine Medienkampagne, die jeglicher Grundlage entbehrt — und deren Erzählung ohnehin wenig glaubwürdig ist.

So soll Fernandes bereits zu Weihnachten 2024 von ihrem Mann erfahren haben, dass er diese Inhalte erstellt und online gestellt habe. Trotzdem lebte und arbeitete sie noch bis weit in das Jahr 2025 hinein mit ihm zusammen. Der Vortrag von Fernandes im Kölner Treff wirkt unter diesem Gesichtspunkt wie ein schlecht einstudierter Text, der in der Forderung nach einer Ausweispflicht kulminiert und nur wenig überzeugend vorgetragen wird. Denn nach ihrem Bericht endet sie — vollkommen zusammenhanglos — sinngemäß mit der Forderung: „Und deswegen bin ich für eine Identifikationspflicht im Internet. Weil damit wäre das ja nie passiert.“ Argumentation ist das nicht.

Der Fall Fernandes ist zudem nicht der erste, der angebliche Deepfake-Pornos betrifft. Schon vor einigen Monaten leitete die EU ein Verfahren gegen die Plattform X ein, weil mithilfe des KI-Bots Grok sexualisierte Bilder realer Personen erstellt worden sein sollen.

Sowohl Campact als auch HateAid greifen das Thema rund um Fernandes nun für ihre Kampagnen auf. Fernandes arbeitet bereits seit Jahren mit HateAid zusammen, um sich gegen digitale Gewalt einzusetzen. In diesem Rahmen gab es bereits 2023 einen gemeinsamen Auftritt.

Doch da man über den Kölner Treff und die öffentlich-rechtlichen Medien hauptsächlich alte Menschen erreicht — und gerade nicht die internetaffine Jugend — werden auch bekannte Influencer in Stellung gebracht. Creator wie Desy, Rezo oder Sashka, die allesamt hunderttausende Follower haben, positionieren sich zu den Themen Mobbing im Netz, „digitale Gewalt“ oder explizit zum Fall Collien Fernandes.

Auffällig ist, dass sie Fernandes’ Aussagen nicht nur nicht als bloße Anschuldigung darstellen, sondern davon auszugehen scheinen, dass sie der Wahrheit entsprechen — obwohl bis zum Beweis des Gegenteils die Unschuldsvermutung gelten muss.

Ebenso machen sie zum Teil in ihren Videobeschreibungen oder direkt im Video auf HateAid aufmerksam oder verlinken auf die Campact-Petition zum Fall Collien Fernandes. Diese fordert das Justizministerium dazu auf, den schon lange vorbereiteten Gesetzesentwurf zum Verbot von Deepfakes nun endlich umzusetzen. Ob hier eine rein idealistische Anteilnahme an dem Fall seitens der Influencer vorliegt oder eine tiefergehende, vielleicht auch finanzielle Zusammenarbeit mit HateAid oder Campact besteht, ist schwer zu sagen.

Dabei wird durch das diskutierte Verbot der bereits verheerende Kurs der Bundesregierungen fortgesetzt: Alles Unangenehme soll unter Strafe gestellt werden. Nach der 2022 eingeführten Majestätsbeleidigung und der ausufernden Strafverfolgung auch legitimer Meinungsäußerungen im Netz — an denen HateAid zu einem nicht unerheblichen Teil beteiligt ist — sollen nun Verbote für die Erstellung von KI-Inhalten erlassen werden. Dies wird auch eine lückenlose Überwachung selbst der privaten Nutzung dieser Tools notwendig machen. Ein Staat, der auf jede erfundene oder echte Problematik mit einem Verbot reagiert — und damit den Handlungsspielraum der in ihm lebenden Menschen immer weiter einschränkt und in eine einzige erlaubte Richtung und auf eine einzige Linie zwingt — ist kein demokratischer Rechtsstaat, sondern ein totalitäres Regime.

Der gesamte Fall und die damit verbundene Medienkampagne forcieren zudem ein Projekt der Merz-Regierung, die Klarnamenpflicht im Internet einzuführen. Das hat Collien Fernandes ja auch ausdrücklich gefordert. Ob eine solche Pflicht wirklich hilfreich wäre, ist jedoch stark zu bezweifeln — denn Menschen lassen sich auch durch die Angabe des vollständigen Namens nicht von sogenannter „Hetze“ abbringen — sprich: Sie kritisieren auch weiterhin, was ihnen nicht passt.

Im Fall Collien Fernandes wäre eine solche Klarnamenpflicht ohnehin sinnlos gewesen — denn ihr Mann soll — laut ihren Anschuldigungen — ja gerade Accounts auf ihren Namen eingerichtet haben. Dennoch wird der Fall missbraucht, um neben weiteren, strafrechtlichen Verboten auch die Klarnamenpflicht durchzusetzen.

Natürlich zielen all diese Maßnahmen auf die Einführung einer digitalen Identität, ebenso wie auf die geplante Altersverifikation in sozialen Netzwerken. Die Idee dahinter: Man soll Alter und Identität eindeutig nachweisen können, um Missbrauch oder illegale Inhalte zu verhindern. In der Praxis ist dies jedoch nicht so einfach durchsetzbar. So hätte beispielsweise Ulmen für die Einrichtung der Accounts auf den Namen von Fernandes einfach ihren Personalausweis verwenden können — da sie in einem gemeinsamen Haushalt lebten, wäre eine Kontrolle kaum möglich gewesen.

Die Digitale Identität allerdings dient als Instrument der totalen Kontrolle. Das betrifft jede Bewegung im Internet — und damit die freie Meinungsäußerung und Informationsfreiheit.

Wer vollständig gläsern im Internet unterwegs ist, überlegt sich zweimal, welche Seiten er besucht, ob er noch kritische Websites aufruft und sich unabhängig informiert, wenn dies zu Sanktionen führen kann — wie es ja bei X-Postings bereits geschieht. Dasselbe gilt natürlich für kritische, unabhängige Journalisten. Diese können aufgrund ihrer Berichterstattung noch schneller sanktioniert werden — etwa durch Kontokündigungen, Anklagen oder Accountsperrungen.

Darüber hinaus wird die Digitale Identität mit anderen Instrumenten der Machtausübung verknüpft — etwa dem digitalen Zentralbankengeld, das wiederum an digitale Gesundheitszertifikate oder ein CO₂-Konto gekoppelt werden kann. Dadurch wird Geld programmierbar: Zahlungen können gezielt gesperrt oder der Zugriff auf das Konto vollständig entzogen werden, wenn Menschen sich nicht „agendakonform“ verhalten. Zum Beispiel, wenn sie sich nicht die neueste Impfspritze geben lassen, oder Kritik an der Regierung oder anderen Funktionsträgern wie Oligarchen äußern. Die Identitätspflicht soll das Internet auf Linie der Herrschenden bringen und den Freiraum der Menschen weiter einschränken — und all dies wird aufgrund einer breiten Medienkampagne von den Menschen sogar noch begrüßt.

Der angebliche Skandal um Fernandes — für den bislang keine anderen Belege außer ihren eigenen Aussagen existieren — dient dazu, den Menschen in Deutschland die die Einführung der Digitalen Identität schmackhaft zu machen. Angeblich zum Schutz vor Deepfake-Pornos und Digitaler Gewalt soll ein totalitäres Kontrollinstrument von der Masse akzeptiert werden.

Dabei werden selbst reale, zum Teil tragische Fälle in einen neuen, digital fokussierten Kontext gestellt. Die sozialen und menschlichen Hintergründe solcher Vorfälle bleiben unberücksichtigt, während der Schwerpunkt auf der angeblichen Gefahr digitaler Inhalte liegt. Auf diese Weise geht man an den tatsächlichen Problemen vorbei — das Vorgehen dient stattdessen der Ausweitung staatlicher Macht und der weiteren Einschränkung der Bürgerrechte.

---