# deepfake-recht.de

> Rechtsanwaltliche Beratung zu den Kennzeichnungspflichten KI-generierter Bilder, Texte, Audio- und Videoinhalte nach Art. 50 der Verordnung (EU) 2024/1689 (AI Act, KI-VO). Anbieter von Heidrich Rechtsanwälte PartG mbB, Hannover. Schwerpunkt Deepfakes. Stand Juli 2026.

Diese Seite erklaert, wer KI-generierte Inhalte nach Art. 50 AI Act kennzeichnen muss, wie zu kennzeichnen ist und welche Sanktionen bei Verstoessen drohen. Grundlage sind der Verordnungstext, die am 20. Juli 2026 final angenommenen Leitlinien der EU-Kommission (C(2026) 5054 final), die amtliche FAQ der Kommission sowie der am 10. Juni 2026 final veroeffentlichte Code of Practice on Transparency of AI-Generated Content mit seinen drei amtlichen EU-Kennzeichnungs-Icons.

## Rechtsrahmen Art. 50 AI Act

Art. 50 der Verordnung (EU) 2024/1689 buendelt saemtliche Transparenz- und Kennzeichnungspflichten der KI-Verordnung. Adressaten sind sowohl Anbieter generativer KI-Systeme (Absaetze 1 und 2) als auch Betreiber, die mit solchen Systemen Inhalte erzeugen oder veroeffentlichen (Absaetze 3 und 4).

Art. 50 kennt vier Transparenzpflichten. Erstens die Hinweispflicht bei direkter KI-Interaktion nach Abs. 1: Anbieter muessen Chatbots, Sprachassistenten und KI-Agenten so gestalten, dass natuerliche Personen ueber die KI-Interaktion informiert werden, es sei denn, dies ist fuer eine verstaendige Person offensichtlich. Zweitens die maschinenlesbare Markierung und Detektion synthetischer Inhalte nach Abs. 2: Anbieter generativer Systeme fuer Audio, Bild, Video und Text muessen Outputs maschinenlesbar markieren und zugleich als KI-erzeugt detektierbar machen. Das sind zwei eigenstaendige, gleichrangige Pflichten, eine allein genuegt nicht. Drittens die Informationspflicht bei Emotionserkennung und biometrischer Kategorisierung nach Abs. 3. Viertens die Offenlegung von Deepfakes und KI-Texten nach Abs. 4.

Nach Erwaegungsgrund 137 sagt die Einhaltung des Art. 50 nichts ueber die Zulaessigkeit des Systems oder seiner Ausgabe aus. Ein KI-System kann zugleich nach Art. 5 verboten oder als Hochrisiko-System nach Art. 6 einzustufen sein. Die Pflichten gelten nebeneinander. Mehrere Pflichten des Art. 50 koennen auf ein und dasselbe System zugleich anwendbar sein und verschiedene Akteure treffen.

Nach Art. 50 Abs. 5 sind alle Informationen den betroffenen Personen in klarer und unterscheidbarer Weise spaetestens zum Zeitpunkt der ersten Interaktion oder Konfrontation bereitzustellen. Massgeblich ist jeder erste Kontakt jeder betroffenen Person mit dem Output, nicht nur der allererste Empfaenger. Eine Offenlegung erst am Ende, etwa im Abspann, genuegt nicht.

## KI-generierte Bilder und Deepfakes

Der Anbieter eines Bildgenerators muss jeden Output nach Art. 50 Abs. 2 maschinenlesbar markieren und zugleich detektierbar machen. Erwaegungsgrund 133 nennt als Techniken kryptographisch signierte Metadaten und Provenance (etwa C2PA), unsichtbare Wasserzeichen (etwa SynthID oder Stable Signature) sowie Logging- und Fingerprinting-Verfahren. Da nach dem Stand der Technik kein Einzelverfahren alle vier Anforderungen (wirksam, interoperabel, robust, zuverlaessig) zugleich erfuellt, ist regelmaessig eine Kombination mehrerer Verfahren erforderlich.

Ein Deepfake nach Art. 3 Nr. 60 KI-VO ist KI-erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der bestehenden Personen, Objekten, Orten, Entitaeten oder Ereignissen erkennbar aehnelt und einer Person faelschlich als echt oder wahr erscheinen wuerde. Auf eine Taeuschungsabsicht des Betreibers kommt es nicht an. Massgeblich ist die moegliche Zusammensetzung des Publikums. Unrealistische Inhalte, etwa ein Drache ueber dem Eiffelturm, sind keine Deepfakes.

Die Offenlegung muss fuer natuerliche Personen unmittelbar wahrnehmbar sein, ohne dass sie eigene technische Werkzeuge einsetzen muessten. Die Kennzeichnungspflicht steht neben weiteren Anforderungen aus dem Recht am eigenen Bild (Paragrafen 22, 23 KUG), aus Paragraf 201a StGB, aus Art. 6 und 9 DSGVO bei biometrischen Daten sowie aus Paragrafen 823 folgende BGB in Verbindung mit dem allgemeinen Persoenlichkeitsrecht. Auch ein gekennzeichneter Deepfake bleibt rechtswidrig, wenn er Persoenlichkeits-, Urheber- oder Markenrechte verletzt. Nach den Leitlinien kann unmarkierter KI-Inhalt zugleich rechtswidriger Inhalt im Sinne des Art. 3 lit. h DSA sein.

Auch im Auftrag erstellte Werbebilder mit KI-generierten Models oder KI-Produkt-Renderings fallen unter Art. 50 Abs. 4, sobald sie bestehenden Personen oder Objekten erkennbar aehneln und als echt erscheinen koennten. Rein geringfuegige Bearbeitungen wie Farbkorrektur oder Zuschnitt machen einen Inhalt hingegen noch nicht zum Deepfake.

Filmproduktion: KI-generierte Hintergrundszenen, Spezialeffekte und technische Vor- und Nachbearbeitung im Rahmen ueblicher Produktionsprozesse lassen Inhalte nach den finalen Leitlinien regelmaessig nicht faelschlich echt erscheinen. Anders vollstaendig KI-generierte Darsteller, digitale Repliken realer und auch verstorbener Personen, De-Aging und simulierte Darbietungen. Sie sind regelmaessig Deepfakes, profitieren als Teil evident kuenstlerischer oder fiktionaler Werke aber von der abgeschwaechten Offenlegung.

## KI-generierte Texte zu oeffentlichem Interesse

Art. 50 Abs. 4 Unterabsatz 2 fordert die Offenlegung KI-generierter oder manipulierter Texte, die zur Information der Oeffentlichkeit ueber Angelegenheiten von oeffentlichem Interesse veroeffentlicht werden. Erfasst ist Text, der kumulativ veroeffentlicht ist, die Oeffentlichkeit informieren soll und Angelegenheiten von oeffentlichem Interesse betrifft. Dazu zaehlen oeffentliche Verwaltung und Dienste, Grundrechte einschliesslich Justiz und Strafverfolgung, oeffentliche Gesundheit, Umweltschutz, Verbrauchersicherheit sowie wirtschaftliche, politische, wissenschaftliche oder kulturelle Entwicklungen von Belang. Politik und demokratische Prozesse sind ausdruecklich erfasst. Die Aufzaehlung ist nicht abschliessend. Reine Unterhaltung sowie Service- oder Werbetexte ohne Informationsanspruch fallen regelmaessig nicht darunter.

Die Pflicht entfaellt nur, wenn kumulativ der Text einer substanziellen menschlichen Pruefung oder redaktionellen Kontrolle unterzogen wurde und eine natuerliche oder juristische Person die redaktionelle Verantwortung traegt. Bloße Rechtschreib- oder Grammatikpruefung oder eine pauschale Freigabe genuegen nicht. Eine durch ein weiteres KI-System vorgenommene Pruefung traegt die Ausnahme ebenfalls nicht. Ein substanzieller KI-Eingriff nach einer redaktionellen Freigabe laesst die Ausnahme wieder entfallen.

## Video und Audio

Fuer audiovisuelle Deepfake-Inhalte gelten die Regelungen des Art. 50 Abs. 4. Video umfasst auch zeitbasierte Bildsequenzen sowie VR- und AR-Inhalte. Bei Video mit Tonspur sind Bild- und Audioinhalt zu markieren und detektierbar zu halten.

Bei Echtzeit-Streams ist das Label durchgaengig sichtbar oder zu Beginn und in regelmaessigen Intervallen einzublenden, auch weil Zuschauer erst nach Beginn einsteigen koennen. Bei aufgezeichneten Videos genuegen Hinweise zu Beginn, an Schluesselstellen und im Verlauf. Kurzvideos sind durchgehend zu kennzeichnen. Kurze Audio-Inhalte benoetigen einen hoerbaren Disclaimer am Anfang, laengere Formate wie KI-Podcasts oder synthetische Anrufe erfordern wiederholte Hinweise. Wird das Audio ueber ein Display ausgespielt, ist zusaetzlich ein visuelles Label vorzusehen.

## Kommissions-Leitlinien und Code of Practice

Zwei Instrumente konkretisieren Art. 50. Die Leitlinien der EU-Kommission nach Art. 96 Abs. 1 lit. d KI-VO wurden am 20. Juli 2026 final angenommen (C(2026) 5054 final), rechtzeitig vor dem Geltungsbeginn. Sie bieten praktische Auslegungshilfe fuer zustaendige Behoerden, Anbieter und Betreiber mit zahlreichen Anwendungsbeispielen zu allen vier Absaetzen. Flankierend hat die Kommission eine FAQ zu Art. 50 veroeffentlicht. Die Leitlinien bleiben rechtlich unverbindlich und werden nach Massgabe der Vollzugspraxis ueberprueft. Die verbindliche Auslegung des Art. 50 bleibt allein dem EuGH vorbehalten.

Der Code of Practice on Transparency of AI-Generated Content nach Art. 50 Abs. 7 wurde am 10. Juni 2026 final veroeffentlicht und von der Kommission und dem KI-Ausschuss als angemessen bewertet. Er ist damit der einzige unionsweit anerkannte praktische Rahmen zum Nachweis der Pflichten aus Art. 50 Abs. 2, 4 und 5. Die Befolgung eines als angemessen bewerteten Kodex ist ein unkomplizierter Weg, die Erfuellung dieser Pflichten nachzuweisen, und kann nach Art. 99 Abs. 7 lit. e bussgeldmindernd wirken. Der Beitritt erfolgt ueber ein Signatory Form. Ein Opt-out laesst die Nachweiserleichterung entfallen. Nicht-Unterzeichner muessen die Einhaltung ueber andere geeignete Mittel belegen, etwa durch eine Gap-Analyse gegenueber dem Kodex, und muessen mit detaillierteren Auskunfts- und Zugangsersuchen der Behoerden rechnen. Fuer die Absaetze 1 und 3 existiert kein Kodex.

Der Kodex gliedert sich in zwei Abschnitte. Abschnitt 1 richtet sich an Anbieter (Abs. 2) und behandelt Markierung und Detektion, unter anderem die Kombination mehrerer Verfahren, kryptographisch signierte Metadaten, unsichtbare Wasserzeichen, eine frei zugaengliche Detektions-Schnittstelle und Interoperabilitaet ueber ein gemeinsames Repository. Abschnitt 2 richtet sich an Betreiber (Abs. 4) und behandelt das Labelling.

Amtliche EU-Icons nach Anhang I: Das zwingende Hauptelement ist das kapitalisierte Akronym AI in englischer Sprache. Eine Wiedergabe in der Landessprache als KI ist nur zulaessig, soweit die Verwendung des Englischen mit nationalen Sprachvorgaben unvereinbar ist, was in Deutschland regelmaessig nicht der Fall ist. Massgeblich ist damit AI, nicht KI. Die drei Icons AI Generated (fuer vollstaendig KI-generierte Inhalte), AI Modified (fuer teilweise veraenderte Inhalte) und das Basis-Icon AI liegen in vier Kontrastvarianten vor und sind ohne Quellenangabe gegenueber Kommission oder AI Office frei verwendbar.

## Ausnahmen und Ausschluesse

Die Ausnahmen sind eng auszulegen. Der Schutzzweck, Transparenz und Integritaet des Informationsoekosystems, setzt der Auslegung Grenzen.

Rein persoenliche, nicht-berufliche Nutzung nach Art. 2 Abs. 10 befreit nur die Betreiberpflichten. Der Anbieter muss den Output weiterhin nach Abs. 2 markieren. Nach den finalen Leitlinien ist selbst das private Teilen von Deepfakes in sozialen Medien durch Privatpersonen rein persoenlich und damit ausgenommen. Jede regelmaessig wirtschaftliche oder berufliche Taetigkeit ist dagegen beruflich. Beispiel: eine private Weihnachtskarte mit einem Familien-Deepfake ist ausgenommen, derselbe Deepfake im Unternehmens-Marketing ist kennzeichnungspflichtig. Persoenlichkeitsrechte, KUG, StGB und DSGVO gelten unabhaengig davon fort.

Forschung und Entwicklung nach Art. 2 Abs. 6 und 8 sind ausgeschlossen, soweit Systeme oder Outputs ausschliesslich fuer wissenschaftliche Forschung und Entwicklung bestimmt sind. Werden sie ausserhalb des Forschungskontexts eingesetzt, greift Art. 50 vollumfaenglich.

Open-Source-KI nach Art. 2 Abs. 12 ist nicht befreit. Anbieter und Betreiber von Open-Source-Systemen im Anwendungsbereich des Art. 50 bleiben zur Transparenz verpflichtet.

Keine Markierungspflicht nach Art. 50 Abs. 2 besteht bei rein assistiver Standardbearbeitung wie Grammatik-, Format-, Rausch- oder Farbkorrektur, Zuschnitt und Kompression oder wenn das System die Eingabedaten und deren Semantik nicht wesentlich veraendert. Semantische Eingriffe wie Uebersetzung, Zusammenfassung, das Hinzufuegen oder Entfernen von Objekten oder Komposit-Bilder loesen die Pflicht hingegen aus.

Industrie- und B2B-Anwendungen koennen nach Art. 50 Abs. 2 ausgenommen sein, wenn drei Voraussetzungen kumulativ erfuellt sind. Erstens muss der Output strikt technischer Natur sein. Zweitens muss er fuer einen begrenzten, vordefinierten Kreis beruflich handelnder Personen bei Anbieter und Betreiber bestimmt sein. Drittens darf keine externe Weitergabe vorgesehen sein, und dies muss technisch abgesichert sein, etwa durch Cloud-Isolation und rollenbasierte Zugriffe. Gleiches gilt fuer ephemere, sofort konsumierte Echtzeit-Inhalte, etwa in Videospielen, wenn die Nutzer um die KI-Erzeugung wissen.

Bereits tatbestandlich nicht erfasst von Abs. 2 sind kurze Folgen von Zahlen, Symbolen oder Buchstaben wie Labels, Bildunterschriften oder Alt-Texte, Quellcode einschliesslich Konfigurations- und Abfragesprachen wie SQL, YAML oder JSON sowie APIs und SDKs, Outputs, die ausschliesslich von Maschine zu Maschine kommunizieren und ohne menschliche Exposition verarbeitet werden, sowie Zwischenprodukte in geschlossenen Produktions-Workflows. Kennzeichnungspflichtig ist dort erst der finale Output.

Ein Strafverfolgungs-Privileg besteht nach Art. 50 Abs. 1, 2 und 4 fuer gesetzlich zur Aufdeckung, Verhuetung, Untersuchung oder Verfolgung von Straftaten zugelassene Systeme, bei angemessenen Garantien fuer Rechte Dritter. Oeffentlich zugaengliche Tools, mit denen Buerger Straftaten melden koennen, bleiben jedoch nach Abs. 1 hinweispflichtig.

Fuer Deepfakes als Teil evident kuenstlerischer, kreativer, satirischer, fiktionaler oder analoger Werke beschraenkt sich die Pflicht nach Art. 50 Abs. 4 Unterabsatz 1 Satz 3 auf eine Offenlegung in geeigneter Weise, ohne die Darstellung oder den Genuss des Werks zu beeintraechtigen. Vorrangig informierende oder werbliche Inhalte fallen nicht darunter. Bei Mischcharakter hat der informierende Charakter stets Vorrang. Rechte Dritter bleiben uneingeschraenkt zu wahren.

## Sanktionen

Verstoesse gegen die Transparenzpflichten des Art. 50 sind bussgeldbewehrt. Durchgesetzt wird Art. 50 primaer von den nach Art. 70 KI-VO benannten nationalen Marktueberwachungsbehoerden. Das AI Office ist zustaendig fuer KI-Systeme auf Basis hauseigener GPAI-Modelle nach Art. 75 Abs. 1 sowie fuer KI-Systeme, die in benannte sehr grosse Online-Plattformen oder Suchmaschinen integriert sind, bei den Betreiberpflichten der Absaetze 3 und 4 aber nur, wenn der GPAI-Anbieter das System selbst betreibt. Fuer EU-Organe ist der Europaeische Datenschutzbeauftragte zustaendig. Jede betroffene Person kann nach Art. 85 KI-VO Beschwerde einlegen.

Bei Verstoessen drohen Geldbussen von bis zu 15 Millionen Euro oder, bei Unternehmen, bis zu 3 Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschaeftsjahres, je nachdem, welcher Betrag hoeher ist. Fuer EU-Organe, Einrichtungen und Stellen gilt ein Rahmen von bis zu 750.000 Euro. Fuer kleine und mittlere Unternehmen einschliesslich Start-ups gilt abweichend jeweils der niedrigere der beiden Betraege. Die wirtschaftliche Tragfaehigkeit von KMU und Small Mid-Caps ist bei der Bemessung zu beruecksichtigen. Die Befolgung eines angemessenen Code of Practice kann nach Art. 99 Abs. 7 lit. e bussgeldmindernd beruecksichtigt werden. Hinzu treten zivilrechtliche Ansprueche aus UWG und BGB, datenschutzrechtliche Konsequenzen sowie gegebenenfalls strafrechtliche Folgen nach Paragraf 201a StGB.

## Uebergangsregeln

Art. 50 gilt ab dem 2. August 2026 grundsaetzlich fuer alle in Verkehr gebrachten oder in Betrieb genommenen Systeme im Anwendungsbereich. Der KI-Omnibus ist inzwischen foermlich angenommen. Er sieht eine gezielte Uebergangsregel allein fuer die Markierungs- und Detektionspflichten der Anbieter nach Art. 50 Abs. 2 vor. Generative Systeme, die vor dem 2. August 2026 bereitgestellt wurden, erhalten danach bis zum 2. Dezember 2026 Zeit zur Umsetzung. Die uebrigen Transparenzpflichten, namentlich die Deepfake-Kennzeichnung nach Art. 50 Abs. 4, bleiben hiervon unberuehrt und gelten ab dem 2. August 2026. Vor diesem Datum erzeugte und bereits verfuegbar gemachte Inhalte muessen nicht rueckwirkend gekennzeichnet werden. Texte, die vor dem Stichtag erzeugt, aber erst danach veroeffentlicht werden, sind hingegen kennzeichnungspflichtig.

## Verhaeltnis zum Digital Services Act

Die Pflichten aus Art. 50 AI Act und dem DSA gelten kumulativ. Art. 35 Abs. 1 lit. k DSA listet die Kennzeichnung manipulierter Inhalte als Risikominderungsmassnahme sehr grosser Online-Plattformen. Diese Pflicht ist sachlich weiter gefasst und an die Plattformen adressiert, waehrend sich Art. 50 Abs. 4 an die Betreiber der KI-Systeme richtet. Stellt eine Plattform Labelling-Werkzeuge bereit, koennen Betreiber diese nutzen. Unmarkierter KI-Inhalt kann rechtswidriger Inhalt im Sinne des Art. 3 lit. h DSA sein.

## Haeufige Fragen

Wer ist Betreiber im Sinne von Art. 50 Abs. 4. Betreiber nach Art. 3 Nr. 4 ist jede natuerliche oder juristische Person, die ein KI-System in eigener Verantwortung beruflich einsetzt. Eine Werbeagentur, die mit einem Bildgenerator arbeitet, oder ein Verlag, der ein KI-Sprachmodell in der Redaktion einsetzt, ist Betreiber. Einzelne Angestellte, die innerhalb der Weisungen einer juristischen Person handeln, sind keine gesonderten Betreiber. Wer Inhalte lediglich verbreitet oder weiterleitet, ohne Herrschaft ueber den Einsatz des Systems, ist kein Betreiber.

Gilt die Kennzeichnungspflicht auch fuer nur unternehmensintern verwendete KI-Bilder. Bei rein interner, nicht veroeffentlichter Verwendung kann der Anwendungsbereich der Betreiberpflicht zweifelhaft sein. Fuer bestimmte rein technische, organisationsinterne Outputs sieht Abs. 2 eine Ausnahme vor. Sobald der Inhalt extern publiziert wird, greift die Pflicht. Im Zweifel ist eine Kennzeichnung anzuraten.

Reicht ein Hinweis Mit KI erstellt im Impressum. Nein. Art. 50 Abs. 5 fordert die Bereitstellung klar und unterscheidbar spaetestens zum Zeitpunkt der ersten Interaktion oder Konfrontation. Hinweise allein im Impressum oder unter Menueebenen genuegen nicht. Die Kennzeichnung ist am oder im Inhalt selbst anzubringen.

Genuegt es, den Code of Practice zu befolgen. Die Befolgung eines von Kommission und KI-Ausschuss als angemessen bewerteten Code of Practice ist nach Art. 50 Abs. 7 ein unkomplizierter Weg, die Erfuellung der Pflichten aus Art. 50 Abs. 2, 4 und 5 nachzuweisen, und kann nach Art. 99 Abs. 7 lit. e bussgeldmindernd wirken. Nicht-Unterzeichner muessen die Einhaltung ueber andere geeignete Mittel belegen. Die Leitlinien selbst sind rechtlich unverbindlich, verbindlich auslegen kann Art. 50 nur der EuGH.

## Kanzlei und Kontakt

Anbieter dieser Seite ist Heidrich Rechtsanwaelte PartG mbB, Prinzenstrasse 3, 30159 Hannover, Telefon 0511 374 981 50, E-Mail kontakt@recht-im-internet.de. Die Kanzlei unterstuetzt Anbieter und Betreiber generativer KI-Systeme bei der Umsetzung der Kennzeichnungspflichten, von der Pflichtenanalyse ueber die Gap-Analyse gegenueber dem Code of Practice bis zur Anpassung von Nutzungsbedingungen und redaktionellen Workflows. Diese Seite stellt keine Rechtsberatung im Einzelfall dar.

Weitere Angebote der Kanzlei sind recht-im-internet.de zu IT-Recht und Datenschutz, ai-act.de zur EU-KI-Verordnung, ki-kanzlei.de zu KI-Recht und KI-Compliance sowie ecommerce-anwaelte.de zum E-Commerce-Recht.