Synthetische Bilder, Texte, Deepfakes & Co.: Die Transparenzpflichten der KI-Verordnung treffen Anbieter und Betreiber generativer Systeme gleichermaßen. Aktualisiert nach den finalen Kommissions-Leitlinien vom 20. Juli 2026 (C(2026) 5054 final) und dem als angemessen bewerteten Code of Practice „on Transparency of AI-Generated Content“ samt der drei amtlichen EU-Icons. Wer kennzeichnen muss, wie zu kennzeichnen ist und welche Sanktionen drohen.
Art. 50 der Verordnung (EU) 2024/1689 („AI Act“) bündelt sämtliche Transparenz- und Kennzeichnungspflichten der KI-Verordnung. Adressaten sind sowohl Anbieter generativer KI-Systeme (Abs. 1, 2) als auch Betreiber, die mit solchen Systemen Inhalte erzeugen oder veröffentlichen (Abs. 3, 4). Die EU-Kommission hat ihre Auslegung dieser Pflichten mit den am 20. Juli 2026 angenommenen finalen Leitlinien nach Art. 96 Abs. 1 lit. d KI-VO festgeschrieben (C(2026) 5054 final; rechtlich unverbindlich, die verbindliche Auslegung bleibt dem EuGH vorbehalten). Erw.-Gründe 132 ff. präzisieren den Schutzzweck: Schutz vor Identitätstäuschung, Desinformation, Manipulation und Betrug sowie Integrität des Informationsökosystems.
Anbieter müssen ihre Systeme so gestalten, dass natürliche Personen, die unmittelbar mit einem KI-System interagieren (z. B. Chatbots, Sprachassistenten, KI-Agenten), darüber informiert werden — es sei denn, dies ist für eine verständige Person offensichtlich. KI-Agenten müssen zusätzlich offenlegen, in wessen Auftrag sie handeln. In Risikokontexten (etwa KI-Companions, Finanz-, Rechts- oder Gesundheitsberatung) verlangen die Leitlinien wiederkehrende Hinweise.
Anbieter generativer Systeme (Audio, Bild, Video, Text) müssen Outputs maschinenlesbar markieren und zugleich als KI-erzeugt detektierbar machen. Dies sind zwei eigenständige, gleichrangige Pflichten — eine allein genügt nicht. Die technische Lösung muss wirksam, interoperabel, robust und zuverlässig sein.
Betreiber müssen die exponierten natürlichen Personen über den Betrieb des Systems informieren — unabhängig davon, ob die Erfassung in Echtzeit oder ex post erfolgt. Datenschutzrechtliche Informationspflichten treten hinzu.
Betreiber müssen Deepfake-Inhalte (Bild, Audio, Video) sowie KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse offenlegen — klar und unterscheidbar, spätestens bei Erstkontakt.
KI Bildgeneratoren erzeugen synthetische Standbilder, die von echten Fotografien oft nicht mehr unterscheidbar sind. Die Regulierungsarchitektur des AI Act adressiert dieses Risiko auf zwei Ebenen — beim Anbieter (Abs. 2) und beim Betreiber (Abs. 4).
Der Anbieter eines Bildgenerators muss jeden Output maschinenlesbar markieren und zugleich detektierbar machen. Erw.-Grund 133 nennt als Techniken:
Da nach dem Stand der Technik kein Einzelverfahren alle vier Anforderungen (wirksam, interoperabel, robust, zuverlässig) zugleich erfüllt, ist regelmäßig eine Kombination mehrerer Verfahren erforderlich.
Ein Deepfake (Art. 3 Nr. 60 KI-VO) ist KI-erzeugter oder -manipulierter Bild-, Audio- oder Videoinhalt, der (1) bestehenden (2) Personen, Objekten, Orten, Entitäten oder Ereignissen (3) erkennbar ähnelt (Erw.-Grund 134: „appreciable“) und (4) einer Person fälschlich als echt oder wahr erscheinen würde.
Auf eine Täuschungsabsicht des Betreibers kommt es nicht an. Maßgeblich ist die mögliche Zusammensetzung des Publikums — nicht eine hypothetische „Durchschnittsperson“ (anders als bei Abs. 1). Unrealistische Inhalte (etwa ein Drache oder eine Sphinx über dem Eiffelturm) sind keine Deepfakes.
Die Offenlegung muss für natürliche Personen unmittelbar wahrnehmbar sein (sichtbares oder hörbares Label), ohne dass sie eigene technische Werkzeuge einsetzen oder gesonderte Handlungen vornehmen müssten. Nach Measure 1.2 des Code of Practice ist das Label deutlich kontrastiert am oder im Bild anzubringen und soll bei Weiterverbreitung möglichst erhalten bleiben. In komplexen Produktions- und Vertriebsketten hat der Betreiber durch verhältnismäßige Vorkehrungen (vertragliche Vorgaben, UX-Einstellungen) sicherzustellen, dass das Label beim Erstkontakt des Zielpublikums sichtbar bleibt.
Die Kennzeichnungspflicht steht neben — nicht statt — weiterer Anforderungen: §§ 22, 23 KUG, § 201a StGB, Art. 6, 9 DSGVO bei biometrischen Daten, § 14 UrhG, §§ 823 ff. BGB i. V. m. Art. 1, 2 GG (APR). Auch ein gekennzeichneter Deepfake bleibt rechtswidrig, wenn er Persönlichkeits-, Urheber- oder Markenrechte verletzt; nach den Leitlinien kann unmarkierter KI-Inhalt zugleich „rechtswidriger Inhalt“ i. S. d. Art. 3 lit. h DSA sein.
Art. 50 Abs. 4 UAbs. 2 AI Act fordert die Offenlegung KI-generierter oder manipulierter Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden. Die Leitlinien konkretisieren den Tatbestand anhand dreier Merkmale.
Erfasst ist Text, der kumulativ (1) veröffentlicht ist — zugänglich für eine unbestimmte, hinreichend große Zahl von Personen (nicht: private oder organisationsinterne Korrespondenz); (2) die Öffentlichkeit informieren soll (Wissen, Meinungen, Fakten — nicht: reine Unterhaltung); und (3) Angelegenheiten von öffentlichem Interesse betrifft: Politik und demokratische Prozesse, Verwaltung, Justiz und Strafverfolgung, Grundrechte, öffentliche Sicherheit und Gesundheit, Umwelt, Verbraucherschutz sowie wirtschaftliche, finanzielle, politische, wissenschaftliche oder kulturelle Entwicklungen von Belang.
Die Pflicht entfällt nur, wenn kumulativ (i) der Text einer substanziellen menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurde — bloße Rechtschreib-/Grammatikprüfung oder pauschale Freigabe genügen nicht — und (ii) eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Deren Identität und Kontaktdaten sind an leicht auffindbarer Stelle offenzulegen (Impressum/Colophon). Der Begriff ist im Lichte des Art. 2 Nr. 8 EMFA auszulegen. Erfolgt nach der redaktionellen Freigabe noch ein substanzieller KI-Eingriff, entfällt die Ausnahme.
Die Offenlegung muss klar und unterscheidbar sein — nicht in Handbüchern oder unter Menüebenen versteckt. Wird nur ein Teil des Textes KI-generiert (z. B. ein KI-Abstract), genügt die Kennzeichnung dieses Teils. Für Kurzformate lassen die Vorgaben kontextuelle Hinweise auf Seiten- oder Sitzungsebene zu.
Die Kennzeichnungspflicht berührt die Mediengrundrechte aus Art. 5 Abs. 1 GG und Art. 11 GRCh nicht: Sie betrifft nicht den Inhalt, sondern allein die Transparenz über die Erstellungsmodalität. Der EMFA (Verordnung (EU) 2024/1083) und die AVMD-Richtlinie bleiben unberührt; Quellenschutz und redaktionelle Unabhängigkeit sind gewahrt.
Für audiovisuelle Deepfake-Inhalte gelten die Regelungen des Art. 50 Abs. 4 AI Act. Video umfasst dabei auch zeitbasierte Bildsequenzen sowie VR-/AR-Inhalte; bei Video mit Tonspur sind Bild- und Audioinhalt zu markieren und detektierbar zu halten. Der Code of Practice sieht aufgrund der zeitlichen Dimension differenzierte Anforderungen vor.
Bei Echtzeit-Streams ist das Label durchgängig sichtbar oder zu Beginn und in regelmäßigen Intervallen einzublenden — auch, weil Zuschauer erst nach Beginn einsteigen können. Bei aufgezeichneten Videos genügen Hinweise zu Beginn, an Schlüsselstellen und im Verlauf; Kurzvideos sind durchgehend zu kennzeichnen. Eine Kennzeichnung allein im Abspann genügt nicht (Art. 50 Abs. 5).
Kurze Audio-Inhalte benötigen einen hörbaren Disclaimer am Anfang. Längere Formate (KI-Podcasts, synthetische Anrufe, Radio-Beiträge) erfordern wiederholte Hinweise. Wird das Audio über ein Display ausgespielt, ist zusätzlich ein visuelles Label vorzusehen.
Zwei Instrumente konkretisieren Art. 50 — beide liegen nunmehr final vor. Die Kommission hat ihre Leitlinien (Art. 96 Abs. 1 lit. d KI-VO) am 20. Juli 2026 angenommen (C(2026) 5054 final) und flankierend eine amtliche FAQ veröffentlicht. Der über das AI Office koordinierte Code of Practice „on Transparency of AI-Generated Content“ (final seit 10. Juni 2026) ist von Kommission und KI-Ausschuss als angemessen bewertet worden. Beide Instrumente adressieren Anbieter- wie Betreiberpflichten. Die abschließende Auslegung des Art. 50 bleibt dem EuGH vorbehalten.
Am 20. Juli 2026 final angenommen (C(2026) 5054 final) — rechtzeitig vor dem Geltungsbeginn. Praktische Auslegungshilfe für zuständige Behörden, Anbieter und Betreiber mit zahlreichen Anwendungsbeispielen zu allen vier Absätzen, hervorgegangen aus Stakeholder-Konsultation, öffentlicher Konsultation des Entwurfs und Beiträgen der Mitgliedstaaten im KI-Ausschuss. Flankierend hat die Kommission eine FAQ zu Art. 50 veröffentlicht. Die Leitlinien bleiben rechtlich unverbindlich und werden nach Maßgabe der Vollzugspraxis überprüft. Verbindliche Auslegung allein durch den EuGH.
Am 10. Juni 2026 final veröffentlicht und von Kommission und KI-Ausschuss als angemessen bewertet (Art. 50 Abs. 7 KI-VO) — damit der einzige unionsweit anerkannte praktische Rahmen zum Nachweis der Pflichten aus Art. 50 Abs. 2, 4 und 5, unabhängig von Niederlassungsort und zuständiger Behörde. Der Kodex gliedert sich in zwei Abschnitte, einen für Anbieter generativer Systeme (Abschnitt 1, Art. 50 Abs. 2 und 5) und einen für Betreiber (Abschnitt 2, Art. 50 Abs. 4 und 5). Die Befolgung kann nach Art. 99 Abs. 7 lit. e bußgeldmindernd wirken; ein Opt-out aus einzelnen Abschnitten lässt die Nachweiserleichterung insoweit entfallen. Der Beitritt erfolgt über ein Signatory Form gegenüber dem AI Office. Nicht-Unterzeichner müssen die Einhaltung über andere geeignete Mittel belegen (z. B. Gap-Analyse gegenüber dem Kodex) und haben mit detaillierteren Auskunfts- und Zugangsersuchen der Aufsicht zu rechnen.
Mit dem finalen Code of Practice (10. Juni 2026) stehen die in Anhang I bereitgestellten EU-Icons nunmehr fest. Ihre Gestaltung wurde in mehreren Mitgliedstaaten empirisch nutzergetestet. Varianten mit erläuterndem Textzusatz schnitten in Wahrnehmbarkeit und Klarheit deutlich besser ab. Der Kodex stellt daher drei Icons bereit, frei verwendbar ohne Quellenangabe gegenüber Kommission oder AI Office.
Zwingendes Hauptelement ist das kapitalisierte Akronym „AI“ in englischer Sprache. Eine Wiedergabe in der Landessprache (etwa „KI“) ist nur zulässig, soweit die Verwendung des Englischen mit nationalen Sprachvorgaben für den geschäftlichen oder behördlichen Verkehr unvereinbar ist, was in Deutschland regelmäßig nicht der Fall ist. Maßgeblich ist damit „AI“, nicht „KI“.
Der Zusatz zur Art der KI-Beteiligung ist eine empfohlene, nicht zwingende Ergänzung. Die fertigen Icons (Figur 1, 2) setzen ihn bereits um. Größe, Kontrast, Farbe und Typografie dürfen variieren, solange das Label klar, zugänglich und unterscheidbar bleibt. Das Basis-Icon kann um einen interaktiven Second Layer mit Provenance-Informationen erweitert werden.
Der AI Act und Art. 50 sehen begrenzte Ausschlüsse und Ausnahmen vor. Sie sind eng auszulegen; der Schutzzweck — Transparenz und Integrität des Informationsökosystems — setzt der Auslegung Grenzen. Die Leitlinien systematisieren drei Ebenen.
Befreit nur die Betreiberpflichten — der Anbieter muss den Output weiterhin nach Abs. 2 markieren. „Beruflich“ ist jede Tätigkeit mit regelmäßigem wirtschaftlichem Nutzen oder geschäftlichem, gewerblichem oder freiberuflichem Bezug. Nach den finalen Leitlinien bleibt selbst das private Teilen von Deepfakes in sozialen Medien „rein persönlich“ — Persönlichkeitsrechte, KUG, StGB und DSGVO gelten unabhängig davon fort. Beispiel: private Weihnachtskarte mit Familien-Deepfake = ausgenommen; derselbe Deepfake im Unternehmens-Marketing = kennzeichnungspflichtig.
Ausgeschlossen sind Systeme/Outputs, die ausschließlich für wissenschaftliche Forschung und Entwicklung bestimmt sind, sowie Forschungs-, Test- und Entwicklungstätigkeiten vor der Marktbereitstellung. Werden die Systeme oder ihre Outputs außerhalb des Forschungskontexts eingesetzt, greift Art. 50 vollumfänglich.
Eine Freigabe unter freier und Open-Source-Lizenz befreit nicht von Art. 50: Anbieter und Betreiber von Open-Source-Systemen, die in den Anwendungsbereich des Art. 50 fallen, bleiben zur Transparenz verpflichtet.
Keine Markierungspflicht bei rein assistiver Standardbearbeitung (Grammatik-/Format-/Rausch-/Farbkorrektur, Zuschnitt, Kompression) oder wenn das System die Eingabedaten bzw. deren Semantik nicht wesentlich verändert. Semantische Eingriffe — Übersetzung, Zusammenfassung, Hinzufügen/Entfernen von Objekten, starke Farb-/Kontrasteingriffe, Komposit-Bilder — lösen die Pflicht hingegen aus.
Rein technische, organisationsintern verbleibende Outputs sind ausgenommen, wenn kumulativ (i) der Output strikt technischer Natur ist, (ii) ihn nur ein begrenzter, vordefinierter Kreis beruflich handelnder Personen bei Anbieter und Betreiber wahrnimmt und (iii) keine externe Weitergabe vorgesehen und diese durch Vorkehrungen (Cloud-Isolation, rollenbasierte Zugriffe) abgesichert ist. Gleiches gilt für ephemere, sofort konsumierte Echtzeit-Inhalte (z. B. in Videospielen), wenn eine Markierung technisch nicht machbar ist und die Nutzer um die KI-Erzeugung wissen.
Gesetzlich zur Aufdeckung, Verhütung, Untersuchung oder Verfolgung von Straftaten zugelassene Systeme sind ausgenommen — bei angemessenen Garantien für Rechte Dritter. Öffentlich zugängliche Tools, mit denen Bürger Straftaten melden können, bleiben jedoch nach Abs. 1 hinweispflichtig.
Ist ein Deepfake Teil eines evident künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks, beschränkt sich die Pflicht auf eine Offenlegung „in geeigneter Weise, ohne die Darstellung oder den Genuss des Werks zu beeinträchtigen“. Die Zugehörigkeit zu einer der fünf Kategorien ist einzelfallbezogen und muss offensichtlich sein; ausschließlich informierende oder werbliche Inhalte fallen nicht darunter, und bei Mischcharakter (informierend und kreativ) hat der informierende Charakter nach den Leitlinien stets Vorrang — es gilt dann die reguläre Kennzeichnungspflicht. Rechte Dritter (Bild-, Urheber-, Persönlichkeitsrechte) bleiben uneingeschränkt zu wahren.
Für KI-generierte Texte zu öffentlichem Interesse entfällt die Kennzeichnungspflicht bei substanzieller menschlicher Prüfung/redaktioneller Kontrolle und Übernahme der redaktionellen Verantwortung durch eine identifizierbare natürliche oder juristische Person (vgl. Abschnitt 03). Bloß formale Prüfungen genügen nicht.
Verstöße gegen die Transparenzpflichten des Art. 50 AI Act sind bußgeldbewehrt. Durchgesetzt wird Art. 50 primär von den nach Art. 70 KI-VO benannten nationalen Marktüberwachungsbehörden. Das AI Office ist zuständig für KI-Systeme auf Basis hauseigener GPAI-Modelle (Art. 75 Abs. 1) sowie für KI-Systeme, die in benannte VLOPs oder VLOSEs integriert sind — bei den Betreiberpflichten der Abs. 3 und 4 aber nur, wenn der GPAI-Anbieter das System selbst betreibt. Für EU-Organe ist der EDSB zuständig. Jede betroffene Person kann nach Art. 85 KI-VO Beschwerde einlegen.
Die Befolgung eines angemessenen Code of Practice kann nach Art. 99 Abs. 7 lit. e bußgeldmindernd berücksichtigt werden. Hinzu treten zivilrechtliche Ansprüche (UWG, BGB), datenschutzrechtliche Konsequenzen sowie ggf. strafrechtliche Folgen (§ 201a StGB).
Bei Verstößen gegen die Transparenzpflichten des Art. 50 AI Act drohen Geldbußen von bis zu 15 Mio. Euro oder — bei Unternehmen — bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist. Für EU-Organe, -Einrichtungen und -Stellen gilt ein Rahmen von bis zu 750.000 Euro. Für KMU einschließlich Start-ups gilt abweichend jeweils der niedrigere der beiden Beträge; die wirtschaftliche Tragfähigkeit von KMU und Small Mid-Caps (SMCs) ist bei der Bemessung zu berücksichtigen.
Antworten auf die häufigsten Fragen von Anbietern und Betreibern generativer KI-Systeme — auf Basis der finalen Kommissions-Leitlinien zu Art. 50 vom 20. Juli 2026 und der amtlichen FAQ der Kommission. Sie ersetzen keine Beratung im Einzelfall.
Betreiber (Art. 3 Nr. 4 AI Act) ist jede natürliche oder juristische Person, die ein KI-System in eigener Verantwortung beruflich einsetzt. Eine Werbeagentur, die mit Midjourney KI-Bilder erstellt, oder ein Verlag, der ChatGPT in der Redaktion einsetzt, ist Betreiber. Einzelne Angestellte, die innerhalb der Weisungen einer juristischen Person handeln (z. B. Journalisten, Mediengestalter), sind keine gesonderten Betreiber; die juristische Person bleibt Betreiber auch beim Einsatz von Freelancern oder Dienstleistern. Wer Inhalte lediglich verbreitet oder weiterleitet (auch Online-Plattformen), ohne Herrschaft über den Einsatz des Systems, ist kein Betreiber.
Die finalen Leitlinien schaffen hier Klarheit. Für die Betreiberpflicht aus Art. 50 Abs. 4 gilt: Deepfakes setzen die Exposition natürlicher Personen voraus, KI-Texte sind nur bei „Veröffentlichung“ erfasst — organisationsinterne Inhalte (Intranet, Pitch-Deck) sind es nicht. Für die Anbieterpflicht aus Abs. 2 sind rein technische Industrie- und B2B-Outputs ausgenommen, wenn kumulativ (i) der Output strikt technischer Natur ist, (ii) ihn nur ein begrenzter, vordefinierter Kreis beruflich handelnder Personen wahrnimmt und (iii) keine externe Weitergabe vorgesehen und abgesichert ist. Sobald der Inhalt extern publiziert oder gegenüber Dritten verwendet wird, greifen die Pflichten. Im Zweifel ist eine Kennzeichnung anzuraten.
Der Begriff ist autonom unionsrechtlich auszulegen und erfasst Themen, die für die Gesellschaft auf lokaler, nationaler, europäischer oder internationaler Ebene relevant und debattenwürdig sind — etwa öffentliche Verwaltung und Dienste, Grundrechte (einschließlich Justiz und Strafverfolgung), öffentliche Gesundheit, Umweltschutz, Verbrauchersicherheit sowie wirtschaftliche, politische, wissenschaftliche oder kulturelle Entwicklungen von Belang. Die Aufzählung ist nicht abschließend. Reine Unterhaltung sowie Service- oder Werbetexte ohne Informationsanspruch fallen regelmäßig nicht darunter.
Nein. Art. 50 Abs. 5 AI Act fordert die Bereitstellung „klar und unterscheidbar spätestens zum Zeitpunkt der ersten Interaktion oder Konfrontation“. Hinweise allein im Impressum, in Handbüchern oder unter Menüebenen genügen nach den Leitlinien nicht; ebenso wenig eine Offenlegung erst am Ende (Abspann, Ende der Interaktion). Die Kennzeichnung ist am oder im Inhalt selbst anzubringen.
Die Kommission hat die Leitlinien zu Art. 50 am 20. Juli 2026 angenommen (C(2026) 5054 final) und zeitgleich eine amtliche FAQ veröffentlicht. Die Leitlinien präzisieren mit zahlreichen Beispielen u. a. die kumulativen Merkmale des Deepfake-Begriffs, die eng auszulegende Offensichtlichkeits-Ausnahme bei Chatbots und KI-Agenten, die Ausnahmen des Abs. 2 (Standardbearbeitung, Industrie- und B2B-Outputs, ephemere Echtzeit-Inhalte) sowie die Anforderungen an menschliche Prüfung, redaktionelle Kontrolle und redaktionelle Verantwortung bei KI-Texten. Sie sind rechtlich unverbindlich und sollen nach Maßgabe der Vollzugspraxis überprüft werden; die verbindliche Auslegung bleibt dem EuGH vorbehalten.
Für die Pflichten aus Art. 50 Abs. 2, 4 und 5: ja. Der Code of Practice ist von Kommission und KI-Ausschuss als angemessen bewertet worden (Art. 50 Abs. 7 AI Act) und damit der einzige unionsweit anerkannte praktische Rahmen für den Compliance-Nachweis — unabhängig von Niederlassungsort und zuständiger Behörde. Die Befolgung kann nach Art. 99 Abs. 7 lit. e bußgeldmindernd wirken; ein Opt-out aus einzelnen Abschnitten lässt die Nachweiserleichterung insoweit entfallen. Nicht-Unterzeichner müssen die Einhaltung über andere geeignete Mittel belegen — etwa durch eine Gap-Analyse gegenüber dem Kodex — und müssen mit detaillierteren Auskunfts- und Zugangsersuchen der Behörden rechnen. Für Abs. 1 und 3 gibt es keinen Kodex; hier wählen Anbieter und Betreiber geeignete Maßnahmen selbst, unter Berücksichtigung der finalen Leitlinien.
Art. 50 gilt ab dem 2. August 2026 für alle in Verkehr gebrachten oder in Betrieb genommenen Systeme im Anwendungsbereich. Der inzwischen förmlich angenommene KI-Omnibus (Änderungsverordnung zum AI Act, Teil des Digital-Omnibus-Pakets) enthält eine gezielte Übergangsregel allein für die Markierungs- und Detektionspflichten der Anbieter nach Art. 50 Abs. 2: Generative Systeme, die vor dem 2.8.2026 bereitgestellt wurden, sind bis zum 2. Dezember 2026 in Konformität zu bringen. Teils interaktive, teils generative Systeme profitieren nur hinsichtlich der Markierungspflicht — die Hinweispflicht nach Abs. 1 gilt für sie ab dem 2.8.2026. Auch die Deepfake-Kennzeichnung nach Abs. 4 bleibt unberührt. Vor dem 2.8.2026 erzeugte und bereits verfügbar gemachte Inhalte müssen nicht rückwirkend gekennzeichnet werden; wird ein zuvor erzeugter Text jedoch erst ab diesem Stichtag veröffentlicht, ist er zu kennzeichnen. Die freiwillige Kennzeichnung von Altinhalten wird empfohlen.
Die Pflichten gelten kumulativ. Art. 35 Abs. 1 lit. k DSA listet die Kennzeichnung manipulierter Inhalte als Risikominderungsmaßnahme sehr großer Online-Plattformen (VLOPs) auf — sachlich weiter gefasst und an die Plattformen adressiert; Art. 50 Abs. 4 AI Act richtet sich an die Betreiber der KI-Systeme. Stellt eine Plattform Labelling-Werkzeuge bereit, können Betreiber diese zur Erfüllung ihrer Pflicht nutzen. Nach den Leitlinien kann zudem unmarkierter KI-Inhalt „rechtswidriger Inhalt“ i. S. d. Art. 3 lit. h DSA sein.
Der Code of Practice verpflichtet Anbieter, ihre Markierung robust gegen Manipulation zu gestalten. Wird sie dennoch entfernt, können sich Ansprüche aus § 95a UrhG (analog), aus Wettbewerbsrecht (UWG) sowie aus den Nutzungsbedingungen ergeben. Die Pflicht des Betreibers zur Offenlegung nach Art. 50 Abs. 4 AI Act bleibt unberührt; unmarkierter oder nicht offengelegter KI-Inhalt kann überdies als rechtswidriger Inhalt i. S. d. DSA gelten.
Wir unterstützen Anbieter und Betreiber generativer KI-Systeme bei der Umsetzung der Kennzeichnungspflichten — von der Pflichtenanalyse über die Gap-Analyse gegenüber dem Code of Practice bis zur Anpassung von Nutzungsbedingungen und redaktionellen Workflows.
