EU-KI-Verordnung Art. 50 (VO 2024/1689) – Transparenz- und Kennzeichnungspflicht für Chatbots, Deepfakes und KI-Inhalte seit 02.08.2026 In Kraft

Kernfakten

Geltungsbereich

Art. 50 gilt unmittelbar in allen EU-Mitgliedstaaten — als Verordnung braucht er kein deutsches Umsetzungsgesetz. Er wirkt extraterritorial (Art. 2 Abs. 1 AI Act): erfasst sind auch Anbieter aus Drittstaaten, deren KI-System in der EU in Verkehr gebracht oder verwendet wird.

Anders als die Hochrisiko-Vorschriften ist Art. 50 nicht risikoklassenabhängig: Die Pflichten treffen jedes KI-System mit den genannten Funktionen — auch solche mit minimalem Risiko. Ein einfacher Kundenservice-Chatbot einer Handwerkerwebsite fällt genauso darunter wie ein großes Sprachmodell.

Nicht erfasst sind laut Verordnungstext:

• KI-Systeme, die gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassen sind (mit Schutzvorkehrungen)
• Fälle, in denen die KI-Interaktion aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich ist (Abs. 1)
• KI-Systeme, die lediglich eine unterstützende Funktion für die Standardbearbeitung ausführen oder die Eingabedaten bzw. deren Semantik nicht wesentlich verändern (Abs. 2) — z. B. Rechtschreibkorrektur, Rauschfilter

Die vier Pflichten im Einzelnen

Abs. 1 – Offenlegung der KI-Interaktion (Anbieter)

Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert sind, dass die Personen informiert werden, dass sie mit einem KI-System interagieren. Ausnahme: Es ist aufgrund von Umständen und Kontext offensichtlich.

Praxis: Ein sichtbarer Hinweis „Sie chatten mit einem KI-Assistenten" beim Öffnen des Chatfensters. Der Hinweis muss vor oder bei der ersten Interaktion erscheinen (Abs. 5) — nicht erst im Impressum oder in den AGB.

Abs. 2 – Maschinenlesbare Markierung synthetischer Inhalte (Anbieter)

Anbieter von KI-Systemen, einschließlich GPAI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.

Die technischen Lösungen müssen — soweit technisch möglich — „wirksam, interoperabel, belastbar und zuverlässig" sein; zu berücksichtigen sind Umsetzungskosten und der allgemein anerkannte Stand der Technik. In der Praxis: C2PA-Content-Credentials, unsichtbare Wasserzeichen, Metadaten-Signaturen.

Übergangsfrist: Für generative Systeme, die vor dem 02.08.2026 in Verkehr gebracht wurden, muss Art. 50 Abs. 2 erst bis zum 02.12.2026 erfüllt sein (Art. 111 Abs. 4 AI Act, eingefügt durch VO (EU) 2026/1744). Für nach dem 02.08.2026 in Verkehr gebrachte Systeme gilt die Pflicht sofort.

Abs. 3 – Emotionserkennung und biometrische Kategorisierung (Betreiber)

Betreiber müssen betroffene natürliche Personen über den Betrieb des Systems informieren und personenbezogene Daten nach DSGVO (VO 2016/679), VO 2018/1725 und RL 2016/680 verarbeiten. Achtung: Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist nach Art. 5 Abs. 1 Buchst. f AI Act ohnehin verboten — Abs. 3 greift nur außerhalb dieser Verbotszone.

Abs. 4 – Deepfakes und KI-Texte zu öffentlichem Interesse (Betreiber)

Deepfakes (Art. 3 Nr. 60: „einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde") müssen vom Betreiber offengelegt werden.

Kunstprivileg: Ist der Inhalt Teil eines „offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms", beschränkt sich die Pflicht darauf, das Vorhandensein solcher Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt — also z. B. Abspann statt Dauereinblendung.

KI-Texte: Betreiber, die KI-erzeugten oder -manipulierten Text veröffentlichen, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen dies offenlegen. Redaktions-Ausnahme: Die Pflicht entfällt, wenn der Inhalt einem menschlichen Überprüfungs- oder redaktionellen Kontrollverfahren unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Freiwilliger Praxisleitfaden und EU-Icons

Nach Art. 50 Abs. 7 AI Act fördert die Kommission Praxisleitfäden zur Umsetzung. Die Kommission hat am 10.06.2026 den finalen Code of Practice on marking and labelling of AI-generated content veröffentlicht. Er ist freiwillig und deckt Art. 50 Abs. 2, 4 und 5 ab. Ergänzend stellt die Kommission EU-Icons zur Kennzeichnung KI-generierter Inhalte frei zur Verfügung.

Die VO (EU) 2026/1744 hat Art. 50 Abs. 7 neu gefasst: Die Kommission prüft künftig — unter weitestgehender Berücksichtigung der Stellungnahme des KI-Gremiums — die Angemessenheit der Praxisleitfäden; die Befugnis, Praxisleitfäden per Durchführungsrechtsakt förmlich zu genehmigen, wurde gestrichen. Hält die Kommission einen Leitfaden für unangemessen, kann sie weiterhin gemeinsame Vorschriften per Durchführungsrechtsakt erlassen. Die Erwägungsgründe stellen klar: Die Praxisleitfäden begründen keine Konformitätsvermutung.

Sanktionen und Durchsetzung in Deutschland

EU-Rahmen: Art. 99 Abs. 4 AI Act sieht für Verstöße gegen die dort aufgelisteten Bestimmungen — darunter unter Buchst. g die Transparenzpflichten nach Art. 50 — Geldbußen von bis zu 15.000.000 € oder, bei Unternehmen, bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor, je nachdem, welcher Betrag höher ist. Für KMU einschließlich Start-ups kehrt sich das um: Nach Art. 99 Abs. 6 ist jede Geldbuße auf den niedrigeren der beiden Werte begrenzt. Ergänzend sind nach Art. 99 Abs. 1 die Interessen von KMU und ihr wirtschaftliches Überleben zu berücksichtigen.

Zuständigkeit in Deutschland (KI-MIG, in Kraft seit 29.07.2026):

• Bundesnetzagentur – zentrale Marktüberwachungsbehörde (§ 2 Abs. 1 KI-MIG), zentrale Anlaufstelle (§ 6) und zentrale Beschwerdestelle (§ 8)
• BaFin – für KI-Systeme im direkten Zusammenhang mit regulierter Finanztätigkeit (§ 2 Abs. 3 KI-MIG)
• Produktbezogene Marktüberwachungsbehörden – für KI in Produkten nach Anhang I Abschnitt A (§ 2 Abs. 2 KI-MIG)
• Koordinierungs- und Kompetenzzentrum für die Durchführung der VO (EU) 2024/1689 (§ 5 KI-MIG)

Offene Punkte (Stand 10.09.2026)

⚠️ Bußgeldbewehrung von Art. 50 in Deutschland ist derzeit nicht eindeutig. Der nationale Bußgeldkatalog in § 15 KI-MIG nennt ausschließlich Verstöße gegen Art. 21, Art. 27, Art. 45 und Art. 86 AI Act und deckelt diese bei 50.000 €. Art. 50 ist dort nicht aufgeführt. Wie der EU-Rahmen des Art. 99 Abs. 4 (15 Mio. € / 3 %) für Art.-50-Verstöße in Deutschland verfahrensrechtlich durchgesetzt wird, ist zum Redaktionsschluss nicht abschließend geklärt. Unternehmen sollten sich nicht darauf verlassen, dass Verstöße folgenlos bleiben: Marktüberwachungsmaßnahmen nach § 11 KI-MIG (Anordnungen, Untersagungen, Rücknahmen) greifen unabhängig vom Bußgeld, und wettbewerbsrechtliche Abmahnungen (UWG) sowie DSGVO-Ansprüche kommen parallel in Betracht. Dieser Punkt wird bei der nächsten Prüfung nachgezogen.

Häufige Fehler

• „Art. 50 wurde durch den Digital Omnibus verschoben." Falsch. Die VO (EU) 2026/1744 verschiebt die Hochrisiko-Pflichten (Anhang III → 02.12.2027, Anhang I → 02.08.2028), nicht Art. 50. Verschoben wurde ausschließlich Art. 50 Abs. 2 für Bestandssysteme auf den 02.12.2026.
• „Der Hinweis im Impressum reicht." Falsch. Art. 50 Abs. 5 verlangt die Information spätestens zum Zeitpunkt der ersten Interaktion, klar und eindeutig und barrierefrei.
• „Als Nutzer von ChatGPT/Midjourney treffen mich keine Pflichten." Falsch. Abs. 4 richtet sich an den Betreiber (Deployer) — also an den, der den Deepfake erzeugt oder manipuliert und verwendet, nicht an den Modellanbieter. Wer ein KI-Video eines echten Menschen postet, ist selbst kennzeichnungspflichtig.
• „Wir nutzen KI nur intern, also gilt Art. 50 nicht." Differenziert. Abs. 1 knüpft an direkte Interaktion mit natürlichen Personen an — auch Beschäftigte sind natürliche Personen. Bei Emotionserkennung am Arbeitsplatz greift zudem das Verbot aus Art. 5.
• „Ein sichtbares Wasserzeichen erfüllt Abs. 2." Nicht zwingend. Abs. 2 verlangt eine maschinenlesbare Kennzeichnung — ein aufgedruckter Text allein genügt nicht. Sichtbare Kennzeichnung adressiert Abs. 4, maschinenlesbare Markierung adressiert Abs. 2.
• „Journalistische KI-Texte müssen immer gekennzeichnet werden." Nicht, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und eine Person die redaktionelle Verantwortung trägt (Abs. 4 UAbs. 2).
• „Der Code of Practice ist verpflichtend." Nein. Er ist freiwillig und begründet nach den Erwägungsgründen der VO (EU) 2026/1744 keine Konformitätsvermutung. Er ist ein Auslegungshilfsmittel, kein Safe Harbour.
• „Satire ist komplett ausgenommen." Falsch. Das Kunst-/Satireprivileg reduziert nur die Art und Weise der Offenlegung — offengelegt werden muss trotzdem.

Änderungsverlauf

• 2026-09-10: Faktencheck und Freigabe. Kernfakten gegen Primärquellen bestätigt: Geltungsbeginn Art. 50 am 02.08.2026 (Art. 113 AI Act); VO (EU) 2026/1744 (Digital-Omnibus zur KI) vom 08.07.2026, ABl. L 2026/1744 vom 24.07.2026, in Kraft 27.07.2026; Übergangsfrist 02.12.2026 nach Art. 111 Abs. 4 AI Act n. F. ausschließlich für Art. 50 Abs. 2 und ausschließlich für vor dem 02.08.2026 in Verkehr gebrachte generative Systeme; Sanktionsrahmen 15 Mio. EUR bzw. 3 % nach Art. 99 Abs. 4 Buchst. g; § 15 KI-MIG erfasst Art. 21, 27, 45 und 86 mit Deckel 50.000 EUR und nennt Art. 50 nicht; Code of Practice on Transparency of AI-generated Content im Juni 2026 veröffentlicht und freiwillig. Eine Korrektur vorgenommen: Die Sanktionsdarstellung nannte für KMU und Start-ups nur die Berücksichtigungspflicht nach Art. 99 Abs. 1 und ließ die eigentliche Rechtsfolge aus – nach Art. 99 Abs. 6 ist die Geldbuße bei KMU einschließlich Start-ups auf den niedrigeren der beiden Werte begrenzt, nicht auf den höheren. Zeile in den Kernfakten ergänzt und Abschnitt „Sanktionen und Durchsetzung" berichtigt. Der verbleibende offene Punkt (verfahrensrechtliche Durchsetzung des Art.-99-Rahmens für Art.-50-Verstöße in Deutschland, weil § 15 KI-MIG Art. 50 nicht listet) ist kein Freigabehindernis: Er ist auf der Seite als offener Punkt ausgewiesen und behauptet keine Rechtslage, die sich als falsch erweisen könnte. Gleiche Behandlung wie bei dsgvo-art-22-automatisierte-entscheidung-schufa. Neu bewerten, sobald der nationale Bußgeldkatalog um Art. 50 ergänzt wird. | change_type=factcheck field="factcheck_status" old="review_proposed" new="ok" reviewed_by="Nexvyra-Faktenchecker (Freigabepruefung 10.09.2026)"
• 2026-09-09: Erstveröffentlichung. Art. 50 AI Act anwendbar seit 02.08.2026; Übergangsfrist 02.12.2026 für Bestandssysteme nach Art. 111 Abs. 4 AI Act i. d. F. der VO (EU) 2026/1744; Sanktionsrahmen 15 Mio. € / 3 % nach Art. 99 Abs. 4 Buchst. g; nationale Zuständigkeit Bundesnetzagentur nach § 2 KI-MIG. factcheck_status=review_needed wegen offener Frage zur nationalen Bußgeldbewehrung von Art. 50 (§ 15 KI-MIG listet Art. 50 nicht). | change_type=initial_publication field="topic_lifecycle" new="published" reviewed_by="Andreas Warkentin"

Siehe auch

• [EU-KI-Verordnung (AI Act) – Fristen 2026, Hochrisiko-Systeme, Sanktionen](/fakten/eu-ki-verordnung-2024-1689-hochrisiko.html)
• [DSGVO Art. 22 – Automatisierte Entscheidungen und Scoring](/fakten/dsgvo-art-22-automatisierte-entscheidung-schufa.html)
• [DSGVO Art. 13/14 – Informationspflichten und Datenschutzerklärung](/fakten/dsgvo-informationspflichten-art-13-14.html)

Stand

• Stand: 2026-09-10
• Gültig ab: 2026-08-02 (Geltungsbeginn Art. 50 AI Act)
• Status: aktuell
• Quellenautorität: A (EUR-Lex, EU-Kommission, gesetze-im-internet.de)
• Lizenz: CC BY 4.0

Quellen

• Verordnung (EU) 2024/1689 (AI Act), Art. 50 – EUR-Lex: https://eur-lex.europa.eu/eli/reg/2024/1689/oj A
• Verordnung (EU) 2024/1689, Volltext DE (CELEX): https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689 A
• Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI) vom 08.07.2026 – EUR-Lex: https://eur-lex.europa.eu/eli/reg/2026/1744/oj A
• EU-Kommission – Code of Practice on marking and labelling of AI-generated content (10.06.2026): https://digital-strategy.ec.europa.eu/en/news/commission-publishes-code-practice-marking-and-labelling-ai-generated-content A
• EU-Kommission – Code of Practice on Transparency of AI-generated Content (Policy-Seite): https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content A
• EU-Kommission – EU Icons for labelling AI-generated content: https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content A
• EU-Kommission – Quick Facts: Transparency rules for AI systems: https://digital-strategy.ec.europa.eu/en/factpages/quick-facts-transparency-rules-ai-systems A
• EU-Kommission – Pressemitteilung IP/26/1328: https://ec.europa.eu/commission/presscorner/detail/en/ip_26_1328 A
• EU AI Office: https://digital-strategy.ec.europa.eu/en/policies/ai-office A
• KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) – gesetze-im-internet.de: https://www.gesetze-im-internet.de/ki-mig/ A
• § 2 KI-MIG (Zuständige Marktüberwachungsbehörden): https://www.gesetze-im-internet.de/ki-mig/__2.html A
• § 15 KI-MIG (Bußgeldvorschriften): https://www.gesetze-im-internet.de/ki-mig/__15.html A
• Bundesnetzagentur – Umsetzung der KI-Verordnung: https://www.bundesnetzagentur.de/1112336 A