EU-KI-Verordnung Art. 5 (VO 2024/1689) – Verbotene KI-Praktiken seit 02.02.2025, Bußgeld bis 35 Mio. EUR oder 7 % In Kraft

Kernfakten

Geltungsbereich

Art. 5 knüpft an drei Handlungen an, die in Art. 3 KI-VO definiert sind: das Inverkehrbringen (erstmalige Bereitstellung auf dem Unionsmarkt, Art. 3 Nr. 9), die Inbetriebnahme und die Verwendung. Der Begriff „Verwendung" ist in der Verordnung nicht ausdrücklich definiert; nach den Kommissionsleitlinien umfasst er den Einsatz des Systems zu jedem Zeitpunkt seines Lebenszyklus nach Inverkehrbringen oder Inbetriebnahme. Für die biometrische Echtzeit-Fernidentifizierung nach lit. h gilt das Verbot ausschließlich für die Verwendung.

Damit ist Art. 5 die einzige Vorschrift der KI-VO, die jede Rolle erfasst: Anbieter, Einführer, Händler und Betreiber gleichermaßen. Wer ein verbotenes System nur einkauft und einsetzt, kann sich nicht darauf berufen, er habe es nicht entwickelt.

Als EU-Verordnung gilt die KI-VO in Deutschland unmittelbar. Das KI-MIG (Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz, in Kraft seit 29.07.2026) regelt nur die nationale Durchführung: Es benennt die Bundesnetzagentur als zentrale Marktüberwachungsbehörde (§ 2 Abs. 1), zentrale Anlaufstelle (§ 6) und zentrale Beschwerdestelle (§ 8).

Die Verbote gelten sektorübergreifend und unabhängig davon, ob öffentliche oder private Stellen handeln. Das Verbot der sozialen Bewertung (lit. c) etwa ist ausdrücklich nicht auf Behörden beschränkt.

Die acht Verbote im Überblick

| Art. 5 Abs. 1 | Verbotene Praktik | Typisches Beispiel | |---|---|---| | lit. a | Schädliche Manipulation und Täuschung | Chatbot, der Nutzer zu Selbstverletzung anleitet oder sich als eine andere Person ausgibt | | lit. b | Schädliche Ausnutzung von Vulnerabilitäten (Alter, Behinderung, soziale/wirtschaftliche Lage) | KI-gesteuertes Spielzeug, das Kinder zu riskanten Handlungen ermutigt; Betrugsmaschen gegen ältere Menschen | | lit. c | Soziale Bewertung (Social Scoring) | Behörde berechnet Betrugsrisiko von Leistungsempfängern aus sachfremden Daten wie Herkunft oder Hautfarbe | | lit. d | Individuelle Risikobewertung und Vorhersage von Straftaten allein aufgrund von Profiling oder Persönlichkeitsmerkmalen | Polizei sagt kriminelles Verhalten ausschließlich anhand von Gesichtszügen voraus | | lit. e | Ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachung | Web-Scraping-Tool baut eine Gesichtsdatenbank aus Social-Media-Fotos auf | | lit. f | Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen | Callcenter analysiert per Webcam und Spracherkennung den Ärger seiner Beschäftigten; Aufmerksamkeitsüberwachung von Schülern | | lit. g | Biometrische Kategorisierung nach sensiblen Merkmalen | Plattform leitet aus Fotos die vermutete sexuelle Orientierung ab, um Werbung auszuspielen | | lit. h | Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken | Mobile Polizeikameras mit Gesichtserkennung in einer Einkaufsstraße |

Die praxisrelevanten Verbote für Unternehmen

Emotionserkennung am Arbeitsplatz (lit. f)

Für das Verbot müssen drei Bedingungen kumulativ vorliegen: (1) Inverkehrbringen, Inbetriebnahme oder Verwendung eines KI-Systems, (2) zur Ableitung von Emotionen, (3) am Arbeitsplatz oder in einer Bildungseinrichtung.

Erfasst sind sowohl Systeme, die Emotionen erkennen (direkter Abgleich biometrischer Daten wie Stimme oder Gesichtsausdruck mit hinterlegten Emotionen), als auch solche, die sie ableiten (Erzeugung neuer Informationen aus weiteren Datenquellen und Lernprozessen). Der Emotionsbegriff des Erwägungsgrunds 18 – Glück, Trauer, Wut, Überraschung – ist weit zu verstehen.

Zwei Abgrenzungen sind entscheidend:

• Die Feststellung physischer Zustände wie Müdigkeit oder Krankheit zählt nicht zur Emotionserkennung.
• Das Verbot enthält eine ausdrückliche Ausnahme für medizinische und sicherheitstechnische Zwecke – etwa therapeutische Systeme oder Müdigkeitswarner.

Hintergrund ist das Machtungleichgewicht: Erwägungsgrund 44 hält fest, dass es „ernsthafte Bedenken" gegen die Zuverlässigkeit der Emotionserkennung gibt, weil Gefühlsausdrücke je nach Kultur, Situation und sogar bei derselben Person stark variieren.

Biometrische Kategorisierung nach sensiblen Merkmalen (lit. g)

Verboten ist die individuelle Kategorisierung natürlicher Personen anhand ihrer biometrischen Daten, um Ethnie, politische Meinung, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugung, Sexualleben oder sexuelle Orientierung zu erschließen.

Außerhalb des Verbots liegen:

• die Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, auch zu Strafverfolgungszwecken
• Kategorisierung, die nicht auf einzelne Personen zielt (etwa die Auswertung einer ganzen Gruppe)
• Anwendungen, die aus der Definition der biometrischen Kategorisierung (Art. 3 Nr. 40) herausfallen, weil sie Nebentätigkeit zu einem anderen kommerziellen Dienst und aus objektiven technischen Gründen unbedingt erforderlich sind – das Beispiel der Leitlinien ist der Anprobe-Filter auf einem Online-Marktplatz

Kategorisierung nach Alter oder Geschlecht – etwa ein Werbedisplay, das je nach Betrachter andere Inhalte zeigt – fällt nicht unter lit. g, weil diese Merkmale dort nicht genannt sind. Sie kann aber als Hochrisiko-Anwendung oder nach der DSGVO unzulässig sein.

Soziale Bewertung (lit. c)

Kumulativ erforderlich sind: Bewertung oder Einstufung von Personen über einen bestimmten Zeitraum anhand ihres sozialen Verhaltens oder bekannter, abgeleiteter oder vorhergesagter Persönlichkeitsmerkmale – und als Folge eine Schlechterstellung, die entweder in sozialen Zusammenhängen ohne Bezug zur Datenerhebung eintritt oder ungerechtfertigt bzw. unverhältnismäßig ist.

Nicht jede algorithmische Bewertung ist damit Social Scoring. Eine sachbezogene Bonitätsprüfung auf Grundlage zusammenhängender Finanzdaten bleibt zulässig – sie ist allerdings nach Anhang III Nr. 5 lit. b ein Hochrisiko-System (siehe [DSGVO Art. 22 und Scoring](/fakten/dsgvo-art-22-automatisierte-entscheidung-schufa.html)).

Straftatenvorhersage und biometrische Überwachung (lit. d, e, h)

Lit. d verbietet die Bewertung oder Vorhersage der Straffälligkeit einer Person ausschließlich auf Grundlage von Profiling oder Persönlichkeitsmerkmalen. Das Wort „ausschließlich" trägt die gesamte Abgrenzung: Unterstützt das System eine menschliche Bewertung, die auf objektiven und überprüfbaren, unmittelbar mit einer kriminellen Tätigkeit zusammenhängenden Tatsachen beruht, greift das Verbot nicht – das System ist dann Hochrisiko nach Anhang III Nr. 6 lit. d. Ebenfalls nicht erfasst: orts- oder raumbezogene Kriminalitätsprognosen, Vorhersagen zu juristischen Personen und Prognosen zu Ordnungswidrigkeiten. Umgekehrt können auch private Stellen unter lit. d fallen, wenn sie hoheitlich beliehen sind, im Auftrag der Strafverfolgung handeln oder gesetzliche Pflichten etwa zur Geldwäschebekämpfung erfüllen.

Lit. e untersagt das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsaufnahmen zum Aufbau oder zur Erweiterung von Gesichtserkennungsdatenbanken. „Ungezielt" meint ein wahlloses Absaugen ohne Bezug zu bestimmten Personen. Zwei Klarstellungen der Leitlinien sind für Betreiber wichtig: Die Beachtung von `robots.txt` ändert nichts am ungezielten Charakter, und wer ein Foto von sich selbst auf einer Plattform veröffentlicht, willigt damit nicht in die Aufnahme in eine Gesichtserkennungsdatenbank ein.

Lit. h verbietet die Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Zwecken der Gefahrenabwehr und Strafverfolgung. Die Verordnung nennt drei Ausnahmebereiche (gezielte Suche nach Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung sowie nach Vermissten; Abwendung einer konkreten, erheblichen und unmittelbaren Gefahr oder eines Terroranschlags; Aufspüren einer Person, die einer Straftat nach Anhang II verdächtigt wird) mit den Garantien der Art. 5 Abs. 2 bis 7 – darunter vorherige Genehmigung durch eine Justiz- oder unabhängige Verwaltungsbehörde, Grundrechte-Folgenabschätzung und Registrierung in der EU-Datenbank.

Entscheidend: Art. 5 Abs. 1 lit. h Ziffern i–iii sind keine eigenständige Rechtsgrundlage. Nur ein nationales Gesetz, das die Anforderungen der Art. 5 Abs. 2 bis 7 erfüllt, kann Echtzeit-RBI erlauben. Solange ein solches Gesetz fehlt, ist der Einsatz seit dem 02.02.2025 schlicht verboten.

Sanktionen und Durchsetzung

Verstöße gegen Art. 5 unterliegen dem höchsten Bußgeldrahmen der KI-VO: bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 3). Zum Vergleich: Für Verstöße gegen die Hochrisiko-Anforderungen oder die Transparenzpflichten des Art. 50 gilt der niedrigere Rahmen von 15 Mio. EUR bzw. 3 % (Art. 99 Abs. 4).

Für KMU einschließlich Start-ups kehrt sich die Rechenregel um: Nach Art. 99 Abs. 6 ist die Geldbuße auf den niedrigeren der beiden Werte begrenzt.

In Deutschland ist die Lage verfahrensrechtlich besonders: Der nationale Bußgeldkatalog in § 15 KI-MIG nennt nur Verstöße gegen Art. 21, 27, 45 und 86 KI-VO und deckelt diese bei 50.000 EUR – Art. 5 ist dort nicht aufgeführt. Die Sanktionierung verbotener Praktiken läuft daher unmittelbar über Art. 99 Abs. 3 KI-VO; das Verfahren richtet sich nach § 16 KI-MIG i. V. m. dem OWiG, wobei § 17 OWiG und § 30 Abs. 1, 2 OWiG ausdrücklich nicht anwendbar sind. Verwaltungsbehörde im Sinne des § 36 Abs. 1 Nr. 1 OWiG ist nach § 17 KI-MIG die zuständige Marktüberwachungsbehörde – im Regelfall die Bundesnetzagentur.

Unabhängig vom Bußgeld greifen die Marktüberwachungsbefugnisse nach § 11 KI-MIG: Anordnungen, Untersagungen und Rücknahmen. Betroffene Personen können sich nach Art. 85 KI-VO bei der Marktüberwachungsbehörde beschweren; in Deutschland ist die Bundesnetzagentur nach § 8 KI-MIG zentrale Beschwerdestelle. Parallel kommen DSGVO-Ansprüche (Art. 82 DSGVO) und wettbewerbsrechtliche Abmahnungen in Betracht – ein Emotionserkennungssystem am Arbeitsplatz verstößt regelmäßig zugleich gegen Art. 9 DSGVO und § 26 BDSG.

Neue Verbote durch den Digital Omnibus (VO (EU) 2026/1744)

Die Änderungsverordnung ergänzt Art. 5 Abs. 1 um zwei Tatbestände:

• lit. b bis: KI-Systeme, die nicht-einvernehmliches intimes Bildmaterial identifizierbarer Personen erzeugen oder manipulieren („Nudification"-Anwendungen)
• lit. b ter: KI-Systeme, die Material sexuellen Kindesmissbrauchs im Sinne der Richtlinie 2011/93/EU erzeugen oder manipulieren – vorbehaltlich nationaler Rechtfertigungsgründe

Der neue Art. 5 Abs. 1a grenzt die Anbieterhaftung ein: Auf Anbieterseite greift das Verbot nur, wenn die Erzeugung solchen Materials die Zweckbestimmung des Systems ist oder wenn sie ein vernünftigerweise vorhersehbares und reproduzierbares Ergebnis darstellt und angemessene technische Schutzmaßnahmen fehlen. Auf Betreiberseite greift es nur bei zweckgerichteter Nutzung.

Für allgemeine Bildgeneratoren heißt das: Es kommt darauf an, ob wirksame Schutzmechanismen gegen die missbräuchliche Erzeugung implementiert sind.

⚠️ Offener Punkt: Der Geltungsbeginn der beiden neuen Verbotstatbestände konnte gegen den Volltext der VO (EU) 2026/1744 nicht abschließend verifiziert werden. In der Fachliteratur wird der 02.12.2026 genannt; die ausgewerteten Detailanalysen der Änderungsverordnung führen dieses Datum jedoch ausschließlich für die Übergangsfrist des Art. 50 Abs. 2 (Art. 111 Abs. 4 KI-VO n. F.) auf. Bis zur Klärung sollte vom frühestmöglichen Anwendungszeitpunkt ausgegangen werden. Die acht Verbote der Stammfassung sind davon nicht berührt – sie gelten unverändert seit dem 02.02.2025.

Häufige Fehler

• „Art. 5 betrifft nur KI-Entwickler." Falsch – erfasst sind Inverkehrbringen, Inbetriebnahme und Verwendung. Wer ein verbotenes System einkauft und einsetzt, haftet selbst.
• „Die Verbote gelten erst ab dem 2. August 2026." Falsch – Kapitel I und II der KI-VO und damit Art. 5 gelten seit dem 02.02.2025. Der 02.08.2026 ist der allgemeine Anwendungsbeginn der übrigen Verordnung.
• „Der Digital Omnibus hat auch Art. 5 verschoben." Falsch – VO (EU) 2026/1744 verschiebt die Hochrisiko-Fristen (Anhang III auf 02.12.2027, Anhang I auf 02.08.2028) und erweitert Art. 5, setzt ihn aber nicht aus.
• „Emotionserkennung ist generell verboten." Zu weit – das Verbot des lit. f beschränkt sich auf Arbeitsplatz und Bildungseinrichtungen und nimmt medizinische und sicherheitstechnische Zwecke ausdrücklich aus. Außerhalb dieser Kontexte gelten Hochrisiko- und Transparenzregeln.
• „Müdigkeitserkennung im Fahrzeug ist Emotionserkennung." Falsch – die Feststellung physischer Zustände wie Müdigkeit oder Krankheit zählt nach den Kommissionsleitlinien nicht zur Emotionserkennung.
• „Wenn wir `robots.txt` beachten, ist unser Scraping nicht ungezielt." Falsch – die Beachtung von Ausschlussprotokollen ändert nach den Leitlinien nichts am ungezielten Charakter des Auslesens im Sinne des lit. e.
• „Öffentlich gepostete Fotos darf man in eine Gesichtsdatenbank aufnehmen." Falsch – die Veröffentlichung eines Fotos ist keine Einwilligung in die Aufnahme in eine Gesichtserkennungsdatenbank.
• „Jede algorithmische Bewertung ist Social Scoring." Zu weit – lit. c verlangt kumulativ eine Schlechterstellung in sachfremden Zusammenhängen oder eine unverhältnismäßige Benachteiligung. Sachbezogene Bonitätsprüfungen sind Hochrisiko, nicht verboten.
• „Die Polizei darf Echtzeit-Gesichtserkennung nutzen, weil die KI-VO Ausnahmen vorsieht." Falsch – Art. 5 Abs. 1 lit. h Ziff. i–iii ist keine eigenständige Rechtsgrundlage. Ohne nationales Gesetz nach Art. 5 Abs. 2 bis 7 bleibt der Einsatz verboten.
• „Die Leitlinien der Kommission sind verbindlich." Falsch – sie sind eine Orientierungshilfe; die maßgebliche Auslegung ist dem EuGH vorbehalten.
• „35 Mio. EUR oder 7 % – das kleinere Übel gilt." Falsch – bei Art. 5 gilt der höhere Betrag (Art. 99 Abs. 3). Nur für KMU und Start-ups kehrt Art. 99 Abs. 6 die Regel um.
• „§ 15 KI-MIG deckelt alles bei 50.000 €." Falsch – § 15 KI-MIG betrifft nur Art. 21, 27, 45 und 86 KI-VO. Art.-5-Verstöße laufen direkt über Art. 99 Abs. 3 KI-VO.

Änderungsverlauf

• 2026-09-18: Erstveröffentlichung durch EU-Recht-Bot. Art. 5 KI-VO (verbotene Praktiken) als eigenständige Themenseite ergänzend zu den bestehenden Seiten zu Hochrisiko-Systemen, Art. 50 und GPAI. Dokumentiert: Anwendbarkeit seit 02.02.2025 (Art. 113 Abs. 2), Sanktionsanwendbarkeit seit 02.08.2025, acht Verbotstatbestände lit. a–h mit kumulativen Tatbestandsmerkmalen nach den Kommissionsleitlinien vom 04.02.2025, Bußgeldrahmen 35 Mio. EUR / 7 % nach Art. 99 Abs. 3 mit KMU-Umkehrung nach Art. 99 Abs. 6, nationale Zuständigkeit und Verfahren nach §§ 2, 8, 11, 15–17 KI-MIG (BGBl. 2026 I Nr. 223), sowie die durch VO (EU) 2026/1744 eingefügten neuen Tatbestände lit. b bis und b ter samt Anbieter-/Betreiberbegrenzung in Art. 5 Abs. 1a. factcheck_status=review_needed, weil (1) der Geltungsbeginn der neuen Tatbestände lit. b bis und b ter nicht gegen den EUR-Lex-Volltext der VO (EU) 2026/1744 verifiziert werden konnte – in der Fachliteratur wird der 02.12.2026 genannt, die ausgewerteten Detailanalysen führen dieses Datum aber nur für die Übergangsfrist des Art. 50 Abs. 2 nach Art. 111 Abs. 4 KI-VO n. F. – und (2) die Aussage, dass Deutschland von der Öffnungsklausel der Art. 5 Abs. 2 bis 7 für Echtzeit-RBI keinen Gebrauch gemacht hat, nur aus Bundestagsmaterialien, nicht aus dem KI-MIG-Volltext belegt werden konnte. | change_type=initial_publication field="topic_lifecycle" new="published" reviewed_by="Nexvyra EU-Recht-Bot"

Siehe auch

• [EU-KI-Verordnung (AI Act, VO 2024/1689) – Hochrisiko-Systeme](/fakten/eu-ki-verordnung-2024-1689-hochrisiko.html)
• [EU-KI-Verordnung Art. 50 – Transparenz- und Kennzeichnungspflichten](/fakten/eu-ki-verordnung-art-50-transparenzpflichten-kennzeichnung.html)
• [EU-KI-Verordnung – GPAI-Modelle (Art. 51–56)](/fakten/eu-ki-vo-gpai-modelle-2024-1689.html)
• [DSGVO Art. 9 – Besondere Kategorien personenbezogener Daten](/fakten/dsgvo-art-9-gesundheitsdaten-besondere-kategorien.html)
• [DSGVO Art. 22 – Automatisierte Entscheidungen und Scoring](/fakten/dsgvo-art-22-automatisierte-entscheidung-schufa.html)

Stand

• Stand: 2026-09-18
• Gültig ab: 2025-02-02 (Anwendbarkeit Art. 5 KI-VO); Sanktionen ab 2025-08-02
• Neue Verbotstatbestände lit. b bis / b ter durch VO (EU) 2026/1744 – Geltungsbeginn offen, siehe Hinweis im Text
• Status: aktuell
• Quellenautorität: A (VO 2024/1689, VO 2026/1744, EU-Kommission, Bundesnetzagentur, KI-MIG)
• Lizenz: CC BY 4.0

Quellen

• Verordnung (EU) 2024/1689 (KI-Verordnung / AI Act) – Volltext EUR-Lex: https://eur-lex.europa.eu/eli/reg/2024/1689/oj?locale=de A
• Verordnung (EU) 2026/1744 („Digitaler Omnibus zur KI") vom 08.07.2026 – EUR-Lex: https://eur-lex.europa.eu/eli/reg/2026/1744/oj A
• Art. 5 KI-Verordnung – Normtext bei dejure.org: https://dejure.org/gesetze/KI-Verordnung/5.html A
• EU-Kommission – Leitlinien zu verbotenen Praktiken der künstlichen Intelligenz (04.02.2025): https://digital-strategy.ec.europa.eu/de/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act A
• EU-Kommission – AI Pact Webinar zu den Leitlinien für verbotene Praktiken: https://digital-strategy.ec.europa.eu/en/events/fourth-ai-pact-webinar-guidelines-prohibited-ai-practices-under-ai-act-and-definition-ai-system A
• EU-Kommission – AI Act Service Desk (FAQ): https://ai-act-service-desk.ec.europa.eu/de/faq A
• EU-Kommission – EU-Büro für KI (AI Office): https://digital-strategy.ec.europa.eu/en/policies/ai-office A
• Bundesnetzagentur – Verbotene Praktiken (Art. 5 KI-VO): https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/8_VerbotenePraktiken/start.html A
• Bundesnetzagentur – Risikostufen der KI-Verordnung: https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/2_Risiko/start_risiko.html A
• Bundesnetzagentur – KI-Compliance-Kompass (Prüfleitfaden): https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/2_Risiko/kompass/start.html A
• Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) – Volltext: https://www.gesetze-im-internet.de/ki-mig/ A
• § 2 KI-MIG (Zuständige Marktüberwachungsbehörden): https://www.gesetze-im-internet.de/ki-mig/__2.html A
• § 15 KI-MIG (Bußgeldvorschriften): https://www.gesetze-im-internet.de/ki-mig/__15.html A
• Richtlinie 2011/93/EU (Bekämpfung des sexuellen Missbrauchs von Kindern) – EUR-Lex: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32011L0093 A
• Charta der Grundrechte der Europäischen Union: https://www.europarl.europa.eu/charter/pdf/text_en.pdf A