Rechtsbelehrung - Recht, Technik & Gesellschaft

KI-Kennzeichnungspflichten – Rechtsbelehrung 150

27. Juli 2026 · 1 Std. 40 Min.

Die KI-Kennzeichnungspflichten des EU AI Acts ab 2. August 2026 wirken zwar verständlich, weisen aber erhebliche Lücken und Schlupflöcher auf, die ihre praktische Wirksamkeit gefährden – insbesondere beim Schutz vor politischer Manipulation und bei KI-generierten Texten.

Der AI Act der EU verpflichtet ab dem 2. August 2026 KI-Anbieter und Betreiber (qualifizierte Nutzer), KI-generierte Inhalte zu kennzeichnen – unterschiedlich je nach Akteur und Inhaltstyp. Während Anbieter alle synthetischen Inhalte maschinell lesbar kennzeichnen müssen, obliegt Betreibern nur die sichtbare Kennzeichnung von Deepfakes und bestimmten Texten mit öffentlichem Bezug. Die Kennzeichnung unterliegt zahlreichen Ausnahmen (Satire, künstlerische Werke, redaktionelle Kontrolle), was zu vielen Lücken führt. Das Gesetz soll Verbraucher schützen, aber wesentliche Missbrauchsszenarien wie populistische Deepfakes fallen durch die Maschen.

Zahlen & Fakten

15 Millionen Euro oder 3 %

Maximales Bußgeld für Verstöße gegen Kennzeichnungspflichten (für Großunternehmen)

7,5 Millionen Euro oder 1 %

Maximales Bußgeld für Verstöße gegen Kennzeichnungspflichten (für kleinere Unternehmen und Einzelpersonen)

2. August 2026

Zeitpunkt, an dem die erste Stufe der KI-Kennzeichnungspflichten des AI Acts in Kraft tritt

Weitere 1 Zahl & Fakten anzeigen

2. Dezember 2026

Zeitpunkt, an dem die Kennzeichnungspflichten für KI-Anbieter (später als ursprünglich geplant) in Kraft treten

Diese Folge steckt voller Zahlen – neugierig?

Themen & Erkenntnisse

Anwendungsbereich und betroffene Akteure · ab 04:00: Unterscheidung zwischen KI-Anbietern (Hersteller wie OpenAI) und Betreibern (qualifizierte Nutzer): Nur nicht-private berufliche und öffentliche Nutzungen sind erfasst; Privatpersonen und persönliche familiale Kontexte sind ausgenommen.

Kennzeichnungspflichten der Anbieter: Interaktionen und synthetische Inhalte · ab 16:00: KI-Anbieter müssen zwei verschiedene Dinge kennzeichnen: erstens, dass Nutzer mit einer KI interagieren (proaktiv und unmissverständlich), zweitens alle synthetischen Audio-, Bild-, Video- und Texte maschinell lesbar.

Deepfakes: Definition, Kennzeichnungspflicht und Regelungslücken · ab 53:00: Deepfakes sind KI-generierte oder -manipulierte Inhalte, die reale Personen, Gegenstände oder Orte darstellen und fälschlicherweise als echt wirken könnten. Nur Betreiber müssen Deepfakes sichtbar kennzeichnen – aber nur dann, wenn alle Voraussetzungen gleichzeitig erfüllt sind, was viele populistische Szenarien ausschließt.

KI-Text-Kennzeichnung: Schlupfloch durch redaktionelle Kontrolle · ab 01:12:00: KI-Texte, die über Angelegenheiten von öffentlichem Interesse informieren, müssen gekennzeichnet werden – AUSSER ein Mensch hat sie redaktionell kontrolliert. Dies ermöglicht Medien, vollautomatische Ticker-News ungekennzeichnet zu veröffentlichen, wenn sie redaktionell freigegeben werden.

Durchsetzung und praktische Wirksamkeit · ab 01:34:00: Verstöße führen zu Bußgeldern bis 15 Millionen Euro oder 3 % des Umsatzes sowie zu Abmahnwellen. Dennoch sind viele Lücken leicht zu umgehen – durch Kennzeichnungsentfernung, redaktionelle Kontrolle oder bewusste Nichtkennzeichnung von Deepfakes mit ausgedachten Personen.

Quellen

• RechtArtikel 3 Nr. 60 KI-Verordnung (AI Act) – Definition Deepfake

• RechtArtikel 50 Abs. 1 bis 5 KI-Verordnung (AI Act) – Kennzeichnungspflichten

• BuchPraktischer Ratgeber zum AI Act 2026: Deepfakes und KI-Texte richtig kennzeichnen von Dr. Thomas Schwenke

Weitere 3 Quellen anzeigen

• Leitlinien der EU zu Transparenzpflichten

• Verhaltenskodex der EU zur Transparenz von KI-generierten Inhalten

• Icon-Vorschläge der EU zur KI-Kennzeichnung

Alle Quellen findest du in der vollständigen Folge

Wer spricht

Thomas SchwenkeHOST

Rechtsanwalt und Host des Podcasts Rechtsbelehrung, spezialisiert auf digitales Recht, Datenschutz und KI-Regulierung. Verfasser des Buches "Praktischer Ratgeber zum AI Act 2026: Deepfakes und KI-Texte richtig kennzeichnen". Erörtert in dieser Folge die technischen und juristischen Details der KI-Kennzeichnungspflichten des EU AI Acts.

Alle Auftritte von Thomas Schwenke →

Marcus RichterHOST

Co-Host des Podcasts Rechtsbelehrung, moderiert die Episode und führt durch die Diskussion mit Thomas Schwenke. Stellt kritische Fragen zur praktischen Umsetzung und Wirksamkeit der Kennzeichnungspflichten, insbesondere zu Lücken bei populistischen Inhalten und journalistischen Texten.

Alle Auftritte von Marcus Richter →

Ganze Folge hören

KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.