Die EU-KI-Verordnung: Artikel 50

In den vergangenen Jahren haben Regierungen weltweit Vorschriften für KI-generierte und KI-veränderte Inhalte eingeführt. Am 13. Juni 2024 hat die EU die Verordnung über künstliche Intelligenz (KI-Verordnung, Verordnung 2024/1689) unterzeichnet. Deren Artikel 50 Absatz 2 verpflichtet Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sicherzustellen, dass ihre Ausgaben „in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar“ sind. Die technischen Lösungen müssen „wirksam, interoperabel, belastbar und zuverlässig“ sein.

Bei Verstößen sieht Artikel 99 Geldbußen von bis zu 15.000.000 € oder 3 % des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist (für KMU und Start-up-Unternehmen gilt der jeweils niedrigere Betrag). Für jedes Unternehmen, das KI in der Content-Produktion einsetzt, ist das ein enormes regulatorisches Risiko.

Alle KI-Anbieter müssen die Vorgaben erfüllen: jedes Unternehmen, das in der EU unter eigenem Namen ein generatives KI-System anbietet, auch wenn das System auf dem Modell oder der API eines Dritten basiert – unabhängig vom Unternehmenssitz.

Der offizielle Praxisleitfaden wurde am 10. Juni 2026 veröffentlicht und enthält Verpflichtungen, die sowohl Anbieter als auch Betreiber generativer KI-Systeme einhalten sollen – vor allem die interoperable Umsetzung digital signierter Metadaten (1.1.1) und nicht wahrnehmbarer Wasserzeichen (1.1.2).

Durch die Unterzeichnung des Praxisleitfadens können Anbieter und Betreiber nachweisen, dass sie Artikel 50 der EU-KI-Verordnung einhalten. Trufo ist Unterzeichner des Praxisleitfadens (Abschnitt 1: Markierung und Erkennung).

Für die überwiegende Mehrheit der Unternehmen ist die Unterzeichnung des Praxisleitfadens der sinnvollste Weg. Ein KI-Anbieter kann sich zwar für einen anderen (oft proprietären) Ansatz entscheiden, muss sich dann aber direkt mit dem Büro für Künstliche Intelligenz der EU oder den nationalen Aufsichtsbehörden abstimmen – für Unternehmen, deren Name keine Frucht mit fünf Buchstaben ist, keine realistische Option.

Je nach Situation gelten für KI-Anbieter mehrere Fristen:

1. 2. August 2026

   Anbieter eines neuen Systems.

2. 2. Dezember 2026

   Anbieter eines Systems, das bereits auf dem EU-Markt in Verkehr gebracht wurde (vor dem 2. August 2026).

3. 2. Februar 2027

   Unterzeichner des Praxisleitfadens müssen über eine interoperable Wasserzeichenerkennung verfügen (Maßnahme 3.4).

Der Stichtag 2. Dezember wird durch die Digital-Omnibus-Verordnung zur KI (Verordnung (EU) 2026/1744) festgelegt und in den FAQ der Kommission zu Artikel 50 bestätigt.

Das Büro für Künstliche Intelligenz der EU konzentriert sich (vorerst) darauf, bis zur Frist am 2. Februar 2027 bewährte Verfahren für die Interoperabilität zu etablieren; größere Durchsetzungsmaßnahmen sind daher vorher nicht zu erwarten. Nach den Erfahrungen mit DSGVO-Geldbußen dürften im Frühjahr 2027 die ersten Geldbußen verhängt werden; bis Jahresende dürfte die erste hohe Geldbuße (über 15.000.000 €) folgen.

Wichtig: Da sich veröffentlichte Medieninhalte datieren lassen, kann jede heutige Nichteinhaltung als Beweismittel dienen, sobald die Durchsetzung beginnt.

Das entscheidende Kriterium ist Interoperabilität. Ohne dieses Kriterium könnten Sie Claude bitten, ein paar Open-Source-Bibliotheken herunterzuladen (z. B. c2pa-rs oder pixelseal) und einige Metadaten sowie ein Wasserzeichen hinzuzufügen. Das wäre jedoch nicht interoperabel, denn die Metadaten wären nicht vertrauenswürdig und das Wasserzeichen könnte nicht interpretiert werden.

Signierte Metadaten (1.1.1)

Für digital signierte Metadaten gibt es zwei Wege:

Nicht wahrnehmbare Wasserzeichen (1.1.2)

Für das nicht wahrnehmbare Wasserzeichen gibt es drei grundlegende Sicherheitsmodelle:

Anbieter müssen ihre Markierungen außerdem erkennbar machen: Der Praxisleitfaden verlangt für jede Markierungstechnik eine Erkennungslösung, bereitgestellt als öffentliche Spezifikation, Software oder API (Teilmaßnahme 2.1.1).

Die überwiegende Mehrheit der KI-Anbieter wird mindestens einen externen Dienstleister benötigen. Hier eine Liste der wichtigsten Dienstleister:

KI-Betreiber, also alle, die die Dienste eines KI-Anbieters nutzen, um KI-generierte oder KI-veränderte Inhalte zu erstellen, müssen einen für Menschen lesbaren Transparenzhinweis hinzufügen.

Die optionalen EU-Symbole der Europäischen Kommission.

Von dieser Pflicht gibt es einige wichtige Ausnahmen, nämlich für Inhalte mit offensichtlich fiktionalem oder kreativem Charakter, für die rein persönliche, nicht berufliche Nutzung oder (bei Text) für Inhalte, die keine Angelegenheiten von öffentlichem Interesse betreffen oder einer menschlichen redaktionellen Überprüfung unterzogen wurden.

Weltweit werden ähnliche Vorschriften schrittweise eingeführt:

• California AI Transparency Act: SB 942 (in geänderter Fassung) gilt seit dem 2. August 2026 und verpflichtet jeden Anbieter öffentlich zugänglicher generativer KI, eine latente Offenlegung einzubetten und ein kostenloses Prüftool anzubieten; 5.000 $ pro Verstoß und Tag.
• China: Die Kennzeichnungsmaßnahmen und die Norm GB 45438-2025 gelten seit dem 1. September 2025 und schreiben sichtbare Kennzeichnungen sowie eine Kennzeichnung in den Metadaten vor, die Plattformen prüfen müssen.
• Südkorea: Das seit dem 22. Januar 2026 geltende KI-Rahmengesetz verlangt, dass Ausgaben generativer KI sichtbar oder maschinenlesbar markiert werden; zunächst ergehen Korrekturanordnungen, dann Geldbußen bis zu 30 Mio. KRW.
• Indien: Die seit dem 20. Februar 2026 geltende Änderung der IT Rules verlangt sichtbare Kennzeichnungen sowie dauerhafte Metadaten für synthetische Audio- und visuelle Inhalte; Plattformen, die dagegen verstoßen, verlieren ihr Haftungsprivileg.

Wenn Sie bereit sind loszulegen, starten Sie im Trufo-Dashboard. Falls Sie noch abwägen, was für Ihren Anwendungsfall am besten passt, vereinbaren Sie ein kostenloses Beratungsgespräch mit Trufo und sprechen Sie mit einem Experten auf diesem Gebiet.

Offizielle EU-Quellen zu Artikel 50 Absatz 2 sowie ein Webinar von Trufo:

• Verordnung über künstliche Intelligenz (Verordnung (EU) 2024/1689): der vollständige Text im Amtsblatt.
• Artikel 2: Anwendungsbereich: für wen die Verordnung gilt, auch für Anbieter außerhalb der EU.
• Artikel 3: Begriffsbestimmungen: „Anbieter“, „Betreiber“, „Inverkehrbringen“.
• Artikel 50: Transparenzpflichten: die Markierungspflicht in Absatz 2.
• Artikel 85: Beschwerden: Jeder kann bei einer Marktüberwachungsbehörde Beschwerde einreichen.
• Artikel 99: Sanktionen: Geldbußen von bis zu 15.000.000 € oder 3 % des weltweiten Jahresumsatzes.
• Erwägungsgrund 133: warum Anbieter Ausgaben markieren und erkennbar machen müssen.
• Erwägungsgrund 135: Praxisleitfäden für Erkennung und Kennzeichnung.
• Erwägungsgrund 136: wie die Markierung die Pflichten von Plattformen nach dem Gesetz über digitale Dienste unterstützt.
• Digital-Omnibus-Verordnung zur KI (Verordnung (EU) 2026/1744): die Übergangsregelung bis zum 2. Dezember 2026 (Artikel 111 Absatz 4).
• Praxisleitfaden für die Transparenz KI-generierter Inhalte: der vollständige Praxisleitfaden.
• So unterzeichnen Sie den Praxisleitfaden: das Unterzeichnungsformular und wohin es zu senden ist.
• Unterzeichner des Praxisleitfadens: wer bisher unterzeichnet hat.
• Bewertung des Praxisleitfadens: Kommission und KI-Gremium halten den Praxisleitfaden für angemessen.
• Leitlinien zu Artikel 50: die Auslegung der Transparenzpflichten durch die Kommission.
• FAQ zu Artikel 50: die Antworten der Kommission, auch zur Übergangsregelung.
• Marktüberwachungsbehörden: die Anlaufstelle jedes Mitgliedstaats.
• CEPIC-Webinar zur EU-KI-Verordnung: CEO und CLO von Trufo erläutern die Verordnung und C2PA.