KI-Kennzeichnungspflicht: Artikel 50 des AI Act erklärt

Artikel 50 der KI-Verordnung (Verordnung (EU) 2024/1689, englisch AI Act) regelt die „Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme“. Für Bilder zählen drei seiner sieben Absätze: Abs. 2 für die Anbieter von KI-Generatoren, Abs. 4 für alle, die sie beruflich nutzen, und Abs. 5 dafür, wie man die Menschen informiert.

Art. 3 Nr. 60 definiert einen Deepfake als „einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“. Unser Ratgeber zur Deepfake-Kennzeichnungspflicht wendet diese Definition Fall für Fall an.

• Betreiber kennzeichnen. Betreiber (englisch „deployer“) ist, wer ein KI-System in eigener Verantwortung beruflich nutzt: eine Marke, eine Agentur, eine Redaktion, ein Onlineshop, eine Freelancerin. Wenn Sie mit KI einen Deepfake erstellen und veröffentlichen, ist der sichtbare Hinweis Ihre Aufgabe, nicht die des KI-Tools. Beschäftigte sind keine eigenen Betreiber; Betreiber ist ihr Arbeitgeber. Unternehmen außerhalb der EU sind erfasst, wenn ihre Deepfakes in der EU zu sehen sein sollen, auch wenn sie sie einfach im offenen Internet veröffentlichen (Leitlinien, Rn. 13 und 14).
• Anbieter markieren. Die Anbieter generativer KI müssen maschinenlesbare Markierungen in die Ausgabe einbetten, etwa signierte Metadaten und unsichtbare Wasserzeichen: siehe den Ratgeber KI-Bilder erkennen.

Rein persönliche Nutzung ist ausgenommen (Art. 2 Abs. 10): Deepfakes von Mitgliedern Ihres Haushalts oder solche, die Sie als Privatperson in sozialen Netzwerken posten. Wer damit aber regelmäßig Geld verdient oder für ein Unternehmen, ein Gewerbe oder freiberuflich handelt, gilt als beruflich tätig (Rn. 19). Plattformen, die nur Inhalte anderer weiterleiten, sind ebenfalls keine Betreiber (Rn. 16); was sie anzeigen, steht im Ratgeber KI-Kennzeichnung Social Media.

Nicht jedes KI-Bild braucht nach dem Gesetz eine Kennzeichnung, sondern nur Deepfakes. Die Leitlinien (Rn. 113) lesen aus der Definition vier Bedingungen heraus, die alle erfüllt sein müssen:

1. Ähnlichkeit: sehr ähnlich, nicht unbedingt identisch.
2. Existenz: etwas, das existiert oder plausibel existieren könnte. Drachen und Elefanten am Steuer eines Autos fallen heraus.
3. Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse, einschließlich Avataren, Gebäuden, Produkten und Tieren.
4. Falscher Anschein: Der Inhalt würde einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen.

Eine Täuschungsabsicht ist nicht nötig, und das absehbare Publikum zählt, auch Kinder (Rn. 114 und 115). Fotorealismus macht einen Deepfake wahrscheinlicher, entscheidet aber nicht allein.

Kleine Bearbeitungen sind meist keine Deepfakes (Rn. 116): Passanten entfernen, Farbkorrektur, Rauschunterdrückung, ästhetische Hintergrundänderungen in einer Produktwerbung. Offensichtlich künstlerische, kreative, satirische oder fiktionale Werke brauchen trotzdem einen Hinweis, aber einen, der das Werk nicht beeinträchtigt, etwa im Abspann; „offensichtlich“ wird eng ausgelegt (Rn. 122). Auch Texte von öffentlichem Interesse, die mit KI erstellt wurden, müssen offengelegt werden, es sei denn, sie wurden unter redaktioneller Verantwortung geprüft. Jenseits des Gesetzes bleibt Kennzeichnen gute Praxis, und Plattformen können es verlangen.

Artikel 50 gilt seit dem 2. August 2026. Der Digital-Omnibus zur KI hat ihn für Betreiber nicht verschoben.

Keine Rückwirkung: Deepfakes, die vor dem 2. August 2026 entstanden sind, müssen nicht gekennzeichnet werden (Rn. 154), auch wenn die Kommission dazu ermutigt. Ältere KI-Texte, die ab diesem Datum veröffentlicht werden, dagegen schon.

Die KI-Verordnung schreibt weder Design noch Größe noch Ecke vor, nur einen Maßstab (Art. 50 Abs. 5), den die Leitlinien erläutern:

• Klar und eindeutig: auffällig und von der Umgebung abgehoben, nicht in Menüs oder Nutzungsbedingungen versteckt (Rn. 142).
• Beim ersten Kontakt: für jede Person, die den Inhalt sieht, auch beim Scrollen durch einen Feed (Rn. 143).
• Ohne Hilfsmittel sichtbar: Die maschinenlesbaren Markierungen des Anbieters zählen für den Betreiber nicht (Rn. 117).
• Barrierefrei: Die Icon-Seite der Kommission empfiehlt Alt-Texte oder ARIA-Labels, die angeben, dass der Inhalt KI-generiert ist.

Der Verhaltenskodex konkretisiert das für seine Unterzeichner: das EU-Icon oder eine gleichwertige Kennzeichnung, dort platziert, wo kein anderes Overlay dazwischenliegt, „z. B. in der oberen rechten Ecke eines Bild- oder Video-Deepfakes“; in den Inhalt eingebettet; vor jedem Hintergrund sichtbar; nur proportional skaliert, mit „AI“ auf Englisch. In Nutzertests schnitten Varianten mit einem Wort („generated“, „modified“) deutlich besser ab. Die Icons sind freiwillig und kostenlos, und ihre Verwendung stellt für sich genommen keine Rechtskonformität her: siehe KI-Kennzeichnung EU-Icons.

Ein Verstoß gegen Artikel 50 kann bis zu 15 Millionen Euro oder 3 % des gesamten weltweiten Jahresumsatzes kosten, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 4); für KMU, Start-ups und kleine Mid-Cap-Unternehmen gilt der niedrigere. Für Organe und Einrichtungen der EU sind es bis zu 750.000 Euro. Jeder Mitgliedstaat legt seine Sanktionen fest, Verwarnungen eingeschlossen, und die Behörden können Verpflichtungen aus dem Verhaltenskodex mildernd berücksichtigen. Die oft genannten 35 Millionen Euro oder 7 % gelten für verbotene KI-Praktiken, nicht für die Kennzeichnung.

Nationale Marktüberwachungsbehörden setzen die Regeln durch, von sich aus oder nach einer Beschwerde, die jeder einreichen kann, der Grund zu der Annahme eines Verstoßes hat (Art. 85). In Deutschland ist nach dem KI-MIG (KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz, in Kraft seit dem 29. Juli 2026) grundsätzlich die Bundesnetzagentur zuständig (§ 2 Abs. 1); nutzen Mediendiensteanbieter KI für journalistische oder werbliche Zwecke, sind Behörden nach Landesrecht zuständig (§ 2 Abs. 8). Die Bußgeldverfahren nach Art. 99 richten sich nach dem Ordnungswidrigkeitengesetz (§ 16). Welche Behörde für Artikel 50 zuständig ist, sagt die Liste der Kommission vom 7. September 2026 nicht; für Frankreich, Deutschland, Italien und Spanien nennt sie:

Zwei Dokumente der Kommission konkretisieren Artikel 50. Keines davon ist verbindlich.

• Der Verhaltenskodex für die Transparenz von KI-generierten Inhalten (englisch Code of Practice, endgültig seit dem 10. Juni 2026) ist freiwillig: Abschnitt 1 betrifft Markierung und Erkennung durch Anbieter, Abschnitt 2 die Kennzeichnung durch Betreiber, Anhang 1 die Icons. Die Kommission (8. Juli 2026) und das KI-Gremium (9. Juli) haben ihn als angemessen bewertet, und bis Ende Juli hatten rund 190 Organisationen unterzeichnet. Wer nicht unterzeichnet, muss die Einhaltung auf andere Weise nachweisen, etwa mit einer Lückenanalyse anhand des Kodex (Rn. 148).
• Die Leitlinien zu Artikel 50 (gebilligt am 20. Juli 2026) erklären die Begriffe mit Beispielen. Die förmliche Annahme folgt, sobald alle Sprachfassungen vorliegen; Mitte Oktober 2026 war nur die englische Fassung aufgeführt.

Auf Deutsch, soweit vorhanden, direkt auf den Websites der EU; die deutschen Seiten der Kommission sind maschinelle Übersetzungen. Verbindlich sind nur die Texte im Amtsblatt der EU.