Deepfake-Kennzeichnungspflicht: So legen Sie einen Deepfake nach dem AI Act offen

Die deutsche Fassung der KI-Verordnung (Verordnung (EU) 2024/1689) schreibt „Deepfake“ in einem Wort, die englische deep fake in zwei. Art. 3 Nr. 60 definiert einen Deepfake als „einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“. Einfach gesagt: ein Bild, das mit KI erstellt oder verändert wurde, echt aussieht und das jemand für echt halten könnte.

Die Leitlinien der Kommission zu Artikel 50 (auf Englisch, Rn. 113) zerlegen das in vier Kriterien. Alle vier müssen erfüllt sein:

1. Ähnlichkeit: ein hohes Maß an Übereinstimmung mit dem Vorbild, beurteilt nach seinen charakteristischen Merkmalen. Identisch muss es nicht sein.
2. Existenz: Das Vorbild existiert oder könnte plausibel existieren oder existiert haben. Ein fotorealistischer Mensch, der nie gelebt hat, kann darunter fallen; ein Drache oder ein Elefant am Steuer eines Autos nicht.
3. Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse: einschließlich realistischer KI-Avatare, Gebäude, Kunstwerke, Produkte, Tiere und realistischer Szenen.
4. Falscher Anschein: Der Inhalt würde jemandem fälschlicherweise als echt oder wahrheitsgemäß erscheinen.

Die Leitlinien geben Beispiele auf beiden Seiten der Grenze. Manche sind Videos, doch für ein Bild gilt dieselbe Überlegung.

• Keine Absicht nötig: Der Maßstab ist objektiv (Rn. 114). Ein Bild kann ein Deepfake sein, auch wenn Sie nie jemanden täuschen wollten.
• Kontext und Publikum zählen: wo das Bild gezeigt wird und was die Menschen erwarten, die es wahrscheinlich sehen, darunter Kinder oder Menschen, die mit KI weniger vertraut sind (Rn. 115). Könnte ein Teil dieses Publikums getäuscht werden, kann das genügen.
• Fotorealismus macht einen Deepfake wahrscheinlicher, entscheidet aber nicht allein.
• Kleine Bearbeitungen zählen meist nicht (Rn. 116): Passanten entfernen, Licht- und Farbkorrektur, Rauschunterdrückung, kosmetische Anpassungen oder ein ästhetischer Hintergrundwechsel in einer Produktwerbung. Eine wesentliche KI-Bearbeitung des Hintergrunds eines Nachrichtenfotos kann dagegen zählen.

Art. 50 Abs. 4 legt die Pflicht den Betreibern auf: Personen und Organisationen, die KI beruflich nutzen. Geschäftliche, gewerbliche und freiberufliche Tätigkeiten zählen dazu, ebenso, wer regelmäßig einen wirtschaftlichen Nutzen erzielt (Leitlinien, Rn. 19). Beschäftigte handeln für ihren Arbeitgeber: Betreiber ist das Unternehmen (Rn. 14).

Rein persönliche Nutzung ist ausgenommen (Art. 2 Abs. 10), etwa Deepfakes von Mitgliedern Ihres Haushalts oder solche, die Sie als Privatperson in sozialen Netzwerken posten. Plattformen können trotzdem eine Kennzeichnung verlangen: siehe KI-Kennzeichnung Social Media.

• Seit dem 2. August 2026, ohne Übergangsfrist für Betreiber. Der Digital-Omnibus hat nur die maschinenlesbare Markierung durch Anbieter auf den 2. Dezember 2026 verschoben, und zwar für generative KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden.
• Keine rückwirkende Pflicht für Deepfakes, die vor dem 2. August 2026 entstanden sind, auch wenn ihre Kennzeichnung empfohlen wird (Rn. 154).

Bußgelder und Durchsetzung erklärt unser Ratgeber zur KI-Kennzeichnungspflicht.

Art. 50 Abs. 4 verlangt von Betreibern offenzulegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Art. 50 Abs. 5 ergänzt: „spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise“, und barrierefrei. Für ein Bild heißt das:

• Klar und eindeutig: auffällig und leicht von der Umgebung zu unterscheiden, nicht in einem Menü oder in den Nutzungsbedingungen vergraben (Leitlinien, Rn. 142).
• Beim ersten Kontakt: für jede Person, die den Inhalt sieht, zum Beispiel beim Scrollen durch einen Feed (Rn. 143).
• Für Menschen sichtbar: Das versteckte Wasserzeichen oder die Metadaten des KI-Anbieters erfüllen die Pflicht des Betreibers nicht (Rn. 117). Unser Ratgeber KI-Bilder erkennen erklärt, was diese Markierungen leisten.
• Ins Bild eingebettet, vor jedem Hintergrund sichtbar, dort, wo kein anderes Overlay stört, „z. B. in der oberen rechten Ecke“ (Verhaltenskodex, auf Englisch, Maßnahme 1.2).
• Barrierefrei: hoher Kontrast und ein Alt-Text für Screenreader.

Der Kodex akzeptiert das EU-Icon oder eine gleichwertige Kennzeichnung. Das Icon ist freiwillig, und seine Verwendung stellt für sich genommen keine Rechtskonformität her.

Wählen Sie das Icon der Europäischen Kommission, das sagt, was mit dem Bild passiert ist:

Für einen Face Swap in einem echten Foto nehmen Sie AI MODIFIED: Ein Gesicht in einem authentischen Foto, gegen das eines Politikers getauscht, ist das eigene Beispiel der Kommission. Der Kodex empfiehlt außerdem, anzugeben, was sich geändert hat, etwa „ein Gesicht wurde verändert“. Farben, Größen und Downloads finden Sie im Ratgeber KI-Kennzeichnung EU-Icons.

Für einen Deepfake in einem offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werk verlangt Art. 50 Abs. 4 weiterhin einen Hinweis, aber einen, der die Darstellung oder den Genuss des Werks nicht beeinträchtigt. Die Leitlinien legen „offensichtlich“ eng aus (Rn. 122): Die Art des Werks muss sich aus seinem Stil, seinem Kontext oder den Erwartungen des Publikums ergeben. Mehrdeutige Inhalte bekommen die normale Kennzeichnung, ebenso rein informative oder kommerzielle Inhalte wie Nachrichten. Wo sich informative und kreative Seiten mischen, überwiegt die informative.

Der Kodex (Verpflichtung 3) schlägt vor, den Hinweis in den Anmerkungen, der Beschreibung oder dem Abspann zu geben, oder auf einer Website neben dem Bildrahmen, solange man ihn ohne Klick bemerkt. Auf dem Bild selbst passt vielleicht eine kleinere Kennzeichnung oder eine ruhigere Ecke zum Werk, wenn sie gut sichtbar bleibt.

Eine Kennzeichnung erfüllt eine Pflicht der KI-Verordnung und nicht mehr: Wer Transparenzpflichten einhält, macht damit eine KI-Nutzung oder ihr Ergebnis nicht rechtmäßig (Erwägungsgrund 137). Sie brauchen weiterhin die Einwilligung der gezeigten Personen oder der Rechteinhaber, wo das Gesetz sie verlangt (Kodex, Verpflichtung 1). Datenschutz, Urheberrecht, Markenrecht, Persönlichkeitsrechte am eigenen Bild und an der eigenen Stimme, das Verbot irreführender Werbung und das Strafrecht gelten weiterhin (Leitlinien, Rn. 127 bis 129).

Das Tool fügt das Icon ein; ob und wie Sie kennzeichnen, bleibt Ihre Entscheidung und Ihre Verantwortung.