Art. 50 der KI-VO sieht ab August 2026 vor, dass bestimmte Inhalte mit KI-Bezug gekennzeichnet werden müssen (mehr dazu erfahren Sie hier). Viel Unsicherheit besteht mit Blick auf die Frage, was kennzeichnungspflichtige „Deepfakes“ sind.
Unter „Deepfakes“ versteht das Gesetz einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, „der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.
Was sind KI-Deepfakes?
≠ Deepfake: offensichtlich fiktive Inhalte
- Beispiele: Comic, Fantasydarstellungen, ein über einen Regenbogen galoppierendes Einhorn, eine Meerjungfrau im Supermarkt
- Kein Deepfake = keine Kennzeichnungspflicht
✓ Eindeutig Deepfake: existierende Personen, Orte, Ereignisse
- Darstellung realer Personen, Orte oder Ereignisse, sofern KI-generierter/ -manipuliert und zur Täuschung geeignet, z.B.:
- ein KI-generiertes Video, das fälschlicherweise zeigt, wie der Bundeskanzler auf dem Balkon des Kanzleramts eine Regenbogenflagge schwenkt,
- eine Tonaufnahme, in der die Stimme eines Prominenten künstlich nachgebildet wird, um Falschaussagen zu verbreiten,
- das Bild einer fiktiven Demonstration vor dem Brandenburger Tor, die tatsächlich nie stattgefunden hat.
- Deepfake = Kennzeichnungspflicht
? Deepfake: fiktive, aber echt wirkende Inhalte
- Streitig ist, ob auch fotorealistische – aber tatsächlich nicht existierende – fiktive KI-Inhalte als Deepfakes gekennzeichnet werden müssen, z.B.
- KI-generierte, real aussehende Models, die im Onlineshop Kleidung präsentieren,
- täuschend echt wirkende sog. „AI Models“ (virtuelle Influencer), die sich im Netz menschenähnlich geben, die aber keine realen Person nachempfunden sind,
- fotorealistische, KI-generierte Menschen vor fiktiven, aber authentisch wirkenden Landschaften,
- Podcast-Dialoge zwischen nichtexistierenden Personen, die auf den Hörer wie ein Gespräch echter Menschen wirken.
Müssen fiktive, aber echt wirkende Inhalte gekennzeichnet werden?
Ja. Wer auf Nummer sicher gehen will, sollte auch solche KI-generierten Inhalte kennzeichnen, die zwar fotorealistisch sind, aber keine real existierenden Menschen, Gegenstände oder Orte zeigen.
Das gilt zumindest immer dann, wenn der Inhalt geeignet ist, den durchschnittlichen Betrachter zu täuschen und für authentisch gehalten zu werden, wie das z.B. bei täuschend echt aussehenden „AI Models“ oder authentisch wirkende Videos von rein fiktiven Ereignissen.
Kontrollfrage:
- Kann der durchschnittliche Betrachter annehmen, dass die dargestellte Person, der Gegenstand, der Ort, die Einrichtung oder das Ereignis real ist?
→ Ja: Kennzeichnungspflicht
- Kann der Inhalt fälschlicherweise für echt oder wahrheitsgemäß gehalten werden?
→ Nein, z. B. weil der Inhalt klar als fiktiv, satirisch, künstlerisch oder unrealistisch erkennbar ist: keine Kennzeichnungspflicht.
Fazit: Je eher ein KI-Inhalt wie eine echte Person, ein echter Ort oder ein echtes Ereignis wirkt, desto eher sollte er als KI-generiert gekennzeichnet werden.
Sie sind sich unsicher, ob Ihre KI-generierten Inhalte Deepfakes sind und gekennzeichnet werden müssen? Melden Sie sich bei uns, wir prüfen das für Sie!