Deepfakes sind von Computern hergestellte Fälschungen. Der Begriff ist ein Wortspiel, der sich aus der Technik des «deep learning» und dem englischen Begriff «fake» zusammensetzt. Da sich die Qualität der Deepfakes zunehmend verbessert, können Menschen heute die Fälschung kaum noch von einem echten Video unterscheiden. Deepfakes sind also geeignet, Fake News schneller zu verbreiten, da sie ihre Glaubwürdigkeit erhöhen, sie ermöglichen Betrug oder Identitätsdiebstahl und verletzen Persönlichkeitsrechte. In diesem Artikel analysieren wir Probleme, die aufgrund von Deepfakes entstehen können.

1. Einleitung

Deepfakes sind «glaubwürdige Medien, die von einem tiefen neuronalen Netz erzeugt werden». Für die Herstellung von Deepfakes werden «deep learning» und künstliche neuronale Netzwerke, d.h. künstliche Intelligenz, benötigt. «deep learning» ist eine Unterart des maschinellen Lernens, das versucht, die Funktionsweise des menschlichen Gehirns nachzuahmen. Mithilfe von dieser Technik können die Daten gebündelt und Vorhersagen getroffen werden. Dafür verwendet «deep learning» mehrschichtige künstliche neuronale Netzwerke, z.B. deep neural recurrent networks also rückgekoppelten neuronale Netze. «deep learning» kann, im Gegensatz zu maschinellem Lernen, auch unstrukturierte Daten verarbeiten.

Deepfakes können mithilfe von im Internet frei verfügbarer Software wie z.B. DeepFaceLab oder FakeApp hergestellt werden. Notwendig ist, dass genügend Bildmaterial in Form von Fotos oder Videos vorliegt, um das künstliche neuronale Netzwerk zu trainieren. Für ein ideales Training benötigt eine Software aktuell ca. 5000 Bilder der Zielperson, aber bereits mehrere hundert Bilder können ausreichen, um ein realistisches Deepfake zu erstellen.

Während dem Training erkennt der Algorithmus die wichtigsten Parameter der Gesichter und lernt diese zu rekonstruieren. Schlussendlich liefert die Software den Vorstellungen des Herstellers entsprechende, manipulierte Bilddateien, die im Anschluss mithilfe eines weiteren Programms zu einem Video zusammengefügt werden können. Mit der gleichen Technologie können auch Gesichter von Personen erstellt werden, die gar nicht existieren.

2. Persönlichkeitsrechtsverletzungen

Die Mehrheit der heute im Internet verfügbaren Deepfakes sind pornografischer Natur. Aus der Publikation eines solchen manipulierten Videos können schwerwiegende Persönlichkeitsverletzungen für diejenigen resultieren, deren Erscheinungsbild nachgeahmt wird. Insbesondere können aufgrund des technologischen Fortschritts heute auch unbekannte Personen, die nicht in der Öffentlichkeit stehen, von Deepfakes betroffen sein, da immer weniger Bilder benötigt werden, um eine überzeugende Imitation herzustellen. Diese Problematik wird sich mit fortschreitender Technik immer mehr zuspitzen. Bereits heute existiert eine Methode, die nur ein einziges Bild benötigt, um ein Deepfake herzustellen. Tritt eine widerrechtliche Persönlichkeitsverletzung ein, kann der Betroffene gemäss Art. 28 ZGB (SR 210) gegen sämtliche an der Verletzung beteiligten Personen vorgehen.

3. Rufschädigung

Abgesehen von Persönlichkeitsverletzungen am Recht des eigenen Bildes, sei es statisch oder bewegt, oder an der eigenen Stimme können solche Deepfakes auch eine strafrechtlich relevante Ehrverletzung gemäss Art. 173 ff. StGB (SR 311.0) auslösen. Eine Ehrverletzung kann aufgrund einer Rufschädigung des Betroffenen durch die manipulierten Aussagen oder Darstellungen entstehen oder wenn der Betroffene in unzutreffender Weise eines verwerflichen Verhaltens beschuldigt wird. Videos und Bilder können nicht mehr ohne genaue Überprüfung als Beweismittel in Gerichtsprozessen oder von Journalisten als Quellen verwendet werden. Problematisch ist dabei allerdings, dass die verfügbaren Erkennungssoftwares bei weitem nicht alle Deepfakes zu identifizieren vermögen.

4. Haftung

Denkbar ist des Weiteren, dass sich Haftungsfragen ergeben. Fraglich ist, wer für die entstandenen Schäden aus fehlerhafter Information haftet, z.B. wenn ein Deepfake mit falschen Angaben über ein lohnenswertes Investitionsobjekt kursieren. Vertraut ein Anleger auf diese Information, die dank des Deepfakes als sichere Option erscheint, weil beispielsweise eine bekannte Person das Produkt angeblich anpreist, wird er getäuscht. Er könnte Schadenersatz aus Art. 41 OR (SR 220) für den erlittenen Schaden verlangen. Diesfalls müsste er die Widerrechtlichkeit und den finanziellen Schaden nachweisen können. Der Betroffene muss zudem den Hersteller des Deepfakes identifizieren, damit er ihn belangen kann, was Schwierigkeiten bereiten könnte. Unseres Erachtens kann bei einer Schadensersatzklage gemäss Art. 41 ff. OR nicht gegen die im Deepfake abgebildete Person vorgegangen werden, falls diese Person nachweislich nichts mit den getroffenen Aussagen zu tun hat und das Video von Dritten erstellt wurde. Gleiches Fazit müsste man unseres Erachtens auch ziehen, wenn eine bekannte Persönlichkeit in einem Deepfake zu Gewaltakten aufruft. Diese Person kann nicht für die Aussagen in einem gefälschten Video haftbar gemacht werden, sofern sie nicht an der Herstellung des Videos beteiligt oder darüber informiert war.

Wir empfehlen von Deepfakes betroffenen Personen, Strafanzeige einzureichen. Damit kann gewährleistet werden, dass diese in Zukunft nicht für die beliebige Aussage im Deepfake haftbar gemacht werden. Es ist sodann auch klargestellt, dass die Aussage im Deepfake nicht von der abgebildeten Person getroffen wurde, sondern ihr Bild von Dritten bzw. von künstlicher Intelligenz manipuliert wurde. Bei Bedarf unterstützen wir Sie gerne beim Erstellen einer Strafanzeige.

5. Datenschutz

In Deepfakes sind die Gesichter von Personen erkennbar, weshalb diese Personen identifiziert werden können bzw. bestimmbar sind. Es handelt sich dabei um Personendaten gemäss Art. 3 lit. a DSG (SR 235.1). Das Datenschutzgesetz (DSG) ist somit einschlägig. Bei pornographischen Deepfakes wird die Intimsphäre der Betroffenen tangiert, womit besonders schützenswerte Personendaten bearbeitet werden (Art. 3 lit. c Ziff. 2 DSG). Die gleiche Situation ergibt sich bei Deepfakes von Politikern, die der Hersteller des Deepfakes beliebige Aussagen treffen lassen kann (Art. 3 lit. c Ziff. 1 DSG). Es gelten daher die allgemeinen Bearbeitungsgrundsätze gemäss Art. 4 DSG und es dürfen nur richtige Personendaten bearbeitet werden (Art. 5 DSG). Bei Deepfakes werden unserer Meinung nach beide Grundsätze missachtet, weshalb die Verwendung, Herstellung und Verbreitung von Deepfakes aus datenschutzrechtlicher Sicht unzulässig ist.

6. Compliance Pflichten

Die EU hat sich bereits mit der Frage auseinander gesetzt, wie mit künstlicher Intelligenz und mit Deepfakes umgegangen werden soll und regelt die Anwendung im Vorschlag für eine EU-Verordnung zu künstlicher Intelligenz. In diesem Vorschlag werden folgende Kategorie für Systeme künstlicher Intelligenz gebildet: verbotene Systeme, Hochrisiko-Systeme, Systeme mit begrenztem Risiko und Systeme mit minimalem oder keinem Risiko (siehe auch Insight vom 23. Dezember 2021). Für Deepfakes gelten gemäss dem Vorschlag explizit Transparenzpflichten (vgl. Art. 52 Abs. 3 des EU-Vorschlags), weshalb sie als System mit begrenztem Risiko einzuteilen sind. Die Hersteller von Deepfakes müssen aufgrund dieser Regelung die Manipulation der Bilder offenlegen. Keine Offenlegungspflicht besteht, wenn die Technik des Deepfakes im Rahmen der Strafverfolgung oder –ermittlung eingesetzt wird, wenn dadurch Grundrechte eingeschränkt würden oder wenn bereits Schutzmassnahmen bestehen.

7. Immaterialgüterrechtliche Aspekte

Im Zusammenhang mit Immaterialgüterrechten stellt sich auch die Frage, ob sich Deepfakes urheberrechtlich schützen lassen. Das schweizerische Urheberrechtsgesetz (URG, SR 231.1) setzt diesbezüglich voraus, dass ein Werk i.S.v. Art. 2 URG vorliegt. Dazu müssen die folgenden Elemente erfüllt sein: Das Objekt stellt eine geistige Schöpfung dar, lässt sich im Bereich der Literatur oder Kunst einteilen und weist Individualität auf. Zusätzlich muss das in Art. 6 URG verankerte Schöpferprinzip erfüllt sein, wonach sich nur natürliche Personen als Urheber qualifizieren können.

Deepfakes erfüllen das Schöpferprinzip nicht, da es sich um computererzeugte Videos und Bilder handelt, die dementsprechend nicht von einer natürlichen Person hergestellt wurden und die eigentlich auch nur eine Kopie eines echten Menschen, d.h. des Originals, erzeugen. Ausserdem ist fraglich, ob die menschliche Mitarbeit, namentlich das Auslösen des Trainingsprozesses, ausreicht, damit eine geistige Schöpfung gemäss URG vorliegt. Diese minimale Tätigkeit der natürlichen Person reicht u.E. nicht aus, um eine geistige Schöpfung zu begründen. Vielmehr wäre eine kreative Tätigkeit des Herstellers notwendig. Auch die Individualität des Deepfakes kann verneint werden, weil die beabsichtigte Imitation oder Täuschung keine individuelle Gestaltung darstellt. Zusätzlich kann der Hersteller das Resultat der verwendeten Software nicht kontrollieren und beeinflussen. Es muss jedoch festgehalten werden, dass diese Fragen jeweils im Einzelfall zu analysieren und abzuklären sind, da verschiedene Herstellungsmethoden existieren und deshalb auch ein gewisser Interpretationsspielraum besteht.

 

Quellen