Mit diesem System kann fast jedermann Deepfakes erstellen

Mit diesem System kann fast jedermann Deepfakes erstellen

Berlin, 25.8.2019

Ein neues, tiefgründig generierendes System namens FSGAN kann die Gesichter von Menschen in Echtzeit austauschen, ohne die umfangreiche Schulung, die ein KI-Algorithmus normalerweise benötigt, um zu lernen, wie ein bestimmtes Gesicht aussieht.

Das bedeutet, dass sich Deepfakes bald schneller als je zuvor vermehren könnten, denn die Erstellung der irreführenden, manipulierten Videos erfordert heute kaum noch technisches Know-how.

Das von Wissenschaftlern der israelischen Bar-Ilan University entwickelte System basiert auf dem Zielvideo einer Person, dessen Bewegungen und Ausdrücke dann auf das Gesicht einer anderen Person übertragen werden.

Schaut man sich das Demo-Video an, wird klar, dass die Ergebnisse nicht perfekt sind. Der Hintergrund wackelt und die abgebildeten Promi-Paarungen – wie Alfonso Cuaron, der bei 1:13 mit Regina King kreuzte – sind komischer als alles andere. Aber es ist leicht zu erkennen, wie ein schlechter Schauspieler diese Technologie leicht nutzen kann, um glaubwürdige Propaganda zu erzeugen.

Die Ingenieure hinter dieser neuen Deepfake-Technologie sagten, dass sie ihren Code mit der Welt teilen, weil das Verstecken des Codes nicht verhindern würde, dass ähnliche Technologien auftauchen.

Es ist eine gemeinsame Linie der Deepfake-Entwickler : dass sie ihre Deepfake-Technologie veröffentlichen, damit jedermann sie sich ansehen und eine Art Gegenmaßnahme zur Erkennung von Deepfake entwickeln kann. Noch einfacher wäre es, wenn gar keine Deepfakes gebaut werden.