Deepfakes werden immer besser, aber sie sind noch leicht zu erkennen

Deepfakes werden immer besser, aber sie sind noch leicht zu erkennen

4. Juni 2019 0 Von Horst Buchwald

New York, 4.6.2019

In der Deepfake- Technologie wurden bedeutende Fortschritte gemacht. Dies geht aus einem Beitrag von „Wired“ hervor. Forscher des Ki-Labors von Samsung in Moskau hätten Deepfakes durch maschinelles Lernen erzeugt. Neu daran sei, das aus einem einzigen Bild glaubwürdige Videos erstellt wurden. Nehme man mehrere Fotos von echten Gesichtern, erhalte man dramatisch verbesserte „ “photorealistisch sprechende Köpfe”. Die Samsung- Forscher nennen es „Puppenspiel“ und geben damit einen Hinweis auf unsichtbare Zeichenketten, die Gesichtszüge manipulieren. Natürlich könne man mit dieser Software theoretisch jedes Facebook- Profil manipulieren. Doch wegen der hohen Kosten und dem technischen Know how sei nicht damit zu rechnen, das ein Massenprodukt auf den Markt komme.

Viel interessanter sei , dass die Technologie für deepfakes von Unternehmen, die an Augmented Reality arbeiten, genutzt werden könne. So verweisen die Samsung-Forscher auf die schnelle Erstellung von Avataren für Spiele oder Videokonferenzen. Angeblich könnte das Unternehmen das zugrunde liegende Modell nutzen, um einen Avatar mit nur wenigen Bildern zu generieren, eine fotorealistische Antwort auf Apples Memoji. Das gleiche Labor veröffentlichte diese Woche auch ein Papier über die Generierung von Ganzkörper-Avataren.

Die Möglichkeiten einer böswilligen Nutzung dieser Fortschritte hat bereits eine Debatte darüber ausgelöst, ob mit Deepfakes die Demokratie untergraben werden könnte. Laut Robert Chesney, Professor für Rechtswissenschaften an der University of Texas, erfordere politische Disruption keine Spitzentechnologie. Als Beispiel führte er den dreiminütigen Clip der US- Politikerin Nancy Pelosi an, der auf Facebook zirkuliere und angeblich zeige, wie sie betrunken ihre Worte in der Öffentlichkeit verwische. Das sei nicht einmal ein Deepfake gewesen, so Chesney, denn die Schurken hätten das Material einfach verlangsamt.

Aufrufe: 47