Erzeugung von Fake Videos
Juni 10, 2019 1 min read
Mit der Veröffentlichung der “Ibiza Videos” ging auch eine Diskussion der Echtheit von Videomaterial einher. Diese wurden vor der Veröffentlichung von Wissenschaftern auf Echtheit geprüft. Kann man dem, was eine Person in einem Video spricht immer vertrauen? Oder ist das manipulierbar?
In dem Zusammenhang ist eine neue wissenschaftliche Publikation der Stanford Universität, dem Max Planck Institut für Informatik, der Princeton Universität und Adobe Research interessant. Hier wird eine Methode vorgestellt, es erlaubt dem in einem Video gesprochenen Text einfach zu editieren. Das System erzeugt dann ein neues Video, das die selbe Person zeigt aber mit veränderter Aussage. Das Bildmaterial wird dabei so verändert, dass die Lippen und die untere Gesichtshälfte synchron zum neuen Text sind.
Das folgende Video zeigt Beispiele:
Die Aufnahmen müssen als Portrait vorliegen, und die Software sucht im vorhandenen Videomaterial nach passenden Phonemen für die zu verändernden Aussagen, um die Tonspur an zu passen. Dazu muss zumindest 40 Minuten Material vorliegen. Für die Bildspur wird von der unteren Gesichtshälfte ein 3D Modell erzeugt, dass anschließend passend zum Text animiert, und mit dem Rest des Videos verschmolzen wird. Die Methode hat aber noch etliche Beschränkungen, so ist es nicht möglich die Stimmung oder den Tonfall des Sprechers zu verändern, und Bewegungen, zum Beispiel mit den Händen, stören beim Training.
In der Studie wurden die gefälschten Videos von 60% der Testpersonen für echt gehalten, aber auch von echten Videos wurden nur 80% für echt gehalten. Das zeigt auch die Verunsicherungen unter den Probanden.
Ist diese Art von Forschung vertretbar, oder ist der Schaden durch möglichen Missbrauch gesellschaftlich nicht zu verantworten? Auf jeden Fall müssen wir in Zukunft noch sensibler und vorsichtiger damit umgehen, was wir vor allem in Social Media lesen, aber auch sehen.
« KI schreibt Nachrichtenbeiträge?
Erkennung von manipulierten Bildern »