Press "Enter" to skip to content

Eine neue Methode zum Erkennen gefälschter Videos sucht nach subtilen Bewegungen, die wir nicht realisieren

Die Qualität und Geschwindigkeit, mit der Videos jetzt mithilfe neuronaler Netze und intensiver Lernprozesse gefälscht werden können, verspricht, die bevorstehenden Präsidentschaftswahlen noch schlimmer zu machen. Indem Forscher jedoch etwas ausnutzen, das in den aktuellen Deepfake-Techniken übersehen wird, haben sie einen automatisierten Weg gefunden, um gefälschte Videos zu erkennen.

Deepfake-Videos sind derzeit alles andere als perfekt. Sie wurden aus riesigen Bibliotheken mit Bildern erstellt, die aus dem Internet stammen. Oft werden sie mit niedriger Auflösung erstellt (wodurch Unvollkommenheiten ausgeblendet werden) und erscheinen übermäßig komprimiert. Aber die Technologie verbessert sich erstaunlich schnell, und Fehler im Prozess, wie Deepfake-Videos, die leicht zu erkennen waren, weil die Motive nie geblinkt haben, werden schnell verbessert, um sie immer glaubwürdiger zu machen.

Es ist ein Wettrüsten, bei dem keine Seite in absehbarer Zeit zurücktreten wird, aber Forscher von UC Berkeley und der University of Southern California glauben, dass sie die nächste Waffe entwickelt haben, wenn es darum geht, gefälschte Videos zu bekämpfen oder einfach nur genau zu identifizieren. Mit einem ähnlichen Verfahren wie bei der Erstellung von Deepfakes – indem sie das vorhandene Filmmaterial der aktuellen Anzahl von Hoffnungsvollen des Präsidenten studierten – trainierten sie eine KI, um zu prüfen, ob die „weiche biometrische“ Signatur jeder Person vorhanden ist. Es klingt kompliziert, aber wenn wir sprechen, haben wir alle subtile, aber einzigartige Möglichkeiten, wie wir unsere Körper, Köpfe, Hände, Augen und sogar Lippen bewegen. Es wird alles unbewusst gemacht – Sie merken nicht, dass Ihr Körper es tut, und Ihr Verstand erkennt nicht sofort, wann es jemand anderes tut -, aber als Ergebnis ist es ein Detail, das die aktuellen Deepfake-Verarbeitungstechniken beim Erstellen einer Fälschung nicht berücksichtigen .

Im Test konnte die neue KI in mindestens 92 Prozent der Fälle Deepfakes genau erkennen, einschließlich Videos, die mit verschiedenen Techniken erstellt wurden, und Videos, deren Bildqualität aufgrund zu stark komprimierter Videodateien beeinträchtigt wurde. Die Forscher planen, die Erfolgsrate der KI weiter zu verbessern, indem sie die einzigartige Trittfrequenz und die Merkmale der tatsächlichen Stimme einer Person berücksichtigen. Die Realität ist jedoch, dass sich Deepfake-Techniken mit einer solchen Geschwindigkeit weiterentwickeln und verbessern, dass sie diese KI wahrscheinlich kompensieren und täuschen können, bevor 2020 überhaupt eintritt. Diese Forschung stellt einen gewonnenen Kampf dar, aber der Krieg um die Wahrheit im Internet wird noch andauern.