Vor kurzem hat Reddit erneut Nachrichten mit einem Subreddit veröffentlicht, bei dem Benutzer ein maschinelles Lernwerkzeug namens "Deep Fake" verwenden, um das Gesicht einer Person in einem Video automatisch durch ein anderes zu ersetzen. Da dies das Internet ist, verwenden die Leute es offensichtlich für zwei Dinge: gefälschte Promi-Pornos und das Einfügen von Nicolas Cage in zufällige Filme.
Beim Tauschen hat jemandes Gesicht auf einem Foto war schon immer relativ einfach Früher war es zeitaufwändig und schwierig, jemandes Gesicht in einem Video zu tauschen. Bisher wurde es hauptsächlich von VFX-Studios für Hollywood-Filme mit großem Budget gemacht, bei denen das Gesicht eines Schauspielers auf sein Stunt-Double getauscht wird. Mit Deep Fake kann dies jetzt jeder mit einem Computer schnell und automatisch tun.
Bevor Sie fortfahren, müssen Sie wissen, wie ein Deep Fake aussieht. Schauen Sie sich das SFW-Video an, das eine Zusammenstellung verschiedener Promi-Face-Swaps enthält, an denen hauptsächlich Nic Cage beteiligt ist.
Die Deep Fake-Software arbeitet mit maschinellem Lernen. Es wird zuerst mit einem Zielgesicht trainiert. Durch den Algorithmus werden verzerrte Bilder des Ziels durchlaufen, und es wird gelernt, wie sie korrigiert werden, um der unveränderten Zielfläche zu ähneln. Wenn dem Algorithmus dann Bilder einer anderen Person zugeführt werden, wird davon ausgegangen, dass es sich um verzerrte Bilder des Ziels handelt, und es wird versucht, diese zu korrigieren. Um Videos zu erhalten, arbeitet die Deep Fake-Software für jedes Bild einzeln.
Der Grund, warum Deep Fakes größtenteils nur Schauspieler involviert hat, ist, dass viele Aufnahmen von ihnen aus verschiedenen Blickwinkeln verfügbar sind, was das Training effektiver macht (Nicolas Cage hat es getan) 91 Schauspielkredite auf IMDB ). Angesichts der Menge an Fotos und Videos, die online veröffentlicht werden, und der Tatsache, dass Sie wirklich nur etwa 500 Bilder benötigen, um den Algorithmus zu trainieren, gibt es keinen Grund, warum normale Menschen nicht ebenfalls angesprochen werden können, wenn auch wahrscheinlich mit etwas weniger Erfolg.
Wie man eine tiefe Fälschung erkennt
Im Moment sind Deep Fakes ziemlich leicht zu erkennen, aber es wird schwieriger, wenn die Technologie besser wird. Hier sind einige der Werbegeschenke.
Seltsam aussehende Gesichter. In vielen Deep Fakes sehen die Gesichter einfach komisch aus. Die Funktionen stimmen nicht perfekt überein und alles wirkt nur ein bisschen wachsartig wie im Bild unten. Wenn alles andere normal aussieht, aber das Gesicht seltsam erscheint, ist es wahrscheinlich eine tiefe Fälschung.
Flackern . Ein häufiges Merkmal von schlechten Deep Fake-Videos ist, dass das Gesicht zu flackern scheint und die ursprünglichen Merkmale gelegentlich sichtbar werden. Es ist normalerweise offensichtlicher an den Rändern des Gesichts oder wenn etwas davor vorbeigeht. Wenn seltsames Flackern auftritt, sehen Sie eine tiefe Fälschung.
Verschiedene Körper. Deep Fakes sind nur Face Swaps. Die meisten Menschen versuchen, ein gutes Körpermatch zu erzielen, aber das ist nicht immer möglich. Wenn die Person merklich schwerer, leichter, größer, kürzer zu sein scheint oder Tätowierungen hat, die sie im wirklichen Leben nicht hat (oder keine Tätowierungen hat, die sie im wirklichen Leben hat), besteht eine gute Chance, dass es sich um eine Fälschung handelt. Unten sehen Sie ein wirklich offensichtliches Beispiel, wo Patrick Stewarts Gesicht war getauscht mit J.K. Simmons in einer Szene aus dem Film Whiplash. Simmons ist deutlich kleiner als Stewart, sieht also nur seltsam aus.
Short Clips. Selbst wenn die Deep Fake-Software perfekt funktioniert und einen fast nicht unterscheidbaren Gesichtstausch erstellt, kann sie dies derzeit nur für kurze Zeit tun. In Kürze wird eines der oben genannten Probleme auftreten. Aus diesem Grund sind die meisten Deep Fake-Clips, die von anderen geteilt werden, nur ein paar Sekunden lang. Der Rest des Filmmaterials ist unbrauchbar. Wenn Ihnen ein sehr kurzer Clip eines Prominenten gezeigt wird, der etwas tut, und es keinen guten Grund gibt, warum er so kurz ist, ist dies ein Hinweis darauf, dass es sich um eine Deep Fake handelt.
Kein Ton oder schlechte Lippensynchronisation. Die Deep Fake-Software passt nur die Gesichtszüge an. Es lässt eine Person nicht auf magische Weise wie eine andere klingen. Wenn der Clip keinen Ton enthält und es keinen Grund dafür gibt, dass er nicht zu hören ist, ist dies ein weiterer Hinweis darauf, dass Sie eine Deep Fake betrachten. Selbst wenn ein Ton zu hören ist und die gesprochenen Wörter nicht richtig mit den sich bewegenden Lippen übereinstimmen (oder die Lippen seltsam aussehen, während die Person wie im folgenden Clip spricht), liegt möglicherweise eine tiefe Fälschung vor.
Unglaubliche Clips . Diese eine Art versteht sich von selbst, aber wenn Ihnen ein wirklich unglaublicher Clip gezeigt wird, besteht eine gute Chance, dass Sie es nicht wirklich glauben sollten. Nicolas Cage war noch nie in einem Marvel-Film als Loki zu sehen. Das wäre allerdings cool.
Zweifelhafte Quellen. Wie bei gefälschten Fotos ist die Herkunft des Videos oft ein großer Hinweis auf seine Echtheit. Wenn die New York Times eine Geschichte darüber veröffentlicht, ist es weitaus wahrscheinlicher, dass Sie etwas in einer zufälligen Ecke von Reddit entdecken.
Deep Fakes sind vorerst eher eine schreckliche Neugier als ein großes Problem. Die Ergebnisse sind leicht zu erkennen und obwohl es unmöglich ist zu dulden, was getan wird, versucht noch niemand, Deep Fakes als echte Videos auszugeben.
Wenn die Technologie jedoch besser wird, sind sie wahrscheinlich ein viel größeres Problem. Zum Beispiel könnte das Überzeugen von gefälschten Filmmaterialien von Kim Jong Un, der den USA den Krieg erklärt, eine große Panik auslösen.
