Недавно Reddit снова стал делать новости о субреддите, в котором люди используют инструмент машинного обучения под названием Deep Fake, чтобы автоматически заменять лицо одного человека другим в видео. Очевидно, так как это Интернет, люди используют его для двух вещей: поддельные знаменитости порно и вставив Николас Кейджа в случайные фильмы.
При замене чьего-либо лица на фотографии всегда было относительно легко , замена чьего-либо лица в видео раньше занимала много времени и было сложно. До сих пор это в основном делали студии VFX для крупнобюджетных голливудских фильмов, где лицо актера заменяется лицом его дублера. Но теперь, с Deep Fake, любой, у кого есть компьютер, может делать это быстро и автоматически.
Прежде чем идти дальше, вам нужно знать, как выглядит Deep Fake. Посмотрите видео SFW ниже, которое представляет собой подборку разных смен лиц знаменитостей, в основном с участием Ник Кейдж.
Программное обеспечение Deep Fake работает с использованием машинного обучения. Сначала он тренируется с целевым лицом. Искаженные изображения цели обрабатываются алгоритмом, и он учится корректировать их, чтобы они напоминали неизмененное лицо цели. Когда в алгоритм затем загружаются изображения другого человека, он предполагает, что это искаженные изображения цели, и пытается исправить их. Чтобы получить видео, программа Deep Fake обрабатывает каждый кадр индивидуально.
Причина, по которой Deep Fakes в значительной степени привлекает актеров, заключается в том, что есть много их кадров, доступных с разных сторон, что делает обучение более эффективным (Николас Кейдж 91 действующий кредит на IMDB ). Однако, учитывая количество фотографий и видео, которые люди публикуют в Интернете, и что вам действительно нужно всего около 500 изображений для обучения алгоритма, нет причин, по которым обычные люди также не могут быть нацелены, хотя, вероятно, с немного меньшим успехом.
Как распознать глубокую подделку
Прямо сейчас Deep Fakes довольно легко обнаружить, но по мере совершенствования технологий станет сложнее. Вот некоторые из раздач.
Странные лица. Во многих Deep Fakes лица выглядят просто странно. Функции не совпадают идеально, и все выглядит немного воскообразным, как на изображении ниже. Если все остальное выглядит нормально, но лицо выглядит странным, вероятно, это Deep Fake.
Мерцание . Общей чертой плохих видеороликов Deep Fake является мерцающее лицо, а оригинальные черты иногда появляются в поле зрения. Обычно это более заметно по краям лица или когда что-то проходит перед ним. Если происходит странное мерцание, перед вами Deep Fake.
Разные тела. Deep Fakes - это всего лишь обмен лицами. Большинство людей пытаются добиться идеального соответствия телу, но это не всегда удается. Если человек кажется заметно тяжелее, легче, выше, ниже или у него есть татуировки, которых у него нет в реальной жизни (или у него нет татуировок, которые есть в реальной жизни), скорее всего, это подделка. Ниже вы можете увидеть действительно очевидный пример, где лицо Патрика Стюарта было поменялся местами с J.K. Симмонс в кадре из фильма Хлыст. Симмонс значительно меньше Стюарта, поэтому выглядит просто странно.
Короткие клипы. Прямо сейчас, даже когда программа Deep Fake работает идеально и создает почти неразличимую смену лица, она действительно может делать это только в течение короткого промежутка времени. Вскоре начнется одна из вышеперечисленных проблем. Вот почему большинство клипов Deep Fake, которыми делятся люди, длится всего пару секунд, остальная часть отснятого материала непригодна для использования. Если вам показали очень короткий клип, в котором знаменитость что-то делает, и нет веских причин, чтобы он был таким коротким, это признак того, что это Deep Fake.
Нет звука или плохая синхронизация губ. Программа Deep Fake корректирует только черты лица; это не волшебным образом заставляет одного человека походить на другого. Если в клипе нет звука и нет причин, по которым они не звучат, это еще один признак того, что вы смотрите на Deep Fake. Точно так же, даже если есть звук, если произнесенные слова не совпадают правильно с движущимися губами (или губы выглядят странно, когда человек говорит, как в ролике ниже), у вас может быть Deep Fake.
Невероятные клипы . Это само собой разумеется, но если вам показали действительно невероятный клип, есть большая вероятность, что вы на самом деле не должны ему верить. Николас Кейдж никогда не играл Локи в фильмах Marvel. Хотя это было бы круто.
Сомнительные источники. Как и в случае с поддельными фотографиями, то, откуда предположительно взято видео, часто является важным ключом к его подлинности. Если New York Times публикует об этом историю, то с большей вероятностью будет правдой то, что вы обнаружите в случайном уголке Reddit.
На данный момент Deep Fakes - это скорее ужасающее любопытство, чем серьезная проблема. Результаты легко заметить, и хотя нельзя мириться с тем, что делается, никто еще не пытается выдать Deep Fakes за подлинные видео.
Однако по мере развития технологий они, вероятно, станут гораздо более серьезной проблемой. Например, убедительные фальшивые кадры объявления войны Ким Чен Ыном США могут вызвать серьезную панику.
