최근 Reddit은 사람들이 'Deep Fake'라는 기계 학습 도구를 사용하여 동영상에서 한 사람의 얼굴을 다른 사람으로 자동 대체하는 서브 레딧으로 다시 뉴스를 만들고 있습니다. 분명히 이것이 인터넷이기 때문에 사람들은 가짜 유명인 포르노와 Nicolas Cage를 무작위 영화에 삽입하는 두 가지 용도로 사용하고 있습니다.
사진 속 누군가의 얼굴을 바꾸면서 항상 비교적 쉬웠다 , 동영상에서 다른 사람의 얼굴을 바꾸는 작업은 시간이 많이 걸리고 어려웠습니다. 지금까지는 배우의 얼굴이 스턴트 더블로 바뀌는 대규모 할리우드 영화의 VFX 스튜디오에서 주로 수행되었습니다. 하지만 이제 Deep Fake를 사용하면 컴퓨터를 가진 사람이라면 누구나 빠르고 자동으로 작업을 수행 할 수 있습니다.
더 진행하기 전에 Deep Fake가 어떻게 생겼는지 알아야합니다. 주로 Nic Cage와 관련된 다양한 유명인 얼굴 스왑을 편집 한 아래 SFW 비디오를 확인하십시오.
Deep Fake 소프트웨어는 기계 학습을 사용하여 작동합니다. 대상 얼굴로 처음 훈련되었습니다. 대상의 왜곡 된 이미지는 알고리즘을 통해 실행되며 변경되지 않은 대상 얼굴을 닮도록 수정하는 방법을 학습합니다. 그런 다음 알고리즘이 다른 사람의 이미지를 제공 할 때 대상의 왜곡 된 이미지라고 가정하고 수정을 시도합니다. 비디오를 얻기 위해 Deep Fake 소프트웨어는 모든 프레임에서 개별적으로 작동합니다.
Deep Fakes가 주로 배우와 관련된 이유는 다른 각도에서 사용할 수있는 많은 영상이 있기 때문에 훈련을 더 효과적으로 할 수 있습니다 (Nicolas Cage는 IMDB에 대한 91 크레딧 ). 그러나 사람들이 온라인에 게시하는 사진과 동영상의 양과 알고리즘을 학습하는 데 실제로 약 500 개의 이미지 만 필요하다는 점을 감안할 때 일반 사람들도 타겟팅 할 수없는 이유가 없습니다.
딥 페이크를 찾는 방법
현재 Deep Fakes는 찾기가 매우 쉽지만 기술이 향상됨에 따라 점점 어려워 질 것입니다. 다음은 몇 가지 경품입니다.
이상한 보는 얼굴. 많은 Deep Fakes에서 얼굴이 이상하게 보입니다. 기능이 완벽하게 정렬되지 않고 모든 것이 아래 이미지와 같이 약간 밀랍처럼 보입니다. 다른 모든 것이 정상적으로 보이지만 얼굴이 이상하게 보이면 아마도 Deep Fake 일 것입니다.
꺼질 것 같은 . 나쁜 Deep Fake 비디오의 일반적인 특징은 얼굴이 깜박이는 것처럼 보이고 가끔씩 보이는 원래 기능입니다. 일반적으로 얼굴의 가장자리 나 무언가가 앞을 지나갈 때 더 분명합니다. 이상한 깜박임이 발생하면 Deep Fake를보고있는 것입니다.
다른 기관. 딥 페이크는 얼굴 스왑 일뿐입니다. 대부분의 사람들은 좋은 신체 일치를 시도하지만 항상 가능한 것은 아닙니다. 그 사람이 눈에 띄게 더 무겁거나 가볍거나 키가 크거나 키가 작거나 실제 생활에서 가지고 있지 않은 문신이 있다면 (또는 실제 생활에서 가지고있는 문신이없는 경우) 가짜 일 가능성이 높습니다. 아래에서 정말 명백한 예를 볼 수 있습니다. Patrick Stewart의 얼굴은 J.K. 시몬스 영화 Whiplash의 한 장면에서. Simmons는 Stewart보다 훨씬 작기 때문에 이상하게 보입니다.
짧은 클립. 현재 Deep Fake 소프트웨어가 완벽하게 작동하고 거의 구별 할 수없는 얼굴 스왑을 생성하더라도 실제로는 짧은 시간 동안 만 가능합니다. 머지 않아 위의 문제 중 하나가 발생하기 시작합니다. 그렇기 때문에 사람들이 공유하는 대부분의 Deep Fake 클립은 길이가 2 초에 불과하고 나머지 영상은 사용할 수 없습니다. 어떤 일을하는 유명인의 아주 짧은 클립을 보는데 그게 너무 짧을 이유가 없다면 딥 페이크라는 단서입니다.
소리가 나지 않거나 립싱크가 잘못되었습니다. Deep Fake 소프트웨어는 얼굴 특징 만 조정합니다. 마술처럼 한 사람이 다른 사람처럼 들리게 만들지는 않습니다. 클립에 사운드가없고 사운드가 아닐 이유가 없다면 Deep Fake를보고있는 또 다른 단서입니다. 마찬가지로 소리가 있어도 말이 움직이는 입술과 정확히 일치하지 않는 경우 (또는 아래 클립처럼 사람이 말하는 동안 입술이 이상하게 보임) 딥 페이크 일 수 있습니다.
믿을 수없는 클립 . 이것은 말할 필요도 없지만 정말 믿을 수없는 클립을 보게된다면 실제로 믿지 말아야 할 좋은 기회입니다. Nicolas Cage는 Marvel 영화에서 Loki로 출연 한 적이 없습니다. 그래도 멋지네요.
모호한 출처. 가짜 사진과 마찬가지로 동영상의 출처는 진위 여부에 대한 큰 단서가됩니다. New York Times가 이에 관한 이야기를 진행하고 있다면 Reddit의 임의 구석에서 발견 한 내용이 사실 일 가능성이 훨씬 더 높습니다.
당분간 Deep Fakes는 주요 문제 라기보다 끔찍한 호기심에 가깝습니다. 결과는 쉽게 발견 할 수 있으며 수행중인 작업을 묵과하는 것은 불가능하지만 아직 아무도 Deep Fakes를 진짜 동영상으로 넘기려고하지 않습니다.
그러나 기술이 향상됨에 따라 훨씬 더 큰 문제가 될 가능성이 높습니다. 예를 들어, 김정은이 미국에 전쟁을 선포하는 가짜 장면을 설득하는 것은 큰 공황을 유발할 수 있습니다.
