最近、Redditは、「Deep Fake」と呼ばれる機械学習ツールを使用して、ビデオ内のある人の顔を別の人の顔に自動的に置き換えるサブレディットで再びニュースを作成しています。明らかに、これはインターネットであるため、人々は2つの目的でそれを使用しています。偽の有名人ポルノとニコラスケイジをランダムな映画に挿入することです。
写真で誰かの顔を交換している間 常に比較的簡単でした 、動画で誰かの顔を入れ替えるのは、以前は時間がかかり、困難でした。これまでは、主にVFXスタジオが大予算のハリウッド映画のために行っていました。そこでは、俳優の顔がスタントダブルに入れ替わっています。しかし今、ディープフェイクを使えば、コンピューターを持っている人なら誰でもすばやく自動的にそれを行うことができます。
先に進む前に、ディープフェイクがどのように見えるかを知る必要があります。以下のSFWビデオをチェックしてください。これは、主にNicCageが関与するさまざまな有名人の顔の交換をまとめたものです。
Deep Fakeソフトウェアは、機械学習を使用して機能します。最初にターゲットの顔でトレーニングされます。ターゲットの歪んだ画像はアルゴリズムを介して実行され、変更されていないターゲットの顔に似るようにそれらを修正する方法を学習します。次に、アルゴリズムに別の人物の画像が供給されると、それらがターゲットの歪んだ画像であると想定し、それらを修正しようとします。ビデオを取得するために、DeepFakeソフトウェアはすべてのフレームで個別に動作します。
ディープフェイクが主に俳優を巻き込んだ理由は、さまざまな角度から利用できる俳優の映像がたくさんあり、トレーニングをより効果的にするためです（ニコラスケイジは IMDBの91演技クレジット ）。ただし、人々がオンラインで投稿する写真やビデオの量と、アルゴリズムのトレーニングに必要な画像は約500枚しかないことを考えると、一般の人々もターゲットにできない理由はありませんが、おそらく少しは成功しません。
ディープフェイクを見つける方法
今のところ、ディープフェイクは簡単に見つけることができますが、テクノロジーが向上するにつれて難しくなります。ここにいくつかの景品があります。
奇妙な顔。 多くのディープフェイクでは、顔が奇妙に見えます。機能が完全に揃っているわけではなく、下の画像のようにすべてが少しワックス状に見えます。他のすべてが正常に見えても、顔が奇妙に見える場合は、おそらくディープフェイクです。
ちらつき 。悪いディープフェイクビデオの一般的な機能は、顔がちらつくように見え、元の機能がときどき表示されることです。通常、顔の端や顔の前を何かが通過したときにはっきりとわかります。奇妙なちらつきが発生した場合は、ディープフェイクを見ています。
異なるボディ。 ディープフェイクは顔の交換にすぎません。ほとんどの人は体をうまくマッチさせようとしますが、それが常に可能であるとは限りません。その人が著しく重い、軽い、背が高い、短い、または実際にはない入れ墨をしている（または実際に持っている入れ墨を持っていない）場合は、偽物である可能性が高くなります。パトリックスチュワートの顔があった、本当に明白な例を以下に見ることができます J.K.と交換シモンズ 映画ウィプラッシュのシーンで。シモンズはスチュワートよりもかなり小さいので、奇妙に見えます。
短いクリップ。 現在、Deep Fakeソフトウェアが完全に機能し、ほとんど区別がつかないフェイススワップを作成する場合でも、実際に実行できるのは短時間だけです。やがて、上記の問題の1つが発生し始めます。そのため、人々が共有するほとんどのディープフェイククリップの長さはわずか数秒で、残りの映像は使用できません。有名人が何かをしている非常に短いクリップが表示され、それがそれほど短い理由がない場合、それはディープフェイクであるという手がかりです。
音が出ない、または口パクが悪い。 Deep Fakeソフトウェアは、顔の特徴のみを調整します。魔法のようにある人を別の人のように聞こえさせるわけではありません。クリップに音がなく、音が出ない理由がない場合、それはディープフェイクを見ているもう1つの手がかりです。同様に、音があっても、話し言葉が動く唇と正しく一致しない場合（または、下のクリップのように人が話しているときに唇が奇妙に見える場合）、ディープフェイクが発生している可能性があります。
信じられないほどのクリップ 。これは言うまでもありませんが、本当に信じられないほどのクリップが表示された場合は、実際には信じてはいけない可能性があります。ニコラス・ケイジは、マーベル映画でロキとして主演したことはありません。でも、それはかっこいいでしょう。
疑わしい情報源。 偽の写真のように、ビデオがどこから来たのかは、その信憑性に関する大きな手がかりになることがよくあります。 New York Timesがストーリーを実行している場合、Redditのランダムなコーナーで何かを発見した可能性がはるかに高くなります。
当分の間、ディープフェイクは大きな問題というよりも恐ろしい好奇心です。結果は簡単に見つけることができ、何が行われているのかを容認することは不可能ですが、ディープフェイクを本物のビデオとして見送ろうとしている人はまだいません。
ただし、テクノロジーが向上するにつれて、それらははるかに大きな問題になる可能性があります。たとえば、米国に対する宣戦布告の金正恩の説得力のある偽の映像は、大きなパニックを引き起こす可能性があります。
