私たちはビデオやオーディオの録音の内容を信頼する傾向があります。しかし、AIを使用すると、誰の顔や声もピンポイントの精度で再現できます。この製品は、ミーム、誤報、またはポルノに使用される可能性のあるディープフェイク、なりすましです。
一見 ニコラス・ケイジのディープフェイク またはジョーダンピールの ディープフェイクPSA 奇妙な新しいテクノロジーを扱っていることが明らかになります。これらの例は、比較的無害ですが、将来について疑問を投げかけます。ビデオとオーディオを信頼できますか？画面上のアクションについて人々に説明責任を負わせることはできますか？ディープフェイクの準備はできていますか？
ディープフェイクは新しく、作成が簡単で、急速に成長しています
ディープフェイクテクノロジーはほんの数年前のものですが、すでに爆発的に魅力的で不安なものになっています。 2017年にRedditスレッドで造られた「ディープフェイク」という用語は、人工知能による人間の外見や声の再現を表すために使用されます。驚いたことに、だれでも、安っぽいPC、いくつかのソフトウェア、および数時間の作業でディープフェイクを作成できます。
他の新しいテクノロジーと同様に、ディープフェイクを取り巻く混乱があります。 「酔ったペロシ」のビデオは、この混乱の優れた例です。ディープフェイクはAIによって構築され、人々になりすますために作られています。ディープフェイクと呼ばれている「ダンクペロシ」の動画は、実際にはナンシーペロシの動画にすぎません。 速度を落とし、ピッチを修正しました 不明瞭なスピーチ効果を追加します。
これは、deepfakeryが、たとえば、スターウォーズのCGIキャリーフィッシャー：ローグワンと異なる点でもあります。ディズニーがキャリーフィッシャーの顔を研究して手作業で再現するのに多額のお金を費やしている間、いくつかのディープフェイクソフトウェアを持ったオタクは 同じ仕事を無料でやる 一日で。 AIは、仕事を信じられないほどシンプル、安価、そして説得力のあるものにします。
ディープフェイクの作り方
教室の学生のように、AIは意図したタスクを実行する方法を「学習」する必要があります。これは、通常、ブルートフォースの試行錯誤のプロセスを通じて行われます。 機械学習またはディープラーニングと呼ばれます 。たとえば、スーパーマリオブラザーズの最初のレベルを完了するように設計されたAIは、勝つための最良の方法を見つけるまで、ゲームを何度も繰り返しプレイします。 AIを設計する人は、物事を開始するためのデータと、途中で問題が発生した場合のいくつかの「ルール」を提供する必要があります。それを除けば、AIがすべての作業を行います。
同じことがディープフェイクの顔のレクリエーションにも当てはまります。しかし、もちろん、顔を再現することは、ビデオゲームを打ち負かすことと同じではありません。ウェンディウィリアムズのショーを主催するニコラスケイジのディープフェイクを作成する場合、必要なものは次のとおりです。
- デスティネーションビデオ ：現時点では、ディープフェイクは明確でクリーンな宛先ビデオで最適に機能します。そのため、最も説得力のあるディープフェイクのいくつかは政治家のものです。彼らは一貫した照明の下で表彰台にじっと立っている傾向があります。ですから、ウェンディがじっと座って話しているビデオが必要です。
- 2つのデータセット ：口と頭の動きを正確に表示するには、ウェンディウィリアムズの顔のデータセットとニコラスケイジの顔のデータセットが必要です。ウェンディが右を向いている場合は、ニコラス・ケイジが右を向いている写真が必要です。ウェンディが口を開ける場合、ケージが口を開けている写真が必要です。
その後、AIに任せます。それは途中でその間違いから学び、何度も何度もディープフェイクを作成しようとします。簡単ですよね？さて、ウェンディウィリアムの体にあるケージの顔のビデオはだれもだましません。では、どうすればもう少し先に進むことができますか？
最も説得力のある（そして潜在的に有害な）ディープフェイクは、全面的ななりすましです。人気の オバマディープフェイク ジョーダン・ピールの良い例です。それでは、これらのなりすましの1つを実行しましょう。アリに対する憎しみを宣言するマーク・ザッカーバーグのディープフェイクを作成しましょう。説得力があるようですね。必要なものは次のとおりです。
- デスティネーションビデオ ：これは、ザッカーバーグ自身またはザッカーバーグに似た俳優のビデオである可能性があります。目的のビデオが俳優のものである場合は、ザッカーバーグの顔を俳優に貼り付けるだけです。
- 写真データ ：ザッカーバーグが話し、まばたきをし、頭を動かしている写真が必要です。彼の顔を俳優に重ね合わせる場合は、俳優の顔の動きのデータセットも必要になります。
- ザッカーバーグの声 ：私たちのディープフェイクはザッカーバーグのように聞こえる必要があります。これを行うには、なりすましを録音するか、AIを使用してザッカーバーグの声を再現します。彼の声を再現するには、次のようなAIを介してザッカーバーグのオーディオサンプルを実行するだけです。 Lyrebird 、次に、彼に言わせたいことを入力します。
- リップシンクAI ：私たちは 追加 私たちのビデオに対する偽のザッカーバーグの声、リップシンクAIは、ディープフェイクの顔の動きが言われていることと一致することを確認する必要があります。
私たちは、deepfakeryに入る仕事と専門知識を軽視しようとはしていません。しかし、もたらした百万ドルのCGIの仕事と比較すると オードリー・ヘプバーンが死から戻った 、ディープフェイクは公園を散歩しています。そして、私たちはまだ政治や有名人のディープフェイクに陥っていませんが、最も卑劣で最も明白なディープフェイクでさえ、本当の害を引き起こしています。
関連： AIの問題：機械は物事を学習しているが、それらを理解できない
ディープフェイクはすでに現実世界に害を及ぼしています
現在のところ、ディープフェイクの大部分はニコラスケイジのミーム、公共広告、不気味な有名人のポルノだけです。これらのアウトレットは比較的無害で識別が容易ですが、場合によっては、ディープフェイクを使用して誤った情報を広め、他の人の命を傷つけることに成功しています。
インドでは、女性ジャーナリストに対する暴力の信用を失墜させ、扇動するために、ヒンドゥーナショナリストがディープフェイクを採用しています。 2018年、 ラナ・アユブが犠牲になった ポルノビデオに彼女の顔のディープフェイクビデオを重ね合わせたような誤報キャンペーンに。これは、他の形態のオンライン嫌がらせや 身体的暴力の脅威 。
ステートサイドのディープフェイクテクノロジーは、合意に基づかないリベンジポルノを作成するためによく使用されます。なので 副によって報告された 、現在禁止されているディープフェイクRedditフォーラムの多くのユーザーが、元ガールフレンド、クラッシュ、友達、クラスメートのディープフェイクを作成する方法を尋ねました（はい、児童ポルノ）。問題は非常に大きいため、バージニア州は現在、あらゆる形態の合意に基づかないポルノを禁止しています。 ディープフェイクを含む 。
ディープフェイクがますます説得力を持つようになるにつれて、このテクノロジーは間違いなく、より疑わしい目的で使用されるようになります。しかし、私たちが過剰反応している可能性がありますよね？これはPhotoshopに続く最も自然なステップではありませんか？
ディープフェイクは、ドクター画像の自然な拡張です
最も基本的なレベルでさえ、ディープフェイクは不安を感じています。私たちは、偏見や誤った情報なしに人々の言葉や行動をキャプチャするために、ビデオとオーディオの録音を信頼しています。しかし、ある意味で、ディープフェイクの脅威はまったく新しいものではありません。それは私たちが最初に写真を使い始めてから存在していました。
たとえば、エイブラハムリンカーンの写真をいくつか撮りましょう。これらの写真の大部分（1セント硬貨と5ドル札の肖像画を含む） 医者にされた マシュー・ブレイディという写真家がリンカーンのとげのある外観（特に彼の細い首）を改善するために。これらの肖像画の一部は、ディープフェイクを彷彿とさせる方法で編集され、リンカーンの頭がカルホーンのような「強い」男性の体に重ねられています（以下の例はエッチングであり、写真ではありません）。
これは奇妙な宣伝のように聞こえますが、1860年代、写真にはある程度の「真実」があり、現在はビデオとオーディオの録音用に予約しています。それは芸術の正反対であると考えられていました— 科学 。これらの写真は、リンカーンの体の弱さを批判した新聞の信用を故意に傷つけるために作成されました。結局、それはうまくいきました。アメリカ人はリンカーンの姿に感銘を受け、リンカーン自身がブレイディの写真は「 私を大統領にした 。”
ディープフェイクと19世紀の写真編集の関係は、奇妙なことに心地よいものです。このテクノロジーは深刻な結果をもたらしますが、完全に私たちの手に負えないものではないという物語を私たちに提供します。しかし、悲しいことに、その物語はあまり長くは続かないかもしれません。
ディープフェイクを永遠に見つけることはできません
私たちは、偽の画像や動画を目で見つけることに慣れています。見るのは簡単です ヨーゼフ・ゲッベルスの家族の肖像画と言う 、「後ろのその男には何か奇妙なことがあります。」一瞥 北朝鮮の宣伝写真 YouTubeチュートリアルがなければ、人々はPhotoshopに夢中になっていることが明らかになります。そして、ディープフェイクと同じくらい印象的です、 それはまだ可能です 見た目だけでディープフェイクを見つける。
しかし、ディープフェイクをこれ以上見つけることはできません。毎年、ディープフェイクはより説得力があり、作成がさらに簡単になります。ディープフェイクを作ることができます 1枚の写真で 、そしてあなたは次のようなAIを使うことができます Lyrebird 1分以内に音声のクローンを作成します。偽のビデオとオーディオを融合したハイテクディープフェイクは、次のような認識可能な人物を模倣するように作られている場合でも、非常に説得力があります。 マーク・ザッカーバーグ 。
将来的には、AI、アルゴリズム、ブロックチェーンテクノロジーを使用して、ディープフェイクと戦う可能性があります。理論的には、AIは動画をスキャンしてディープフェイクを探すことができます。 指紋 、」およびオペレーティングシステム全体にインストールされたブロックチェーン技術は、ディープフェイクソフトウェアに触れたユーザーまたはファイルにフラグを立てる可能性があります。
これらのディープフェイク防止方法がばかげていると思われる場合は、クラブに参加してください。 AI研究者でさえ ディープフェイクに真の解決策があるかどうかは疑わしいです。検出ソフトウェアが向上するにつれて、ディープフェイクも向上します。最終的には、ディープフェイクを検出できなくなる段階に到達し、偽の有名人のポルノやニコラスケイジの動画よりも心配することがたくさんあります。
