เรามักจะเชื่อถือเนื้อหาของการบันทึกวิดีโอและเสียง แต่ด้วย AI ใบหน้าหรือเสียงของทุกคนสามารถสร้างขึ้นใหม่ได้ด้วยความแม่นยำของจุดพิน ผลิตภัณฑ์นี้เป็นของปลอมซึ่งเป็นการแอบอ้างบุคคลอื่นที่สามารถใช้เป็นมีมข้อมูลที่ไม่ถูกต้องหรือสื่อลามกได้
ดูที่ไฟล์ Nicholas Cage deepfakes หรือ Jordan Peele’s PSA ของ deepfake ทำให้ชัดเจนว่าเรากำลังรับมือกับเทคโนโลยีใหม่ ๆ ตัวอย่างเหล่านี้แม้จะไม่เป็นอันตราย แต่ก็ทำให้เกิดคำถามเกี่ยวกับอนาคต เราสามารถเชื่อถือภาพและเสียงได้หรือไม่? เราสามารถให้ผู้อื่นรับผิดชอบการกระทำบนหน้าจอได้หรือไม่? เราพร้อมสำหรับ Deepfakes แล้วหรือยัง?
Deepfakes เป็นของใหม่ทำง่ายและเติบโตอย่างรวดเร็ว
เทคโนโลยี Deepfake มีอายุเพียงไม่กี่ปี แต่ได้ขยายออกไปเป็นสิ่งที่ทั้งน่าดึงดูดและไม่มั่นคง คำว่า "deepfake" ซึ่งได้รับการประกาศเกียรติคุณในชุดข้อความ Reddit ในปี 2017 ใช้เพื่ออธิบายการแสดงลักษณะหรือเสียงของมนุษย์ผ่านปัญญาประดิษฐ์ น่าแปลกที่ใคร ๆ ก็สามารถสร้าง Deepfake ด้วยพีซีเส็งเคร็งซอฟต์แวร์บางตัวและทำงานเพียงไม่กี่ชั่วโมง
เช่นเดียวกับเทคโนโลยีใหม่ ๆ มีความสับสนเกี่ยวกับของปลอม วิดีโอ "เมาเปโลซี" เป็นตัวอย่างที่ดีเยี่ยมของความสับสนนี้ Deepfakes สร้างขึ้นโดย AI และสร้างขึ้นเพื่อแอบอ้างเป็นบุคคลอื่น วิดีโอ "dunk Pelosi" ซึ่งเรียกกันว่า deepfake นั้นเป็นเพียงวิดีโอของ Nancy Pelosi ที่เป็น ชะลอตัวลงและแก้ไขระดับเสียง เพื่อเพิ่มเอฟเฟกต์การพูดไม่ชัด
นี่คือสิ่งที่ทำให้ deepfakery แตกต่างจาก CGI Carrie Fisher ใน Star Wars: Rogue One ในขณะที่ Disney ใช้เงินมากมายในการศึกษาใบหน้าของ Carrie Fisher และสร้างมันขึ้นมาใหม่ด้วยมือคนโง่ที่มีซอฟต์แวร์ Deepfake ทำงานเดียวกันฟรี ในวันเดียว AI ทำให้งานง่ายราคาถูกและน่าเชื่ออย่างเหลือเชื่อ
วิธีการสร้าง Deepfake
เช่นเดียวกับนักเรียนในห้องเรียน AI ต้อง "เรียนรู้" วิธีปฏิบัติงานที่ตั้งใจไว้ โดยผ่านกระบวนการทดลองและข้อผิดพลาดอย่างดุเดือด เรียกว่าการเรียนรู้ของเครื่องหรือการเรียนรู้เชิงลึก . AI ที่ออกแบบมาเพื่อเล่น Super Mario Bros ระดับแรกจะเล่นเกมซ้ำแล้วซ้ำเล่าจนกว่าจะพบวิธีที่ดีที่สุดในการชนะ ผู้ออกแบบ AI จำเป็นต้องให้ข้อมูลบางอย่างเพื่อเริ่มต้นสิ่งต่างๆพร้อมกับ“ กฎ” บางอย่างเมื่อเกิดสิ่งผิดปกติขึ้นระหว่างทาง นอกเหนือจากนั้น AI ยังทำงานทั้งหมด
เช่นเดียวกับการพักผ่อนหย่อนใจบนใบหน้าอย่างล้ำลึก แต่แน่นอนว่าการสร้างใบหน้าขึ้นมาใหม่ไม่เหมือนกับการตีวิดีโอเกม หากเราจะสร้างเรื่องราวในเชิงลึกของ Nicholas Cage ที่จัดรายการ Wendy Williams นี่คือสิ่งที่เราต้องการ:
- วิดีโอปลายทาง : ณ ตอนนี้ deepfakes ทำงานได้ดีที่สุดกับวิดีโอปลายทางที่ชัดเจนและสะอาดตา นั่นเป็นสาเหตุที่ของปลอมที่น่าเชื่อที่สุดส่วนหนึ่งมาจากนักการเมือง พวกเขามักจะหยุดนิ่งที่แท่นภายใต้แสงไฟที่สม่ำเสมอ ดังนั้นเราแค่ต้องการวิดีโอของเวนดี้นั่งนิ่ง ๆ และคุยกัน
- ชุดข้อมูลสองชุด : เพื่อให้การเคลื่อนไหวของปากและศีรษะดูแม่นยำเราจำเป็นต้องมีชุดข้อมูลใบหน้าของ Wendy Williams และชุดข้อมูลใบหน้าของ Nicholas Cage ถ้าเวนดี้มองไปทางขวาเราต้องมีรูปของนิโคลัสเคจมองไปทางขวา ถ้าเวนดี้อ้าปากเราต้องมีภาพของเคจกำลังอ้าปาก
หลังจากนั้นเราก็ปล่อยให้ AI ทำหน้าที่ของมัน มันพยายามสร้าง deepfake ซ้ำแล้วซ้ำเล่าโดยเรียนรู้จากความผิดพลาดระหว่างทาง ง่ายใช่มั้ย? วิดีโอเกี่ยวกับใบหน้าของ Cage บนร่างกายของ Wendy William จะไม่หลอกใครแล้วเราจะไปต่อได้อย่างไร
ของปลอมที่น่าเชื่อที่สุด (และอาจเป็นอันตราย) คือการแอบอ้างบุคคลอื่นทั้งหมด ที่ได้รับความนิยม โอบามา deepfake โดย Jordan Peele เป็นตัวอย่างที่ดี เรามาดูการแอบอ้างบุคคลอื่นกัน เรามาสร้างประเด็นลึกของ Mark Zuckerberg ที่ประกาศความเกลียดชังมดกัน - ฟังดูน่าเชื่อใช่ไหม นี่คือสิ่งที่เราต้องการ:
- วิดีโอปลายทาง : นี่อาจเป็นวิดีโอของ Zuckerberg เองหรือนักแสดงที่หน้าตาคล้ายกับ Zuckerberg หากวิดีโอปลายทางของเราเป็นของนักแสดงเราเพียงแค่วางใบหน้าของ Zuckerberg ไว้บนนักแสดง
- ข้อมูลภาพถ่าย : เราต้องการรูปถ่ายของ Zuckerberg ที่กำลังพูดกะพริบตาและขยับหัวไปมา หากเราซ้อนใบหน้าของเขาบนนักแสดงเราจำเป็นต้องมีชุดข้อมูลการเคลื่อนไหวใบหน้าของนักแสดงด้วย
- เสียงของ Zuck : deepfake ของเราต้องฟังดูเหมือน The Zuck เราทำได้โดยบันทึกผู้แอบอ้างบุคคลอื่นหรือสร้างเสียงของ Zuckerberg ขึ้นมาใหม่ด้วย AI ในการสร้างเสียงของเขาขึ้นมาใหม่เราเพียงแค่เรียกใช้ตัวอย่างเสียงของ Zuckerberg ผ่าน AI like Lyrebird แล้วพิมพ์สิ่งที่เราต้องการให้เขาพูด
- Lip-Sync AI : เนื่องจากเราเป็น เพิ่ม เสียงของ Zuckerberg ปลอมในวิดีโอของเรา AI lip-sync ต้องตรวจสอบให้แน่ใจว่าการเคลื่อนไหวของใบหน้าที่เจาะลึกตรงกับสิ่งที่พูด
เราไม่ได้พยายามที่จะมองข้ามผลงานและความเชี่ยวชาญที่เจาะลึกลงไป แต่เมื่อเทียบกับงาน CGI เงินล้านที่นำมา Audrey Hepburn กลับมาจากความตาย ของปลอมคือการเดินเล่นในสวนสาธารณะ และในขณะที่เรายังไม่เคยตกหลุมพรางเรื่องเจาะลึกทางการเมืองหรือคนดังแม้แต่การปลอมแปลงที่ชัดเจนที่สุดก็ยังทำให้เกิดอันตราย
ที่เกี่ยวข้อง: ปัญหาเกี่ยวกับ AI: เครื่องจักรกำลังเรียนรู้สิ่งต่าง ๆ แต่ไม่สามารถเข้าใจได้
Deepfakes ได้ก่อให้เกิดอันตรายในโลกแห่งความจริง
ณ ตอนนี้ของปลอมส่วนใหญ่เป็นเพียงภาพมส์ของนิโคลัสเคจประกาศบริการสาธารณะและสื่อลามกคนดังที่น่าขนลุก ร้านค้าเหล่านี้ค่อนข้างไม่เป็นอันตรายและง่ายต่อการระบุ แต่ในบางกรณีของปลอมถูกนำมาใช้เพื่อเผยแพร่ข้อมูลที่ผิดและทำร้ายชีวิตของผู้อื่นได้สำเร็จ
ในอินเดียกลุ่มชาตินิยมชาวฮินดูใช้ของปลอมเพื่อสร้างความเสื่อมเสียและยุยงให้เกิดความรุนแรงต่อนักข่าวหญิง ในปี 2018 นักข่าวชื่อ Rana Ayyub ตกเป็นเหยื่อ ไปยังแคมเปญข้อมูลที่ผิดดังกล่าวซึ่งรวมถึงวิดีโอเจาะลึกใบหน้าของเธอที่ซ้อนทับบนวิดีโอลามก สิ่งนี้นำไปสู่การล่วงละเมิดทางออนไลน์ในรูปแบบอื่น ๆ และ การคุกคามความรุนแรงทางกายภาพ .
เทคโนโลยี Deepfake ของ Stateside มักถูกนำมาใช้เพื่อสร้างภาพอนาจารแก้แค้นแบบไม่ให้เหตุผล เช่น รายงานโดย Vice ผู้ใช้หลายคนในฟอรัม Deepfakes Reddit ที่ถูกแบนตอนนี้ถามว่าจะสร้าง deepfakes ของแฟนเก่าปิ๊งเพื่อนและเพื่อนร่วมชั้นได้อย่างไร (ใช่สื่อลามกเด็ก) ปัญหาใหญ่มากจนเวอร์จิเนียบังคับใช้สื่อลามกที่ไม่ยินยอมทุกรูปแบบ รวมถึง deepfakes .
เมื่อของปลอมมีความน่าเชื่อถือมากขึ้นเรื่อย ๆ เทคโนโลยีนี้จะถูกนำไปใช้เพื่อวัตถุประสงค์ที่น่าสงสัยมากขึ้นอย่างไม่ต้องสงสัย แต่มีโอกาสที่เราจะแสดงปฏิกิริยามากเกินไปใช่ไหม? นี่เป็นขั้นตอนที่เป็นธรรมชาติที่สุดหลังจาก Photoshop ไม่ใช่หรือ
Deepfakes เป็นส่วนขยายตามธรรมชาติของภาพ Doctored
แม้แต่ในระดับพื้นฐานที่สุดของปลอมก็ยังไม่มั่นคง เราเชื่อมั่นในการบันทึกวิดีโอและเสียงเพื่อจับคำพูดและการกระทำของผู้คนโดยไม่มีอคติหรือข้อมูลที่ผิด แต่ในทางหนึ่งการคุกคามของของปลอมไม่ใช่เรื่องใหม่ แต่อย่างใด มีมาตั้งแต่เราเริ่มใช้การถ่ายภาพครั้งแรก
ยกตัวอย่างเช่นภาพถ่ายของอับราฮัมลินคอล์น ภาพถ่ายเหล่านี้ส่วนใหญ่ (รวมถึงภาพบุคคลด้วยเงินและธนบัตรห้าเหรียญ) ได้รับการรักษา โดยช่างภาพชื่อ Mathew Brady เพื่อปรับปรุงรูปลักษณ์ของลินคอล์น (โดยเฉพาะคอที่บางของเขา) ภาพบุคคลเหล่านี้บางส่วนได้รับการแก้ไขในลักษณะที่ชวนให้นึกถึงภาพบาดลึกโดยศีรษะของลินคอล์นซ้อนทับบนร่างของชายที่“ แข็งแรง” เช่นคาลฮูน (ตัวอย่างด้านล่างเป็นการแกะสลักไม่ใช่ภาพถ่าย)
สิ่งนี้ฟังดูเหมือนเป็นการประชาสัมพันธ์ที่แปลกประหลาด แต่ในช่วงทศวรรษที่ 1860 การถ่ายภาพมี“ ความจริง” จำนวนหนึ่งซึ่งปัจจุบันเราสงวนไว้สำหรับการบันทึกวิดีโอและเสียง ถือได้ว่าเป็นสิ่งที่ตรงกันข้ามกับศิลปะ - วิทยาศาสตร์ . ภาพถ่ายเหล่านี้ได้รับการพิสูจน์แล้วว่าจงใจสร้างความเสื่อมเสียให้กับหนังสือพิมพ์ที่วิพากษ์วิจารณ์ลินคอล์นเนื่องจากร่างกายอ่อนแอ ในท้ายที่สุดมันก็ได้ผล ชาวอเมริกันประทับใจในรูปร่างของลินคอล์นและลินคอล์นเองก็อ้างว่าภาพถ่ายของเบรดี้“ ทำให้ฉันเป็นประธานาธิบดี .”
การเชื่อมต่อระหว่างของปลอมและการแก้ไขภาพในศตวรรษที่ 19 เป็นเรื่องที่น่าสบายใจอย่างยิ่ง มันให้คำบรรยายแก่เราว่าแม้ว่าเทคโนโลยีนี้จะส่งผลร้ายแรง แต่ก็ไม่ใช่สิ่งที่เราควบคุมไม่ได้ทั้งหมด แต่น่าเศร้าที่การเล่าเรื่องนั้นอาจใช้เวลาไม่นานนัก
เราไม่สามารถมองเห็น Deepfakes ได้ตลอดไป
เราคุ้นเคยกับการมองเห็นภาพและวิดีโอปลอมด้วยตา ดูไฟล์ ภาพครอบครัวของ Joseph Goebbels และพูด “ มีบางอย่างแปลก ๆ เกี่ยวกับผู้ชายคนนั้นอยู่ด้านหลัง” ภาพรวมที่ ภาพถ่ายโฆษณาชวนเชื่อของเกาหลีเหนือ ทำให้เห็นได้ชัดว่าหากไม่มีบทช่วยสอนของ YouTube ผู้คนก็หลงไหลใน Photoshop และน่าประทับใจพอ ๆ กับของปลอม ก็ยังทำได้ เพื่อมองเห็นภาพที่เห็นได้ชัดเพียงอย่างเดียว
แต่เราจะไม่สามารถตรวจจับของปลอมได้นานกว่านั้น ทุกๆปีของปลอมมีความน่าเชื่อถือมากขึ้นและสร้างได้ง่ายขึ้น คุณสามารถสร้าง deepfake ได้ ด้วยรูปถ่ายเดียว และคุณสามารถใช้ AI เช่น Lyrebird เพื่อโคลนเสียงในเวลาไม่ถึงหนึ่งนาที Deepfakes สุดไฮเทคที่ผสานวิดีโอและเสียงปลอมเข้าด้วยกันนั้นน่าเชื่ออย่างเหลือเชื่อแม้ว่าจะสร้างมาเพื่อเลียนแบบตัวเลขที่เป็นที่รู้จักเช่น มาร์คซัคเคอร์เบิร์ก .
ในอนาคตเราอาจใช้ AI อัลกอริทึมและเทคโนโลยีบล็อกเชนเพื่อต่อสู้กับของปลอม ในทางทฤษฎี AI สามารถสแกนวิดีโอเพื่อค้นหา deepfake " ลายนิ้วมือ ” และเทคโนโลยีบล็อกเชนที่ติดตั้งในระบบปฏิบัติการอาจตั้งค่าสถานะผู้ใช้หรือไฟล์ที่สัมผัสกับซอฟต์แวร์ Deepfake
หากวิธีการต่อต้านการล้วงลึกเหล่านี้ฟังดูโง่สำหรับคุณให้เข้าร่วมคลับ แม้แต่นักวิจัย AI เป็นที่น่าสงสัยว่ามีวิธีแก้ปัญหาของปลอมอย่างแท้จริง เนื่องจากซอฟต์แวร์ตรวจจับดีขึ้นเรื่อย ๆ ในที่สุดเราก็มาถึงจุดที่ไม่สามารถตรวจจับของปลอมได้ลึกและเราจะมีอะไรให้กังวลมากกว่าภาพโป๊ดาราปลอมและวิดีโอ Nicolas Cage
