Chúng tôi có xu hướng tin tưởng nội dung của các bản ghi âm và video. Nhưng với AI, khuôn mặt hoặc giọng nói của bất kỳ ai cũng có thể được tái tạo với độ chính xác từng điểm. Sản phẩm là một sự giả mạo, một sự mạo danh có thể được sử dụng cho các meme, thông tin sai lệch hoặc khiêu dâm.
Một cái nhìn vào Nicholas Cage deepfakes hoặc Jordan Peele’s deepfake PSA nói rõ rằng chúng tôi đang đối phó với công nghệ mới lạ. Những ví dụ này, trong khi tương đối vô hại, đặt ra câu hỏi về tương lai. Chúng ta có thể tin tưởng vào video và âm thanh không? Chúng ta có thể quy trách nhiệm cho mọi người về các hành động trên màn hình của họ không? Chúng ta đã sẵn sàng cho deepfakes chưa?
Deepfakes mới, dễ làm và phát triển nhanh
Công nghệ Deepfake mới ra đời được vài năm, nhưng nó đã bùng nổ thành một thứ vừa quyến rũ vừa đáng lo ngại. Thuật ngữ "deepfake", được đặt ra trên một chuỗi Reddit vào năm 2017, được sử dụng để mô tả việc tái tạo ngoại hình hoặc giọng nói của con người thông qua trí tuệ nhân tạo. Đáng ngạc nhiên là bất kỳ ai cũng có thể tạo ra một bản deepfake với một chiếc PC tồi tàn, một số phần mềm và vài giờ làm việc.
Như với bất kỳ công nghệ mới nào, có một số nhầm lẫn xung quanh deepfakes. Video “Pelosi say rượu” là một ví dụ điển hình cho sự nhầm lẫn này. Deepfakes được xây dựng bởi AI và chúng được tạo ra để mạo danh mọi người. Video "dunk Pelosi", được gọi là deepfake, thực ra chỉ là một video của Nancy Pelosi đã từng làm chậm lại và chỉnh sửa cao độ để thêm hiệu ứng giọng nói lắp bắp.
Đây cũng là điều làm cho deepfakery khác biệt với CGI Carrie Fisher trong Star Wars: Rogue One. Trong khi Disney đã chi rất nhiều tiền để nghiên cứu khuôn mặt của Carrie Fisher và tạo lại nó bằng tay, thì một kẻ mọt sách với một số phần mềm deepfake có thể làm công việc tương tự miễn phí trong một ngày. AI làm cho công việc trở nên cực kỳ đơn giản, rẻ và thuyết phục.
Cách làm Deepfake
Giống như một học sinh trong lớp học, AI phải “học” cách thực hiện nhiệm vụ dự định của nó. Nó thực hiện điều này thông qua quá trình thử và sai một cách thô bạo, thường là được gọi là học máy hoặc học sâu . Ví dụ: một AI được thiết kế để hoàn thành cấp độ đầu tiên của Super Mario Bros, sẽ chơi đi chơi lại trò chơi cho đến khi tìm ra cách tốt nhất để giành chiến thắng. Người thiết kế AI cần cung cấp một số dữ liệu để bắt đầu mọi thứ, cùng với một số "quy tắc" khi mọi thứ diễn ra không như ý muốn. Bên cạnh đó, AI thực hiện tất cả công việc.
Điều này cũng tương tự đối với việc tái tạo da mặt bằng deepfake. Tuy nhiên, tất nhiên, việc tạo lại khuôn mặt không giống như đánh bại một trò chơi điện tử. Nếu chúng tôi muốn tạo ra một bức ảnh sâu sắc về Nicholas Cage dẫn chương trình của Wendy Williams, thì đây là những gì chúng tôi cần:
- Video đích : Hiện tại, deepfakes hoạt động tốt nhất với các video đích rõ ràng, rõ ràng. Đó là lý do tại sao một số câu chuyện sâu sắc thuyết phục nhất là về các chính trị gia; họ có xu hướng đứng yên trên bục dưới ánh sáng nhất quán. Vì vậy, chúng ta chỉ cần một video Wendy ngồi yên và nói chuyện.
- Hai tập dữ liệu : Để chuyển động của miệng và đầu trông chính xác, chúng tôi cần tập dữ liệu về khuôn mặt của Wendy Williams và tập dữ liệu về khuôn mặt của Nicholas Cage. Nếu Wendy nhìn sang phải, chúng ta cần ảnh Nicholas Cage đang nhìn sang phải. Nếu Wendy mở miệng, chúng ta cần hình ảnh Cage đang mở miệng.
Sau đó, chúng tôi để AI làm công việc của nó. Nó cố gắng tạo ra deepfake lặp đi lặp lại, học hỏi từ những sai lầm của nó trong suốt quá trình. Đơn giản đúng không? Chà, một video quay khuôn mặt của Cage trên cơ thể của Wendy William sẽ không đánh lừa bất kỳ ai, vậy làm cách nào để chúng ta có thể tiến xa hơn một chút?
Những trò lừa bịp thuyết phục nhất (và có khả năng gây hại) là những hành động mạo danh hoàn toàn. Phổ biến Obama deepfake của Jordan Peele là một ví dụ điển hình. Vì vậy, hãy thực hiện một trong những hành động mạo danh này. Chúng ta hãy tạo ra một bức ảnh sâu sắc về việc Mark Zuckerberg tuyên bố rằng anh ấy ghét kiến - điều đó nghe có vẻ thuyết phục, phải không? Đây là những gì chúng tôi sẽ cần:
- Video đích : Đây có thể là video của chính Zuckerberg hoặc một diễn viên có ngoại hình giống Zuckerberg. Nếu video đích của chúng tôi là về một diễn viên, chúng tôi sẽ chỉ cần dán khuôn mặt của Zuckerberg lên diễn viên đó.
- Dữ liệu ảnh : Chúng ta cần những bức ảnh Zuckerberg đang nói chuyện, chớp mắt và di chuyển đầu xung quanh. Nếu đặt khuôn mặt của anh ấy lên một diễn viên, chúng tôi cũng sẽ cần một tập dữ liệu về các chuyển động trên khuôn mặt của diễn viên đó.
- Giọng nói của Zuck : Deepfake của chúng tôi cần nghe giống như The Zuck. Chúng tôi có thể làm điều này bằng cách ghi âm một kẻ mạo danh hoặc bằng cách tạo lại giọng nói của Zuckerberg bằng AI. Để tạo lại giọng nói của anh ấy, chúng tôi chỉ cần chạy các mẫu âm thanh của Zuckerberg thông qua một AI như Lyrebird , và sau đó nhập những gì chúng tôi muốn anh ấy nói.
- A Lip-Sync AI : Vì chúng tôi là thêm vào giọng nói của Zuckerberg giả trong video của chúng tôi, một AI hát nhép cần phải đảm bảo rằng các chuyển động sâu trên khuôn mặt khớp với những gì đang được nói.
Chúng tôi không cố gắng hạ thấp công việc và chuyên môn đi sâu vào sản xuất. Nhưng khi so sánh với công việc CGI hàng triệu đô la mang lại Audrey Hepburn trở về từ cõi chết , deepfakes là một cuộc đi dạo trong công viên. Và mặc dù chúng ta chưa phải lòng chính trị hoặc người nổi tiếng, nhưng ngay cả những lời nói sâu sắc điên rồ nhất, rõ ràng nhất cũng đã gây ra tác hại thực sự.
LIÊN QUAN: Vấn đề với AI: Máy móc đang học hỏi mọi thứ, nhưng không thể hiểu chúng
Deepfakes đã gây ra tác hại trong thế giới thực
Tính đến thời điểm hiện tại, phần lớn các deepfakes chỉ là meme của Nicholas Cage, thông báo dịch vụ công cộng và nội dung khiêu dâm người nổi tiếng rùng rợn. Những cửa hàng này tương đối vô hại và dễ xác định, nhưng trong một số trường hợp, những trò lừa đảo sâu được sử dụng thành công để truyền bá thông tin sai lệch và làm tổn thương cuộc sống của người khác.
Ở Ấn Độ, những kẻ theo chủ nghĩa dân tộc theo chủ nghĩa dân tộc Hindu sử dụng để làm mất uy tín và kích động bạo lực đối với các nhà báo nữ. Năm 2018, một nhà báo có tên Rana Ayyub trở thành nạn nhân cho một chiến dịch cung cấp thông tin sai lệch như vậy, trong đó có một đoạn video sâu về khuôn mặt của cô ấy được xếp chồng lên một video khiêu dâm. Điều này dẫn đến các hình thức quấy rối trực tuyến khác và đe dọa bạo lực thể chất .
Ngoài ra, công nghệ deepfake thường được sử dụng để tạo ra phim khiêu dâm trả thù vô cớ. Như báo cáo của Vice , nhiều người dùng trên diễn đàn Reddit deepfakes hiện bị cấm đã hỏi cách tạo deepfakes của bạn gái cũ, người yêu, bạn bè và bạn cùng lớp (vâng, khiêu dâm trẻ em). Vấn đề lớn đến mức Virginia hiện cấm mọi hình thức khiêu dâm không có sự đồng thuận, bao gồm cả deepfakes .
Khi deepfakes ngày càng trở nên thuyết phục, công nghệ chắc chắn sẽ được sử dụng cho những mục đích khó hiểu hơn. Nhưng có khả năng chúng ta đang phản ứng thái quá, phải không? Đây không phải là bước tự nhiên nhất sau Photoshop sao?
Deepfakes là phần mở rộng tự nhiên của hình ảnh Doctored
Ngay cả ở cấp độ cơ bản nhất của họ, deepfakes là đáng lo ngại. Chúng tôi tin tưởng các bản ghi âm và video ghi lại lời nói và hành động của mọi người mà không có bất kỳ thành kiến hoặc thông tin sai lệch nào. Nhưng theo một cách nào đó, mối đe dọa từ những chiếc deepfakes không hề mới. Nó đã tồn tại kể từ lần đầu tiên chúng tôi bắt đầu sử dụng nhiếp ảnh.
Lấy ví dụ, một vài bức ảnh về Abraham Lincoln. Phần lớn những bức ảnh này (bao gồm cả chân dung trên đồng xu và tờ năm đô la) đã được học của một nhiếp ảnh gia tên là Mathew Brady để cải thiện vẻ ngoài khẳng khiu của Lincoln (cụ thể là chiếc cổ gầy của anh ấy). Một số bức chân dung này đã được chỉnh sửa theo cách gợi nhớ đến những bức vẽ sâu, với đầu của Lincoln được đặt trên cơ thể của những người đàn ông “mạnh mẽ” như Calhoun (ví dụ dưới đây là một bức tranh khắc, không phải một bức ảnh).
Điều này nghe có vẻ hơi kỳ lạ khi công khai, nhưng trong những năm 1860, nhiếp ảnh mang một lượng "sự thật" nhất định mà ngày nay chúng ta dành cho các bản ghi âm và ghi hình. Nó được coi là đối cực của nghệ thuật— một khoa học . Những bức ảnh này được cho là cố ý làm mất uy tín của các tờ báo chỉ trích Lincoln vì thân hình yếu ớt của ông. Cuối cùng, nó đã hoạt động. Người Mỹ bị ấn tượng bởi hình dáng của Lincoln và chính Lincoln cũng khẳng định rằng những bức ảnh của Brady “ làm cho tôi làm tổng thống .”
Mối liên hệ giữa deepfakes và chỉnh sửa ảnh thế kỷ 19 thật kỳ lạ. Nó cung cấp cho chúng ta tường thuật rằng, mặc dù công nghệ này gây ra những hậu quả nghiêm trọng, nhưng nó không phải là thứ hoàn toàn nằm ngoài tầm kiểm soát của chúng tôi. Nhưng, đáng buồn thay, câu chuyện đó có thể không giữ được lâu.
Chúng ta sẽ không thể phát hiện ra Deepfakes mãi mãi
Chúng ta đã quen với việc phát hiện các hình ảnh và video giả bằng mắt thường. Thật dễ dàng để nhìn vào một Chân dung gia đình Joseph Goebbels và câu nói , "Có điều gì đó kỳ lạ về anh chàng đó ở phía sau." Nhìn lướt qua Ảnh tuyên truyền của Triều Tiên Rõ ràng rằng, nếu không có hướng dẫn trên YouTube, mọi người sẽ không thích Photoshop. Và ấn tượng không kém gì deepfakes, nó vẫn có thể để phát hiện sâu trong tầm mắt một mình.
Nhưng chúng tôi sẽ không thể phát hiện ra những món ăn sâu sắc lâu hơn nữa. Mỗi năm, deepfakes trở nên thuyết phục hơn và thậm chí dễ tạo hơn. Bạn có thể làm một chiếc bánh sâu với một bức ảnh duy nhất và bạn có thể sử dụng AI như Lyrebird để sao chép giọng nói trong vòng chưa đầy một phút. Các bản deepfakes công nghệ cao kết hợp video giả và âm thanh cực kỳ thuyết phục, ngay cả khi chúng được tạo ra để bắt chước các nhân vật dễ nhận biết như Mark Zuckerberg .
Trong tương lai, chúng tôi có thể sử dụng AI, thuật toán và công nghệ blockchain để chống lại những kẻ lừa đảo. Về mặt lý thuyết, AI có thể quét video để tìm kiếm deepfake “ dấu vân tay ”Và công nghệ blockchain được cài đặt trên các hệ điều hành có thể gắn cờ người dùng hoặc tệp đã chạm vào phần mềm deepfake.
Nếu những phương pháp chống deepfake này nghe có vẻ ngu ngốc đối với bạn, thì hãy tham gia câu lạc bộ. Even AI researchers nghi ngờ rằng có một giải pháp thực sự cho deepfakes. Khi phần mềm phát hiện trở nên tốt hơn, deepfakes cũng vậy. Cuối cùng, chúng ta sẽ đến một thời điểm mà deepfakes sẽ không thể phát hiện được và chúng ta sẽ còn nhiều điều phải lo lắng hơn là video khiêu dâm người nổi tiếng giả mạo và các video của Nicolas Cage.
