לאחרונה, רדיט עשתה שוב חדשות עם תת-עריכה שבה אנשים משתמשים בכלי למידת מכונה בשם "עמוק מזויף" כדי להחליף את פניו של אדם אחד באופן אוטומטי בסרטון. ברור, מכיוון שמדובר באינטרנט, אנשים משתמשים בו לשני דברים: פורנו של סלבריטאים מזויפים והכנסת ניקולה קייג 'לסרטים אקראיים.
בזמן שהחלפת פניו של מישהו בתצלום יש תמיד היה קל יחסית , החלפת פנים של מישהו בסרטון היה גוזל זמן וקשה. עד עכשיו זה בעיקר נעשה רק על ידי אולפני VFX לסרטים הוליוודיים בתקציב גדול, שם מוחלפים פניו של שחקן לכפול הפעלולים שלהם. אבל עכשיו, עם Deep Fake, כל מי שיש לו מחשב יכול לעשות זאת במהירות ובאופן אוטומטי.
לפני שתמשיך הלאה, עליך לדעת כיצד נראה מזויף עמוק. בדוק את הסרטון של SFW למטה, שהוא אוסף של החלפות פנים מפורסמות שונות, בעיקר של Nic Cage.
תוכנת Deep Fake עובדת באמצעות למידת מכונה. זה מאומן לראשונה עם פנים מטרה. תמונות מעוותות של המטרה מופעלות דרך האלגוריתם והוא לומד כיצד לתקן אותן כדי להידמות לפנים היעד ללא שינוי. כאשר האלגוריתם מוזרם בתמונות של אדם אחר, הוא מניח שמדובר בתמונות מעוותות של המטרה, ומנסה לתקן אותן. כדי לקבל וידאו, תוכנת Deep Fake פועלת בכל פריים בנפרד.
הסיבה ש- Fakes מזויפים בעיקר היו מעורבים רק בשחקנים היא שיש הרבה צילומים זמינים מזוויות שונות מה שהופך את האימון ליעיל יותר (לניקולה קייג 'יש 91 נקודות זיכוי למשחק ב- IMDB ). עם זאת, בהתחשב בכמות התמונות והווידיאו שאנשים מפרסמים ברשת וכי אתה באמת זקוק רק לכ -500 תמונות בכדי להכשיר את האלגוריתם, אין שום סיבה שלא ניתן יהיה למקד גם לאנשים רגילים, אם כי כנראה עם קצת פחות הצלחה.
איך לזהות זיוף עמוק
נכון לעכשיו די קל לזהות זיופים עמוקים, אך זה יקשה ככל שהטכנולוגיה תשתפר. הנה כמה מתנות.
פנים משונות למראה. בהרבה זיופים עמוקים, הפרצופים פשוט נראים מוזרים. התכונות לא מסתדרות בצורה מושלמת והכל פשוט נראה קצת דונגי כמו בתמונה למטה. אם כל השאר נראים תקינים, אך הפנים נראים מוזרים, כנראה שזה מזויף עמוק.
הִבהוּב . מאפיין נפוץ של קטעי וידאו גרועים מזויפים עמוקים הוא הפנים שנראים מהבהבים והתכונות המקוריות שמופיעות מדי פעם לתצוגה. זה בדרך כלל ברור יותר בקצוות הפנים או כשמשהו עובר לפניו. אם קורה מהבהב מוזר, אתה מסתכל על זיוף עמוק.
גופים שונים. זיופים עמוקים הם רק החלפות פנים. רוב האנשים מנסים להשיג התאמה טובה לגוף, אבל זה לא תמיד אפשרי. אם נראה שהאדם כבד יותר, קל יותר, גבוה יותר, נמוך יותר או שיש לו קעקועים שאין להם בחיים האמיתיים (או שאין לו קעקועים שיש לו בחיים האמיתיים) יש סיכוי טוב שהוא מזויף. תוכלו לראות דוגמה ממש ברורה למטה, היכן היו פניו של פטריק סטיוארט התחלף עם ג'יי קיי. סימונס בסצנה מהסרט צליפת שוט. סימונס קטן משמעותית מסטיוארט, אז זה פשוט נראה מוזר.
קליפים קצרים. נכון לעכשיו, גם כאשר תוכנת ה- Deep Fake עובדת בצורה מושלמת ויוצרת החלפת פנים כמעט שלא ניתן להבחין בה, היא יכולה לעשות זאת רק למשך זמן קצר. לפני זמן רב מדי, אחת הבעיות שלמעלה תתחיל להתרחש. זו הסיבה שרוב הקליפים של Deep Fake שאנשים חולקים הם באורך של כמה שניות בלבד, שאר הצילומים אינם שמישים. אם מראים לך קליפ קצר מאוד של ידוען שעושה משהו, ואין סיבה טובה שהוא כל כך קצר, זה רמז שזה מזויף עמוק.
ללא קול או סינכרון שפתיים רע. תוכנת Deep Fake מתאימה רק את תווי הפנים; זה לא קסם גורם לאדם אחד להישמע כמו אחר. אם אין צליל עם הקליפ, ואין שום סיבה שהם לא יהיו קוליים, זה עוד רמז שאתה מסתכל על Deep Fake. באופן דומה, גם אם יש צליל, אם המילים המדוברות אינן תואמות נכון את השפתיים הנעות (או שהשפתיים נראות מוזרות בזמן שהאדם מדבר כמו בקליפ שלמטה), ייתכן שיהיה לך מזויף עמוק.
קליפים שלא יאומן . סוג זה מובן מאליו אבל אם מראים לך קליפ לא יאומן באמת, יש סיכוי טוב שלא באמת תאמין. ניקולה קייג 'מעולם לא כיכב בתור לוקי בסרט מארוול. אבל זה יהיה אחלה.
מקורות מפוקפקים. כמו בתמונות מזויפות, מהן כביכול הסרטון מגיע הוא לרוב רמז גדול לגבי האותנטיות שלו. אם הניו יורק טיימס מריץ עליו סיפור, סביר להניח שזה נכון שמשהו שאתה מגלה בפינה אקראית של רדיט.
לעת עתה, זיופים עמוקים הם יותר סקרנות מחרידה מאשר בעיה גדולה. קל לזהות את התוצאות, ולמרות שאי אפשר להתעלם עם הנעשה, איש עדיין לא מנסה להעביר את Deep Fakes כסרטונים מקוריים.
אולם ככל שהטכנולוגיה משתפרת, הם עשויים להיות נושא גדול בהרבה. למשל, מדה משכנעת של קים ג'ונג און המכריז מלחמה על ארה"ב עלולה לגרום לבהלה גדולה.
