एक डीपफेक क्या है, और क्या मुझे चिंतित होना चाहिए?

हम वीडियो और ऑडियो रिकॉर्डिंग की सामग्री पर भरोसा करते हैं। लेकिन AI के साथ, किसी के चेहरे या आवाज को पिन-पॉइंट सटीकता के साथ फिर से बनाया जा सकता है। उत्पाद एक डीपफेक है, एक प्रतिरूपण जिसका उपयोग मेम, गलत सूचना या पोर्न के लिए किया जा सकता है।

एक नजर में निकोलस केज डीपफेक या जॉर्डन पील का डीएसए को गहरा करें यह स्पष्ट करता है कि हम अजीब नई तकनीक से निपट रहे हैं। ये उदाहरण, अपेक्षाकृत हानिरहित होते हुए, भविष्य के बारे में प्रश्न उठाते हैं। क्या हम वीडियो और ऑडियो पर भरोसा कर सकते हैं? क्या हम लोगों को उनके ऑनस्क्रीन कार्यों के लिए जिम्मेदार ठहरा सकते हैं? क्या हम डीपफेक के लिए तैयार हैं?

डीपफेक नए, बनाने में आसान और तेजी से बढ़ते हैं

डीपफेक तकनीक केवल कुछ साल पुरानी है, लेकिन यह पहले से ही ऐसी चीज में विस्फोट कर रही है जो दोनों को मनोरम और अस्थिर कर रही है। "डीपफेक" शब्द, जिसे 2017 में रेडिट थ्रेड पर गढ़ा गया था, का उपयोग कृत्रिम बुद्धि के माध्यम से मानव की उपस्थिति या आवाज के मनोरंजन का वर्णन करने के लिए किया जाता है। हैरानी की बात है, बस किसी के बारे में एक भद्दा पीसी, कुछ सॉफ्टवेयर, और कुछ घंटों के काम के साथ एक डीपफेक बना सकते हैं।

किसी भी नई तकनीक के साथ, डीपफेक को लेकर कुछ भ्रम है। "नशे में पेलोसी" वीडियो इस भ्रम का एक उत्कृष्ट उदाहरण है। दीपकों का निर्माण एआई द्वारा किया जाता है, और वे लोगों को प्रतिरूपित करने के लिए बनाए जाते हैं। "डंक पेलोसी" वीडियो, जिसे डीपफेक के रूप में संदर्भित किया गया है, वास्तव में नैन्सी पेलोसी का वीडियो है धीमा और पिच-सही किया गया एक स्लेड-स्पीच प्रभाव जोड़ना।

यह भी है कि क्या गहरे से अलग बनाता है, कहते हैं, स्टार वार्स में सीजीआई कैरी फिशर: दुष्ट एक। जबकि डिज्नी ने कैरी फिशर के चेहरे का अध्ययन करने और हाथ से इसे फिर से बनाने के लिए पैसे खर्च किए, कुछ गहरे सॉफ्टवेयर कर सकते हैं उसी काम को मुफ्त में करें एक ही दिन में। एआई काम को अविश्वसनीय रूप से सरल, सस्ता और ठोस बनाता है।

डीपफेक कैसे बनाएं

कक्षा में एक छात्र की तरह, एआई को अपने इच्छित कार्य को करने के लिए "सीखना" पड़ता है। यह आमतौर पर जानवर बल परीक्षण और त्रुटि की एक प्रक्रिया के माध्यम से करता है जिसे मशीन लर्निंग या डीप लर्निंग कहा जाता है । एक एआई जिसे सुपर मारियो ब्रदर्स के पहले स्तर को पूरा करने के लिए डिज़ाइन किया गया है, उदाहरण के लिए, जब तक यह जीतने का सबसे अच्छा तरीका है, तब तक खेल को बार-बार खेलेंगे। एआई को डिजाइन करने वाले व्यक्ति को कुछ "नियम" के साथ चीजों को शुरू करने के लिए कुछ डेटा प्रदान करने की आवश्यकता होती है, जब रास्ते में चीजें गलत हो जाती हैं। इसके अलावा, एआई सभी काम करता है।

वही चेहरे की गहरी चमक के लिए जाता है। लेकिन, ज़ाहिर है, चेहरे को फिर से बनाना एक वीडियो गेम की धड़कन के समान नहीं है। यदि हम वेंडी विलियम्स शो की मेजबानी करने वाले निकोलस केज का एक गहरा निर्माण करने वाले थे, तो यहां हमें इसकी आवश्यकता होगी:

• एक गंतव्य वीडियो : अभी के रूप में, डीपफेक स्पष्ट, स्वच्छ गंतव्य वीडियो के साथ सबसे अच्छा काम करता है। यही कारण है कि कुछ सबसे गहरे राजनेता राजनेताओं के हैं; वे लगातार प्रकाश व्यवस्था के तहत एक पोडियम पर खड़े रहते हैं। इसलिए, हमें अभी भी वेंडी के एक वीडियो की आवश्यकता है जो अभी भी बैठे हैं और बात कर रहे हैं।
• दो डेटासेट : सटीक दिखने के लिए मुंह और सिर की हरकतों के लिए, हमें वेंडी विलियम्स के चेहरे के एक डेटासेट और निकोलस केज के चेहरे के एक डेटासेट की आवश्यकता होती है। यदि वेंडी दाईं ओर दिखती है, तो हमें दाईं ओर देख रहे निकोलस केज की एक तस्वीर चाहिए। अगर वेंडी अपना मुंह खोलती है, तो हमें उसके मुंह को खोलने वाले केज की तस्वीर चाहिए।

उसके बाद, हमने AI को अपना काम करने दिया। यह बार-बार अपनी गलतियों से सीखते हुए डीपफेक बनाने की कोशिश करता है। सरल, सही? खैर, वेंडी विलियम के शरीर पर केज के चेहरे का एक वीडियो किसी को बेवकूफ बनाने वाला नहीं है, इसलिए हम थोड़ा आगे कैसे जा सकते हैं?

सबसे ठोस (और संभावित रूप से हानिकारक) डीपफेक ऑल-आउट प्रतिरूपण हैं। प्रसिद्ध ओबामा ने गहरा विरोध किया जॉर्डन Peele द्वारा एक अच्छा उदाहरण है। तो आइए इनमें से एक प्रतिरूपण को करें। चलो मार्क जुकरबर्ग को चींटियों के प्रति घृणा की घोषणा करते हुए - जो कि दृढ़ विश्वास है, का एक गहरा आधार बनाते हैं? यहाँ हमें क्या चाहिए:

• एक गंतव्य वीडियो : यह खुद जुकरबर्ग का वीडियो हो सकता है या जुकरबर्ग जैसा दिखने वाला अभिनेता। यदि हमारा गंतव्य वीडियो किसी अभिनेता का है, तो हम अभिनेता पर बस जुकरबर्ग का चेहरा चिपकाएँगे।
• फोटो डेटा : हमें जुकरबर्ग से बात करने, पलक झपकने और उनका सिर घुमाने की तस्वीरें चाहिए। यदि हम किसी अभिनेता पर अपना चेहरा रखना चाहते हैं, तो हमें अभिनेता के चेहरे की हरकतों की भी आवश्यकता होगी।
• ज़ुक की आवाज़ : हमारे डीपफेक को द जुक की तरह आवाज देने की जरूरत है। हम ऐसा किसी प्रतिरूपणकर्ता को रिकॉर्ड करके या एआई के साथ ज़करबर्ग की आवाज़ को फिर से करके कर सकते हैं। उनकी आवाज को फिर से बनाने के लिए, हम बस एअर इंडिया जैसे ज़करबर्ग के ऑडियो सैंपल चलाते हैं एक प्रकार की पक्षी , और फिर टाइप करें कि हम उसे क्या कहना चाहते हैं।
• एक लिप-सिंक AI : जब से हम जोड़ने हमारे वीडियो में नकली जुकरबर्ग की आवाज, एक लिप-सिंक एआई को यह सुनिश्चित करने की आवश्यकता है कि डीपफेक चेहरे के आंदोलनों का मिलान क्या कहा जा रहा है।

हम उस कार्य और विशेषज्ञता को कम करने की कोशिश नहीं कर रहे हैं जो डीपफैकरी में जाता है। लेकिन जब मिलियन डॉलर सीजीआई नौकरी की तुलना में लाया गया ऑड्रे हेपबर्न मृतकों से वापस , पार्क में टहलना एक गहरा रास्ता है। और जब हम अभी तक किसी राजनीतिक या प्रसिद्ध व्यक्ति के लिए गहरी नहीं गिरे हैं, तब भी सबसे भद्दे, सबसे स्पष्ट डेपफेक को वास्तविक नुकसान हुआ है।

सम्बंधित: एआई के साथ समस्या: मशीनें चीजें सीख रही हैं, लेकिन उन्हें समझ नहीं सकते

डीपफेकज़ ने पहले ही वास्तविक-विश्व के नुकसान का कारण बना दिया

फिलहाल, अधिकांश डीपफेक सिर्फ निकोलस केज मेम, सार्वजनिक सेवा घोषणाएं और खौफनाक सेलिब्रिटी पोर्न हैं। ये आउटलेट अपेक्षाकृत हानिरहित और पहचानने में आसान हैं, लेकिन कुछ मामलों में, गलत सूचनाओं को फैलाने और दूसरों के जीवन को चोट पहुंचाने के लिए डीपफेक का सफलतापूर्वक उपयोग किया जाता है।

भारत में, हिंदू राष्ट्रवादियों द्वारा महिला पत्रकारों के खिलाफ हिंसा को बदनाम करने और भड़काने के लिए डीपफेक का इस्तेमाल किया जाता है। 2018 में, एक पत्रकार का नाम राणा अय्यूब शिकार हुए ऐसे गलत सूचना अभियान के लिए, जिसमें एक अश्लील वीडियो पर उसके चेहरे का गहरा वीडियो शामिल था। इसने ऑनलाइन उत्पीड़न के अन्य रूपों और को जन्म दिया शारीरिक हिंसा का खतरा .

स्टेटसाइड, डीपफेक तकनीक का उपयोग अक्सर गैर-गैर-प्रतिशोधी पोर्न बनाने के लिए किया जाता है। जैसा वाइस द्वारा रिपोर्ट की गई कई उपयोगकर्ताओं ने अब प्रतिबंधित डीपफेक रेडडिट फोरम पर पूछा कि पूर्व गर्लफ्रेंड, क्रश, दोस्तों और सहपाठियों (हां, चाइल्ड पोर्न) के डीपफेक कैसे बनाएं। समस्या इतनी बड़ी है कि वर्जीनिया अब गैर-सहमति पोर्नोग्राफी के सभी रूपों को रेखांकित करती है, डीपफेक सहित .

जैसे-जैसे डीपफेक अधिक से अधिक ठोस होते जाएंगे, तकनीक निस्संदेह अधिक संदिग्ध उद्देश्यों के लिए उपयोग की जाएगी। लेकिन एक मौका है कि हम ओवररिएक्टिंग कर रहे हैं, है ना? क्या यह फ़ोटोशॉप के बाद सबसे स्वाभाविक कदम नहीं है?

डीपफेक, सैद्धांतिक छवियों का एक प्राकृतिक विस्तार है

यहां तक ​​कि उनके सबसे बुनियादी स्तर पर, डीपफेक अनसेफ होते हैं। हम बिना किसी पूर्वाग्रह या गलत सूचना के लोगों के शब्दों और कार्यों को पकड़ने के लिए वीडियो और ऑडियो रिकॉर्डिंग पर भरोसा करते हैं। लेकिन एक तरह से डीपफेक का खतरा बिल्कुल भी नया नहीं है। इसका अस्तित्व तब से है जब हमने पहली बार फोटोग्राफी का उपयोग शुरू किया था।

मिसाल के तौर पर, कुछ तस्वीरें जो अब्राहम लिंकन की हैं। इन तस्वीरों के बहुमत (पैसा और पांच डॉलर के बिल पर चित्र सहित) सिद्धान्त थे मैथ्यू ब्रैडी नाम के एक फ़ोटोग्राफ़र ने लिंकन की स्पिंडली उपस्थिति (विशेष रूप से उसकी पतली गर्दन) को सुधारने के लिए। इनमें से कुछ पोर्ट्रेट्स को इस तरह से संपादित किया गया था कि डीपफेक की याद ताजा हो जाती है, जिसमें लिंकन का सिर कल्हौन जैसे "मजबूत" पुरुषों के शरीर पर लगाया जाता है (नीचे का उदाहरण एक नक़्क़ाशी है, एक तस्वीर नहीं है)।

यह प्रचार का एक विचित्र सा लगता है, लेकिन 1860 के दशक के दौरान, फोटोग्राफी ने "सच्चाई" की एक निश्चित मात्रा को आगे बढ़ाया, जिसे अब हम वीडियो और ऑडियो रिकॉर्डिंग के लिए आरक्षित करते हैं। इसे कला के विपरीत ध्रुवीय माना जाता था- विज्ञान । इन तस्वीरों को जानबूझकर उन अख़बारों को बदनाम करने के लिए प्रेरित किया गया था, जिन्होंने लिंकन की उनके कमजोर शरीर के लिए आलोचना की थी। अंत में, यह काम किया। अमेरिकी लिंकन के आंकड़े से प्रभावित थे, और खुद लिंकन ने दावा किया कि ब्रैडी की तस्वीरें " मुझे राष्ट्रपति बनाया .”

डीपफेक और 19 वीं शताब्दी के फोटो एडिटिंग के बीच का संबंध कुछ हद तक आरामदायक है। यह हमें वह कथ्य प्रदान करता है, जबकि इस तकनीक के गंभीर परिणाम हैं, यह कुछ ऐसा नहीं है जो हमारे नियंत्रण से पूरी तरह से बाहर है। लेकिन, दुख की बात है कि यह आख्यान बहुत लंबे समय तक नहीं रह सकता है।

हम हमेशा के लिए डीपफेक स्पॉट करने में सक्षम नहीं होंगे

हम अपनी आंखों से नकली चित्र और वीडियो खोलते थे। इसे देखना आसान है जोसेफ गोएबल्स परिवार के चित्र और कहते हैं , "पीठ में उस आदमी के बारे में कुछ अजीब है।" एक नज़र उत्तर कोरियाई प्रचार तस्वीरें यह स्पष्ट करता है कि, YouTube ट्यूटोरियल के बिना, लोग फ़ोटोशॉप को चूसते हैं। और जितने प्रभावशाली हैं, उतने ही गहरे यह अभी भी संभव है अकेले देखने के लिए एक गहरी जगह बनाना।

लेकिन हम ज्यादा समय तक डीपफेक स्पॉट नहीं कर पाएंगे। हर साल, डीपफेक अधिक आश्वस्त और बनाने में आसान होते हैं। आप एक डीपफेक बना सकते हैं एक तस्वीर के साथ , और आप एआई का उपयोग कर सकते हैं एक प्रकार की पक्षी एक मिनट के भीतर आवाजें क्लोन करने के लिए। नकली वीडियो और ऑडियो को मर्ज करने वाले उच्च-तकनीकी डीपफेक अविश्वसनीय रूप से आश्वस्त हैं, भले ही वे पहचानने योग्य आंकड़ों की नकल करने के लिए बने हों मार्क जकरबर्ग .

भविष्य में, हम डीएफ़के से लड़ने के लिए एआई, एल्गोरिदम और ब्लॉकचेन तकनीक का उपयोग कर सकते हैं। सैद्धांतिक रूप से, एआई डीपेक देखने के लिए वीडियो को स्कैन कर सकता है ” उंगलियों के निशान , "और ऑपरेटिंग सिस्टम में स्थापित ब्लॉकचेन टेक उन उपयोगकर्ताओं या फ़ाइलों को चिह्नित कर सकता है जिन्होंने डीपफेक सॉफ्टवेयर को छुआ है।

अगर ये एंटी-डीपफेक तरीके आपको बेवकूफ बनाते हैं, तो क्लब में शामिल हों। यहां तक ​​कि एआई के शोधकर्ता भी संदेह है कि डीपफेक का एक सही समाधान है। जैसे-जैसे डिटेक्शन सॉफ्टवेयर बेहतर होता जाएगा, वैसे-वैसे यह गहरा होता जाएगा। आखिरकार, हम एक ऐसे बिंदु पर पहुंच जाएंगे जहां डीपफेक का पता लगाना असंभव होगा, और नकली सेलिब्रिटी पोर्न और निकोलस केज वीडियो की तुलना में हमारे पास चिंता करने के लिए और भी बहुत कुछ होगा।