ڈیپ فیک کیا ہے ، اور مجھے اس سے متعلق رہنا چاہئے؟

ہم ویڈیو اور آڈیو ریکارڈنگ کے مواد پر بھروسہ کرتے ہیں۔ لیکن اے آئی کے ساتھ ، کسی کے چہرے یا آواز کو پن پوائنٹ کی درستگی کے ساتھ دوبارہ بنایا جاسکتا ہے۔ مصنوع ایک گہری فیک ، نقالی ہے جسے میمز ، غلط معلومات یا فحش کے لئے استعمال کیا جاسکتا ہے۔

پر ایک نظر نکولس کیج گہری نظروں میں ہے یا اردن پیل کی ڈیف فیک PSA اس سے یہ واضح ہوجاتا ہے کہ ہم عجیب نئی ٹکنالوجی کے ساتھ معاملہ کر رہے ہیں۔ یہ مثالیں ، نسبتا harm بے ضرر ، مستقبل کے بارے میں سوالات اٹھاتی ہیں۔ کیا ہم ویڈیو اور آڈیو پر اعتماد کرسکتے ہیں؟ کیا ہم لوگوں کو ان کے اسکرین اسکرین کے لئے جوابدہ ٹھہرا سکتے ہیں؟ کیا ہم گہری کھانوں کے لئے تیار ہیں؟

ڈیف فیکس نئے ہیں ، بنانے میں آسان اور تیز تر ہیں

ڈیف فیک ٹکنالوجی صرف چند سال پرانی ہے ، لیکن یہ پہلے ہی ایسی کسی چیز میں پھٹ چکی ہے جو دلکش اور پریشان کن ہے۔ اصطلاح "ڈیف فیک" ، جو 2017 میں ایک سرخ دھاگے پر وضع کی گئی تھی ، مصنوعی ذہانت کے ذریعہ انسان کی ظاہری شکل یا آواز کی تفریح ​​کو بیان کرنے کے لئے استعمال ہوتی ہے۔ حیرت کی بات یہ ہے کہ ، کوئی بھی کری پی سی ، کچھ سوفٹویئر ، اور چند گھنٹوں کے کام کے ذریعہ ایک گہری فیک بنا سکتا ہے۔

جیسا کہ کسی بھی نئی ٹکنالوجی کی طرح ، گہری مچھلی کے گرد کچھ الجھنیں ہیں۔ "شرابی پیلوسی" ویڈیو اس الجھن کی ایک عمدہ مثال ہے۔ ڈیف فیکس AI کے ذریعہ تعمیر کیا گیا ہے ، اور وہ لوگوں کی نقالی شکل میں بنائے گئے ہیں۔ "ڈنک پیلوسی" ویڈیو ، جس کو ڈپ فیک کہا جاتا ہے ، دراصل نینسی پیلوسی کی صرف ایک ویڈیو ہے سست اور پچ درست دھندلا ہوا تقریر اثر شامل کرنے کے ل.

یہ بھی وہی ہے جس کی وجہ سے ، اسٹار وار میں سی جی آئی کیری فشر: روگ ون۔ اگرچہ ڈزنی نے کیری فشر کے چہرے کا مطالعہ کرنے اور اسے ہاتھ سے دوبارہ بنانے کے لئے رقم کی ادائیگیوں میں صرف کیا تو کچھ ڈیف فیک سوفٹ ویئر والا ایک بیوکوف اسی کام کو مفت میں کرو ایک ہی دن میں AI کام کو ناقابل یقین حد تک آسان ، سستا اور قائل بناتا ہے۔

ڈیپ فیک بنانے کا طریقہ

کلاس روم کے طالب علم کی طرح ، اے آئی کو اپنے مطلوبہ کام کو انجام دینے کا طریقہ "سیکھنا" پڑتا ہے۔ یہ عام طور پر ، زبردست طاقت کے مقدمے کی سماعت اور غلطی کے عمل کے ذریعے کرتا ہے مشینی سیکھنے یا گہری تعلیم کے طور پر کہا جاتا ہے . ایک اے آئی جو سپر ماریو بروس کی پہلی سطح کو مکمل کرنے کے لئے ڈیزائن کیا گیا ہے ، مثال کے طور پر ، اس کھیل کو بار بار کھیلے گا جب تک کہ جیتنے کا بہترین طریقہ نہ معلوم ہوجائے۔ اے آئی کو ڈیزائن کرنے والے فرد کو چیزوں کو شروع کرنے کے لئے کچھ "قواعد" کے ساتھ ساتھ ، جب چیزیں راستے میں خراب ہوجاتی ہیں تو کچھ اعداد و شمار فراہم کرنے کی ضرورت ہوتی ہے۔ اس کے علاوہ ، AI تمام کام کرتا ہے۔

یہ ہی چہرے کی گہری تفریح ​​کے لئے ہے۔ لیکن ، یقینا ، چہروں کو دوبارہ بنانا ایک ویڈیو گیم کو شکست دینے کے برابر نہیں ہے۔ اگر ہم وینڈی ولیمز شو کی میزبانی کرتے ہوئے نیکولس کیج کی ایک گہری معلومات تیار کرتے ، تو ہمیں یہاں اس کی ضرورت ہوگی:

• ایک مقصود ویڈیو : ابھی تک ، واضح ، صاف منزل مقصودی ویڈیوز کے ساتھ ڈیف فیکس بہترین کام کرتی ہے۔ یہی وجہ ہے کہ سب سے زیادہ قائل گہری سیاحت سیاستدانوں کی ہے۔ وہ مستقل روشنی کے تحت کسی پوڈیم پر کھڑے ہوتے ہیں۔ لہذا ، ہمیں صرف وینڈی کی ویڈیو کی ضرورت ہے جو خاموش بیٹھے بیٹھے باتیں کرتے ہیں۔
• دو ڈیٹاسیٹس : منہ اور سر کی حرکت درست ہونے کے ل we ، ہمیں وینڈی ولیمز کے چہرے کا ڈیٹاسیٹ اور نکولس کیج کے چہرے کا ڈیٹاسیٹ درکار ہے۔ اگر وینڈی دائیں طرف دیکھتا ہے تو ، ہمیں نیکولس کیج کی تصویر دائیں طرف دیکھنے کی ضرورت ہے۔ اگر وینڈی نے اپنا منہ کھولا تو ہمیں کیج کا منہ کھولنے کی تصویر کی ضرورت ہے۔

اس کے بعد ، ہم نے AI کو اپنا کام کرنے دیا۔ یہ بار بار گہری معلومات پیدا کرنے کی کوشش کرتا ہے ، راستے میں اپنی غلطیوں سے سیکھتا ہے۔ آسان ، ٹھیک ہے؟ ٹھیک ہے ، وینڈی ولیم کے جسم پر کیج کے چہرے کی ویڈیو کسی کو بے وقوف نہیں بنائے گی ، تو ہم کچھ اور ہی آگے کیسے جاسکتے ہیں؟

انتہائی قائل (اور ممکنہ طور پر مؤثر) گہری سمندری شکل نقالی ہیں۔ مقبول اوبامہ ڈیپ فائیک بذریعہ اردن پیل ایک اچھی مثال ہے۔ تو آئیئے ان نقالیوں میں سے ایک کام کرتے ہیں۔ آئیے مارک زکربرگ کی چیونٹیوں سے اپنی نفرت کا اعلان کرتے ہوئے ایک گہری ذھن تیار کریں۔ ہمیں جو ضرورت ہوگی وہ یہ ہے:

• ایک مقصود ویڈیو : یہ خود زکربرگ کی یا ایک اداکار کی ویڈیو ہوسکتی ہے جو زکربرگ کی طرح نظر آتی ہے۔ اگر ہماری منزل مقصودی ویڈیو کسی اداکار کی ہے تو ہم زکربرگ کا چہرہ اداکار پر چسپاں کر دیں گے۔
• فوٹو ڈیٹا : ہمیں زوکربرگ کی باتیں کرتے ، جھپکتے اور سر گھوماتے پھرتے فوٹو کی ضرورت ہے۔ اگر ہم کسی اداکار پر اس کا چہرہ جما رہے ہیں تو ہمیں اداکار کے چہرے کی حرکت کا ڈیٹاسیٹ بھی درکار ہوگا۔
• زک کی آواز : ہمارے ڈپ فیک کو زک کی طرح آواز اٹھانے کی ضرورت ہے۔ ہم یہ کام نقالی ریکارڈ کرنے کے ذریعہ کر سکتے ہیں ، یا ذکربرگ کی آواز کو AI کے ساتھ دوبارہ بنا کر۔ اس کی آواز کو دوبارہ بنانے کے ل we ، ہم آسانی سے کسی اے آئی جیسے زکربرگ کے آڈیو نمونے چلاتے ہیں لائیر برڈ ، اور پھر ٹائپ کریں کہ ہم کیا کہنا چاہتے ہیں۔
• ایک ہونٹ مطابقت پذیری AI : چونکہ ہم ہیں شامل کرنا جعلی زکربرگ کی آواز ہمارے ویڈیو میں ، ایک ہونٹ سنک AI کو یہ یقینی بنانا ہوگا کہ چہرے کی گہری حرکتیں جو کچھ کہی جارہی ہیں اس سے میل کھائیں۔

ہم کام اور مہارت کو گہرائی میں ڈالنے کی کوشش نہیں کر رہے ہیں۔ لیکن جب مقابلے میں دس لاکھ ڈالر کی سی جی آئی ملازمت لائی آڈری ہیپ برن مردوں کے پیچھے سے ، ڈیف فیکس پارک میں سیر ہیں۔ اور جب کہ ابھی ہم کسی سیاسی یا مشہور شخصیات کی گہری معلومات کے لئے نہیں گرے ہیں ، یہاں تک کہ سب سے کرپٹ ، انتہائی واضح گہری نظروں نے بھی حقیقی نقصان پہنچا ہے۔

متعلقہ: اے آئی کے ساتھ مسئلہ: مشینیں چیزیں سیکھ رہی ہیں ، لیکن ان کو سمجھ نہیں سکتی ہیں

ڈیف فیکس نے پہلے ہی حقیقی دنیا کو نقصان پہنچایا ہے

ابھی تک ، ڈپ فیکس کی اکثریت صرف نکولس کیج میمز ، عوامی خدمت کے اعلانات ، اور عجیب و غریب مشہور شخصیت فحش ہیں۔ یہ آؤٹ لیٹس نسبتا harm بے ضرر اور پہچاننے میں آسان ہیں ، لیکن کچھ معاملات میں ، غلط معلومات پھیلانے اور دوسروں کی جانوں کو تکلیف پہنچانے کے لئے ڈیف فیکس کا کامیابی سے استعمال کیا جاتا ہے۔

ہندوستان میں ، ہندو قوم پرستوں کے ذریعہ خواتین صحافیوں کے خلاف بدنام اور تشدد کو ہوا دینے کے لئے ڈیف فیکس کا استعمال کیا جاتا ہے۔ 2018 میں ، ایک صحافی نے نام لیا رانا ایوب شکار ہوئے اس طرح کی غلط معلومات دینے والی مہم میں ، جس میں اس کے چہرے کی ایک گہری جعلی ویڈیو بھی شامل تھی جو کسی فحش ویڈیو پر سوار تھی۔ اس کی وجہ سے آن لائن ہراساں کرنے کی دوسری شکلوں کا سبب بنے جسمانی تشدد کا خطرہ .

اسٹیٹ سائیڈ ، ڈیف فیک ٹیکنالوجی اکثر غیر متضاد انتقام فحش تخلیق کرنے کے لئے استعمال کی جاتی ہے۔ جیسا کہ نائب کے ذریعہ اطلاع دی گئی ، اب پابندی عائد ڈیف فیکس ریڈڈٹ فورم کے بہت سارے صارفین نے پوچھا کہ سابق گرل فرینڈز ، کچلنے والوں ، دوستوں اور ہم جماعت کے دوستوں (جی ہاں ، چائلڈ پورن) کی ڈائیفیکس کیسے بنائی جائے۔ مسئلہ اتنا بڑا ہے کہ ورجینیا اب غیر متفقہ فحاشی کی تمام شکلوں کو ظاہر کرتا ہے ، ڈیفیکس سمیت .

جب ڈیفیکس زیادہ سے زیادہ قائل ہوجاتا ہے تو ، بلاشبہ اس ٹیکنالوجی کا استعمال زیادہ مشکوک مقاصد کے لئے کیا جائے گا۔ لیکن ایک موقع موجود ہے کہ ہم زیادتی کر رہے ہیں ، ٹھیک ہے؟ کیا فوٹوشاپ کے بعد یہ انتہائی قدرتی اقدام نہیں ہے؟

ڈیف فیکس دستاویزی تصاویر کی قدرتی توسیع ہیں

یہاں تک کہ ان کی بنیادی سطح پر بھی ، گہری سمندری حدود پریشان کن ہیں۔ ہمیں ویڈیو اور آڈیو ریکارڈنگ پر اعتماد ہے کہ لوگوں کے الفاظ اور افعال کو بغیر کسی تعصب یا غلط اطلاعات پر گرفت میں لیں۔ لیکن ایک طرح سے ، گہری کھانوں کا خطرہ بالکل بھی نیا نہیں ہے۔ یہ اس وقت سے موجود ہے جب سے ہم نے فوٹو گرافی کا استعمال شروع کیا تھا۔

مثال کے طور پر ، ان چند تصاویر کو ہی لیجئے جو ابراہم لنکن کی موجود ہیں۔ ان تصاویر میں سے زیادہ تر (بشمول ایک پیسہ کی تصاویر اور پانچ ڈالر کے بل) ڈاکٹر تھے میتھیو بریڈی نامی فوٹوگرافر کے ذریعہ لنکن کی نمایاں شکل (خاص طور پر اس کی پتلی گردن) کو بہتر بنانے کے ل. ان میں سے کچھ پورٹریٹ کو اس انداز میں تدوین کیا گیا تھا جو گہری کھانوں کی یاد دلاتا ہے ، لنکن کا سر کلہون جیسے "مضبوط" مردوں کی لاشوں پر دب گیا ہے (ذیل میں مثال اینچنگ ہے ، تصویر نہیں)۔

یہ ایک عجیب و غریب تشہیر کی طرح لگتا ہے ، لیکن 1860 کی دہائی کے دوران ، فوٹو گرافی میں "سچائی" کی ایک خاص مقدار تھی جو اب ہم ویڈیو اور آڈیو ریکارڈنگ کے لئے محفوظ رکھتے ہیں۔ اسے آرٹ کے مخالف قطب سمجھا جاتا تھا۔ ایک سائنس . ان تصاویر کو جان بوجھ کر ان اخباروں کو بدنام کرنے کے لئے بنایا گیا تھا جن میں لنکن کو اس کے کمزور جسم پر تنقید کا نشانہ بنایا گیا تھا۔ آخر میں ، اس نے کام کیا۔ امریکی لنکن کی شخصیت سے متاثر ہوئے ، اور خود لنکن نے دعویٰ کیا کہ بریڈی کی تصاویر “ مجھے صدر بنا دیا .”

ڈیف فیکس اور 19 ویں صدی میں تصویری ترمیم کے درمیان تعلق عجیب طور پر راحت بخش ہے۔ یہ ہمیں یہ بیانیہ پیش کرتا ہے کہ ، جبکہ اس ٹیکنالوجی کے سنگین نتائج ہیں ، یہ ایسی چیز نہیں ہے جو پوری طرح سے ہمارے قابو سے باہر ہے۔ لیکن ، افسوس کی بات یہ ہے کہ شاید اس داستان کو زیادہ دیر تک برقرار نہ رکھا جائے۔

ہم ہمیشہ کے لئے ڈیفیکس اسپاٹ کرنے کے قابل نہیں ہوں گے

ہم اپنی آنکھوں سے جعلی تصاویر اور ویڈیوز تلاش کرنے کے عادی ہیں۔ ایک کو دیکھنا آسان ہے جوزف گوئبلز فیملی کی تصویر اور کہتے ہیں ، "پیچھے والے آدمی کے بارے میں کچھ عجیب بات ہے۔" ایک نظر شمالی کوریا کے پروپیگنڈہ کی تصاویر اس سے یہ بات واضح ہوجاتی ہے کہ ، YouTube کے سبق کے بغیر ، لوگ فوٹو شاپ پر دودھ پیتے ہیں۔ اور جتنے متاثر کن ہیں یہ اب بھی ممکن ہے اکیلے نظروں پر ایک گہری کھینچنے کے لئے.

لیکن ہم زیادہ دیر تک گہری سمندری راستوں کو تلاش نہیں کرسکیں گے۔ ہر سال ، ڈیف فیکس بنانے کے لئے زیادہ قائل اور یہاں تک کہ آسان تر ہوجاتا ہے۔ آپ ڈیپ ٹیک بنا سکتے ہیں ایک ہی تصویر کے ساتھ ، اور آپ AI جیسے استعمال کرسکتے ہیں لائیر برڈ ایک منٹ کے اندر اندر آوازوں کو کلون کرنے کے ل. جعلی ویڈیو اور آڈیو کو مربوط کرنے والی ہائی ٹیک ڈیفیکس ناقابل یقین حد تک قائل ہیں ، یہاں تک کہ جب وہ قابل شناخت اعدادوشمار کی تقلید کرنے کے لئے تیار ہوجائیں۔ مارک Zuckerberg .

مستقبل میں ، ہم گہری چیزوں کے خلاف لڑنے کے لئے اے آئی ، الگورتھم ، اور بلاکچین ٹیکنالوجی استعمال کرسکتے ہیں۔ نظریاتی طور پر ، اے آئی ڈیپ فائیک کی تلاش کے ل videos ویڈیوز اسکین کرسکتی ہیں “ انگلیوں کے نشانات ، "اور آپریٹنگ سسٹم میں نصب بلاکچین ٹیک صارفین یا فائلوں کو پرچم لگاسکتی ہے جنہوں نے ڈیف فیک سافٹ ویئر کو چھوا ہے۔

اگر یہ اینٹی ڈیفیک طریقے آپ کو بیوقوف سمجھتے ہیں تو پھر کلب میں شامل ہوجائیں۔ یہاں تک کہ AI محققین شبہ ہے کہ گہری کھانوں کا حقیقی حل ہے۔ جیسا کہ پتہ لگانے والا سافٹ ویئر بہتر ہوتا جارہا ہے ، اسی طرح گہری نظروں میں آجائے گا۔ آخر کار ، ہم اس مقام پر پہنچیں گے جہاں گہری سمت کا پتہ لگانا ناممکن ہوجائے گا ، اور ہمارے پاس جعلی مشہور شخصیت فحش اور نیکولس کیج ویڈیوز سے زیادہ پریشان ہونے کی ضرورت ہوگی۔