ڈیپ فیک چہرہ بدلے بغیر بھی نقصان پہنچا سکتا ہے

17 ستمبر 2026 کو نگراں بورڈ (Oversight Board) نے Facebook سے مصنوعی ذہانت کی مدد سے بنائی گئی ایک ویڈیو ہٹانے کا حکم دیا۔ اس میں خواتین کی صحت سے متعلق آگاہی مہم کی ایک رضاکار کو نشانہ بنایا گیا تھا۔ بورڈ کی اکثریت کے مطابق یہ جعل سازی اسے ہراساں کرنے کی مہم کا حصہ تھی۔ اس فیصلے پر دوبارہ غور کرنے کی وجہ یہ بحث نہیں کہ مصنوعی ذہانت سے بنی ویڈیوز کتنی اصلی لگتی ہیں۔ یہاں اصلی لگنا ہی مسئلے کا حصہ تھا: ایک پہچانی جانے والی عورت کو ایسی باتیں کہتے اور ایسے کام کرتے دکھایا گیا جو اس نے کیے ہی نہیں تھے۔^[2]

ویڈیو میں جھوٹا دعویٰ کیا گیا کہ وہ عورت اپنے ملک کی سفیرِ صحت ہے، اور اسے خوراک اور ورزش کے بارے میں مشورے دیتے دکھایا گیا۔ اصل انٹرویو میں وہ ماہواری سے متعلق صحت پر بات کر رہی تھی، کھانے کے منصوبوں یا ورزش پر نہیں۔^[1]

جعل سازی کے لیے کسی کا چہرہ، خدوخال یا جسم بدلنا ضروری نہیں۔ کسی شخص کی شکل ویسی ہی رہ سکتی ہے جبکہ اسے جو کچھ کرتے دکھایا جائے وہ مکمل طور پر بدل دیا گیا ہو۔ ایسی مشابہت حملے کی شدت کم نہیں کرتی۔ وہ گھڑے ہوئے عمل کو اس شخص سے جوڑنے میں مدد دیتی ہے جسے دیکھنے والا پہچانتا ہے۔

شکل وہی رہی، عمل گھڑ لیا گیا

تفصیلی فیصلے میں ناپسندیدہ ردوبدل والی تصاویر اور ویڈیوز کے اصول کو لاگو کرنے میں دو رکاوٹیں بیان کی گئی ہیں۔ Meta نے عورت کو عوامی شخصیت کے بجائے ایک عام شہری سمجھا تھا، جو اس تحفظ کی حق دار تھی۔ لیکن کمپنی کی شرط تھی کہ شکایت وہ خود کرے؛ اس نے اس پوسٹ کی شکایت نہیں کی تھی۔ اس کے علاوہ کمپنی کی اندرونی تشریح میں صرف ظاہری شکل میں تبدیلی شامل تھی، گھڑے ہوئے قول و فعل نہیں۔ لہٰذا Meta کی وضاحت کے مطابق خود اس عورت کی شکایت بھی کافی نہ ہوتی۔^[1]

اس طریقے میں اصل سوال پیچھے رہ جاتا ہے۔ نقصان بدلے ہوئے خدوخال سے نہیں، اس منظر سے پہنچ سکتا ہے جو کسی نے اس شخص کے لیے گھڑا ہو۔ تب ’تصویر میں کیا بدلا گیا؟‘ سے زیادہ اہم سوال یہ ہے: ’اس شخص کو کیا کہتے یا کرتے دکھایا گیا، اور اسے اس کے خلاف کیسے استعمال کیا جا رہا ہے؟‘ یہ حملے کی اصل نوعیت کا سوال ہے، گرافکس کے معیار کا نہیں۔

خود شکایت کرنے کی شرط ایک اور مشکل پیدا کرتی ہے۔ تحفظ ملنے سے پہلے ہراسانی کا نشانہ بننے والے شخص کو پوسٹ ڈھونڈنی ہوگی اور دوبارہ اس کا سامنا کرنا ہوگا۔ بورڈ کی اکثریت نے اس بوجھ پر تنقید کی۔ محض شکایت نہ ہونے سے یہ اخذ نہیں کیا جا سکتا کہ اس شخص نے کسی اور کی بنائی ہوئی کہانی میں شامل ہونے پر رضامندی دی تھی۔^[1]

تنقید کا نرم ہونا ضروری نہیں، مگر اس کی کوئی بنیاد تو ہو

یہ فیصلہ متفقہ نہیں تھا۔ بورڈ کی اقلیت نے اس نتیجے سے اختلاف کیا کہ ویڈیو نے قواعد کی خلاف ورزی کی۔ اس کے نزدیک عورت اپنی سرگرمیوں کے محدود دائرے میں ایک عوامی شخصیت تھی۔ اس نے خبردار کیا کہ حد سے زیادہ وسیع قواعد جائز تنقید کو دبا سکتے ہیں۔ خلاف ورزی تسلیم کر لینے کی صورت میں بھی اس نے پوسٹ ہٹانے سے کم پابندی والے اقدامات پر غور کرنے کی تجویز دی۔^[1]

یہ ایک سنجیدہ اعتراض ہے۔ عوام کے سامنے بولنے سے کسی کو یہ حق نہیں مل جاتا کہ اسے صرف شائستہ ردعمل ملے۔ طنزیہ خاکہ ناگوار ہو سکتا ہے اور مذاق سخت؛ صرف اس بنا پر یہ واضح نہیں ہوتا کہ پوسٹ کیوں ہٹا دینی چاہیے۔ اگر کوئی اصول محض اس بات پر منحصر ہو کہ کسی کو برا لگا یا نہیں، تو اختلاف سے چھٹکارا حاصل کرنا بہت آسان ہو جائے گا۔

مگر کسی کی کہی ہوئی بات پر تنقید کرنا الگ ہے، اور پہلے اس سے کوئی فرضی عمل منسوب کرکے پھر اسی پر اسے ذلیل کرنا الگ۔ دوسری صورت میں لکھنے والا کسی کے مؤقف کو چیلنج نہیں کر رہا، بلکہ اس کا چہرہ لگا کر اپنے لیے ایک آسان ہدف بنا رہا ہے۔ ایسی پوسٹ کا جائزہ لیتے ہوئے واضح کرنا ہوگا کہ کیا گھڑا گیا اور اس سے متعلقہ شخص کو کیا نقصان پہنچا۔ صرف یہ پہچان لینا کافی نہیں کہ ویڈیو مصنوعی ذہانت سے بنی ہے۔

مصنوعی ذہانت کا لیبل ہراسانی کا سوال حل نہیں کرتا

5 اپریل 2024 کو شائع ہونے والی اپنی وضاحت میں Meta نے صاف کہا تھا کہ مصنوعی ذہانت سے بنے مواد پر بھی قواعد کی خلاف ورزی، بشمول ہراسانی، کی صورت میں مواد ہٹانے کا اصول لاگو رہے گا، چاہے اسے کسی بھی طریقے سے بنایا گیا ہو۔ اس لیے کمپنی کا مؤقف یوں بیان کرنا غلط ہوگا کہ لیبل لگا ہو تو ہر حملے کی اجازت ہے۔ اس معاملے میں اختلاف یہ تھا کہ خلاف ورزی کسے سمجھا جائے۔^[3]

بورڈ نے سفارش کی کہ ناپسندیدہ ردوبدل والی تصاویر اور ویڈیوز کی تعریف میں گھڑے ہوئے قول و فعل کو واضح طور پر شامل کیا جائے۔ سفارش اس بات کا ثبوت نہیں کہ اصول بدل گیا ہے۔ لیکن یہ ترمیم حمایت کی مستحق ہے: ہراسانی سے تحفظ وہاں ختم نہیں ہو جانا چاہیے جہاں جعل سازی میں کسی کی شکل احتیاط سے جوں کی توں رکھی گئی ہو۔ اصل سوال یہ ہے کہ اس شخص کے بارے میں سنائی گئی کہانی میں اس کے ساتھ کیا کیا گیا ہے۔^[2]