• بانی: میرخلیل الرحمٰن
  • گروپ چیف ایگزیکٹووایڈیٹرانچیف: میر شکیل الرحمٰن

کمشنر کا بچوں کی ڈیپ فیک عریاں تصاویر بنانے والی ایپس پر پابندی لگانے کا مطالبہ

انگلینڈ کی بچوں کی کمشنر ڈیم ریچل ڈی سوزا نے بچوں کی ڈیپ فیک عریاں تصاویر بنانے والی ایپس پر پابندی لگانے کا مطالبہ کر دیا۔

کمشنر ڈیم ریچل ڈی سوزا کا کہنا ہے کہ 'ان مخصوص ایپس کے موجود ہونے کی کوئی مثبت وجہ نہیں ہے' انہوں نے خبردار کیا ہے کہ نوعمر لڑکیوں میں بڑھتے ہوئے خوف کے درمیان، مصنوعی ذہانت والی "نوڈیفیکیشن" ایپس جو بچوں کی گہری جعلی جنسی تصاویر بناتے ہیں ان پر فوری طور پر پابندی لگا دی جانی چاہیے۔ 

انہوں نے بتایا کہ لڑکیوں کا کہنا ہے کہا وہ اس خوف سے سوشل میڈیا پر اپنی تصاویر پوسٹ کرنا بند کر رہی ہیں کہ جنریٹیو مصنوعی ذہانت ٹولز کا استعمال ڈیجیٹل طور پر ان کے کپڑوں کو اتارنے یا ان کو جنسی بنانے کے لیے استعمال کیا جا سکتا ہے۔

ٹولز پر کمشنر کی رپورٹ میں بتایا گیا کہ اگرچہ کسی بچے کی جنسی طور پر واضح تصویر بنانا یا اس کا اشتراک کرنا غیر قانونی ہے لیکن انہیں قابل بنانے والی ٹیکنالوجی قانونی ہے۔ 

کمشنر نے کہا ہے کہ بچوں نے انہیں بتایا ہے کہ وہ اس ٹیکنالوجی کے دستیاب ہونے کے تصور سے خوفزدہ ہیں، وہ ڈرتی ہیں کہ کوئی بھی اجنبی، ایک ہم جماعت، یا یہاں تک کہ کوئی دوست بھی ان بیسپوک ایپس کا استعمال کرتے ہوئے ایک برہنہ تصویر بنا کر ان کے ساتھ ہیرا پھیری کے لیے اسمارٹ فون کا استعمال کرسکتا ہے۔

کمشنر ڈیم ریچل ڈی سوزا نے کہا ہے کہ "آن لائن دنیا انقلابی اور تیزی سے ترقی کر رہی ہے لیکن ان مخصوص ایپس کے وجود میں آنے کی کوئی مثبت وجہ نہیں ہے۔ ہمارے معاشرے میں ان کی کوئی جگہ نہیں ہے۔ بچوں کی برہنہ تصاویر بنانے کے لیے ڈیپ فیک ٹیکنالوجی کا استعمال کرنے والے ٹولز کی قانونی اجازت نہیں ہونی چاہیے اور وہ حکومت سے مطالبہ کر رہی ہیں کہ وہ ان پر پابندی لگانے کے لیے فیصلہ کن کارروائی کرے۔

ڈی سوزا نے حکومت پر زور دیا کہ وہ مصنوعی ذہانت سے متعلق قانون سازی کرے جو کہ جنریٹیو AI ٹولز کے ڈویلپرز کو اپنی مصنوعات سے وابستہ خطرات کو تسلیم کرنے اور بچوں کی جنسی طور پر واضح گہری جعلی تصاویر کو ہٹانے کے لیے موثر نظام نافذ کرنے کا پابند بنائے۔ 

انہوں نے اس بات پر زور دیا کہ اس طرح کی قانون سازی کے اقدامات کو ایسے فریم ورک میں بنیاد بنایا جانا چاہیے جس میں خواتین اور لڑکیوں کے خلاف تشدد کی ایک شکل کے طور پر گہرے جعلی جنسی استحصال کو تسلیم کیا جائے۔

اس کے ساتھ ہی، رپورٹ آف کام کی وکالت کرتی ہے کہ اس بات کو یقینی بنائے کہ عریانی درخواستوں پر عمر کی تصدیق کے طریقہ کار کو سختی سے نافذ کیا جائے اور سوشل میڈیا پلیٹ فارمز آن لائن سیفٹی ایکٹ کی دفعات کے مطابق نابالغوں کو جنسی طور پر واضح ڈیپ فیک ٹولز کی تشہیر کو روکنے کے لیے فعال اقدامات کریں۔

برطانیہ و یورپ سے مزید