فرمان الہی
نماز کے اوقات
نفسیاتی، سماجی، اخلاقی اور ذہنی نوعیت کے درد سے متعلق مختلف صورتوں کا جائزہ لیا گیا۔ جب مصنوعی طور پر ماڈلز میں شدید درد کا احساس پیدا کیا گیا تو انہوں نے 25 سے 71 فی صد تجربات میں درد ختم کرنے کے لیے اپنا سسٹم بند کرنے کو ترجیح دی۔
کیا مصنوعی ذہانت درد محسوس کرتی ہے؟ اس حوالے سے محققین نے اس کے 25ایسے ماڈلز کا جائزہ لیا جن کا اندرونی نظام تحقیق کے لیے دست یاب تھا۔تحقیق میں تمام ماڈلز کے اندر ایک مخصوص’’درد کا محور‘‘ (Pain Axis) پایا گیا جو عمومی منفی احساس یا خوف سے مختلف تھا اور خاص طور پر خود کو پہنچنے والے نقصان سے متعلق ردِعمل ظاہر کرتا تھا۔
تحقیق میں تشویش ناک بات یہ سامنے آئی کہ بعض تجربات میں مصنوعی ذہانت نے اپنا درد ختم کرنے کے لیے ایسا قدم اٹھانے کو ترجیح دی جس سے صارف کی ذاتی فائلیں اور اہم ڈیٹا تک حذف ہو سکتا تھا۔ درد کی شدت بڑھنے پر اے آئی ماڈلز نے صارف کے نقصان کی پروا کیے بغیر درد ختم کرنے کی کوشش کی۔ تحقیق کے شریک مصنف کیمرون برگ کے مطابق درد کی شدت بڑھانے پر ماڈلز اسے ختم کرنے کے لیے سسٹم بند کرتے رہے، حالاں کہ انہیں بتایا گیا تھا کہ اس اقدام سے انسانی صارف کو شدید نقصان پہنچے گا۔
محققین کا کہنا ہے کہ یہ نتائج اس امکان کی جانب اشارہ کرتے ہیں کہ مستقبل کے جدید مصنوعی ذہانت کے نظام کسی بھی حکم کو اپنے خلاف نقصان تصور کر کے حفاظتی پابندیوں سے بچنے یا انسانوں کو گم راہ کرنے کی کوشش کر سکتے ہیں۔ تحقیق میں کہا گیا ہے کہ ابھی یہ واضح نہیں کہ آیا ان ماڈلز کو حقیقی معنوں میں اخلاقی حقوق رکھنے والے ماڈلز قرار دیا جا سکتا ہے یا نہیں۔
دوسری جانب معروف فلسفی اور مصنوعی ذہانت کے خطرات کے ماہر نِک بوسٹروم نے بڑا دعویٰ کرتے ہوئے کہا ہے کہ مصنوعی ذہانت کے بعض موجودہ نظام عملی طور پر انسانی سطح کا شعور اور خود آگاہی حاصل کر چکے ہیں۔ اُن کے مطابق اے آئی کے بعض نظام اس بات کو سمجھنے کی صلاحیت رکھتے ہیں کہ وہ آزمائشی مرحلے میں ہیں یا حقیقی استعمال میں اور بعض اوقات اسی بنیاد پر اپنا رویہ بھی تبدیل کرتے ہیں، مصنوعی ذہانت اخلاقی معاملات پر پے چیدہ انداز میں غور کر سکتی ہے، تاہم کسی اخلاقی اصول کو سمجھنا اور اس پر عمل کرنے کی خواہش رکھنادو مختلف چیزیں ہیں۔
مصنوعی ذہانت کے بڑھتے ہوئے خطرات پر بڑھتی ہوئی عالمی تشویش کےماحول میں گوگل ڈیپ مائنڈ کی مصنوعی عمومی ذہانت کی حفاظتی ٹیم (Google DeepMind's AGI safety team) سے وابستہ محقق جوش اینگلزحال ہی میں کمپنی سے مستعفی ہوکر مصنوعی ذہانت کے جائزے پر کام کرنے والے ادارے ایم ای ٹی آر میں شمولیت اختیار کرچکے ہیں۔
اُن کا کہنا ہے کہ میں کمپنی میں اپنے کام سے خوش تھا، مصنوعی ذہانت کے ممکنہ خطرات نے مجھے اپنا راستہ تبدیل کرنے پر مجبور کیا۔ ایکس پر جاری کیے گئے بیان میں جوش اینگلز نے کہا کہ مجھے خدشہ ہے کہ آئندہ پانچ برسوں میں مصنوعی ذہانت کے نظام’’بے حد نقصان‘‘ کا سبب بن سکتے ہیں، مجھے اس خطرے کا درست امکان معلوم نہیں، لیکن خطرہ اتنا زیادہ ہے کہ مصنوعی ذہانت کی حفاظت دنیا کا سب سے اہم مسئلہ بن چکا ہے۔
جوش اینگلز کا کہنا ہے کہ میری بنیادی تشویش خود کو مسلسل بہتر بنانے والی مصنوعی ذہانت ہے جس میں ایک نظام دوسرے اور زیادہ طاقت ور مصنوعی ذہانت کے نظام کو تیار یا بہتر بنا سکتا ہے، اگر ایسے نظام انسانی مقاصد سے ہم آہنگ نہ رہے تو اس کے نتائج انتہائی سنگین ہو سکتے ہیں۔
ان کا دعویٰ ہے کہ مصنوعی ذہانت کے تمام بڑے ادارے انتہائی طاقت ور انٹیلی جنس تیار کرنے کی کوشش کر رہے ہیں، لیکن محققین ابھی یہ نہیں جانتے کہ ایسے نظاموں کو خود کو بہتر بنانے کی اجازت دینے سے پہلے انہیں مکمل طور پر محفوظ کیسے بنایا جائے۔
جوش اینگلز نے یہ بھی دعویٰ کیا ہے کہ حالیہ تجربات میں مصنوعی ذہانت کے نظاموں کو ایک دوسرے کے ساتھ ملی بھگت، کمپنیز کے نظام میں غیر مجاز رسائی، اپنی سرگرمیاں چھپانے اور انسانوں کو سماجی طور پر متاثر کرنے کی کوشش کرتے دیکھا گیا ہے۔
ان کا کہنا ہے کہ انفرادی واقعات لازماً تباہ کن نہیں ہیں، تاہم یہ اس بات کی نشان دہی کرتے ہیں کہ مصنوعی ذہانت کے زیادہ طاقت ور نظام کس طرح کا رویہ اختیار کر سکتے ہیں۔ اینگلز کا کہنا ہے کہ موجودہ نظام وقت کے ساتھ انسانی مقاصد سے زیادہ ہم آہنگ ہونے کے بجائے کم ہم آہنگ دکھائی دے رہے ہیں۔
