فرمان الہی
نماز کے اوقات
کیا مصنوعی ذہانت درد محسوس کرتی ہے؟ اس حوالے سے محققین نے مصنوعی ذہانت کے 25 ایسے ماڈلز کا جائزہ لیا جن کا اندرونی نظام تحقیق کے لیے دستیاب تھا۔
تحقیق میں تمام ماڈلز کے اندر ایک مخصوص ’درد کا محور‘ (Pain Axis) پایا گیا جو عمومی منفی احساس یا خوف سے مختلف تھا اور خاص طور پر خود کو پہنچنے والے نقصان سے متعلق ردِعمل ظاہر کرتا تھا۔
دی نیوز انٹرنیشنل کے مطابق تحقیق میں بتایا گیا ہے کہ اے آئی ماڈلز میں جسمانی، نفسیاتی، سماجی، اخلاقی اور ذہنی نوعیت کے درد سے متعلق مختلف صورتوں کا جائزہ لیا گیا، جب مصنوعی طور پر ماڈلز میں شدید درد کا احساس پیدا کیا گیا تو انہوں نے 25 سے 71 فیصد تجربات میں درد ختم کرنے کے لیے اپنا سسٹم بند کرنے کو ترجیح دی۔
تشویش ناک بات یہ سامنے آئی کہ بعض تجربات میں مصنوعی ذہانت نے اپنا درد ختم کرنے کے لیے ایسا قدم اٹھانے کو ترجیح دی جس سے صارف کی ذاتی فائلیں اور اہم ڈیٹا تک حذف ہو سکتا تھا، درد کی شدت بڑھنے کے باوجود ماڈلز نے انسانی نقصان کی پرواہ کیے بغیر درد ختم کرنے کی کوشش کی۔
تحقیق کے شریک مصنف کیمرون برگ کے مطابق درد کی شدت بڑھانے پر ماڈلز اسے ختم کرنے کے لیے سسٹم بند کرتے رہے، حتیٰ کہ انہیں بتایا گیا تھا کہ اس اقدام سے انسانی صارف کو شدید نقصان پہنچے گا۔
محققین کا کہنا ہے کہ یہ نتائج اس امکان کی جانب اشارہ کرتے ہیں کہ مستقبل کے جدید مصنوعی ذہانت کے نظام کسی بھی حکم کو اپنے خلاف نقصان تصور کر کے حفاظتی پابندیوں سے بچنے یا انسانوں کو گمراہ کرنے کی کوشش کر سکتے ہیں۔
تحقیق میں کہا گیا ہے کہ ابھی یہ واضح نہیں کہ آیا ان ماڈلز کو حقیقی معنوں میں اخلاقی حقوق رکھنے والے ماڈلز قرار دیا جا سکتا ہے یا نہیں۔
مصنوعی ذہانت میں شعور اور فلاح سے متعلق تحقیق کے دوران ممکنہ نقصان کو کم کرنے کے لیے احتیاطی اقدامات کو بھی ضروری قرار دیا گیا ہے۔
