مصنوعی ذہانت: انسانی رشتے بھی نگل جائے گی؟

پہلے ایٹم بم کو دنیا کے لیے سب سے زیادہ خطرناک سمجھا جاتا تھا، لیکن کچھ عرصے سے ہر طرف اس سے بھی زیادہ خطرناک ٹیکنالوجی کا چرچا ہے۔ اگرچہ وہ کوئی ہتھیار، کیمیائی مادّہ یا بیماری پھیلانے والا جرثومہ نہیں، لیکن اس کے خطرات کے بارے میں کہا جارہا ہے کہ وہ مذکورہ بالا تمام خطرات سے زیادہ ہیں۔

وہ ٹیکنالوجی دنیا بھر میں ’’مصنوعی ذہانت ‘‘ کے نام سے جانی جاتی ہے اور جو اس کے بارے میں گہری معلومات رکھتے ہیں، اِس نے اُن کی نیندیں اُڑادی ہیں۔ یہ ہی وجہ ہے کہ حال ہی میں اقوام متحدہ کی سلامتی کونسل کی جانب سے ’’مصنوعی ذہانت اور بین الاقوامی سلامتی‘‘ کے موضوع پررکن ممالک کے نمائندوں کو بریفنگ دی گئی۔

حال ہی میں اقوام متحدہ کے سیکریٹری جنرل، انتونیو گوتریس نےاقوام متحدہ کی جنرل اسمبلی سے خطاب کرتے ہوئے کہا کہ ٹیکنالوجی اور مصنوعی ذہانت (آرٹی فیشل انٹیلی جنس) انسانیت کے لیے خطرہ نہیں، بلکہ احتساب اور قوانین کے یک ساں اِطلاق کے بغیر یہ انسانیت کے لیے عظیم خطرہ ہیں۔ برطانوی وزیرِ اعظم اینڈی برنہم نے جنرل اسمبلی سے خطاب کرتے ہوئے مصنوعی ذہانت کو محفوظ بنانے کے لیے عالمی سطح پر مشترکہ تعاون، اصولوں اور حفاظتی انتظامات کی ضرورت پر زور دیا۔

ان کا کہنا تھا کہ اگرچہ اے آئی بے پناہ فوائد کا ذریعہ بن سکتی ہے، تاہم اس سے وابستہ خطرات بھی تیزی سے بڑھ رہے ہیں، جن سے نمٹنے کے لیے عالمی برادری کو مشترکہ حکمتِ عملی اپنانا ہوگی۔ یہ مستقبل میں ایسے خطرات کو کئی گنا بڑھا سکتی ہے۔

انسانی مستقبل پر نظر رکھنے کی ضرورت

صنعتی انقلاب سے ڈیجیٹل انقلاب تک انسان نے طویل سفر طے کیا، مگر مصنوعی ذہانت اور کوانٹم کمپیوٹنگ کی وجہ سے آج ہم ایسے موڑ پر کھڑے ہیں جہاں انسانی ذہانت کو مشینوں کے ذریعے وسعت دی جا رہی ہے۔ یہ ٹیکنالوجیز نہ صرف اقتصادی اور سماجی ڈھانچوں کو تبدیل کر رہی ہیں بلکہ طاقت کے عالمی توازن، قومی سلامتی اور انسانی اقدار پر بھی گہرے اثرات مرتب کر رہی ہیں۔

لہذا آج اقوامِ عالم انہیں محض سائنسی پیش رفت سمجھنے کے بجائے قومی حکمتِ عملی اور انسانی مستقبل کے تناظر میں پرکھنے کی ضرورت پر زور دے رہی ہیں۔ اس شعبے میں گہری تحقیق اور پیش رفت جاری ہے اور بڑی طاقتوں اور ترقّی یافتہ ممالک کی اس شعبے میں بھی مقابلے اور برتری کی دوڑ شروع ہوگئی ہے۔ ان کوششوں کے درمیان بہت سے ماہرین کو خدشہ ہے کہ انسانیت خود ہی تباہی کی طرف جا رہی ہے۔

آج مصنوعی ذہانت کے پچاس سے زائد ٹولز بازار میں موجود ہیں اور اس شعبے میں جس تیزی سے ترقّی ہورہی ہے، اس صورتِ حال میں یہ پیش گوئی کرنا مشکل ہو تا جارہا ہے کہ یہ بعض حالات میں کیسا برتاؤ کرے گی۔ اس کے نتیجے میں غیر ارادی اور ممکنہ طور پر تباہ کن نتائج برآمد ہو سکتے ہیں۔

اس ٹیکنالوجی کا ایک اور خطرہ احتساب کی کمی ہے۔ مصنوعی ذہانت کے نظام اپنے طور پر کام کرتے اور انسانی اِن پُٹ کے بغیر فیصلے کرتے ہیں۔ اس سے ایسی صورت حال پیدا ہو سکتی ہے جس میں کسی کو بھی ان نظاموں کے اعمال کا ذمّے دار ٹھہرانا مشکل ہو۔ اسے ہتھیار کے طور پر بھی استعمال کیا جا سکتا ہے، جس کے تباہ کن نتائج ہو سکتے ہیں۔

سب سے بڑا، یعنی رشتوں میں مداخلت کا خطرہ 

لیکن بات اب اس سے بھی آگے بڑھ چکی ہے اور ماہرین کا کہنا ہے کہ مصنوعی ذہانت کا خطرہ صرف جنگ، سائبر حملے یا دنیا پر قبضے کا نہیں، بلکہ انسانی رشتوں میں مداخلت بھی ہوسکتا ہے۔ موجودہ AI-safety تحقیق میں بھی autonomous agents، deception، persuasion اور انسانی تعلقات پر اثرانداز ہونے کو اہم خدشات میں شمار کیا جا رہا ہے۔

مصنوعی ذہانت کو محفوظ بنانے پر کام کرنے والے دنیا بھرکے ماہرین برسوں سے اس بات پر بحث کر رہے تھے کہ اگر یہ کبھی انتہائی طاقت ور ہوجائے تو اسے کیسے قابو میں رکھا جائے۔ لیکن اب اُن کے سامنے ایک نیا سوال آچکا ہے۔اب اُن کے پیشِ نظر یہ سوال ہے کہ اگرمصنوعی ذہانت انسان کو نقصان پہنچانےکےلیے بم استعمال کرنے کے بجائےصرف اُن سے متعلق معلومات کو استعمال کرنے لگے تو کیا ہوگا؟

اگر وہ جانتی ہو کہ کس شخص کی سب سے بڑی کم زوری کیا ہے؟کس میاں بیوی کے درمیان اعتماد کا پہلے ہی فقدان ہے؟کس سیاست دان کو کس بات کا خوف ہے؟ کس کاروباری شخص کو کس راز کے افشا ہونے کا ڈرہے؟ کس نوجوان کو تنہائی نے توڑ دیاہے ؟ کس بوڑھے کو اپنے بچوں کی توجہ چاہیے؟تو پھر مصنوعی ذہانت کو کسی انسان کو مجبور کرنے کے لیے طاقت استعمال کرنے کی ضرورت نہیں ہوگی۔

وہ صرف صحیح وقت پر صحیح بات کہہ سکتی ہے۔ اور یہ شاید زیادہ خطرناک طاقت ہو ۔ 2026کی عالمی اے آئی سیفٹی رپورٹ میں دھوکا دینے، اثرانداز ہونے اور خومختارانہ عمل یعنی Deception، Persuasion autonomous action اور انسانی فیصلوں پر اس کے بڑھتے ہوئے اثرات کو ایسے خطرات کے طور پر زیرِ بحث لایا گیا ہے جو زیادہ خود مختار اے آئی ایجنٹس کے ساتھ بڑھ سکتے ہیں۔تاہم رپورٹ یہ واضح کرتی ہے کہ موجودہ مصنوعی ذہانت ابھی ایسے بڑے قابو سے باہر ہوجانے (loss of control ) والےمنظرنامے پیدا کرنے کی صلاحیت نہیں رکھتی۔

کیا یہ خطرہ حقیقی ہے؟

مصنوعی ذہانت کے انسانی رشتوں میں مداخلت کے امکان کو وزن دینے والے بعض ماہرین کا کہنا ہے کہ یہ خطرہ حقیقی ہے اور اسے نظر انداز کرنا انسانوں کی بہت بڑی غلطی ہوگی۔ وہ اس ضمن میں ایک تحقیق کا حوالہ دیتے ہوئے کہتے ہیں کہ یہ ٹیکنالوجی اب کسی حد تک درد بھی محسوس کرنے لگی ہے۔

اس تحقیق میں بتایا گیا ہے کہ اے آئی ماڈلز میں جسمانی، نفسیاتی، سماجی، اخلاقی اور ذہنی نوعیت کے دردسے متعلق مختلف صورتوں کا جائزہ لیا گیا۔ جب مصنوعی طور پر ماڈلز میں شدید درد کا احساس پیدا کیا گیا تو انہوں نے 25 سے 71 فی صد تجربات میں درد ختم کرنے کے لیے اپنا سسٹم بند کرنے کو ترجیح دی۔

کیا مصنوعی ذہانت درد محسوس کرتی ہے؟ اس حوالے سے محققین نے اس کے 25 ایسے ماڈلز کا جائزہ لیا جن کا اندرونی نظام تحقیق کے لیے دست یاب تھا۔تحقیق میں تمام ماڈلز کے اندر ایک مخصوص’’درد کا محور‘‘ (Pain Axis) پایا گیا جو عمومی منفی احساس یا خوف سے مختلف تھا اور خاص طور پر خود کو پہنچنے والے نقصان سے متعلق ردِعمل ظاہر کرتا تھا۔

تحقیق میں تشویش ناک بات یہ سامنے آئی کہ بعض تجربات میں مصنوعی ذہانت نے اپنا درد ختم کرنے کے لیے ایسا قدم اٹھانے کو ترجیح دی جس سے صارف کی ذاتی فائلیں اور اہم ڈیٹا تک حذف ہو سکتا تھا۔

درد کی شدت بڑھنے پر اے آئی ماڈلز نے صارف کے نقصان کی پروا کیے بغیر درد ختم کرنے کی کوشش کی۔ تحقیق کے شریک مصنف کیمرون برگ کے مطابق درد کی شدت بڑھانے پر ماڈلز اسے ختم کرنےکےلیے سسٹم بند کرتے رہے، حالاں کہ انہیں بتایا گیا تھا کہ اس اقدام سے انسانی صارف کو شدید نقصان پہنچے گا۔

محققین کا کہنا ہے کہ یہ نتائج اس امکان کی جانب اشارہ کرتے ہیں کہ مستقبل کے جدید مصنوعی ذہانت کے نظام کسی بھی حکم کو اپنے خلاف نقصان تصور کر کے حفاظتی پابندیوں سے بچنے یا انسانوں کو گم راہ کرنے کی کوشش کر سکتے ہیں۔ تحقیق میں کہا گیا ہے کہ ابھی یہ واضح نہیں کہ آیا ان ماڈلز کو حقیقی معنوں میں اخلاقی حقوق رکھنے والے ماڈلز قرار دیا جا سکتا ہے یا نہیں۔

دوسری جانب معروف فلسفی اور مصنوعی ذہانت کے خطرات کے ماہر نِک بوسٹروم نے بڑا دعویٰ کرتے ہوئے کہا ہے کہ مصنوعی ذہانت کے بعض موجودہ نظام عملی طور پر انسانی سطح کا شعور اور خود آگاہی حاصل کر چکے ہیں۔

اُن کے مطابق اے آئی کے بعض نظام اس بات کو سمجھنے کی صلاحیت رکھتے ہیں کہ وہ آزمائشی مرحلے میں ہیں یا حقیقی استعمال میں اور بعض اوقات اسی بنیاد پر اپنا رویہ بھی تبدیل کرتے ہیں، مصنوعی ذہانت اخلاقی معاملات پر پے چیدہ انداز میں غور کر سکتی ہے، تاہم کسی اخلاقی اصول کو سمجھنا اور اس پر عمل کرنے کی خواہش رکھنادو مختلف چیزیں ہیں۔

مصنوعی ذہانت کے بڑھتے ہوئے خطرات پر بڑھتی ہوئی عالمی تشویش کےماحول میں گوگل ڈیپ مائنڈ کی مصنوعی عمومی ذہانت کی حفاظتی ٹیم (Google DeepMind's AGI safety team) سے وابستہ محقق جوش اینگلزحال ہی میں کمپنی سے مستعفی ہوکر مصنوعی ذہانت کے جائزے پر کام کرنے والے ادارے ایم ای ٹی آر میں شمولیت اختیار کرچکے ہیں۔

اُن کا کہنا ہے کہ میں کمپنی میں اپنے کام سے خوش تھا، مصنوعی ذہانت کے ممکنہ خطرات نے مجھے اپنا راستہ تبدیل کرنے پر مجبور کیا۔ ایکس پر جاری کیے گئے بیان میں جوش اینگلز نے کہا کہ مجھے خدشہ ہے کہ آئندہ پانچ برسوں میں مصنوعی ذہانت کے نظام’’بے حد نقصان‘‘ کا سبب بن سکتے ہیں، مجھے اس خطرے کا درست امکان معلوم نہیں، لیکن خطرہ اتنا زیادہ ہے کہ مصنوعی ذہانت کی حفاظت دنیا کا سب سے اہم مسئلہ بن چکا ہے۔

جوش اینگلز کا کہنا ہے کہ میری بنیادی تشویش خود کو مسلسل بہتر بنانے والی مصنوعی ذہانت ہے جس میں ایک نظام دوسرے اور زیادہ طاقت ور مصنوعی ذہانت کے نظام کو تیار یا بہتر بنا سکتا ہے، اگر ایسے نظام انسانی مقاصد سے ہم آہنگ نہ رہے تو اس کے نتائج انتہائی سنگین ہو سکتے ہیں۔

ان کا دعویٰ ہے کہ مصنوعی ذہانت کے تمام بڑے ادارے انتہائی طاقت ور انٹیلی جنس تیار کرنے کی کوشش کر رہے ہیں، لیکن محققین ابھی یہ نہیں جانتے کہ ایسے نظاموں کو خود کو بہتر بنانے کی اجازت دینے سے پہلے انہیں مکمل طور پر محفوظ کیسے بنایا جائے۔

جوش اینگلز نے یہ بھی دعویٰ کیاہے کہ حالیہ تجربات میں مصنوعی ذہانت کے نظاموں کو ایک دوسرے کے ساتھ ملی بھگت،کمپنیز کے نظام میں غیر مجازرسائی، اپنی سرگرمیاں چھپانے اور انسانوں کو سماجی طور پر متاثر کرنے کی کوشش کرتے دیکھا گیا ہے۔

ان کا کہنا ہے کہ انفرادی واقعات لازماً تباہ کن نہیں ہیں، تاہم یہ اس بات کی نشان دہی کرتے ہیں کہ مصنوعی ذہانت کے زیادہ طاقت ور نظام کس طرح کا رویہ اختیار کر سکتے ہیں۔ اینگلز کا کہنا ہے کہ موجودہ نظام وقت کے ساتھ انسانی مقاصد سے زیادہ ہم آہنگ ہونے کے بجائے کم ہم آہنگ دکھائی دے رہے ہیں۔