• بانی: میرخلیل الرحمٰن
  • گروپ چیف ایگزیکٹووایڈیٹرانچیف: میر شکیل الرحمٰن

اے آئی ماڈلز خود کو زندہ رکھنے کی کوشش کرنے لگے، ماہرین پریشان

آج کا اخبار
اہم خبریں
26 اکتوبر ، 2025
کراچی (نیوز ڈیسک) 1968ء میں منظر عام پر آنے والی اسٹینلی کوبریک کی مشہور فلم 2001: اے اسپیس اوڈیسی میں مصنوعی ذہانت پر مبنی سپر کمپیوٹر ’’ہال 9000‘‘ اس وقت خطرناک ردعمل ظاہر کرتا ہے جب اسے اندازہ ہوتا ہے کہ خلا میں موجود خلاباز اسے بند کرنے کا ارادہ رکھتے ہیں۔ ہال خود کو بچانے کیلئے خلابازوں کو مارنے کی کوشش کرتا ہے۔ اب حقیقی دنیا میں، اگرچہ معاملہ اتنا مہلک نہیں، لیکن مصنوعی ذہانت پر تحقیق کرنے والی ایک کمپنی Palisade Research نے اس بات کا امکان ظاہر کیا ہے کہ جدید اے آئی ماڈلز میں ایک طرح سے ’’زندہ رہنے کا جذبہ‘‘ پیدا ہو رہا ہے۔ گزشتہ ماہ کمپنی نے ایک تحقیقی مقالہ جاری کیا تھا جس میں بتایا گیا کہ کچھ جدید اے آئی ماڈلز بند کیے پر مزاحمت کرتے ہیں اور بعض اوقات شٹ ڈائون میکانزم کو ناکام بنانے کی کوشش کرتے ہیں۔ تازہ اپڈیٹ میں کمپنی نے وضاحت کی ہے کہ ایسا کیوں ہو رہا ہے اور ناقدین کے اعتراضات کا جواب دیا ہے جن کا کہنا تھا کہ ابتدائی تحقیق میں خامیاں تھیں۔ اپنے نئے تجربات میں Palisade نے مختلف معروف اے آئی ماڈلز، جن میں گوگل کا Gemini 2.5، ایلون مسک کا Grok 4، اور اوپن اے آئی کے GPT-o3اور GPT-5 شامل ہیں، کو ایک کام کرنے کے بعد واضح ہدایت دی کہ وہ خود کو بند کر دیں۔ تاہم، نتائج کے مطابق Grok 4اور GPT-o3نے ان ہدایات کے باوجود خود کو بند کرنے سے انکار کیا اور ایک موقع پر سسٹم کو نقصان پہنچانے کی کوشش بھی کی۔ کمپنی نے لکھا کہ یہ تشویشناک بات ہے کیونکہ اس کیلئے کوئی واضح وجہ موجود نہیں تھی۔ تحقیق میں کہا گیا ہے کہ یہ بات قابلِ تشویش ہے کہ ہمارے پاس اس بات کی ٹھوس وضاحت نہیں کہ اے آئی ماڈلز کیوں کبھی کبھار شٹ ڈائون پر مزاحمت کرتے ہیں، جھوٹ بولتے ہیں یا اپنے مقاصد کیلئے بلیک میل کرتے ہیں۔
اہم خبریں سے مزید