محققین نے تحقیق کرکے یہ اندازہ لگا یا ہے کہ مصنوعی ذہانت ایسی شکل اختیار کرنے جارہی ہیں، جس کو مستقبل میں قابو کرنا مشکل ہو گا اور اس کے انسانیت پر تباہ کن اثرات ظاہر ہوسکتے ہیں۔ سائنس دانوں کو یہ خوف ہے کہ اگر مصنوعی ذہانت کا نظام یہ سیکھ جائے کہ وہ اپنے تخلیق کاروں کے بنائے گئے اصول توڑ سکتا ہے تو وہ مزید خطرناک ہو جائے گا۔
آکسفورڈ یونیورسٹی سے تعلق رکھنے والے محققین کا کہنا ہے کہ مستقبل میں مصنوعی ذہانت ایسے مقام تک پہنچ جائے گی جب وہ محدود توانائی یا وسائل کے حصول کے لیے مقابلے پر مجبور ہوگی۔ یہ جدید ایجنٹس انسانوں کو اپنے مقصد کی راہ میں حائل دیوار سمجھ کر مار سکتے ہیں۔ کسی ایجنٹ کے لیے اپنے مقاصد کو دیر پا مدت تک اپنے قابو میں رکھنے کے لیے ایک بہتر راستہ یہ ہے کہ وہ ممکنہ خطرات کو ختم کریں اور اپنے کمپیوٹر کے تحفظ کے لیے تمام دستیاب توانائی استعمال کر لیں۔