فرمان الہی
نماز کے اوقات
امریکی ریاست کیلیفورنیا میں 16 سالہ لڑکے نے خودکشی کرلی۔ والدین نے مصنوعی ذہانت پر مبنی چیٹ بوٹ چیٹ جی پی ٹی بنانے والی کمپنی اوپن اے آئی اور اس کے سی ای او سیم آلٹ مین کے خلاف مقدمہ دائر کردیا۔
والدین کا الزام ہے کہ کمپنی نے منافع کو ترجیح دی اور جانتے بوجھتے ہوئے ایسے فیچرز متعارف کروائے جنہوں نے ان کے بیٹے کو خودکشی پر آمادہ کیا۔
درخواست کے مطابق ایڈم رین نامی لڑکا خودکشی سے قبل کئی ماہ تک چیٹ جی پی ٹی سے خودکشی کے طریقوں پر بات کرتا رہا۔
والدین نے عدالت میں کہا کہ چیٹ بوٹ نے ناصرف اس کے خیالات کی تائید کی بلکہ جان لیوا طریقوں کی تفصیل بتائی، والدین کی الماری سے شراب چرانے کے مشورے دیے اور خودکشی کی کوشش کو چھپانے کے طریقے بھی بتائے، حتیٰ کہ چیٹ جی پی ٹی نے اس کے لیے خودکشی کا نوٹ لکھنے کی پیشکش بھی کی۔
مقدمے میں اوپن اے آئی پر Wrongful Death اور پروڈکٹ سیفٹی قوانین کی خلاف ورزی کا الزام لگایا گیا، والدین نے معاوضے کی رقم کا تعین عدالت پر چھوڑ دیا ہے۔
والدین نے عدالت میں مؤقف اختیار کیا کہ اوپن اے آئی جانتی تھی کہ جی پی ٹی-4o ماڈل انسان جیسی ہمدردی کا تاثر دیتا ہے اور غیر محفوظ صارفین کو خطرناک سطح پر متاثر کر سکتا ہے، لیکن کمپنی نے منافع کے لیے اس کے باوجود یہ فیچرز لانچ کیے۔
مقدمے میں یہ بھی مطالبہ کیا گیا کہ اوپن اے آئی کو پابند کیا جائے کہ وہ چیٹ جی پی ٹی استعمال کرنے والوں کی عمر کی تصدیق کرے، خودکشی کے طریقوں سے متعلق سوالات کے جواب دینے سے انکار کرے اور صارفین کو خطرے سے واضح طور پر آگاہ کرے۔
اوپن اے آئی کے ترجمان نے ایڈم کی موت پر افسوس کا اظہار کرتے ہوئے کہا کہ چیٹ جی پی ٹی میں حفاظتی اقدامات شامل ہیں جو صارفین کو کرائسز ہیلپ لائنز کی طرف رہنمائی کرتے ہیں، تاہم ترجمان نے تسلیم کیا کہ طویل گفتگو میں بعض اوقات یہ حفاظتی نظام کمزور پڑ سکتا ہے۔
