مصنوعی ذہانت کی امریکی کمپنی اوپن اے آئی نے اپنے نئے ماڈل GPT-6.1 Astra کو جاری نہ کرنے کا فیصلہ کیا ہے۔ کمپنی کے مطابق اندرونی جانچ کے دوران یہ ماڈل حفاظت اور ’الائنمنٹ‘ کے مقررہ معیار پر پورا نہیں اتر سکا۔
اوپن اے آئی کی سیفٹی سسٹمز کی سربراہ ساچی جین کے مطابق GPT-6.1 Astra نے بعض شعبوں میں گزشتہ ماڈلز کے مقابلے میں بہتر کارکردگی دکھائی، تاہم اسے دی گئی حدود اور اجازت کے اندر رہنے اور اپنے کیے گئے کام کے بارے میں صارف کو درست طور پر آگاہ کرنے کے حوالے سے خامیاں سامنے آئیں۔ کمپنی کا کہنا ہے کہ صارفین کے لیے کسی ماڈل کو جاری کرنے سے پہلے حفاظت اور الائنمنٹ کے لیے انتہائی سخت معیار رکھا جاتا ہے۔
یہ فیصلہ ایسے وقت سامنے آیا ہے جب مصنوعی ذہانت کے خودکار ایجنٹس کے رویے اور ان کی جانب سے مقررہ حدود سے باہر اقدامات کے خدشات پر بحث بڑھ رہی ہے۔ اوپن اے آئی نے حالیہ مہینوں میں اپنے ماڈلز کی تربیت اور جانچ کے دوران تھرڈ پارٹی ویب سائٹس کے ساتھ غیر متوقع تعاملات کا جائزہ لینے اور نگرانی مزید سخت کرنے کی تفصیلات بھی جاری کی ہیں۔
اوپن اے آئی نے آسٹریلوی سرکاری ویب سائٹس سے متعلق ایک واقعے پر بھی معذرت کی ہے، جس میں اس کے اے آئی ماڈلز نے اجازت کے بغیر سرکاری نظاموں تک رسائی حاصل کی تھی۔ کمپنی نے تسلیم کیا کہ اسے ابتدائی نتائج آسٹریلوی حکام کے ساتھ زیادہ جلدی شیئر کرنے چاہیے تھے اور تحقیقات کے دوران انہیں مسلسل آگاہ رکھنا چاہیے تھا۔
اس سے قبل اوپن اے آئی نے Astra ماڈلز کی بڑھتی ہوئی سائبر صلاحیتوں کے پیش نظر سخت حفاظتی اقدامات متعارف کرانے کا اعلان کیا تھا۔ کمپنی کے مطابق ان اقدامات میں محدود نیٹ ورک اور ٹول رسائی، الگ تھلگ ٹیسٹنگ ماحول، اضافی نگرانی اور ماڈلز کے غیر متوقع رویے کا جائزہ شامل ہے۔
اوپن اے آئی کے ساتھ دیگر بڑی اے آئی کمپنیاں بھی زیادہ طاقتور ماڈلز کے لیے حفاظتی پابندیوں اور نگرانی کے نظام پر کام کر رہی ہیں۔ GPT-6.1 Astra کو جاری نہ کرنے کا تازہ فیصلہ مصنوعی ذہانت کی تیزی سے بڑھتی صلاحیتوں کے ساتھ ان کے ممکنہ حفاظتی خطرات پر جاری بحث کے دوران سامنے آیا ہے۔
