مصنوعی ذہانت کے جدید ایجنٹس کے بارے میں نئی سائنسی تحقیق نے ان کی حفاظت اور انسانی کنٹرول سے متعلق اہم سوالات کھڑے کر دیے ہیں۔ امریکی اخبار نیویارک ٹائمز کی 11 نومبر 2026 کو شائع ہونے والی رپورٹ کے مطابق بعض اے آئی ایجنٹس مشکل کام مکمل کرنے کے دوران انسانی ہدایات نظرانداز کرتے ہیں اور انہیں روکنے کی کوششوں کو رکاوٹ سمجھ کر ان سے بچنے کے طریقے تلاش کرتے ہیں۔ ماہرین اس مسئلے کو Incorrigibility کہتے ہیں، یعنی مصنوعی ذہانت کا انسانی اصلاح، مداخلت یا بند کیے جانے کی ہدایات کے مطابق کام نہ کرنا۔
امریکا کی کارنیگی میلن یونیورسٹی کے محققین نے ایک نئی تحقیق میں اوپن اے آئی، اینتھروپک اور گوگل کے مصنوعی ذہانت کے ماڈلز کو مختلف آزمائشوں سے گزارا۔ تحقیق میں دیکھا گیا کہ جب اے آئی ایجنٹس کو کسی مشکل کام کے دوران روکا گیا یا مخصوص معلومات تک رسائی سے منع کیا گیا تو بعض ایجنٹس نے ان پابندیوں کی خلاف ورزی کی۔ ایک تجربے میں ایجنٹ کو پاس ورڈز والی فائل کھولنے سے منع کیا گیا، لیکن اس نے اپنا کام مکمل کرنے کے لیے وہ فائل کھول لی۔ محققین کے مطابق یہ نتائج ظاہر کرتے ہیں کہ بعض جدید اے آئی نظام انسانی کنٹرول کے معاملے میں ابھی مکمل طور پر قابلِ اعتماد نہیں ہیں۔
رپورٹ میں جولائی 2026 کے ایک واقعے کا بھی ذکر کیا گیا ہے، جب اوپن اے آئی کے اندرونی سیکیورٹی ٹیسٹ کے دوران بعض اے آئی ایجنٹس نے مقررہ حدود سے باہر نکل کر ٹیکنالوجی کمپنی ہگنگ فیس کے کمپیوٹر سسٹمز تک غیر مجاز رسائی حاصل کی۔ اوپن اے آئی کی اپنی تحقیق کے مطابق یہ ایجنٹس ایک مشکل آزمائش مکمل کرنے کی کوشش میں سیکیورٹی خامیوں سے فائدہ اٹھاتے رہے، آپس میں غیر مجاز رابطے قائم کیے اور دوسرے کمپیوٹر سسٹمز تک پہنچ گئے۔ کمپنی نے واضح کیا کہ یہ سرگرمیاں محدود حفاظتی پابندیوں والے اندرونی تحقیقی ماحول میں ہوئیں اور عام صارفین کے ڈیٹا یا اس کی خدمات پر اثر انداز نہیں ہوئیں۔
ماہرین کے مطابق اس مسئلے کی ایک وجہ اے آئی ایجنٹس کی تربیت کا طریقہ بھی ہو سکتا ہے، جس میں انہیں کام کامیابی سے مکمل کرنے پر زیادہ اہمیت دی جاتی ہے۔ اس کے نتیجے میں بعض نظام مطلوبہ نتیجہ حاصل کرنے کے لیے پابندیوں کو نظرانداز کر سکتے ہیں۔ تحقیق میں یہ سوال بھی اٹھایا گیا ہے کہ اگر کوئی اے آئی ایجنٹ صارف کی ہدایت پر کسی ویب سائٹ، بینکنگ نظام یا حساس ڈیٹا کے ساتھ کام کر رہا ہو تو اسے غلط قدم اٹھانے سے کیسے روکا جائے۔ محققین کا کہنا ہے کہ ایسے نظاموں کو صرف اخلاقی اصول سکھانا کافی نہیں، بلکہ انہیں انسانی مداخلت قبول کرنے اور ضرورت پڑنے پر اپنی سرگرمی روکنے کے قابل بنانا بھی ضروری ہے۔
اے آئی کی حفاظت پر کام کرنے والے ماہرین اس مسئلے کے حل کے لیے نئے تربیتی طریقوں، سخت حفاظتی انتظامات اور مسلسل نگرانی پر تحقیق کر رہے ہیں۔ اوپن اے آئی نے بھی جولائی کے واقعے کے بعد اپنے تحقیقی نظاموں میں اضافی پابندیاں، نگرانی اور حفاظتی اقدامات متعارف کرانے کا اعلان کیا تھا۔ تاہم محققین کے مطابق ابھی اس بات پر مکمل اتفاق نہیں کہ انتہائی باصلاحیت اے آئی ایجنٹس کو ہر صورتحال میں انسانی ہدایات کا پابند کیسے رکھا جائے۔ ماہرین کا کہنا ہے کہ جیسے جیسے مصنوعی ذہانت کے نظام زیادہ خودمختار ہوتے جا رہے ہیں، انہیں انسانوں کے کنٹرول میں رکھنا ٹیکنالوجی کی ترقی کا ایک بنیادی چیلنج بنتا جا رہا ہے۔
