امریکا کی اسٹینفورڈ یونیورسٹی کے ماہرین نے ایک نئی تحقیق میں انکشاف کیا ہے کہ چیٹ جی پی ٹی سمیت تمام بڑے مصنوعی ذہانت (اے آئی) چیٹ بوٹس درست اور غلط معلومات کے درمیان فرق کرنے میں ناکام ثابت ہوئے ہیں۔
یہ تحقیق لارج لینگوئج ماڈلز کی کارکردگی اور ان کی فیصلہ سازی کی صلاحیت پر مبنی تھی۔ ماہرین نے 24 مختلف اے آئی لینگوئج ماڈلز کا تجزیہ کیا جنہیں ایک ایسا ٹاسک دیا گیا جس میں انہیں درست اور غلط خبروں یا معلومات کی نشاندہی کرنا تھی۔ حیران کن طور پر، تمام ماڈلز اس عمل میں ناکام رہے اور اکثر غلط یا مبہم جوابات دیتے رہے۔
تحقیق کے مطابق اے آئی چیٹ بوٹس اکثر معلومات کو پراعتماد لہجے میں پیش کرتے ہیں، چاہے وہ درست ہوں یا نہیں۔ ماہرین کا کہنا ہے کہ یہی پہلو ان ماڈلز کو خطرناک بنا دیتا ہے کیونکہ صارفین ان کے جواب پر بھروسہ کرتے ہیں اور اس طرح غلط معلومات تیزی سے پھیل سکتی ہیں۔
رپورٹ میں مزید بتایا گیا کہ جیسے جیسے اے آئی ٹیکنالوجی قانون، طب، صحافت اور سائنس جیسے اہم شعبوں میں داخل ہو رہی ہے، وہاں حقیقت اور افسانے میں فرق کرنے کی صلاحیت مزید اہمیت اختیار کر گئی ہے۔ اگر یہ ماڈلز غلط معلومات کو درست سمجھ کر پیش کریں تو اس کے سنگین نتائج سامنے آ سکتے ہیں — مثلاً طبی تشخیص میں غلطی، عدالتوں میں متنازع فیصلے یا عوامی سطح پر گمراہ کن خبریں۔
تحقیق میں زور دیا گیا ہے کہ مصنوعی ذہانت کے نظاموں کو صرف ان کی کارکردگی یا روانی کے لحاظ سے نہیں، بلکہ معلومات کی درستگی اور سچائی کی بنیاد پر بھی پرکھنے کی ضرورت ہے۔ ماہرین نے خبردار کیا ہے کہ مستقبل میں اے آئی سے پیدا ہونے والی غلط معلومات کو روکنے کے لیے فیکٹ چیکنگ سسٹم، سخت معیارات اور انسانی نگرانی لازمی بنانا ہوگی
