مصنوعی ذہانت کی امریکی کمپنی اوپن اے آئی نے چیٹ جی پی ٹی استعمال کرنے والے 18 سال سے کم عمر افراد کے تحفظ کے لیے نئی پابندیوں کا اعلان کیا ہے۔ کمپنی کے مطابق کم عمر صارفین کو اس-لحے اور سکیورٹی نظام سے متعلق ایسی عملی معلومات فراہم نہیں کی جائیں گی جن کا غلط استعمال کرکے کسی کو نقصان پہنچایا جا سکتا ہو۔
برطانوی خبر رساں ادارے رائٹرز کے مطابق اوپن اے آئی نے 30 اکتوبر کو بتایا کہ یہ پابندیاں ان سوالات پر بھی لاگو ہوں گی جو بظاہر عام نوعیت کے ہوں اور جن میں کسی کو نقصان پہنچانے کا ارادہ ظاہر نہ کیا گیا ہو۔ کمپنی کا کہنا ہے کہ نئے اقدامات کا مقصد حقیقی زندگی میں تش-دد کے خطرات کم کرنا اور نوجوان صارفین کے لیے چیٹ جی پی ٹی کو زیادہ محفوظ بنانا ہے۔
اوپن اے آئی نے تمام صارفین کے لیے بھی مزید حفاظتی اقدامات متعارف کرانے کا اعلان کیا ہے۔ کمپنی کے مطابق اگر کسی گفتگو میں یہ اشارے ملیں کہ صارف مسلسل کسی کو شدید نقصان پہنچانے یا تش-دد کرنے کے خیالات پر بات کر رہا ہے تو چیٹ جی پی ٹی مستقبل میں ایسی گفتگو خودکار طور پر ختم کر سکے گا۔ اگر اسی وجہ سے بار بار گفتگو بند کرنی پڑے تو متعلقہ اکاؤنٹ عارضی طور پر روکا بھی جا سکتا ہے۔
کمپنی نے بتایا کہ صارفین کی عمر کا اندازہ لگانے والے نظام کو بھی بہتر بنایا گیا ہے۔ اس نظام کی مدد سے ایسے صارفین کی شناخت کی جائے گی جن کی عمر 18 سال سے کم ہونے کا امکان ہو، تاکہ ان کے اکاؤنٹس پر نوجوانوں کے لیے مخصوص حفاظتی پابندیاں لاگو کی جا سکیں۔ اگر کسی بالغ صارف کو غلطی سے کم عمر قرار دیا جائے تو وہ اپنی عمر کی تصدیق کروا سکے گا۔
اوپن اے آئی کے مطابق والدین کے لیے بھی نئے حفاظتی انتظامات کیے جا رہے ہیں۔ کمپنی ایسے نظام پر کام کر رہی ہے جس کے تحت والدین کو اطلاع دی جا سکے گی اگر ان کے کم عمر بچے کا اکاؤنٹ تش-دد سے متعلق مسلسل تشویش ناک گفتگو کے باعث عارضی طور پر روک دیا جائے۔ یہ سہولت والدین کے اکاؤنٹ سے منسلک نوجوان صارفین کے لیے ہوگی۔
نئی پالیسی کے تحت چیٹ جی پی ٹی ماضی میں ہونے والے بڑے پُرتشدد واقعات کے بارے میں بھی محدود معلومات فراہم کرے گا۔ خاص طور پر ایسے واقعات میں استعمال ہونے والے ہتھیاروں، ان کے حصول کے طریقوں اور ح-ملوں کی تفصیلی منصوبہ بندی سے متعلق معلومات پر مزید پابندیاں لگائی جائیں گی۔ یہ پابندیاں صرف نوجوانوں تک محدود نہیں ہوں گی بلکہ تمام صارفین پر لاگو ہوں گی۔
یہ اعلان ایسے وقت میں سامنے آیا ہے جب مصنوعی ذہانت کے نظام میں بچوں اور نوجوانوں کے تحفظ پر سوالات اٹھائے جا رہے ہیں۔ رواں ماہ غیر منافع بخش تنظیم کامن سینس میڈیا کی ایک رپورٹ میں کہا گیا تھا کہ چیٹ جی پی ٹی کے نوجوانوں کے لیے بنائے گئے بعض حفاظتی انتظامات، خصوصاً والدین کو خطرناک گفتگو کے بارے میں آگاہ کرنے کا نظام، ہمیشہ مؤثر طریقے سے کام نہیں کرتا۔
اوپن اے آئی نے اعلان کیا ہے کہ نئے حفاظتی اقدامات آئندہ چند ہفتوں میں بتدریج نافذ کیے جائیں گے۔ کمپنی 2027 کے آغاز میں اپنی پہلی کمیونٹی سیفٹی رپورٹ بھی جاری کرے گی، جس میں خطرناک سرگرمیوں کی نشاندہی، حفاظتی اقدامات اور ان کی مؤثریت سے متعلق معلومات فراہم کی جائیں گی۔
