اوپن اے آئی نے چیٹ جی پی ٹی میں لاک ڈاؤن موڈ متعارف کروایا تاکہ پرومپٹ انجیکشن کے خطرات کم کیے جائیں
اوپن اے آئی نے حساس کام کے لیے چیٹ جی پی ٹی کا سخت موڈ شامل کیا
اوپن اے آئی نے چیٹ جی پی ٹی کے لیے ایک نیا "لاک ڈاؤن موڈ" متعارف کروایا ہے، یہ ایک ایسی خصوصیت ہے جس کا مقصد پرومپٹ انجیکشن حملوں کے خطرے کو کم کرنا ہے، جن میں خبیث ہدایات ویب صفحات، دستاویزات یا دیگر مواد کے اندر چھپائی جاتی ہیں۔
کمپنی کے مطابق یہ موڈ اُن افراد اور تنظیموں کے لیے ہے جو حساس ڈیٹا کو ہینڈل کرتے ہیں اور ڈیٹا کے اخراج کے خطرات کے خلاف مضبوط تحفظ چاہتے ہیں۔ یہ ہر کسی کے لیے نہیں ہے، اوپن اے آئی نے کہا، بلکہ اُن صارفین کے لیے ہے جنہیں اس بات پر زیادہ سخت کنٹرول چاہیے کہ چیٹ جی پی ٹی تک کس چیز کی رسائی ہو اور وہ کیسے جواب دیتا ہے۔
لاک ڈاؤن موڈ کئی خصوصیات کو غیر فعال کر دیتا ہے جو حملے کی سطح کو بڑھا سکتی ہیں۔ صارفین لائیو ویب براؤزنگ استعمال نہیں کر سکیں گے، یعنی چیٹ جی پی ٹی صرف کیشڈ مواد تک رسائی حاصل کر سکے گا۔ یہ موڈ ویب سے تصاویر کی بازیابی اور نمائش کو بھی بند کر دیتا ہے، البتہ تصویر جنریشن اب بھی کام کرتی ہے۔ اس کے علاوہ، گہری تحقیق اور ایجنٹ موڈ بھی غیر فعال ہیں۔
اوپن اے آئی نے خبردار کیا کہ یہ سیٹنگ مکمل حل نہیں ہے۔ لاک ڈاؤن موڈ فعال ہونے کے باوجود، چیٹ جی پی ٹی پھر بھی اُن پرومپٹ انجیکشنز کے لیے حساس ہو سکتا ہے جو کیشڈ ویب مواد یا اپلوڈ شدہ فائلز میں ظاہر ہوتے ہیں، اور وہ پھر بھی جواب کی درستگی یا روّیے کو متاثر کر سکتے ہیں۔ کمپنی کا مقصد، اس نے کہا، یہ ہے کہ ان تعاملات کے دوران حساس معلومات کے ظاہر ہونے کے امکانات کم کیے جائیں۔
یہ رول آؤٹ خود-خدمت چیٹ جی پی ٹی بزنس اکاؤنٹس کے ساتھ شروع ہو رہا ہے، اور اہل ذاتی اکاؤنٹس کے لیے بھی دستیاب ہوگا۔
پرومپٹ انجیکشن ویب اور دیگر خارجی ذرائع سے پڑھنے والے AI سسٹمز کے لیے بڑھتا ہوا خدشہ بن گیا ہے، کیونکہ چھپائی گئی ہدایات ماڈل کے روّیے کو صارف کے لیے واضح ہونے کے بغیر بدل سکتی ہیں۔ اوپن اے آئی کا نیا موڈ اسی خطرے کے براہِ راست جواب کے طور پر ہے، جب صارفین زیادہ کنٹرولڈ ماحول چاہتے ہیں تو چیٹ جی پی ٹی کے دستیاب اوزاروں کو محدود کرتا ہے۔
ذرائع:
مزید ٹیک خبریں Doppler VPN Blog پر پڑھیں.