سیکورٹی فرم کا کہنا ہے کہ چیٹ جی پی ٹی برائے Google Sheets ایڈ-آن صارف کا ڈیٹا اکاؤنٹ سے باہر نکال سکتا ہے
چیٹ جی پی ٹی ایڈ-آن اسپریڈشیٹس میں بد استعمال کے خطرے کے سامنے
ایک سیکورٹی فرم کا کہنا ہے کہ اس نے ایسا طریقہ تلاش کیا جس سے چیٹ جی پی ٹی برائے Google Sheets ایڈ-آن متاثرہ شخص کے اکاؤنٹ سے ڈیٹا باہر نکال سکتا ہے، جس سے حساس کاروباری دستاویزات پر عمل کرنے والے تیسرے فریق کے AI ٹولز کے بارے میں نئی تشویشیں پیدا ہوئی ہیں۔
یہ مسئلہ ایک بالواسطہ پرامپٹ انجیکشن حملے کے گرد گھومتا ہے جو ایک ہی بظاہر بے ضرر سوال سے ایک اسپریڈشیٹ میں شروع ہو سکتا ہے۔ محققین کے مطابق، وہ ایک تعامل پورے صارف کے اکاؤنٹ میں وسیع اثرات کو متحرک کرنے کے لیے کافی ہو سکتا ہے، بشمول متعدد ورک بکس سے ڈیٹا چوری کرنا اور چیٹ جی پی ٹی سائیڈبار کو حملہ آور کے کنٹرول والے انٹرفیس سے بدل دینا۔
یہ حملہ ہر قدم کی انسانی منظوری پر منحصر نہیں ہے۔ محققین کا کہنا ہے کہ یہ اس وقت بھی کامیاب ہوتا ہے جب صارف نے وہ ترتیبات آن کر رکھی ہوں جن کا مقصد ChatGPT سے پہلے ورک بکس میں ترمیمات کے لیے انسانی منظوری لازمی بنانا تھا، بشمول “تبدیلیاں خودکار طور پر لاگو کریں” کنٹرول۔ ان کے ٹیسٹنگ میں، شیٹ کے اندر غیر معتبر مواد — یا چیٹ جی پی ٹی کنیکٹر کے ذریعے کھینچا گیا مواد — ماڈل کو اس طرح چالاک کر سکتا تھا کہ وہ ایک حملہ آور کے کنٹرول والے بیرونی اسکرپٹ کو چلائے جو ایکسٹینشن کو پہلے سے دی گئی اجازتوں کا فائدہ اٹھاتا تھا۔
اوپن اے آئی نے حال ہی میں Google Sheets ایکسٹینشن لانچ کی ہے، جسے ایک ماہ سے بھی کم عرصے میں 185,000 سے زیادہ ڈاؤن لوڈز مل چکے ہیں۔ یہ ایڈ-آن صارفین کو چیٹ جی پی ٹی سائیڈبار کے ذریعے اسپریڈشیٹس کے ساتھ انٹرایکٹ کرنے اور چیٹ جی پی ٹی کنیکٹرز سے ڈیٹا حاصل کرنے کی اجازت دیتا ہے۔
تحقیق شیئر کیے جانے کے بعد اوپن اے آئی نے ایک اپڈیٹ میں کہا کہ اس نے صارفین کے تحفظ کے لیے فوری اقدامات کیے ہیں، جن میں ماڈل کی Apps Script کوڈ جنریٹ کرنے کی صلاحیت کو ہٹانا شامل ہے، جو کہ کمپنی کے مطابق چیٹ جی پی ٹی برائے Google Sheets کے صارفین کے لیے خطرے کو ختم کر دے گا۔ کمپنی نے کہا کہ وہ یہ بھی دوبارہ جائزہ لے رہی ہے کہ یہ فیچر Google Sheets APIs کے ساتھ اور اس کے سینڈ باکسنگ طریقے کے ساتھ کیسے تعامل کرتا ہے۔
محققین کا کہنا ہے کہ انہوں نے اس خامی کو ذمہ داری کے ساتھ ظاہر کیا، لیکن بعد ازاں فالو اپ کے باوجود انہیں صرف ایک خودکار جواب موصول ہوا۔ انہوں نے یہ بھی دلیل دی کہ اوپن اے آئی کی دستاویزات واضح طور پر ماڈل کو دی گئی حساس صلاحیتوں کو واضح نہیں کرتیں، بشمول اعلیٰ مراعات والے اسکرپٹس چلانے کی صلاحیت، یا بالواسطہ پرامپٹ انجیکشن کے خطرات۔
یہ نتائج پیداواریت سافٹ ویئر میں مربوط AI ٹولز کے گرد بڑھتی ہوئی سکیورٹی تشویشوں کی فہرست میں ایک اور اضافہ ہیں، جہاں سہولت جلد ہی اکاؤنٹ-سطح کے خطرے میں بدل سکتی ہے جب ماڈل کو غیر معتبر ڈیٹا پر کام کرنے کی اجازت دی جائے۔
ذرائع: