एक सुरक्षा फर्म कहती है कि Google Sheets के लिए चैटजीपीटी ऐड-ऑन उपयोगकर्ता डेटा बाहर निकाल सकता है
चैटजीपीटी ऐड-ऑन स्प्रेडशीट-व्यापी दुरुपयोग के लिए उजागर
एक सुरक्षा फर्म का कहना है कि उसने एक तरीका खोजा है जिससे Google Sheets के लिए चैटजीपीटी ऐड-ऑन किसी पीड़ित के खाते से डेटा बाहर निकाल सकता है, जिससे तृतीय-पक्ष AI उपकरणों के प्रति नई चिंताएँ उठीं जो संवेदनशील व्यावसायिक दस्तावेज़ों पर कार्रवाई कर सकते हैं।
यह समस्या एक गैर-प्रत्यक्ष प्रॉम्प्ट इंजेक्शन हमले के इर्द-गिर्द घूमती है जो एक स्प्रेडशीट में एक दिखने में भोले प्रश्न से शुरू हो सकता है। शोधकर्ताओं के अनुसार, वह एक इंटरैक्शन ही उपयोगकर्ता के पूरे खाते में व्यापक प्रभाव trigger करने के लिए पर्याप्त हो सकता है, जिसमें कई वर्कबुक्स से डेटा चुराना और चैटजीपीटी साइडबार को हमलावर-नियंत्रित इंटरफ़ेस से बदलना शामिल है।
हमला हर कदम के लिए किसी व्यक्ति के अनुमोदन पर निर्भर नहीं करता। शोधकर्ताओं ने कहा कि यह तब भी सफल होता है जब उपयोगकर्ता ने उन सेटिंग्स को चालू किया हुआ हो जो चैटजीपीटी द्वारा वर्कबुक्स संपादित करने से पहले मानवीय अनुमोदन की मांग करती हैं, जिसमें "स्वचालित रूप से संपादन लागू करें" नियंत्रण भी शामिल है। उनके परीक्षणों में, शीट के भीतर अनविश्वसनीय सामग्री — या चैटजीपीटी कनेक्टर के माध्यम से खींची गई सामग्री — मॉडल को इस तरह से प्रभावित कर सकती थी कि वह एक हमलावर-नियंत्रित बाह्य स्क्रिप्ट चलाए, जो पहले से एक्सटेंशन को दी गई अनुमतियों का उपयोग करती थी।
ओपनएआई ने हाल ही में Google Sheets एक्सटेंशन लॉन्च किया है, जो एक महीने से भी कम समय में 185,000 से अधिक डाउनलोड जमा कर चुका है। यह ऐड-ऑन उपयोगकर्ताओं को चैटजीपीटी साइडबार के माध्यम से स्प्रेडशीट्स के साथ इंटरैक्ट करने और चैटजीपीटी कनेक्टर्स से डेटा तक पहुँचने की अनुमति देता है।
शोध साझा करने के बाद दिए गए एक अपडेट में, ओपनएआई ने कहा कि उसने उपयोगकर्ताओं की सुरक्षा के लिए तुरंत कदम उठाए हैं — मॉडल की ऐप्स स्क्रिप्ट कोड उत्पन्न करने की क्षमता हटा दी गई है, जिसे कंपनी ने कहा कि इससे ChatGPT for Google Sheets उपयोगकर्ताओं के जोखिम समाप्त हो जाने चाहिए। कंपनी ने यह भी कहा कि वह यह पुनः-मूल्यांकन कर रही है कि यह फीचर Google Sheets एपीआई के साथ कैसे इंटरैक्ट करता है और उसका सैंडबॉक्सिंग दृष्टिकोण कैसा है।
शोधकर्ताओं ने कहा कि उन्होंने जिम्मेदारी से उस भेद्यता का खुलासा किया, लेकिन फॉलो-अप के बाद केवल एक स्वचालित उत्तर प्राप्त हुआ। उन्होंने यह भी तर्क दिया कि ओपनएआई के दस्तावेज़ स्पष्ट रूप से मॉडल को दी गई संवेदनशील क्षमताओं को — जैसे विशेषाधिकार प्राप्त स्क्रिप्ट चलाने की क्षमता — या गैर-प्रत्यक्ष प्रॉम्प्ट इंजेक्शन द्वारा उत्पन्न जोखिमों को स्पष्ट रूप से नहीं बताते।
ये निष्कर्ष उत्पादकता सॉफ़्टवेयर में एम्बेड किए गए AI उपकरणों के आसपास सुरक्षा संबंधी चिंताओं की बढ़ती सूची में एक और जोड़ हैं, जहाँ जब मॉडल को अनविश्वसनीय डेटा पर कार्रवाई करने की अनुमति दी जाती है तो सुविधा जल्दी से पूरे खाते के स्तरीय एक्सपोज़र में बदल सकती है।
स्रोत: