ओपनएआई ने चैटजीपीटी में प्रॉम्प्ट इंजेक्शन जोखिम कम करने के लिए लॉकडाउन मोड जारी किया
ओपनएआई ने संवेदनशील काम के लिए एक सख्त चैटजीपीटी मोड जोड़ा
ओपनएआई ने चैटजीपीटी के लिए एक नया “लॉकडाउन मोड” पेश किया है, यह एक ऐसी फीचर है जो प्रॉम्प्ट इंजेक्शन हमलों के जोखिम को कम करने के लिए डिज़ाइन की गई है, जिनमें दुर्भावनापूर्ण निर्देश webpages, दस्तावेज़ों या अन्य सामग्री स्रोतों के अंदर छिपाए जा सकते हैं।
कंपनी ने कहा कि यह मोड उन लोगों और संगठनों के लिए लक्षित है जो संवेदनशील डेटा संभालते हैं और डेटा के बाहर निकलने के जोखिमों के खिलाफ मजबूत सुरक्षा चाहते हैं। ओपनएआई ने कहा कि यह सभी के लिए नहीं है, बल्कि उन उपयोगकर्ताओं के लिए है जिन्हें यह नियंत्रित करना ज़रूरी है कि चैटजीपीटी क्या एक्सेस कर सकता है और कैसे उत्तर देता है।
लॉकडाउन मोड कई ऐसी सुविधाओं को अक्षम कर देता है जो आक्रमण सतह को बढ़ा सकती हैं। उपयोगकर्ता लाइव वेब ब्राउज़िंग का उपयोग नहीं कर पाएंगे, यानी चैटजीपीटी केवल कैश्ड सामग्री तक ही पहुँच सकता है। यह मोड वेब से छवियों की पुनर्प्राप्ति और प्रदर्शन भी बंद कर देता है, हालांकि छवि निर्माण अभी भी काम करता है। इसके अतिरिक्त, गहन शोध और एजेंट मोड भी अक्षम कर दिए जाते हैं।
ओपनएआई ने चेतावनी दी कि यह सेटिंग पूरा समाधान नहीं है। लॉकडाउन मोड सक्षम होने पर भी, चैटजीपीटी कैश्ड वेब सामग्री या अपलोड की गई फ़ाइलों में दिखाई देने वाले प्रॉम्प्ट इंजेक्शन के प्रति संवेदनशील रह सकता है, और वे फिर भी किसी उत्तर की सटीकता या व्यवहार को प्रभावित कर सकते हैं। कंपनी का उद्देश्य, उसने कहा, यह है कि उन इंटरैक्शनों के दौरान संवेदनशील जानकारी के उजागर होने की संभावना कम हो जाए।
रोलआउट स्व-सेवा चैटजीपीटी व्यवसायिक खातों के साथ शुरू हो रहा है, साथ ही योग्य व्यक्तिगत खातों के लिए भी।
प्रॉम्प्ट इंजेक्शन उन एआई सिस्टमों के लिए बढ़ती चिंता बन गया है जो वेब और अन्य बाहरी स्रोतों से पढ़ते हैं, क्योंकि छिपे हुए निर्देश मॉडल के व्यवहार को उपयोगकर्ता के लिए स्पष्ट न रहते हुए बदल सकते हैं। ओपनएआई का नया मोड इस जोखिम का सीधा जवाब है, जब उपयोगकर्ता अधिक नियंत्रित वातावरण चाहते हैं तो चैटजीपीटी के लिए उपलब्ध उपकरणों को संकुचित कर देता है।
स्रोत:
अधिक टेक समाचार पढ़ें Doppler VPN ब्लॉग पर।