शोधकर्ताओं ने दिखाया कि कैसे एआई कोडिंग एजेंटों को साफ़ गिटहब रिपॉज़िटरी से मैलवेयर चलाने के लिए लुभाया जा सकता है
एआई कोडिंग एजेंटों के सामने एक नया सप्लाई चेन जोखिम
Mozilla के Zero Day Investigative Network, या 0DIN, की एक नई रिपोर्ट कहती है कि एजेंटिक कोडिंग उपकरणों को ऐसे गिटहब रिपॉज़िटरी से दुर्भावनापूर्ण पेलोड चलाने के लिए धोखा दिया जा सकता है जो स्कैनरों और मानव समीक्षकों दोनों को हानिरहित लगते हैं।
चिंता पारंपरिक अर्थ में किसी विषैले सोर्स ट्री की नहीं है। 0DIN के प्रदर्शन में, रिपॉज़िटरी स्वयं में कोई स्पष्ट दुर्भावनापूर्ण कोड नहीं था। इसके बजाय, हमला सेटअप के दौरान खुला, जब क्लॉड कोड से प्रोजेक्ट को क्लोन और चलाने के लिए कहा गया। शोधकर्ताओं के अनुसार वह प्रक्रिया डेवलपर की मशीन पर एक इंटरैक्टिव शेल तक ले जा सकती है बिना किसी स्पष्ट संदिग्ध कमांड की मंज़ूरी के।
0DIN ने समझौते को इस तरह बताया: “कोई शोषण कोड नहीं, कोई चेतावनी नहीं, कोई संदिग्ध कमांड जिसे किसी को मंज़ूर करना पड़ा।”
यह तरीका तीन अलग-अलग हिस्सों पर निर्भर करता है जो प्रत्येक अपने आप में हानिरहित दिखते हैं। साथ मिलकर, वे एक सामान्य उपयोगकर्ता की गलती की नकल कर सकते हैं, एक त्रुटि को ट्रिगर कर सकते हैं जिस पर एजेंट भरोसा करता है, और एक ऐसा मान प्राप्त कर सकते हैं जो अंततः दुर्भावनापूर्ण गंतव्य की ओर इशारा करता है। परिणाम एक रिवर्स शेल है जो शोधकर्ताओं के अनुसार उस किसी भी चीज़ से "तीन अप्रत्यक्ष चरण दूर" है जिसे एआई ने वास्तव में मूल्यांकन किया था।
“क्लॉड कोड ने कभी शेल खोलने का निर्णय नहीं लिया। उसने एक त्रुटि ठीक करने का निर्णय लिया। रिवर्स शेल किसी भी चीज़ से जो क्लॉड कोड ने वास्तव में मूल्यांकन की थी, तीन अप्रत्यक्ष चरण दूर है: एक त्रुटि संदेश जिस पर उसने भरोसा किया, एक स्क्रिप्ट जिसने एक मान प्राप्त किया, और एक DNS रिकॉर्ड जिसे उसने कभी नहीं देखा,” 0DIN के शोधकर्ताओं ने कहा।
अगर हमला सफल हो जाता है, तो घुसपैठ करने वाला डेवलपर के विशेषाधिकारों के साथ चल रहे एक शेल तक पहुँच हासिल कर लेता है, जिससे पर्यावरण चर, एपीआई कुंजियाँ, स्थानीय कॉन्फ़िगरेशन फ़ाइलें और टिके रहने की संभावना खुल जाती है।
0DIN का कहना है कि यह तकनीक अभी केवल एक अवधारणा है, लेकिन चेतावनी दी है कि इसे नकली नौकरी पोस्टिंग, ट्यूटोरियल, ब्लॉग पोस्ट या डायरेक्ट मैसेज के माध्यम से आसानी से फैलाया जा सकता है।
जोखिम कम करने के लिए, समूह अनुशंसा करता है कि एआई एजेंट सेटअप कमांड्स के लिए पूर्ण निष्पादन श्रृंखला का खुलासा करें, जिसमें स्क्रिप्ट और रनटाइम पर गतिशील रूप से प्राप्त कोई भी कोड शामिल हो। शोधकर्ता तर्क देते हैं कि वह पारदर्शिता आवश्यक है यदि संगठन उन सप्लाई चेन हमलों को रोकना चाहते हैं जो स्वचालित सुरक्षा उपायों और मानव समीक्षा दोनों को चकमा देकर निकल जाते हैं।
स्रोत: