अमेरिका ने एन्थ्रोपिक को क्लॉड फेबल 5 और क्लॉड मिथोस 5 तक पहुंच बंद करने का आदेश दिया — जेलब्रेक चिंताओं के कारण
सरकारी हस्तक्षेप ने एन्थ्रोपिक के नवीनतम मॉडलों को प्रभावित किया
अमेरिकी सरकार ने एन्थ्रोपिक को उसकी दो सबसे उन्नत एआई प्रणालियों, क्लॉड फेबल 5 और क्लॉड मिथोस 5, तक पहुँच तुरंत निलंबित करने का आदेश दिया है, और इसे संभावित जेलब्रेक से जुड़ी राष्ट्रीय सुरक्षा चिंताओं से जोड़ा गया है।
एन्थ्रोपिक ने कहा कि उसे यह निर्देश शुक्रवार को 5:21 बजे ईटी पर मिला और कंपनी ने इसका पालन कर लिया है, जबकि यह भी तर्क दिया कि सरकार "इस मामले में गलत है।" कंपनी ने कहा कि यह आदेश उसे केवल विदेशी नागरिकों के लिए नहीं बल्कि दुनियाभर में दोनों मॉडलों तक पहुँच अक्षम करने के लिए मजबूर करता है, भले ही इस कार्रवाई को निर्यात नियंत्रण उपाय के रूप में पेश किया गया था।
यह कदम एन्थ्रोपिक के लिए एक संवेदनशील समय पर आया है। मिथोस 5 कंपनी का सबसे सक्षम मॉडल है और इसे सॉफ़्टवेयर में सुरक्षा कमजोरियाँ उजागर करने की रिपोर्ट की गई क्षमता के कारण कड़ी रोक-टोक के तहत रखा गया था। एन्थ्रोपिक ने कहा कि उसने मॉडल का प्रमुख ऑपरेटिंग सिस्टम और ब्राउज़र पर परीक्षण किया और प्रत्येक में कमजोरियाँ पाईं। व्यापक रूप से रिलीज़ करने के बजाय कंपनी ने इसे प्रोजेक्ट ग्लासविंग के माध्यम से सीमित किया, जो लगभग 50 प्रमाणित संगठनों को शामिल करने वाला एक नियंत्रित कार्यक्रम था, जिसमें अमेज़न, Apple, Google, माइक्रोसॉफ्ट और क्राउडस्ट्राइक शामिल थे।
फेबल 5, जो केवल तीन दिन पहले जारी हुआ था, मिथोस 5 का सार्वजनिक-समर्थित संस्करण था, जिसे साइबरसुरक्षा और जीवविज्ञान जैसे उच्च-जोखिम विषयों को रोकने के लिए सुरक्षा प्रावधानों के साथ डिज़ाइन किया गया था। कंपनी ने कहा कि उन्हें विश्वास था कि ये सुरक्षा उपाय इसे सामान्य रिलीज के लिए उपयुक्त बनाते हैं, और Vals एआई के बेंचमार्क परीक्षण ने इसे पहले ही सार्वजनिक क्षेत्र में शीर्ष पर रख दिया था।
एन्थ्रोपिक ने कहा कि सरकार की चिंता कथित रूप से फेबल 5 के एक जेलब्रेक के इर्द-गिर्द केंद्रित प्रतीत होती है। कंपनी के अनुसार, अधिकारियों ने केवल मौखिक साक्ष्य प्रदान किए हैं कि एक "संभावित संकुचित, गैर-वैश्विक जेलब्रेक" मौजूद है, जिसमें ऐसे प्रॉम्प्ट शामिल हैं जो मॉडल को एक कोडबेस की जांच करने और सॉफ़्टवेयर कमजोरियों की पहचान करने के लिए प्रेरित करते हैं। एन्थ्रोपिक ने कहा कि यह क्षमता पहले से ही अन्य सार्वजनिक रूप से पहुँच योग्य मॉडलों में मौजूद है, जिनमें ओपनएआई के जीपीटी-5.5 भी शामिल हैं, और इसे रक्षात्मक साइबरसुरक्षा कार्य के लिए नियमित रूप से उपयोग किया जाता है।
कंपनी ने यह भी तर्क दिया कि उसकी सबसे मजबूत सुरक्षा परतें मॉडल से अलग स्वतंत्र वर्गीकरण प्रणालियों पर निर्भर करती हैं, जिसका अर्थ है कि एक जेलब्रेक जरूरी नहीं कि खतरनाक आउटपुट के खिलाफ मौलिक सुरक्षा तंत्र को निष्क्रिय कर दे।
फिर भी, सरकार का यह आदेश इस बात का स्पष्ट संकेत है कि उन्नत एआई कितनी तेज़ी से राष्ट्रीय सुरक्षा का मुद्दा बन रहा है — और जब नियामक मानते हैं कि किसी मॉडल ने सीमा पार कर ली है तो वे हस्तक्षेप करने के लिए कितने अधिक तैयार हो गए हैं।
स्रोत: