एन्थ्रोपिक प्रणालियाँ अपने उत्तराधिकारी बना सकती हैं, इस भय पर कृत्रिम बुद्धिमत्ता विकास में वैश्विक धीमी गति का आह्वान
एन्थ्रोपिक विराम का आह्वान
एन्थ्रोपिक चेतावनी दे रहा है कि कृत्रिम बुद्धिमत्ता उस बिंदु की ओर बढ़ रही है जहाँ प्रणालियाँ अपने ही उत्तराधिकारी बनाने में सक्षम हो सकती हैं, और वह कहता है कि इस संभावना को देखकर कृत्रिम बुद्धिमत्ता विकास में वैश्विक धीमी गति होनी चाहिए।
एक ब्लॉग पोस्ट में, कंपनी ने कहा कि जबकि उत्तराधिकारी प्रणालियाँ विकसित करने में सक्षम कृत्रिम बुद्धिमत्ता विज्ञान, स्वास्थ्य सेवा और अन्य क्षेत्रों में बड़े लाभ पहुंचा सकती है, यह इस बात का जोखिम भी बढ़ा सकती है कि मनुष्य तेजी से सक्षम मॉडलों पर नियंत्रण खो दें। एन्थ्रोपिक ने तर्क दिया कि एक अस्थायी विराम या धीमापन समाज और AI सुरक्षा अनुसंधान को पकड़ने का समय देगा।
कंपनी ने कहा कि यह प्रवृत्ति इतनी तेज़ी से आगे बढ़ रही है कि यह मील का पत्थर “ज्यादातर संस्थानों की अपेक्षा से जल्दी आ सकता है,” भले ही यह अभी यहाँ नहीं पहुँचा हो।
सत्यापन सबसे कठिन हिस्सा होगा
एन्थ्रोपिक ने कहा कि किसी भी धीमापन का प्रभाव तभी होगा जब दुनिया भर के प्रमुख AI प्रयोगशालाएँ समान शर्तों के तहत विकास रोकने या घटाने के लिए सहमत हों। उसने यह भी कहा कि भरोसेमंद तरीके होने चाहिए यह सत्यापित करने के लिए कि प्रतिद्वंद्वी वास्तव में रुके हैं, चेतावनी देते हुए कि अन्यथा कुछ संगठन गुप्त रूप से आगे बढ़ना जारी रख सकते हैं।
“एक सार्थक धीमापन या विराम के लिए आवश्यकता होगी कि कई अच्छी तरह संसाधनयुक्त प्रयोगशालाएँ सीमांत पर या उसके आसपास, कई देशों में, समान शर्तों के तहत रुकने के लिए सहमति दें,” कंपनी ने लिखा। “इसके साथ ही यह भी आवश्यक होगा कि हर एक यह सत्यापित कर सके कि दूसरे वास्तव में रुके हैं।”
कंपनी का प्रस्ताव एन्थ्रोपिक इंस्टीट्यूट के काम पर आधारित है, जो एक शोध विभाग है जिसे उसने मार्च में शुरू किया था ताकि उन चुनौतियों का अध्ययन किया जा सके जो तब उभरती हैं जब कृत्रिम बुद्धिमत्ता प्रणालियाँ और अधिक उन्नत होती हैं।
चेतावनी के बाद संशय
Doppler VPN से अपनी प्राइवेसी सुरक्षित करें
3 दिन का मुफ़्त ट्रायल। बिना रजिस्ट्रेशन। बिना लॉग।
एन्थ्रोपिक की पुकार ने संशय भी आकर्षित किया है। वॉल स्ट्रीट जर्नल ने नोट किया कि आलोचक कंपनी की सार्वजनिक चेतावनियों को एक संभावित मार्केटिंग रणनीति के रूप में देखते हैं, जिसका उद्देश्य एन्थ्रोपिक को प्रतिद्वंद्वियों की तुलना में अधिक जिम्मेदार दिखाना या यह संकेत देना हो सकता है कि उसके अपने उत्पाद सबसे सुरक्षित विकल्प हैं।
इन आलोचकों ने एन्थ्रोपिक के साइबरसुरक्षा मॉडल मिथोस की सीमित रिलीज़ की ओर इशारा किया है, जिसे कंपनी ने कहा था कि गलत हाथों में इसकी कमजोरियाँ खोजने की क्षमताओं के संभावित नुकसान के कारण चुनिंदा साझेदारों तक सीमित रखा गया था।
वहीं, एन्थ्रोपिक AI दौड़ के सबसे प्रमुख नामों में से एक है और रिपोर्टों के अनुसार यह अपनी पहली लाभकारी तिमाही की ओर है। उसने हाल ही में सार्वजनिक होने के लिए एसईसी के साथ कागजात दायर किए हैं, संभवतः वर्ष के अंत से पहले।
स्रोत:
अधिक तकनीकी समाचार पढ़ें Doppler VPN ब्लॉग पर.