OpenAI और Broadcom ने बड़े भाषा मॉडल इनफेरेंस के लिए जालापेनो चिप का अनावरण किया
OpenAI और Broadcom ने कस्टम AI सिलीकोन पर मिलकर काम किया
OpenAI और Broadcom ने डेटा सेंटर्स में बड़े भाषा मॉडल इनफेरेंस के लिए विशेष रूप से डिज़ाइन की गई एक नई चिप की घोषणा की है, जो इस बात का और संकेत है कि AI उद्योग कस्टम हार्डवेयर की ओर गहराई से बढ़ रहा है।
यह चिप, जिसे जालापेनो कहा गया है, दोनों कंपनियों के बीच दीर्घकालिक सहयोग की पहली पीढ़ी के रूप में पेश की जा रही है। Broadcom ने कहा कि ASIC को स्क्रैच से LLM इनफेरेंस के लिए डिज़ाइन किया गया था, और यह OpenAI के शोधकर्ताओं के साथ हुई चर्चाओं और कंपनी के भविष्य के मॉडल व उत्पाद रोडमैप से प्राप्त “विस्तृत अंतर्दृष्टियों” पर आधारित है। Broadcom ने कहा कि चिप को नौ महीनों में डिज़ाइन और निर्मित किया गया था।
OpenAI ने कहा कि शुरुआती परीक्षण से यह संकेत मिलता है कि जालापेनो वर्तमान स्टेट-ऑफ-द-आर्ट की तुलना में “प्रति वॉट प्रदर्शन काफी बेहतर” देगा, हालांकि उन्होंने कहा कि परीक्षण अभी भी जारी हैं और आने वाले महीनों में एक अधिक विस्तृत तकनीकी रिपोर्ट दी जाएगी।
यह प्रयास OpenAI की उस व्यापक महत्वाकांक्षा को दर्शाता है कि वह अपने मॉडल और उत्पादों के पीछे के इंफ्रास्ट्रक्चर पर अधिक नियंत्रण हासिल करे, जिससे Nvidia जैसे बाहरी सप्लायर्स पर निर्भरता कम हो सके। यह वैश्विक डेटा सेंटर दबाव के बीच सीमित कंप्यूट संसाधनों को फैलाने के तरीकों की तलाश में AI कंपनियों की कोशिशों के साथ भी मेल खाता है।
Broadcom, जो पहले से ही इंफ्रास्ट्रक्चर बिल्डर्स के लिए एक प्रमुख चिप सप्लायर है, ने कस्टम सिलीकोन व्यवसाय का विस्तार किया है क्योंकि hyperscalers और frontier मॉडल डेवलपर्स अपने वर्कलोड के अनुरूप विशेष चिप्स की तलाश कर रहे हैं।
दोनों कंपनियों ने कहा कि जालापेनो चिप्स की डेटा सेंटर्स में तैनाती इस वर्ष के अंत तक होने की उम्मीद है।
स्रोत:
अधिक तकनीकी समाचार पढ़ें Doppler VPN Blog.