OpenAI ve Broadcom, Büyük Dil Modeli Çıkarımı için Jalapeño Çipini Tanıttı
OpenAI ve Broadcom, özel yapay zekâ silikonlarında iş birliği yapıyor
OpenAI ve Broadcom, veri merkezlerinde büyük dil modeli çıkarımı için özel olarak tasarlanmış yeni bir çip duyurdu; bu, yapay zekâ endüstrisinin özel donanım alanına daha da derinlemesine girdiğinin bir işareti.
Jalapeño adı verilen çip, iki şirket arasındaki daha uzun vadeli iş birliğinin ilk nesli olarak lanse ediliyor. Broadcom, özel amaçlı entegre devre (ASIC) tasarımının baştan sona büyük dil modeli (LLM) çıkarımı için yapıldığını ve OpenAI araştırmacılarıyla yapılan görüşmelerden ve şirketin gelecekteki modeller ve ürünler yol haritasından elde edilen “detaylı içgörülerden” yararlanıldığını belirtti. Broadcom, çipin dokuz ay içinde tasarlanıp inşa edildiğini söyledi.
OpenAI, erken testlerin Jalapeño'nun “mevcut en son teknolojiye kıyasla watt başına performansta önemli ölçüde daha iyi” performans sunacağını gösterdiğini söyledi; ancak testlerin hâlâ devam ettiğini ve önümüzdeki aylarda daha ayrıntılı bir teknik raporun yayımlanacağını ekledi.
Bu girişim, OpenAI'nin modelleri ve ürünlerinin arkasındaki altyapının daha fazlasını kontrol etme, Nvidia gibi dış tedarikçilere olan bağımlılığı azaltma yönündeki daha geniş hedefini yansıtıyor. Ayrıca küresel veri merkezi sıkışıklığı ortamında yapay zekâ şirketlerinin sınırlı hesaplama kaynaklarını daha verimli kullanmanın yollarını aramaya devam etmeleriyle de paralel bir gelişme.
Broadcom, altyapı kurucuları için zaten büyük bir çip tedarikçisi olarak, hiperölçekleyiciler ve öncü model geliştiricileri kendi iş yüklerine uyarlanmış uzmanlaşmış çipler ararken özel silikon işini genişletiyor.
Her iki şirket de Jalapeño çiplerinin bu yılın sonuna kadar veri merkezlerinde dağıtılmasının beklendiğini söyledi.
Kaynaklar:
Daha fazla teknoloji haberi için Doppler VPN Blog sayfasını okuyun.