OpenAI и Broadcom представили чип Jalapeño для инференса больших языковых моделей
OpenAI и Broadcom объединяются для разработки кастомного силикона для ИИ
OpenAI и Broadcom объявили о новом чипе, разработанном специально для инференса больших языковых моделей в дата-центрах, что является очередным признаком того, что индустрия ИИ всё глубже уходит в сторону кастомного железа.
Чип, получивший название Jalapeño, позиционируется как первое поколение в долгосрочном сотрудничестве между двумя компаниями. Broadcom сказал, что ASIC был разработан с нуля для инференса LLM, опираясь на «подробные инсайты» из обсуждений с исследователями OpenAI и на дорожную карту компании для будущих моделей и продуктов. Broadcom заявил, что чип был спроектирован и построен за девять месяцев.
OpenAI отметила, что ранние тесты показывают: Jalapeño обеспечит «производительность на ватт существенно лучше, чем у текущих передовых решений», однако добавила, что тестирование всё ещё продолжается и более подробный технический отчёт будет опубликован в ближайшие месяцы.
Эта инициатива отражает более широкую амбицию OpenAI контролировать большую часть инфраструктуры, лежащей в основе её моделей и продуктов, снижая зависимость от внешних поставщиков, таких как Nvidia. Она также появляется на фоне того, как компании в сфере ИИ продолжают искать способы растянуть ограниченные вычислительные ресурсы на фоне глобального дефицита мощностей в дата-центрах.
Broadcom, уже крупный поставщик чипов для строителей инфраструктуры, расширяет своё направление по кастомному кремнию, поскольку крупные облачные операторы и разработчики передовых моделей ищут специализированные чипы, адаптированные к их собственным рабочим нагрузкам.
Обе компании заявили, что ожидают развертывания чипов Jalapeño в дата-центрах к концу этого года.
Источники:
Читайте больше новостей технологий в блоге Doppler VPN.