OpenAI e Broadcom apresentam o chip Jalapeño para inferência de modelos de linguagem de grande porte
OpenAI e Broadcom unem forças em silício personalizado para IA
OpenAI e Broadcom anunciaram um novo chip projetado especificamente para a inferência de modelos de linguagem de grande porte em data centers, sinalizando mais um indício de que a indústria de IA está avançando para hardware customizado.
O chip, chamado Jalapeño, está sendo apresentado como a primeira geração de uma colaboração de longo prazo entre as duas empresas. A Broadcom disse que o ASIC foi projetado do zero para inferência de modelos de linguagem de grande porte (LLM), baseando-se em “insights detalhados” oriundos de discussões com pesquisadores da OpenAI e no roadmap da empresa para modelos e produtos futuros. A Broadcom afirmou que o chip foi projetado e construído em nove meses.
A OpenAI afirmou que os testes iniciais sugerem que o Jalapeño oferecerá “performance por watt substancialmente melhor que o estado da arte atual”, embora tenha acrescentado que os testes ainda estão em andamento e um relatório técnico mais detalhado será publicado nos próximos meses.
O esforço reflete a ambição mais ampla da OpenAI de controlar mais da infraestrutura por trás de seus modelos e produtos, reduzindo a dependência de fornecedores externos como a Nvidia. Vem também em um momento em que empresas de IA continuam buscando maneiras de esticar recursos computacionais limitados em meio a uma crise global de capacidade em data centers.
A Broadcom, já um grande fornecedor de chips para construtores de infraestrutura, tem expandido seu negócio de silício customizado à medida que hyperscalers e desenvolvedores de modelos de ponta buscam chips especializados adaptados às suas próprias cargas de trabalho.
Ambas as empresas disseram que os chips Jalapeño devem ser implantados em data centers até o final deste ano.
Fontes:
Leia mais notícias de tecnologia no Doppler VPN Blog.