OpenAI와 Broadcom, 대형 언어 모델 추론용 'Jalapeño' 칩 공개
OpenAI와 Broadcom, 맞춤형 AI 실리콘 협력
OpenAI와 Broadcom은 데이터 센터에서 대형 언어 모델 추론을 위해 특별히 설계된 새로운 칩을 발표했습니다. 이는 AI 업계가 맞춤형 하드웨어로 더욱 깊숙이 들어가고 있음을 보여주는 또 다른 신호입니다.
그 칩은 'Jalapeño'라는 이름으로, 양사가 장기 협력의 첫 세대로 소개되고 있습니다. Broadcom은 해당 ASIC이 LLM 추론을 위해 처음부터 설계되었으며 OpenAI 연구원들과의 논의에서 얻은 "세부적인 통찰"과 향후 모델 및 제품 로드맵을 반영했다고 밝혔습니다. Broadcom은 그 칩이 설계·제작되는 데 9개월이 걸렸다고 전했습니다.
OpenAI는 초기 테스트에서 Jalapeño가 "와트당 성능이 현행 최고 수준보다 상당히 우수할 것"이라는 결과를 보였다고 밝혔지만, 테스트는 아직 진행 중이며 보다 자세한 기술 보고서는 향후 몇 달 내에 공개될 것이라고 덧붙였습니다.
이번 노력은 OpenAI가 모델과 제품을 뒷받침하는 인프라를 더 많이 통제하려는 광범위한 목표를 반영하며, Nvidia와 같은 외부 공급업체에 대한 의존도를 줄이려는 시도입니다. 또한 전 세계적인 데이터 센터 부족 상황 속에서 AI 기업들이 제한된 컴퓨팅 자원을 더 효율적으로 활용할 방안을 모색하고 있는 시점에서 나온 것입니다.
인프라 구축업체들에 이미 주요 칩 공급업체인 Broadcom은, 하이퍼스케일러와 최첨단 모델 개발자들이 자사 워크로드에 맞춘 특화된 칩을 찾으면서 맞춤형 실리콘 사업을 확장해 왔습니다.
양사는 Jalapeño 칩이 올해 말까지 데이터 센터에 배치될 것으로 예상된다고 밝혔습니다.
출처:
더 많은 기술 소식을 Doppler VPN 블로그에서 읽어보세요.