AIとテクノロジーnews
オープンAIとブロードコムが大規模言語モデル推論向けハラペーニョチップを発表
著者 Doppler Team••1分で読めます
オープンAIとブロードコム、カスタムAIシリコンで提携
オープンAIとブロードコムは、データセンターでの大規模言語モデル推論専用に設計された新しいチップを発表しました。これは、AI業界がカスタムハードウェアへ一段と深く進んでいることを示す別の兆候です。
このチップは「ハラペーニョ」と呼ばれ、両社の長期的な協業の第1世代として位置づけられています。ブロードコムは、ASIC（特定用途向け集積回路）を大規模言語モデル（LLM）推論のためにゼロから設計したと述べ、オープンAIの研究者との議論や今後のモデル・製品のロードマップから得られた「詳細な洞察」を活用したと説明しました。ブロードコムはこのチップを9か月で設計・製造したとしています。
オープンAIによれば、初期テストではハラペーニョが「ワットあたりの性能で現行の最先端を大幅に上回る」ことが示唆されているものの、テストはまだ進行中であり、より詳細な技術報告は今後数か月で公開される予定だと付け加えています。
この取り組みは、モデルや製品を支えるインフラのより多くを自社でコントロールし、エヌビディアなどの外部サプライヤーへの依存を減らすというオープンAIのより大きな意図を反映しています。また、世界的なデータセンターの逼迫の中で限られた計算リソースを延ばす方法を模索するAI企業の動きとも重なります。
ブロードコムは既にインフラ構築者向けの主要なチップ供給企業ですが、ハイパースケーラーや最先端モデルの開発者が自分たちのワークロードに合わせた専用チップを求める中で、カスタムシリコン事業を拡大しています。
両社はハラペーニョチップを今年末までにデータセンターへ展開する予定だと述べています。
情報源：
さらに詳しい技術ニュースは Doppler VPN Blog でお読みください。