Inihayag ng OpenAI at Broadcom ang Jalapeño Chip para sa Pagpapatakbo ng Malalaking Modelong Pangwika
Nagkatuwang ang OpenAI at Broadcom sa pasadyang silisyum para sa AI
Inanunsyo ng OpenAI at Broadcom ang isang bagong chip na dinisenyo partikular para sa pagpapatakbo ng malalaking modelong pangwika sa mga data center, na isa pang palatandaan na lumalalim ang industriya ng AI patungo sa pasadyang hardware.
Ang chip, na tinawag na Jalapeño, ay ipinaprisinta bilang unang henerasyon sa isang mas pangmatagalang kolaborasyon sa pagitan ng dalawang kumpanya. Sinabi ng Broadcom na ang Integrated Circuit na espesyal na ginawa para sa partikular na aplikasyon (ASIC) ay dinisenyo mula sa simula para sa pagpapatakbo ng mga LLM, na humugot mula sa “mga detalyadong pananaw” mula sa mga pag-uusap kasama ang mga mananaliksik ng OpenAI at sa roadmap ng kumpanya para sa mga susunod na modelo at produkto. Sinabi ng Broadcom na ang chip ay dinisenyo at itinayo sa loob ng siyam na buwan.
Ayon sa OpenAI, nagpapahiwatig ang maagang pagsusuri na magbibigay ang Jalapeño ng “mas mahusay na performance kada watt nang malaki kumpara sa kasalukuyang state-of-the-art,” bagaman idinagdag nito na nagpapatuloy pa rin ang mga pagsubok at isang mas detalyadong teknikal na ulat ang lalabas sa mga darating na buwan.
Ang pagsisikap na ito ay sumasalamin sa mas malawak na ambisyon ng OpenAI na kontrolin ang mas marami sa imprastruktura sa likod ng kanilang mga modelo at produkto, pagbawas ng pag-asa sa mga panlabas na supplier tulad ng Nvidia. Dumating din ito habang patuloy na naghahanap ang mga kumpanya ng AI ng mga paraan upang pahabain ang limitadong compute resources sa gitna ng pandaigdigang kakapusan sa mga data center.
Ang Broadcom, na isa nang malaking supplier ng chip para sa mga tagabuo ng imprastruktura, ay pinalalawak ang negosyo nito sa pasadyang silicon habang ang mga hyperscaler at mga developer ng frontier model ay naghahanap ng mga espesyal na chip na inangkop sa kanilang sariling mga workload.
Sinabi ng parehong kumpanya na inaasahang maide-deploy ang mga Jalapeño chip sa mga data center bago matapos ang taon.
Mga Pinagmulan:
Magbasa pa ng mga balita sa teknolohiya sa Blog ng Doppler VPN.