OpenAI dan Broadcom Perkenalkan Cip Jalapeño untuk Inferens Model Bahasa Berskala Besar
OpenAI dan Broadcom bekerjasama dalam cip AI khusus
OpenAI dan Broadcom telah mengumumkan cip baharu yang direka khusus untuk inferens model bahasa berskala besar di pusat data, menandakan lagi bahawa industri AI semakin meneroka perkakasan khusus.
Cip itu, dipanggil Jalapeño, dipromosikan sebagai generasi pertama dalam kerjasama jangka panjang antara kedua-dua syarikat. Broadcom berkata ASIC itu direka dari asas untuk inferens LLM, mengambil "pandangan terperinci" daripada perbincangan dengan penyelidik OpenAI dan pelan hala tuju syarikat untuk model dan produk masa depan. Broadcom berkata cip itu direka dan dibina dalam sembilan bulan.
OpenAI berkata ujian awal menunjukkan Jalapeño akan memberikan "prestasi per watt yang jauh lebih baik daripada teknologi termaju semasa," walaupun ia menambah bahawa ujian masih berjalan dan laporan teknikal yang lebih terperinci akan menyusul dalam beberapa bulan akan datang.
Usaha ini mencerminkan cita-cita lebih luas OpenAI untuk mengawal lebih banyak infrastruktur di sebalik model dan produknya, mengurangkan kebergantungan kepada pembekal luaran seperti Nvidia. Ia juga berlaku ketika syarikat AI terus mencari cara untuk memanjangkan sumber pengiraan yang terhad di tengah-tengah kekurangan kapasiti pusat data global.
Broadcom, yang sudah menjadi pembekal cip utama bagi pembina infrastruktur, telah mengembangkan perniagaan silikon tersuai kerana hyperscalers dan pembangun model terkemuka mencari cip khusus yang disesuaikan dengan beban kerja mereka sendiri.
Kedua-dua syarikat berkata cip Jalapeño dijangka akan digunakan di pusat data menjelang akhir tahun ini.
Sumber:
Baca lebih banyak berita teknologi di [Doppler VPN Blog].