โอเพนเอไอ และ บรอดคอม เปิดตัวชิป ฮาลาเปนโญ่ สำหรับการอนุมานของโมเดลภาษาขนาดใหญ่

โอเพนเอไอ และ บรอดคอม ร่วมกันพัฒนาซิลิคอน AI แบบสั่งทำ
โอเพนเอไอและบรอดคอมประกาศชิปใหม่ที่ออกแบบโดยเฉพาะสำหรับการอนุมานของโมเดลภาษาขนาดใหญ่ในศูนย์ข้อมูล ซึ่งเป็นสัญญาณอีกชิ้นหนึ่งว่าอุตสาหกรรมปัญญาประดิษฐ์กำลังก้าวลึกขึ้นไปสู่ฮาร์ดแวร์เฉพาะทาง
ชิปที่เรียกว่า ฮาลาเปนโญ่ ถูกนำเสนอว่าเป็นรุ่นแรกในการร่วมมือระยะยาวระหว่างทั้งสองบริษัท บรอดคอมกล่าวว่าวงจรรวมเฉพาะงานนี้ถูกออกแบบตั้งแต่ต้นสำหรับการอนุมานของโมเดลภาษาขนาดใหญ่ โดยอาศัย «ข้อมูลเชิงลึกอย่างละเอียด» จากการหารือกับนักวิจัยของโอเพนเอไอและแผนงานของบริษัทสำหรับโมเดลและผลิตภัณฑ์ในอนาคต บรอดคอมกล่าวว่าชิปถูกออกแบบและสร้างขึ้นภายในเวลาเก้าเดือน
โอเพนเอไอกล่าวว่าการทดสอบช่วงแรกชี้ให้เห็นว่าฮาลาเปนโญ่จะให้ประสิทธิภาพต่อวัตต์ที่ดีกว่าเทคโนโลยีในปัจจุบันอย่างมีนัยสำคัญ แต่อย่างไรก็ตามบริษัทเสริมว่าการทดสอบยังคงดำเนินอยู่และรายงานทางเทคนิคที่ละเอียดกว่านี้จะตามมาในอีกไม่กี่เดือนข้างหน้า
ความพยายามนี้สะท้อนความมุ่งหมายที่กว้างขึ้นของโอเพนเอไอในการควบคุมส่วนประกอบโครงสร้างพื้นฐานเบื้องหลังโมเดลและผลิตภัณฑ์ของตนมากขึ้น เพื่อลดการพึ่งพาซัพพลายเออร์ภายนอก เช่น เอ็นวิเดีย นอกจากนี้ยังเกิดขึ้นในขณะที่บริษัทด้านปัญญาประดิษฐ์ยังคงมองหาวิธีขยายทรัพยากรการประมวลผลที่จำกัดท่ามกลางสถานการณ์คับขันของศูนย์ข้อมูลทั่วโลก
บรอดคอม ซึ่งเป็นผู้จัดหาชิปรายใหญ่ให้กับผู้สร้างโครงสร้างพื้นฐานอยู่แล้ว กำลังขยายธุรกิจซิลิคอนแบบสั่งทำของตน ขณะที่ผู้ให้บริการโครงสร้างพื้นฐานขนาดใหญ่และผู้พัฒนาระบบโมเดลแนวหน้าแสวงหาชิปเฉพาะทางที่ปรับให้เหมาะกับเวิร์กโหลดของตนเอง
ทั้งสองบริษัทกล่าวว่าชิปฮาลาเปนโญ่คาดว่าจะถูกนำไปใช้งานในศูนย์ข้อมูลภายในสิ้นปีนี้
แหล่งที่มา:
อ่านข่าวเทคโนโลยีเพิ่มเติมที่ Doppler VPN Blog.