OpenAI und Broadcom präsentieren Jalapeño‑Chip für Inferenz großer Sprachmodelle
OpenAI und Broadcom arbeiten bei kundenspezifischer KI‑Siliziumtechnik zusammen
OpenAI und Broadcom haben einen neuen Chip angekündigt, der speziell für die Inferenz großer Sprachmodelle in Rechenzentren entwickelt wurde, und markieren damit ein weiteres Zeichen dafür, dass die KI‑Branche stärker in Richtung kundenspezifischer Hardware geht.
Der Chip namens Jalapeño wird als erste Generation einer längerfristigen Zusammenarbeit zwischen den beiden Unternehmen präsentiert. Broadcom erklärte, der ASIC sei von Grund auf für die LLM‑Inference konzipiert worden und beruhe auf „detaillierten Erkenntnissen“ aus Gesprächen mit OpenAI‑Forschern sowie auf der Roadmap des Unternehmens für zukünftige Modelle und Produkte. Broadcom gab an, der Chip sei in neun Monaten entworfen und gebaut worden.
OpenAI teilte mit, erste Tests deuteten darauf hin, dass Jalapeño eine „Leistung pro Watt, die deutlich besser als der aktuelle Stand der Technik ist“, liefern werde; fügte jedoch hinzu, dass die Tests noch andauerten und in den kommenden Monaten ein detaillierter technischer Bericht folgen werde.
Die Initiative spiegelt OpenAIs umfassendere Ambition wider, mehr Kontrolle über die Infrastruktur hinter seinen Modellen und Produkten zu erlangen und die Abhängigkeit von externen Zulieferern wie Nvidia zu verringern. Zudem kommt sie zu einem Zeitpunkt, an dem KI‑Unternehmen weiterhin nach Wegen suchen, begrenzte Rechenressourcen angesichts einer globalen Rechenzentrumsknappheit effizienter zu nutzen.
Broadcom, bereits ein großer Chiplieferant für Infrastrukturbetreiber, hat sein Geschäft mit kundenspezifischem Silizium ausgebaut, da Hyperscaler und Entwickler von Frontier‑Modellen spezialisierte Chips suchen, die auf ihre jeweiligen Workloads zugeschnitten sind.
Beide Unternehmen erklärten, dass Jalapeño‑Chips voraussichtlich bis Ende dieses Jahres in Rechenzentren eingesetzt werden.
Quellen:
Lies mehr Tech‑News auf dem Doppler VPN Blog.