ChatGPT Chips

OpenAI und Broadcom haben mit Jalapeño einen speziell auf LLM-Inferenz ausgelegten KI-Beschleuniger vorgestellt. Der Chip soll Antworten großer Sprachmodelle schneller, energieeffizienter und zuverlässiger ausführen, zunächst in eigenen Rechenzentrumsplattformen und später über mehrere Hardware-Generationen hinweg. Übersicht: Was Jalapeño leisten soll Warum Inferenz zum Engpass wird Wie OpenAI den Chip entwickelt hat Welche Partner die Plattform tragen…