OpenAI продемонстрировала, как процессор Jalapeno обходит Nvidia по эффективности

Почти вдвое в пике

Компания OpenAI представила новые сведения о своём ИИ-процессоре Jalapeno, созданном в сотрудничестве с Broadcom и Celestica. Теперь организация поделилась конкретными показателями производительности, продемонстрировав, что её разработка превосходит продукцию Nvidia.

Jalapeno включает всего один вычислительный кристалл размером с фотошаблон, изготовленный по технологии TSMC N3P, но на его подложке также располагаются чиплет ввода-вывода и память HBM4, обеспечивающая пропускную способность 15,4 ТБ/с на стек.

Вычислительные ядра и память распределены по блокам, что предоставляет каждому блоку ядра локальное представление с низкой задержкой о соответствующем ему блоке HBM.

Jalapeno применяет числовые форматы MXFP вместо традиционных 16-битных или 8-битных, которые дополнительно сжимают данные для математических операций ИИ — до 4 бит в MXFP4. В матричном процессоре Jalapeno используется систолическая матрица с фиксированным весом. В стандартном чипе требуется постоянно считывать данные из памяти, выполнять вычисления и записывать результаты обратно в память, что создает узкое место всей системы. Систолическая матрица функционирует иначе: данные поступают в сеть тесно связанных обрабатывающих ячеек, передаваясь непосредственно от одной ячейки к другой без постоянных остановок для чтения/записи во внешнюю память.

По результатам внутренних тестов, Jalapeno является наиболее эффективным чипом для задач инференции. В бенчмарке InferenceX он продемонстрировал в 1,5-1,9 раза большую производительность на ватт при пиковой пропускной способности и в 1,7-3,6 раза меньшую сквозную задержку по сравнению с Nvidia GB200/GB300 на основе тестирования моделей OpenAI GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 1T. Что касается потребления, официально это 700 Вт, однако на практике процессор обычно потребляет лишь около 550 Вт под нагрузкой.

Особого внимания заслуживает тот факт, что чип не оптимизирован специально для какого-либо одного семейства моделей и технически способен запускать любую модель.