OpenAI и Broadcom анонсировали специализированный чип Jalapeño для ускорения инференса LLM
OpenAI и Broadcom представили Jalapeño, первый собственный ускоритель OpenAI, предназначенный для инференса больших языковых моделей (LLM). Инференс – это стадия, когда модель уже обучена и отвечает на запросы пользователей, например, генерируя ответы в ChatGPT, решая задачи в Codex или обслуживая вызовы через API.
Главная цель чипа – оптимизировать именно реальные сценарии OpenAI, а не абстрактные ИИ‑нагрузки. Архитектура учитывает особенности моделей, вычислительные ядра, систему обслуживания запросов, сетевые компоненты и будущие агентские продукты. Для OpenAI это важный шаг вперёд: от разработки программных решений к контролю над собственным железом, на котором работают их модели.
Jalapeño ориентирован исключительно на инференс, то есть на обслуживание запросов после завершения обучения модели. Это отличает его от универсальных GPU, которые используют и для обучения, и для инференса. Специализация позволяет потенциально снизить задержку и стоимость ответа, если чип будет эффективно работать с типовыми нагрузками OpenAI.
OpenAI уже тестирует инженерные образцы Jalapeño в лабораториях, проверяя их на целевых частотах и мощности. В числе тестируемых задач упоминаются модели типа GPT‑5.3‑Codex‑Spark. Пока нет публичных цифр производительности, и компания обещает предоставить детальный технический отчёт в ближайшие месяцы. Поэтому заявления о лучшей энерго‑эффективности остаются предварительными и требуют независимых сравниваний с конкурентами, такими как Nvidia Blackwell, Google TPU и другие ускорители.
Разработка Jalapeño велась совместно с Broadcom и Celestica. Broadcom отвечает за производство кремния, сетевые технологии и подключение к крупной инфраструктуре, включая сетевой чип Tomahawk. Celestica занимается сборкой серверных плат и интеграцией систем.
Jalapeño станет первой частью многопоколенной вычислительной платформы OpenAI. Первое развертывание запланировано до конца 2026 года, после чего планируется масштабирование в дата‑центрах. Broadcom также объявил о развертывании на гигаваттном уровне совместно с Microsoft и другими партнёрами, начиная с 2026 года.
Этот проект показывает, что OpenAI стремится контролировать всю цепочку – от архитектуры чипа и памяти до сетевого взаимодействия и планирования задач, улучшая пользовательский опыт.
От концепции до передачи финального проекта в производство путь занял девять месяцев, чему способствовало использование собственных моделей для ускорения проектирования и оптимизации. Это пример того, как ИИ уже служит инструментом создания следующего поколения инфраструктуры ИИ.
Производство чипов будет осуществляться TSMC, а серверные системы соберёт Celestica. Чипы и системы Jalapeño предназначены исключительно для внутреннего использования OpenAI, а не для продажи как отдельный продукт.
Jalapeño не заменит Nvidia полностью. Обучение новых моделей по‑прежнему требует мощных GPU, а Jalapeño сконцентрирован на обслуживании запросов. Однако наличие собственного ускорителя позволяет OpenAI снизить зависимость от сторонних поставщиков в тех областях, где ежедневно происходит огромный объём вычислений.
Снижение зависимости от внешних производителей открывает возможности для оптимизации стоимости ответов, повышения доступности сервисов и более гибкого планирования новых моделей. Конкуренция смещается с «чья модель умнее» на «чья инфраструктура дешевле и стабильнее». Для конечных пользователей это может проявиться в виде меньших задержек, более высокой пропускной способности и, возможно, изменении тарифов и лимитов.
Главный открытый вопрос – публичные бенчмарки. Пока OpenAI не раскрыла детальные показатели производительности, стоимость владения, конфигурацию памяти и сравнения в одинаковых условиях. Эти данные позволят понять, станет ли Jalapeño символом инфраструктурных инноваций или реальным конкурентом дорогим GPU.