Поиск

NVIDIA Vera: больше агентов на ватт по данным партнёров

NVIDIA Vera: больше агентов на ватт по данным партнёров

NVIDIA анонсировала процессор Vera, позиционируя его как решение для «ИИ-фабрик» — крупных вычислительных площадок, где мощность ограничена и критична энергоэффективность. Компания сравнила Vera с x86-процессорами в модели дата-центра на 100 МВт и привела замеры шести партнёров и ранних внедрений: Perplexity, DeepInfra, Daytona, Modal, ClickHouse и DuckLabs.

Заявления NVIDIA: сравнение с x86 на дата-центре 100 МВт

По данным NVIDIA, против самого быстрого x86-процессора Vera обещает в 1,6 раза больше агентов на ватт. Против самого энергоэффективного x86 — вдвое более высокую скорость агентов при лучшей энергоэффективности. Это два разных оппонента, поэтому коэффициенты 1,6 и 2 не складываются в единое преимущество. Цена Vera не раскрыта, а заявленное превосходство опирается на внутренние данные NVIDIA и результаты партнёров.

Результаты партнёров по агентским нагрузкам: Perplexity и DeepInfra

Perplexity протестировала агентские задачи по кодированию на Vera и зафиксировала ускорение в 1,5 раза по сравнению с традиционными CPU. Развёртывание в производственную среду пока планируется на будущее. DeepInfra на своей рабочей агентской нагрузке показала скорость до 2,2 раза выше лучшего x86-процессора в части оркестрации — распределения шагов агента между исполнителями. Из четырёх проверенных архитектур Vera выдала лучший результат.

Робот-дирижёр управляет роем агентов, передавая задачи между GPU и CPU

Инфраструктурные тесты: песочницы Daytona, Modal и базы данных ClickHouse, DuckLabs

Для инфраструктурных сценариев NVIDIA приводит результаты партнёрских тестов. Песочницы — изолированные среды для безопасного запуска кода агентов. Daytona подняла 1000 агентских песочниц за 10,8 секунды и выдала 12,7 завершённых задач в секунду при 2000 одновременных песочницах; на x86 запуск тысячи песочниц занял 88,4 секунды. Modal получила до двукратной пропускной способности песочниц на ядро относительно сопоставимого x86-оборудования, при этом разрыв растёт под высокой нагрузкой.

Мгновенный запуск тысяч песочниц и линейное масштабирование баз данных

В базах данных ClickHouse продемонстрировала почти линейное масштабирование стандартной сборки без доработок под Vera на 176 ядрах и возглавила аппаратный рейтинг ClickBench. DuckLabs достигла примерно 1,5-кратной медианной производительности в тесте TPC-H SF1000 относительно базового Intel Xeon 6. TPC-H проверяет аналитические запросы, ClickBench — открытый набор замеров для СУБД.

Контекст: ИИ-фабрики, лимит мощности и узкое место CPU–GPU

NVIDIA называет крупные вычислительные площадки под ИИ «ИИ-фабриками» и подчёркивает, что их мощность ограничена. Оператору приходится выбирать инфраструктуру, дающую максимум работы на каждый ватт. Агент выполняет цепочку шагов: поиск информации, обращение к базам, написание и проверка кода, изменение системы. Каждый шаг упирается в CPU, а задача постоянно переключается между рассуждением на GPU и исполнением на CPU. Именно на этом переключении NVIDIA строит аргумент про ватты.

Ограничения анонса: отсутствие цены и зависимость от данных вендора

Приведённые здесь показатели опубликованы NVIDIA со ссылкой на собственные сравнения и тесты партнёров. Они относятся к конкретным конфигурациям и нагрузкам и не заменяют независимого сравнения для вашей задачи. В этом анонсе нет цены, достаточной для расчёта полной стоимости владения. Планы будущего внедрения отдельно названы для Perplexity; распространять этот статус на всех партнёров некорректно.

Вопросы и ответы

Во сколько раз Vera превосходит x86 по агентам на ватт?

По данным NVIDIA, против самого быстрого x86 — в 1,6 раза больше агентов на ватт, против самого энергоэффективного — вдвое более высокая скорость агентов. Это разные базы сравнения, коэффициенты не суммируются.

Какие результаты показали партнёры NVIDIA?

Perplexity зафиксировала ускорение 1,5× на задачах кодирования, DeepInfra — до 2,2× в оркестрации агентов. Daytona запустила 1000 песочниц за 10,8 с против 88,4 с на x86, Modal — до 2× пропускной способности на ядро. ClickHouse показала линейное масштабирование на 176 ядрах, DuckLabs — ~1,5× в TPC-H SF1000.

Каковы основные ограничения анонса?

В рассмотренном анонсе нет цены для расчёта стоимости владения. Приведены результаты NVIDIA и её партнёров на определённых нагрузках; их нельзя считать универсальной гарантией ускорения. Для Perplexity указано предстоящее внедрение, но это не описание статуса всей экосистемы Vera.

—
16:11
36
Нет комментариев. Ваш будет первым!