AMD ROCm — открытая вычислительная платформа для запуска AI, HPC и других GPU-нагрузок на оборудовании AMD. Это не конечный сервис с веб-формой, а полноценный программный стек: драйверы и runtime-компоненты, HIP для разработки, математические и коммуникационные библиотеки, профилировщики, средства отладки и интеграции с популярными ML-фреймворками. ROCm имеет смысл рассматривать как инфраструктурную альтернативу CUDA для тех проектов, где используются AMD Instinct, совместимые Radeon или Ryzen AI.
Что изменилось в современном ROCm
Актуальная документация AMD описывает ROCm 10 как единый стек с отдельными направлениями Core SDK, AI Ecosystem и GPU Systems. Для машинного обучения доступны рецепты и поддержка PyTorch, JAX, vLLM и SGLang; для инфраструктуры — контейнеры, мониторинг, кластерные сценарии и управление GPU. Это уже не только набор библиотек для серверных Instinct: AMD последовательно расширяет сценарии для рабочих станций и части потребительских GPU.
Совместимость важнее номера версии
Главная ошибка при знакомстве с ROCm — устанавливать пакет, не проверив матрицу совместимости. Поддержка зависит одновременно от конкретного GPU, операционной системы, версии драйвера и выбранного фреймворка. Наличие видеокарты AMD само по себе не гарантирует официальный статус.
Для Instinct список поддерживаемых ускорителей шире и стабильнее. Radeon и Ryzen требуют отдельной проверки: часть устройств может работать через официальные сборки, а часть — только через community-enabled варианты вроде TheRock nightly. Для production-сервера лучше ориентироваться именно на официальную compatibility matrix, а не на единичный успешный запуск из форума.
Как устанавливать ROCm
AMD предлагает несколько методов. На Linux традиционный вариант — пакетный менеджер; для Radeon и Ryzen существует amdgpu-install. Для Python/ML окружений предусмотрена установка через pip, а tarball подходит для изолированных или переносимых конфигураций. Runfile используется как отдельный самостоятельный установщик. В современной ветке документации Windows также присутствует в поддерживаемых методах для части сценариев.
Перед установкой стоит решить, нужен ли системный стек для нескольких пользователей или только виртуальное Python-окружение под конкретную модель. Это влияет на способ установки и упрощает последующие обновления.
HIP и перенос CUDA-проектов
HIP — ключевой слой программирования ROCm. Он предоставляет C++-модель и инструменты для GPU-кода, а экосистема AMD включает средства, помогающие переносить проекты, изначально рассчитанные на CUDA. Однако «совместимый синтаксис» не означает одинаковую производительность: после переноса нужно профилировать узкие места, проверять поддерживаемые операции и версии библиотек.
ROCm для локальных LLM и инференса
Для пользователей AI практический интерес часто связан не с написанием собственных kernels, а с запуском PyTorch, vLLM или SGLang на AMD GPU. В таком сценарии ROCm становится нижним системным слоем: фреймворк работает поверх драйвера и библиотек AMD. При выборе модели нужно учитывать видеопамять, формат весов, поддерживаемые операции и конкретную версию фреймворка.
Если задача — просто один локальный чат на домашнем ПК, имеет смысл сначала проверить готовые сборки нужного приложения. Если же планируется сервер инференса, обучение, несколько GPU или собственные расширения, понимание ROCm уже становится обязательным.
Open source не означает отсутствие эксплуатационных затрат
Сам ROCm распространяется как открытое ПО и не требует подписки. Но стоимость инфраструктуры складывается из GPU, электроэнергии, хранения моделей, времени инженера и поддержки совместимых версий. Для команды полезно фиксировать рабочую матрицу «GPU — драйвер — ROCm — PyTorch/JAX — модель» и обновлять её контролируемо, а не автоматически.
Когда ROCm имеет смысл выбирать
ROCm подходит разработчикам ML, исследовательским группам, HPC-командам и компаниям, которые уже используют AMD Instinct или хотят диверсифицировать GPU-инфраструктуру. Для обычного пользователя решающим фактором остаётся совместимость конкретной видеокарты. Если она официально не поддерживается, эксперимент возможен, но такой компьютер не стоит заранее считать надёжной production-платформой.
ROCm 10.0: что находится внутри современного стека
ROCm — это не одна библиотека и не «аналог CUDA одним файлом». В стек входят HIP для переносимого GPU-кода, математические библиотеки, инструменты профилирования, runtime-компоненты и интеграции с фреймворками машинного обучения. В ROCm 10.0 AMD продолжает развивать Linux и Windows-направления, но набор возможностей зависит от конкретной видеокарты и операционной системы.
Поэтому первая проверка перед установкой — не номер ROCm, а compatibility matrix. Одинаковая версия стека может поддерживать PyTorch на одной Radeon/Instinct и не поддерживать нужный компонент на другой. Для production-машины модель GPU, ОС, драйвер и версия Python должны рассматриваться как единая конфигурация.
Фреймворки AI: PyTorch, JAX, vLLM и SGLang
В релизе 10.0 AMD указывает валидированные версии PyTorch, JAX, vLLM, SGLang, TensorFlow, ONNX Runtime и других компонентов. При этом некоторые inference-движки доступны только для определённых gfx-архитектур. Это особенно важно при локальном запуске LLM: факт, что ROCm установлен, ещё не означает поддержку любой комбинации vLLM и GPU.
Для сервера лучше начинать с официальной матрицы и контейнеров/пакетов, рекомендованных AMD. Самостоятельное смешивание новых nightly-сборок PyTorch со старым ROCm может дать ошибки, которые сложно отличить от проблем модели или драйвера.
HIP: перенос CUDA-кода без обещания полной совместимости
HIP предоставляет C++-подобную модель программирования и инструменты для переноса CUDA-приложений. Часть кода может переноситься механически, но производительность и доступность библиотек нужно проверять отдельно. Проект, который компилируется, ещё не обязательно использует GPU оптимально.
При миграции стоит сначала выбрать небольшой вычислительный модуль, получить корректный результат на AMD, затем измерить производительность. Только после этого имеет смысл переносить весь pipeline. Такой подход быстрее выявляет места, где приложение зависит от CUDA-specific API или поведения конкретной библиотеки.
Windows становится реальным вариантом, но Linux остаётся важным
ROCm 10.0 расширяет поддержку Windows для ряда библиотек и PyTorch, однако Linux по-прежнему имеет более широкий набор AI-инструментов. Например, поддержка vLLM и SGLang в официальной матрице ориентирована на Linux. Поэтому рабочая станция для экспериментов и production-сервер могут иметь разные оптимальные ОС.
Пользователю Windows не следует ориентироваться на инструкции для Ubuntu и наоборот. Пакеты, пути, драйверная модель и набор доступных компонентов отличаются.
Локальные LLM: VRAM важнее красивой цифры TOPS
Для локальной языковой модели объём видеопамяти часто ограничивает сильнее, чем пиковая производительность. Нужно учитывать размер весов, KV cache, длину контекста и параллельность запросов. Квантизация позволяет уменьшить память, но может менять качество или поддерживаемые kernels.
Если цель — один пользовательский чат, требования одни; если сервер должен обслуживать несколько запросов одновременно через vLLM, запас VRAM и память под cache становятся существенно важнее. Поэтому выбор Radeon или Instinct стоит делать от модели и нагрузки, а не только от цены GPU.
Профилирование и оптимизация
После запуска модели полезно измерить реальное узкое место: GPU utilization, память, скорость передачи данных и время kernels. ROCm включает инструменты для профилирования, а библиотеки вроде hipBLAS/hipBLASLt, hipFFT и hipSPARSE закрывают типовые вычислительные задачи. В HPC и custom kernels оптимизация этих слоёв может дать больший эффект, чем смена Python-кода.
Open source и стоимость эксплуатации
Сам ROCm открыт и не требует подписки, но инфраструктура остаётся платной: GPU, электричество, охлаждение, администрирование и время инженера. Для редких генераций облачный API может быть дешевле локального сервера. ROCm особенно оправдан, когда важны контроль данных, высокая постоянная нагрузка или уже есть совместимое AMD-оборудование.
Практический чек-лист перед установкой
Нужно проверить точную модель GPU в compatibility matrix, поддерживаемую ОС и kernel, рекомендованный драйвер, версию Python и фреймворка. Затем — установить минимальный тест, убедиться, что устройство видит runtime, и только потом добавлять vLLM, Stable Diffusion или собственный проект. Попытка сразу развернуть большой стек затрудняет диагностику: непонятно, сломан драйвер, PyTorch или уже сама модель.
