Поиск

Qwen 3.8: разбор линейки моделей и как запустить локально

Qwen 3.8: разбор линейки моделей и как запустить локально

Что включает линейка Qwen 3.8

Новая версия моделей Qwen представлена не как одна единая система, а как набор нескольких вариантов, каждый из которых ориентирован на свои задачи. В линейку вошли облачный флагман Max, его открытое ядро, компактная 27‑мллиардная версия для локального запуска, а также более лёгкие Flash и Next, а также специализированная Omni‑Flash для работы с аудио и видео. Такое разнообразие позволяет подобрать модель под любые ограничения по железу, бюджету и типу входных данных.

Облачный флагман Qwen 3.8 Max

Qwen 3.8 Max построен на архитектуре смеси экспертов (MoE) и имеет суммарно 2,4 триллиона параметров, из которых при обработке одного токена активны около 95 миллиардов. Контекстное окно достигает одного миллиона токенов: до 991 тысячи может приходить на вход, а до 131 тысячи – на выход. На вход принимаются текст, изображения и видео, а результат выдаётся в виде текста. Глубину рассуждений можно задать уровнями low, medium или xhigh. Согласно официальным тестам, модель показывает результаты GPQA Diamond – 92,6, Terminal‑Bench 2.1 – 86,6 и FrontierSWE – 73,5. Для конечного пользователя это означает, что Max является самой способной моделью Qwen, доступной через API. Стоимость использования в облаке QwenCloud составляет примерно 2,00 USD за миллион входных токенов и 6,00 USD за миллион выходных, с учётом кэша чтения около 0,25 USD. По сравнению с конкурентами Max находится в среднем ценовом диапазоне: он дешевле Claude 4.5 Opus и Gemini 3.5 Ultra, но дороже GPT‑5.2 по выходным токенам, при этом по качеству близок к топовым моделям Anthropic.

Локальные варианты: Qwen 3.8 27B и Flash‑Next

Для тех, кто предпочитает работать офлайн, наиболее подходящими являются две модели: плотная 27‑мллиардная версия и архитектурное предварительное releases Flash‑Next. Qwen 3.8 27B содержит 27 миллиардов параметров, визуальный энкодер, 64 слоя и скрытый размер 5120. Её нативный контекст – 262 144 токена, с применением YaRN можно растянуть до одного миллиона. Принимает текст, изображения и видео, режим рассуждений включён по умолчанию, но его можно переключать между low, medium, xhigh или полностью отключать. Модель распространяется под лицензией Apache 2.0, что позволяет свободно использовать её в коммерческих проектах, дообучать и распространять без ограничений. По сравнению с предыдущей версией Qwen 3.6‑27B прирост производительности заметен: Terminal‑Bench 2.1 вырос на 9,6 пункта, SWE‑bench Pro – на 8,2, DeepSWE 1.1 – на 28,9, LiveCodeBench v6 – на 6,4, OSWorld‑Verified – на 20,4, WebArena‑Verified – на 16,0. Flash‑Next (Qwen3.8‑Flash‑Next) выпущен 26 августа 2026 года как preview будущей архитектуры Qwen4. Объём параметров – 125 миллиардов, из которых активны около 6 миллиардов на токен. Добавлены N‑граммная таблица (51 млрд параметров) и механизм multi‑token prediction (≈4 млрд), которые позволяют модели быть одновременно «умнее» и «быстрее» без роста нагрузки на видеопамять. Контекст нативно 262 к токенов, расширяется до одного миллиона через API. Лицензия – Qwen Community 1.0. Для работы с аудио и видео существует отдельная модель Qwen3.8‑Omni‑Flash, релизованная 18 сентября 2026 года. Она принимает на вход текст, картинки, аудио и видео, а выдаёт текст. Контекст – один миллион токенов, качество работы со звуком и видео заявлено близким к Gemini 3.8 Flash, а внутренние тесты показывают улучшение более чем на 25 % по сравнению с Qwen3.5‑Omni‑Plus. Официальных весов пока нет, только API.

Требования к железу для локального запуска Qwen 3.8 27B

Для комфортной работы с 27‑мллиардной моделью нужен достаточный объём видеопамяти. В 4‑битном квантовании (рабочий стандарт) модель занимает примерно 16–18 ГБ VRAM. Это соответствует видеокартам уровня RTX 4090, RTX 3090 или RTX 5080, а также Mac с объединённой памятью 24–32 ГБ. При меньшем объёме памяти можно использовать более агрессивное квантование (3‑бит или 2‑бит), но тогда следует уменьшать размер контекста, иначе модель начнёт тормозить или падать. Если планируется использовать Flash‑Next, требования возрастают значительно: из‑за большого размера весов (однобитные кванты ~72‑75 ГБ, 4‑битные ~94‑111 ГБ) потребуется от 96 до 128 ГБ оперативной памяти, например, Mac Studio с 128 ГБ или рабочая станция с соответствующим объёмом ОЗУ и дополнительными GPU. Для обеих моделей рекомендуется иметь быстрый NVMe‑накопитель и минимум 32 ГБ системной памяти, чтобы обеспечить место для KV‑кэша и комфортную работу с длинными диалогами.

Как скачать и запустить Qwen 3.8 локально

Официальные веса доступны на Hugging Face и ModelScope. Для 27‑мллиардной версии подходят репозитории:

  • huggingface.co/Qwen/Qwen3.8-27B (есть также FP8‑вариант)

—
06:20
80
Нет комментариев. Ваш будет первым!