Поиск

Groq API: получение ключа, настройка доступа из России и примеры интеграции

Groq API: получение ключа, настройка доступа из России и примеры интеграции

Groq — американская компания, разрабатывающая специализированные процессоры LPU для ускоренного инференса больших языковых моделей. Облачная платформа GroqCloud предоставляет доступ к открытым моделям через API, совместимый с интерфейсом OpenAI. Ключ выдается бесплатно и без привязки банковской карты, однако прямая работа из России блокируется: консоль и эндпоинт api.groq.com отвечают кодом 403 Forbidden. В статье подробно описаны способы получения ключа, настройки доступа через российских агрегаторов или зарубежные серверы, актуальный каталог моделей, лимиты бесплатного плана, тарификация платных тарифов, типовые ошибки и рекомендации по безопасности.

Groq и Grok: фундаментальные различия между платформами

Несмотря на похожее написание, Groq и Grok — совершенно разные сервисы. Groq существует с 2016 года, основан Джонатаном Россом, одним из создателей тензорного процессора Google. Компания производит собственные чипы LPU (Language Processing Unit), оптимизированные под выдачу токенов максимальной скоростью. Grok — семейство моделей и чат-бот компании xAI Илона Маска, представленное в ноябре 2023 года. У Groq зарегистрированные товарные знаки с 2021 года, а заявка xAI на регистрацию Grok была отклонена патентным ведомством США из-за сходства с маркой компании Bizly. Консоль Groq находится на console.groq.com, API — на api.groq.com. У Grok свои адреса: console.x.ai и api.x.ai. Ключи не взаимозаменяемы.

Два разных робота-персонажа: чип Groq и логотип Grok стоят рядом, подчеркивая различия платформ

Архитектура Groq API: LPU-ускорение и совместимость с OpenAI SDK

Специфика Groq в том, что сервис не обучает собственные модели, а разворачивает открытые веса на собственных процессорах LPU. Это обеспечивает скорость генерации около 500 токенов в секунду для модели GPT-OSS 120B и около 1000 токенов в секунду для GPT-OSS 20B. Для сравнения: комфортная скорость чтения человека — около 5 токенов в секунду. API полностью совместим с OpenAI SDK: миграция существующего кода сводится к замене базового URL на api.groq.com/openai/v1 и подстановке ключа Groq. Официальные библиотеки (groq, openai) автоматически считывают переменную окружения GROQ_API_KEY.

Каталог доступных моделей: текст, аудио, модерация и инструменты

На 2 ноября 2026 года в бесплатном плане доступны следующие модели (контекстное окно у всех текстовых — 131 072 токена):

  • Текстовые: openai/gpt-oss-120b, openai/gpt-oss-20b, qwen/qwen3.8-27b (от Alibaba Cloud).
  • Распознавание речи: whisper-large-v3 и whisper-large-v3-turbo (файлы до 100 МБ).
  • Синтез речи (превью): модели Orpheus для английского и арабского.
  • Модерация: llama-prompt-guard-2 и openai/gpt-oss-safeguard-20b — проверка на инъекции промптов.

Дополнительные возможности: вызов функций, структурированный вывод JSON, кэширование промптов, протокол MCP для внешних инструментов. Для моделей GPT-OSS доступны встроенный веб-поиск и исполнение кода. Модели Llama 3.1 8B и Llama 3.3 70B переведены в корпоративный разряд и на бесплатном плане недоступны.

Проблема доступа из России: 403 Forbidden и блокировка VPN

Прямой доступ к console.groq.com и api.groq.com с российских IP-адресов блокируется: сервер возвращает 403 Forbidden. Базовый домен groq.com открывается, но интерактивной консоли там нет. Попытки обхода через популярные VPN-сервисы часто заканчиваются сообщением Access denied — платформа распознает адреса известных VPN-провайдеров и блокирует одновременно консоль и API. Построение продакшн-решения на таком основании нецелесообразно. Оплата платного плана Developer требует зарубежной карты (Visa, Mastercard, Amex, Discover, SEPA), российские карты не принимаются. Бесплатный план карту не требует, но для получения ключа нужен доступ к консоли.

Быстрый чип LPU в виде ракеты обгоняет коробку OpenAI SDK, линии скорости показывают ускорение

Решение через российских агрегаторов: подключение через GPTunnel

Простой и легальный способ — использовать российского агрегатора, например GPTunnel. Сервис проксирует запросы к Groq со своих зарубежных серверов, сохраняя скорость инференса на LPU. Оплата в рублях, без зарубежной карты. Парк моделей ограничен набором, который агрегатор решил подключить; актуальный список получается эндпоинтом /v1/models.

Подключение занимает четыре шага:

  1. Регистрация на gptunnel.ru и пополнение баланса в рублях (личный или бизнес-профиль).
  2. Выпуск ключа в разделе API кабинета (gptunnel.ru/profile). Можно задать список разрешенных моделей; пустой список открывает доступ ко всем.
  3. Получение идентификаторов моделей запросом:
    1. curl https://gptunnel.ru/v1/models -H "Authorization: $GPTUNNEL_API_KEY"
    .
  4. Отправка запроса на адрес
    1. https://gptunnel.ru/v1/chat/completions
    с заголовком Authorization (без префикса Bearer) и телом в формате чата.

Пример запроса:

  1. curl https://gptunnel.ru/v1/chat/completions \
  2. -H "Authorization: $GPTUNNEL_API_KEY" \
  3. -H "Content-Type: application/json" \
  4. -d '{"model":"ИДЕНТИФИКАТОР_ИЗ_СПИСКА","messages":[{"role":"user","content":"Привет! Ответь одной строкой."}]}'

Параметр

  1. useWalletBalance
позволяет списывать средства с личного счета вместо бизнес-счета — удобно для тестов. По промокоду AIMARKETCAP25 на первый платеж возвращается четверть суммы бонусами.

Прямая регистрация: зарубежный сервер, оплата и консоль GroqCloud

Если нужен полный каталог моделей, собственные лимиты, пакетная обработка (Batch) и фоновый режим Flex, потребуется зарубежный сервер (виртуальная машина в Европе за несколько долларов в месяц). Ключ выпускается с постоянного IP, что стабильнее VPN. Однако пункт 6.3 пользовательского соглашения запрещает предоставление услуг странам из подсанкционного списка — работа ведется на свой риск. Платный план всё равно потребует зарубежной карты.

Процедура получения ключа напрямую (с зарубежного IP):

  1. Открыть console.groq.com, нажать Sign up. Регистрация через Google, GitHub или почту с паролем. Принять пользовательское соглашение (только для совершеннолетних).
  2. Перейти в раздел API Keys (console.groq.com/keys), нажать Create API Key. Задать имя (например, tg-bot), срок действия (можно бессрочный). Ключ начинается с префикса
    1. gsk_
    и показывается один раз — сразу сохранить в менеджере паролей. Восстановить нельзя, только отозвать и создать новый. Ключи принадлежат организации, а не пользователю; для изоляции окружений удобно создавать проекты в консоли — у каждого свои ключи, логи и лимиты.
  3. Сохранить ключ в переменной окружения:

    1. export GROQ_API_KEY=gsk_YOUR_API_KEY

    В Windows используется
    1. setx
    . Официальные библиотеки автоматически читают
    1. GROQ_API_KEY
    .

Тарификация: бесплатные лимиты (RPM, TPM, TPD) и платные планы

Бесплатный план не урезает качество моделей, ограничивает только интенсивность обращений по четырём шкалам: запросы в минуту (RPM), запросы в сутки (RPD), токены в минуту (TPM), токены в сутки (TPD). Лимиты на организацию, а не на отдельный ключ — выпуск дополнительных ключей не увеличивает квоту. Кэшированные токены в лимиты не засчитываются. Остаток виден в заголовках ответа:

  1. x-ratelimit-remaining-requests
и
  1. x-ratelimit-remaining-tokens
. При исчерпании приходит 429 с заголовком
  1. retry-after
.

МодельRPMRPDTPMTPD
openai/gpt-oss-120b301 0008 000200 000
openai/gpt-oss-20b301 0008 000200 000
openai/gpt-oss-safeguard-20b31 0002 000200 000
qwen/qwen3.8-27b301 0008 000200 000
whisper-large-v3202 000——
whisper-large-v3-turbo202 000——

Для аудиомоделей лимиты в секундах: 7 200 сек/час и 28 800 сек/сутки. Точные значения для конкретной организации показывает страница лимитов в консоли.

Платный план Developer: оплата по факту использования, без подписок. Цены за 1 млн токенов (на 02.11.2026):

МодельВход ($)Выход ($)Контекст
GPT-OSS 120B0,150,60131 072
GPT-OSS 20B0,0750,30131 072
GPT-OSS Safeguard 20B0,0750,30131 072
Qwen3.8-27B0,804,00131 072
Whisper Large V30,111 $/час аудио——
Whisper Large V3 Turbo0,04 $/час аудио——

Списание прогрессивное: счёт выставляется при накоплении 1, 10, 100, 500, 1000 $, далее — раз в месяц. Счёты менее 0,50 $ не выставляются. На платном плане появляются лимиты расходов с уведомлениями, Batch API и дешёвый фоновый режим Flex.

Типовые ошибки API: коды 400, 401, 403, 429, 503 и их устранение

Groq возвращает стандартные HTTP-коды с объектом

  1. error
(поля
  1. message
,
  1. type
). Частые коды:

  • 401 — неверный, отозванный или утерянный ключ. Проверить заголовок
    1. Authorization: Bearer gsk_…
    и целостность ключа.
  • 403 — доступ запрещён: модель недоступна для плана или запрос из запрещённой географии.
  • 404 — не найден эндпоинт или идентификатор модели. Частая причина: опечатка или отсутствие префикса
    1. openai/
    (например,
    1. openai/gpt-oss-20b
    ).
  • 413 — тело запроса слишком велико (длинный промпт или аудио > 100 МБ).
  • 422 — синтаксически верный, но семантически невыполнимый запрос. Лечится правкой параметров или повтором.
  • 429 — превышен лимит. Правильная реакция: подождать секунды из заголовка
    1. retry-after
    .
  • 503 — сервис временно недоступен (редко). Повторить с экспоненциальной задержкой.

Актуальный список моделей для вашего ключа:

  1. curl https://api.groq.com/openai/v1/models -H "Authorization: Bearer $GROQ_API_KEY"
.

Персонаж с флагом РФ упирается в стену с ошибкой 403, вокруг сломанные VPN-туннели

Безопасность ключей: ротация, переменные окружения, отзыв доступа

Ключ (

  1. gsk_…
) показывается один раз при создании. В коде не вставлять — хранить в переменной окружения
  1. GROQ_API_KEY
. Официальные SDK (groq, openai) и большинство инструментов читают её автоматически. Ротация: отозвать старый ключ в консоли и выпустить новый. Ключи привязаны к организации; права на создание имеют владелец и участники с ролью разработчика. Для изоляции сред используйте проекты в консоли — у каждого свои ключи, логи и лимиты. Не публикуйте ключи в репозиториях, логах или клиентском коде.

Стратегия независимости от вендора: OpenAI-совместимый слой абстракции

Поскольку Groq API полностью повторяет интерфейс OpenAI, миграция с OpenAI или к другому провайдеру (например, Together AI, Fireworks) требует только смены

  1. base_url
и ключа. Пример на Python с OpenAI SDK:

  1. import os
  2. from openai import OpenAI
  3. client = OpenAI(
  4. api_key=os.environ.get("GROQ_API_KEY"),
  5. base_url="https://api.groq.com/openai/v1"
  6. )

Такой подход позволяет не привязываться к одному вендору, тестировать разные бэкенды и переключаться без переписывания бизнес-логики. Для продакшн-систем рекомендуется обернуть вызовы в тонкий адаптер, который нормализует ответы, обрабатывает ретраи при 429/503 и логирует использование токенов.

Вопросы и ответы

Можно ли использовать Groq API бесплатно без зарубежной карты?

Да, бесплатный план не требует карты. Ключ выдается сразу после регистрации в консоли, но доступ к консоли с российских IP заблокирован (403). Решение: зарубежный сервер или российский агрегатор вроде GPTunnel.

Какие модели доступны на бесплатном плане на 2 ноября 2026 года?

Текстовые: GPT-OSS 120B, GPT-OSS 20B, Qwen3.8-27B. Аудио: Whisper Large V3 и Turbo. Модерация: Llama Prompt Guard 2 и GPT-OSS Safeguard 20B. Модели Llama 3.1 8B и Llama 3.3 70B убраны в корпоративный тариф.

Как правильно обрабатывать ошибку 429 (rate limit)?

При получении 429 необходимо прочитать заголовок

  1. retry-after
(секунды) и повторить запрос не ранее указанного времени. Агрессивные повторы без задержки приводят к длительным блокировкам.

Читайте также на сайте

Источники и материалы по теме

—
13:36
81
Нет комментариев. Ваш будет первым!