Groq API key: получение ключа и запуск

Groq API key: ключ и первый запрос к быстрой ИИ-модели

Groq — редкий пример зарубежного ИИ-сервиса, где ключ к большой языковой модели выдают сразу и бесплатно: без карты, без подписки и без демонстрационного периода на три дня. Для прототипа, Telegram-бота, скрипта расшифровки аудио или учебного проекта такого доступа хватает с запасом.

Сложности у новичка начинаются не с техники. Половина поисковых запросов путает Groq с Grok, вторая половина упирается в то, что скопированный из документации пример почему-то отвечает ошибкой. Разберем весь путь по порядку — от регистрации до первого ответа модели.

Groq и Grok — в чем разница?

Сначала расставим все точки над ё. Groq — это не Grok, но и не copycat-бренд, как какой-нибудь Abibas. Это солидная фирма, известный американский производитель чипов для инференса. Основал ее Джонатан Росс, один из разработчиков тензорного процессора Google. Компания строит специализированные процессоры LPU, заточенные под один сценарий — выдавать токены как можно быстрее.

Самое смешное, что настоящий «Абибас» тут как раз Илон Маск. Когда в ноябре 2023 года он представил свою нейросеть Grok, Groq существовал уже 7 лет и держал зарегистрированные знаки. Джонатан Росс ответил ироничным открытым письмом: «Welcome to Groq’s Galaxy, Elon», — но судиться не стал. Зато, уже по собственной инициативе, вмешалось патентное ведомство США, которое обязано проверять каждую заявку на сходство с уже существующими знаками. Оказалось, что права на марку Grok с 2021 года принадлежат некой фирме Bizly. Заявки xAI сначала приостановили, потом и вовсе вынесли отказ. По итогу, федеральной регистрации xAI Grok в США не имеет до сих пор. Маск на самом деле ходит по офигенно тонкому льду: если Bizly задумает подать в суд, дело может кончиться ребрендингом нейросети.

Но это так, к слову. А мы еще раз обозначим разницу:

  • Groq выпускает чипы, но попутно дает доступ к различным ИИ-моделям. Облачная платформа называется GroqCloud, консоль живет на console.groq.com, запросы уходят на api.groq.com.
  • Grok — это семейство моделей и чат-бот компании xAI. У него своя консоль на console.x.ai и свой адрес API — api.x.ai.

Общего у двух сервисов — ровно три буквы. Ключ от одного в другом не работает и работать не может. Так что первым делом смотрите на адресную строку: если там x.ai, вы пришли не туда.

Что такое Groq API и зачем он нужен

Каталог моделей GroqCloud в консоли Groq

Специфика Groq в том, что сервис продает не собственные модели, а скорость работы чужих. На своих процессорах компания разворачивает открытые модели и отдает их через API, совместимый с интерфейсом OpenAI.

Практический смысл этой совместимости простой: если у вас уже написан код под OpenAI SDK, переезд сводится к двум строкам — другому базовому адресу и другому ключу.

Какие модели использует Groq

Главная страница платформы Groq

Набор доступных моделей у Groq более узкий, чем у обычных агрегаторов, но подобран по понятному принципу — только то, что имеет смысл гонять на быстром железе.

Итак, что мы получаем.

  • Текст. GPT-OSS 120B и GPT-OSS 20B от OpenAI, Qwen3.8-27B от Alibaba Cloud. Контекстное окно у всех трех — 131 072 токена.
  • Распознавание речи. Whisper Large V3 и более быстрая версия Turbo, файл размером до 100 МБ.
  • Синтез речи. Модели Orpheus для английского и арабского языков в статусе превью.
  • Модерация. Llama Prompt Guard 2 и GPT-OSS Safeguard 20B — проверка входящих сообщений на попытки взлома промпта.
  • Дополнительные возможности. Вызов функций, структурированный вывод в формате JSON, кэширование промпта, подключение внешних инструментов по протоколу MCP, а для моделей GPT-OSS — встроенные веб-поиск и исполнение кода.

Скорость тут и правда выдающаяся: около 500 токенов в секунду для старшей GPT-OSS 120B и около 1000 токенов в секунду для младшей 20B. Для сравнения, комфортная скорость чтения человека — примерно 5 токенов в секунду. Именно поэтому Groq часто выбирают для голосовых ассистентов и агентных сценариев, где модель вызывается в цикле по десять раз подряд.

Важная деталь: недавно модели Llama 3.1 8B и Llama 3.3 70B были переведены в корпоративный разряд, на бесплатном плане их больше нет. Гайды двухлетней давности, где первый запрос отправляется к llama-3.3-70b-versatile, на свежем бесплатном аккаунте просто не сработают.

Доступность в России

Тут, к сожалению, без приятных сюрпризов. Прямого доступа из РФ к сервису нет: консоль и адрес api.groq.com с российских IP обычно отвечают кодом 403 и коротким Forbidden в теле ответа.

При этом базовый адрес groq.com открывается, но толку от этого ноль: вас встречает обычный лендинг без всякого интерактива. Чтобы начать работать с сервисом, пожалуйте в консоль, а там заперто.

VPN решает задачу наполовину и ненадолго. Сервис умеет распознавать подключения через популярные серверы и отвечает на них уже не 403, а сообщением Access denied, причем закрывается и консоль, и API одновременно. В качестве эксперимента можно рискнуть. Но рабочую схему на таком зыбком основании строить бессмысленно.

С оплатой тоже всё однозначно. Groq принимает карты Visa, Mastercard, American Express и Discover, счета американских банков и дебет SEPA. Карта российского банка не пройдет ни при каких настройках.

Бесплатный план карты не требует вовсе, познакомиться с API можно и без платежей — но для этого нужен доступ к консоли. На колу мочало, начинай сначала.

Что делать, если вы работаете из России

Но не надо отчаиваться! Есть как минимум два решения: либо заводить собственный сервер за рубежом, либо пользоваться услугами российских агрегаторов. Выбор зависит от того, нужен ли вам весь каталог Groq или достаточно нескольких моделей.

Кроме того, на выбор влияет характер задачи. Телеграм-боту или скрипту, которому хватает одной текстовой модели, вполне достаточно агрегатора — выигрыш в скорости сохраняется, а мороки нет никакой. Если же вы строите что-то, где нужен полный спектр моделей от Groq, свои лимиты или тонкая настройка режимов обработки, рано или поздно придется озаботиться сервером.

Простой путь: через агрегатор

Простой путь — через российский агрегатор. Например, API от Groq предлагает GPTunnel. Ключ выдается в кабинете, запросы уходят на адрес gptunnel.ru/v1/chat/completions, схема обращения привычная — заголовок Authorization и тело в формате чата.

Важно, что сервис не поднимает открытые модели у себя, а проксирует запросы в Groq со своих зарубежных серверов. Инференс идет на том же фирменном железе, то есть скорость вы получаете оригинальную, а платите в рублях и без зарубежной карты.

Расплачиваться приходится другим — парком моделей: доступен не весь каталог Groq, а то, что агрегатор счел нужным подключить. Перед тем как закладывать конкретную модель в проект, запросите актуальный список эндпоинтом /v1/models своим ключом. По промокоду AIMARKETCAP25 на первый платеж возвращается четверть суммы бонусами.

Как подключить Groq через GPTunnel

Создание API-ключа в GPTunnel

Подключение занимает примерно столько же времени, сколько в оригинальной консоли, и сводится к четырем шагам.

  • Зарегистрируйтесь на gptunnel.ru и пополните баланс в рублях. Работать можно и с личного счета, и с бизнес-профиля — для продакшена сервис рекомендует второй вариант.
  • Выпустите ключ в разделе API своего кабинета на странице gptunnel.ru/profile. При создании ключу можно задать список разрешенных моделей: пустой список открывает доступ ко всем, а обращение к модели вне списка вернется ошибкой 403 с кодом model_not_allowed.

Раздел API в настройках GPTunnel

  • Узнайте точные идентификаторы моделей. Их отдает отдельный эндпоинт, и именно оттуда берется строка, которую вы подставите в поле model.
  • Отправьте первый запрос на адрес gptunnel.ru/v1/chat/completions.

Список моделей запрашивается так:

curl https://gptunnel.ru/v1/models -H "Authorization: $GPTUNNEL_API_KEY"
Copy

Сам запрос к модели выглядит почти так же, как в Groq, — меняются только адрес и идентификатор:

curl https://gptunnel.ru/v1/chat/completions -H "Authorization: $GPTUNNEL_API_KEY" -H "Content-Type: application/json" -d ‘{"model":"ИДЕНТИФИКАТОР_ИЗ_СПИСКА","messages":[{"role":"user","content":"Привет! Ответь одной строкой."}]}’
Copy

Обратите внимание на одну деталь: в примерах сервиса ключ передается в заголовке Authorization без приставки Bearer, тогда как клиентские библиотеки OpenAI подставляют ее автоматически. Если переносите готовый код, проверьте этот заголовок первым делом.

Вторая полезная мелочь — параметр useWalletBalance: он списывает стоимость запроса с личного счета вместо бизнес-счета и пригодится на время тестов.

Документацию по API на GPTunnel можно почитать тут.

Сложный путь: зарубежный сервер

Форма создания API-ключа Groq

Способ крайне заморочный и не слишком надежный, но имеет свои плюсы. Виртуальная машина в Европе стоит несколько долларов в месяц, код живет на ней, ключ Groq выпускается и используется с ее постоянного адреса. В отличие от VPN на ноутбуке, адрес не прыгает и не отваливается посреди рабочего дня, так что схема годится и для продакшена.

Взамен вы получаете все плюшки, которые дает прямой доступ: полный каталог моделей, собственные лимиты, бесплатный план без карты для начала, логи и статистику в консоли, пакетную обработку и встроенные инструменты на платном плане.

Минусов два. Первый — возня: сервер нужно поднять, настроить и обслуживать, а платный план все равно потребует зарубежной карты. Второй — юридический: в пункте 6.3 пользовательского соглашения прописан запрет предоставлять услуги странам из подсанкционного списка. Вы работаете на свой страх и риск.

Как получить Groq API key напрямую

Итак, допустим, у вас есть зарубежный сервер. Тогда вся процедура занимает минут пять и состоит из трех шагов: аккаунт, ключ, переменная окружения. Ничего из этого не требует подтверждения личности или привязки телефона.

Шаг 1. Регистрация

Откройте console.groq.com и нажмите Sign up. Зарегистрироваться можно тремя способами: через аккаунт Google, через аккаунт GitHub или по обычной почте с паролем. При первом входе сервис попросит принять пользовательское соглашение. Учтите, что оно рассчитано на совершеннолетних пользователей — это отдельный пункт договора, а не формальность.

Шаг 2. Создание ключа в консоли

Ключи выдает только консоль — на витрине groq.com их нет, и это вторая по популярности причина растерянности новичков. Нужная страница — console.groq.com/keys, в интерфейсе это раздел API Keys. Нажмите Create API Key, задайте ключу понятное имя вроде tg-bot или whisper-test, назначьте ему «срок годности» (можно бессрочно) и подтвердите создание.

Бесплатный и платный планы Groq

Значение ключа начинается с префикса gsk_ и показывается ровно один раз. Скопируйте его сразу и положите в менеджер паролей.

Список API-ключей Groq в консоли

Восстановить ключ нельзя — только отозвать и выпустить новый.

Еще одна особенность: ключи принадлежат организации, а не лично вам, и создавать их могут владелец и участники с ролью разработчика. Если планируете несколько окружений, заведите в консоли проекты — у каждого проекта будут свои ключи, свои логи и свои лимиты.

Шаг 3. Переменная окружения

Документация советует не вписывать ключ в код, а хранить его в переменной окружения. В macOS и Linux это одна команда в терминале, в Windows вместо export используется setx:

export GROQ_API_KEY=gsk_ВАШ_КЛЮЧ
Copy

Имя переменной выбрано не случайно: и официальная библиотека Groq, и OpenAI SDK, и большинство сторонних инструментов читают именно GROQ_API_KEY автоматически, так что передавать ключ в коде явным образом не придется.

Первый запрос к Groq API

Проще всего проверить ключ прямо из терминала. Этот запрос уходит к самой быстрой из моделей бесплатного плана и возвращает обычный ответ в формате чата:

curl https://api.groq.com/openai/v1/chat/completions -H "Authorization: Bearer $GROQ_API_KEY" -H "Content-Type: application/json" -d ‘{"model":"openai/gpt-oss-20b","messages":[{"role":"user","content":"Привет! Ответь одной строкой."}]}’
Copy

То же самое на Python. Библиотека ставится командой pip install groq, ключ подхватывается из окружения:

import os; from groq import Groq; client = Groq(api_key=os.environ.get("GROQ_API_KEY")); completion = client.chat.completions.create(model="openai/gpt-oss-20b", messages=[{"role":"user","content":"Привет! Ответь одной строкой."}]); print(completion.choices[0].message.content)
Copy

Если проект уже написан под OpenAI, ставить вторую библиотеку не обязательно — достаточно подменить адрес и ключ:

import os; from openai import OpenAI; client = OpenAI(api_key=os.environ.get("GROQ_API_KEY"), base_url="https://api.groq.com/openai/v1")
Copy

Обратите внимание на идентификатор модели в примерах. В официальном быстром старте Groq до сих пор стоит llama-3.3-70b-versatile, но на день написания этой статьи модель помечена как корпоративная и на бесплатном ключе отвечает отказом. Какие модели открыты именно вашему ключу, надежнее всего спросить у самого API:

curl https://api.groq.com/openai/v1/models -H "Authorization: Bearer $GROQ_API_KEY"
Copy

В ответ придет список активных моделей с их идентификаторами — именно эти строки и нужно подставлять в поле model.

Сколько это стоит

Groq берет деньги по факту использования, без подписок и минимального платежа. Цены указаны за миллион токенов и на 2 ноября 2026 года выглядят так:

Модель Входные токены Выходные токены Контекст
GPT-OSS 120B 0,15 $ 0,60 $ 131 072
GPT-OSS 20B 0,075 $ 0,30 $ 131 072
GPT-OSS Safeguard 20B 0,075 $ 0,30 $ 131 072
Qwen3.8-27B 0,80 $ 4,00 $ 131 072
Whisper Large V3 0,111 $ за час аудио — —
Whisper Large V3 Turbo 0,04 $ за час аудио — —

Чтобы платить за токены, нужно перейти на план Developer и привязать карту. Списание происходит не сразу: сначала работает прогрессивная схема, при которой счет выставляется по достижении суммарного расхода в 1, 10, 100, 500 и 1000 $, а дальше — раз в месяц. Счета меньше 0,50 $ сервис просто не выставляет.

На том же плане появляются лимиты расходов с уведомлениями, пакетная обработка Batch и дешевый фоновый режим Flex.

Бесплатный план: лимиты Groq API key free

Бесплатный ключ не урезан по качеству — модели отвечают так же, как на платном плане. Ограничивается только интенсивность обращений, причем сразу по четырем шкалам: запросы в минуту и в сутки, токены в минуту и в сутки.

Модель Запросов в минуту Запросов в сутки Токенов в минуту Токенов в сутки
openai/gpt-oss-120b 30 1 000 8 000 200 000
openai/gpt-oss-20b 30 1 000 8 000 200 000
openai/gpt-oss-safeguard-20b 3 1 000 2 000 200 000
qwen/qwen3.8-27b 30 1 000 8 000 200 000
whisper-large-v3 20 2 000 — —
whisper-large-v3-turbo 20 2 000 — —

Для моделей распознавания речи вместо токенов считаются секунды аудио — 7 200 секунд в час и 28 800 секунд в сутки.

Бюджет расходуется на организацию целиком, а не на отдельный ключ, так что выпустить десять ключей и получить десятикратный лимит не выйдет. Кэшированные токены в зачет не идут.

Остаток лимита всегда виден в заголовках ответа — x-ratelimit-remaining-requests и x-ratelimit-remaining-tokens. Когда лимит исчерпан, приходит код 429, а в заголовке retry-after указано, через сколько секунд можно повторить попытку.

Точные значения для вашей организации показывает страница лимитов в настройках консоли — таблица выше дает общую картину, но у отдельных аккаунтов бывают исключения.

Типовые ошибки и что они значат

Groq отвечает стандартными кодами HTTP, а в теле ответа возвращает объект error с полями message и type. Вот те коды, с которыми сталкиваешься в первый же день:

  • 401 — ключ неверный, отозван или потерялся по дороге. Проверьте, что в заголовке Authorization стоит слово Bearer, а сам ключ скопирован целиком, вместе с префиксом gsk_.
  • 403 — запрос запрещен по правам доступа. Либо выбранная модель недоступна вашему плану, либо запрос пришел с адреса за пределами разрешенной географии.
  • 404 — не найден адрес или идентификатор модели. Чаще всего виновата опечатка в имени модели или забытый префикс openai/ перед названием.
  • 413 — слишком большое тело запроса: длинный промпт или аудиофайл тяжелее 100 МБ.
  • 422 — запрос составлен верно синтаксически, но невыполним по смыслу. Обычно лечится правкой параметров или простым повтором.
  • 429 — превышен лимит обращений. Единственное правильное поведение — подождать столько, сколько указано в retry-after, и повторить с увеличивающейся паузой.
  • 500, 502 и 503 — неполадки на стороне Groq. За такие запросы деньги не списываются, нужно просто повторить позже.

Тело ответа с ошибкой всегда устроено одинаково, и это удобно разбирать в коде:

{"error":{"message":"описание конкретной ошибки","type":"invalid_request_error"}}
Copy

Безопасность ключа

Тщательно сохраняйте ключ Groq и не показывайте никому лишнему. Это доступ к вашему балансу и вашим лимитам. Вот несколько правил, которые стоит соблюдать с первого же дня:

  • Ключ не должен попадать в клиентский код, публичный репозиторий или скриншот в чате поддержки.
  • Рабочее место ключа — переменная окружения или менеджер секретов, а файл .env обязан лежать в .gitignore.
  • Для разработки, тестов и продакшена заводятся отдельные ключи, лучше всего в разных проектах консоли.
  • При малейшем подозрении на утечку ключ отзывается и выпускается заново — отозванный перестает работать мгновенно.
  • На платном плане стоит сразу выставить лимит расходов с уведомлением: это дешевая страховка от чужого бота в вашем аккаунте.

Что до самих данных, соглашение Groq запрещает компании использовать ваши запросы и ответы моделей для обучения, если вы сами этого не разрешили. Подходящим клиентам доступен режим нулевого хранения, который отключается в настройках контроля данных.

Не привязывайтесь к вендору: делайте ставку на OpenAI-совместимость

И последний совет, который касается уже не столько самого Groq, сколько архитектуры вашего кода. Учитывая реалии и постоянно меняющиеся правила доступа к зарубежным ИИ-сервисам, жесткая привязка к одному провайдеру — это риск.

К счастью, Groq использует стандарт OpenAI. Это дает вам «ахиллесову пяту» в хорошем смысле: вы можете один раз написать логику приложения, а затем просто менять base_url и api_key в зависимости от ситуации. Сегодня вы используете прямое подключение через зарубежный сервер, завтра (если доступ перекроют) — переключаетесь на российский агрегатор, а послезавтра — на локальную модель.

Поэтому не зашивайте ключи в код, используйте переменные окружения и всегда держите под рукой альтернативный эндпоинт. В нынешних условиях гибкость архитектуры важнее, чем скорость конкретного чипа.

Вывод

Подводя итог, стоит честно признать: Groq — это фантастический инструмент, который на текущий момент находится в «серой зоне» для российских пользователей. Пункт 6.3 пользовательского соглашения, блокировки по IP и отсутствие возможности оплатить российскими картами делают его использование в качестве основного бэкенда для бизнеса довольно рискованным предприятием.

Если ваша задача — исследование, обучение или хобби-проекты, смело пробуйте обходные пути, описанные выше. Но если вы закладываете Groq в основу коммерческого продукта, обязательно задумайтесь о плане «Б».

Рынок открытых моделей не стоит на месте. Крупные российские игроки и локальные хостинги уже подтягиваются к нужному уровню, а разница в скорости инференса для текстовых чат-ботов не всегда критична. Используйте Groq там, где скорость действительно решает всё (например, в голосовых ассистентах), но всегда будьте готовы в считанные дни перевести свой проект на альтернативные рельсы, если окошко окончательно закроется.

Часто задаваемые вопросы

Чем Groq отличается от Grok? Toggle
Groq — американский производитель чипов и облако для быстрого инференса открытых моделей. Grok — чат-бот и модели компании xAI Илона Маска, другой сервис с другим API.
Правда ли, что Groq API key free? Toggle
Да, ключ выдается бесплатно и без привязки карты. Платить нужно, только если понадобятся лимиты выше бесплатных.
Как получить Groq API key? Toggle
Зарегистрируйтесь на console.groq.com через Google, GitHub или почту, откройте раздел API Keys и нажмите Create API Key. Значение показывается один раз.
Сохранится ли скорость, если работать через агрегатор? Toggle
Да, если сервис не поднимает модели у себя, а передает запросы в Groq: инференс в этом случае идет на том же железе. Платой за удобство становится ограниченный выбор моделей.
Можно ли обращаться к Groq через OpenAI SDK? Toggle
Да, API совместим с интерфейсом OpenAI. Достаточно указать базовый адрес https://api.groq.com/openai/v1 и свой ключ Groq.