Groq

От: Groq

Инференс с крайне низкой задержкой на собственном оборудовании LPU.

API моделей и инфраструктура Бесплатный тариф, оплата API по факту использования

— что это Groq?

Groq запускает открытые модели на собственных чипах LPU, а не на стандартных GPU, обеспечивая скорость инференса намного выше, чем у типичных облачных API. Это популярный выбор, когда удобство использования приложения напрямую зависит от почти мгновенных ответов модели.

Основные функции

Крайне быстрая генерация токенов по сравнению с обычным инференсом на GPU
Готовый доступ к популярным открытым моделям, таким как Llama и Mixtral
Простой API, совместимый с OpenAI, для лёгкого переноса
Бесплатный тариф, достаточно щедрый для прототипирования большинства приложений
Стабильно низкая задержка даже при высокой параллельной нагрузке

Как начать

Зарегистрируйтесь на groq.com и сгенерируйте бесплатный API-ключ
Выберите готовую открытую модель, подходящую для вашей задачи
Вызывайте API через интерфейс, совместимый с OpenAI
Сравните задержку с вашим текущим провайдером перед переходом

Groq : цены

No seat fee. Official production list, September 2026: GPT-OSS 20B $0.075 / $0.30 per 1M; GPT-OSS 120B $0.15 / $0.60; Whisper v3 $0.111/hour, turbo $0.04/hour.

Free tier has org rate limits. Developer unlocks Batch/Flex and higher RPM.

Cache or Batch each cut 50%, not both. Llama 8B/70B: sales only.

Тариф	Цена	Кому подойдёт
Free	$0 + org rate limits	Latency tests and light prototypes
GPT-OSS 20B	$0.075 / $0.30 per 1M	Fast default text (~1000 t/s)
GPT-OSS 120B	$0.15 / $0.60 per 1M	Heavier open-weight quality (~500 t/s)
Whisper turbo	$0.04 / audio hour	Cheap transcription
Developer / Enterprise	Card or commit	Batch, Flex, leftover Llama SKUs

Наше мнение: Groq is a speed and price play on open models, not a frontier-lab catalog. Start on GPT-OSS 20B. If your repo still says Llama 8B Instant, fix the model id before you debug 'the API is down'.

Цены могут меняться. Перед принятием решения проверьте актуальную информацию на официальном сайте выше.

Сценарии использования

Голосовые агенты в реальном времени, которым нужны почти мгновенные ответы
Интерактивные приложения, где задержка напрямую влияет на UX
Экономичный хостинг открытых моделей в промышленных масштабах
Высокопроизводительная пакетная обработка в условиях жёстких временных ограничений

Groq : сравнение с аналогами

Инструмент	Особенность
Groq	Инференс с крайне низкой задержкой на собственном оборудовании LPU.
Together AI	более широкий выбор моделей, другое оборудование
OpenRouter	маршрутизирует запросы между множеством провайдеров, а не одним

Частые вопросы

Groq бесплатный?

Тарифы Groq: Бесплатный тариф, оплата API по факту использования. Цены и условия бесплатного тарифа могут меняться, поэтому актуальную информацию проверяйте на официальном сайте выше.

Для чего используется Groq?

Инференс с крайне низкой задержкой на собственном оборудовании LPU.

Кому подойдёт Groq?

Groq лучше всего подходит для Голосовые агенты в реальном времени, которым нужны почти мгновенные ответы.

Есть ли аналоги у Groq?

Чаще всего с ним сравнивают Together AI и OpenRouter. Разницу между ними смотрите в таблице сравнения выше.

Сколько стоит Groq?

There is no monthly Groq subscription. Self-serve production text is GPT-OSS 20B at $0.075/$0.30 per million tokens or 120B at $0.15/$0.60. A free key exists with rate limits. Llama 3.1 8B and 3.3 70B are no longer on Free/Developer as of 16 August 2026.