Groq

提供元： Groq

独自開発のLPUハードウェアによる超低遅延推論。

モデルAPI・基盤無料プランあり、従量課金制のAPI料金

とは Groq?

Groqは、一般的なGPUではなく独自開発のLPUチップ上でオープンモデルを実行し、通常のクラウドAPIよりもはるかに高速な推論速度を実現しています。アプリケーションのユーザー体験がほぼ即時のモデル応答に依存する場合に、よく選ばれる選択肢です。

主な機能

一般的なGPU推論と比べて極めて高速なトークン生成
LlamaやMixtralなど人気のオープンモデルへのホスティング済みアクセス
移行が容易なOpenAI互換のシンプルなAPI
ほとんどのアプリケーションを試作できる十分に充実した無料プラン
高負荷の同時アクセス下でも安定した低レイテンシ

始め方

groq.comでサインアップし、無料のAPIキーを発行する
タスクに合ったホスティング済みオープンモデルを選ぶ
OpenAI互換のインターフェースでAPIを呼び出す
切り替え前に現在利用中のプロバイダーとレイテンシを比較する

Groq の料金

No seat fee. Official production list, September 2026: GPT-OSS 20B $0.075 / $0.30 per 1M; GPT-OSS 120B $0.15 / $0.60; Whisper v3 $0.111/hour, turbo $0.04/hour.

Free tier has org rate limits. Developer unlocks Batch/Flex and higher RPM.

Cache or Batch each cut 50%, not both. Llama 8B/70B: sales only.

プラン	価格	おすすめの用途
Free	$0 + org rate limits	Latency tests and light prototypes
GPT-OSS 20B	$0.075 / $0.30 per 1M	Fast default text (~1000 t/s)
GPT-OSS 120B	$0.15 / $0.60 per 1M	Heavier open-weight quality (~500 t/s)
Whisper turbo	$0.04 / audio hour	Cheap transcription
Developer / Enterprise	Card or commit	Batch, Flex, leftover Llama SKUs

編集部の見解： Groq is a speed and price play on open models, not a frontier-lab catalog. Start on GPT-OSS 20B. If your repo still says Llama 8B Instant, fix the model id before you debug 'the API is down'.

料金は変更される場合があります。決める前に上記の公式サイトで最新情報を確認してください。

活用例

ほぼ即時の応答が必要なリアルタイム音声エージェント
レイテンシがUXに直接影響するインタラクティブなアプリケーション
オープンウェイトモデルを大規模かつコスト効率よくホスティング
厳しい時間制約のある高スループットのバッチ処理

Groq との比較

ツール	特徴
Groq	独自開発のLPUハードウェアによる超低遅延推論。
Together AI	より幅広いモデル選択肢、異なるハードウェア
OpenRouter	単一ではなく多数のプロバイダーへルーティング

よくある質問

Groqは無料で使えますか？

Groqのプラン：無料プランあり、従量課金制のAPI料金。料金や無料プランの制限は変わることがあるため、最新情報は上記の公式サイトでご確認ください。

Groqは何に使うツールですか？

独自開発のLPUハードウェアによる超低遅延推論。

Groqはどんな人に向いていますか？

Groqが向いているのはほぼ即時の応答が必要なリアルタイム音声エージェント.

Groqの代替ツールはありますか？

よく比較されるのはTogether AIとOpenRouterです。違いは上記の比較表を参考にしてください。

Groqの料金はいくらですか？

There is no monthly Groq subscription. Self-serve production text is GPT-OSS 20B at $0.075/$0.30 per million tokens or 120B at $0.15/$0.60. A free key exists with rate limits. Llama 3.1 8B and 3.3 70B are no longer on Free/Developer as of 16 August 2026.