G
Apa itu Groq?
Groq menjalankan model open di chip LPU custom miliknya sendiri, bukan GPU standar, menghasilkan kecepatan inferensi yang jauh lebih cepat dari API cloud pada umumnya. Ini pilihan populer saat UX aplikasi bergantung pada respons model yang hampir instan.
Fitur Utama
- Generate token yang sangat cepat dibanding inferensi GPU pada umumnya
- Akses hosting ke model open populer seperti Llama dan Mixtral
- API sederhana yang kompatibel dengan OpenAI untuk migrasi mudah
- Paket gratis yang cukup luas untuk prototyping sebagian besar aplikasi
- Latensi rendah yang konsisten bahkan di bawah beban konkuren yang berat
Cara Memulai
- Daftar di groq.com dan hasilkan API key gratis
- Pilih model open yang di-hosting sesuai tugasmu
- Panggil API memakai interface yang kompatibel dengan OpenAI
- Benchmark latensi dibanding provider yang kamu pakai sekarang sebelum berpindah
Groq Harga
No seat fee. Official production list, September 2026: GPT-OSS 20B $0.075 / $0.30 per 1M; GPT-OSS 120B $0.15 / $0.60; Whisper v3 $0.111/hour, turbo $0.04/hour.
Free tier has org rate limits. Developer unlocks Batch/Flex and higher RPM.
Cache or Batch each cut 50%, not both. Llama 8B/70B: sales only.
| Paket | Harga | Paling Cocok Untuk |
|---|---|---|
| Free | $0 + org rate limits | Latency tests and light prototypes |
| GPT-OSS 20B | $0.075 / $0.30 per 1M | Fast default text (~1000 t/s) |
| GPT-OSS 120B | $0.15 / $0.60 per 1M | Heavier open-weight quality (~500 t/s) |
| Whisper turbo | $0.04 / audio hour | Cheap transcription |
| Developer / Enterprise | Card or commit | Batch, Flex, leftover Llama SKUs |
Pendapat kami: Groq is a speed and price play on open models, not a frontier-lab catalog. Start on GPT-OSS 20B. If your repo still says Llama 8B Instant, fix the model id before you debug 'the API is down'.
Harga sering berubah. Cek situs resmi di atas untuk info terbaru sebelum memutuskan.
Use Case
- Voice agent real-time yang butuh respons hampir instan
- Aplikasi interaktif di mana latensi langsung memengaruhi UX
- Hosting model open-weight yang hemat biaya dalam skala besar
- Batch processing throughput tinggi dengan batasan waktu ketat
Groq vs Alternatif
| Tool | Perbandingan |
|---|---|
| Groq | Inferensi latensi ultra-rendah di hardware LPU custom. |
| Together AI | pilihan model lebih luas, hardware berbeda |
| OpenRouter | merutekan ke banyak provider, bukan hanya satu |
Pertanyaan Umum
Apakah Groq gratis digunakan?
Paket Groq: Paket gratis, harga API berbasis pemakaian. Harga dan batas paket gratis bisa berubah seiring waktu, jadi cek situs resmi di atas untuk detail terbaru.
Untuk apa Groq digunakan?
Inferensi latensi ultra-rendah di hardware LPU custom.
Untuk siapa Groq paling cocok?
Groq cocok untuk Voice agent real-time yang butuh respons hampir instan.
Apa alternatif dari Groq?
Alternatif yang sering dibandingkan adalah Together AI dan OpenRouter, lihat perbandingan di atas untuk perbedaannya.
Berapa biaya Groq?
There is no monthly Groq subscription. Self-serve production text is GPT-OSS 20B at $0.075/$0.30 per million tokens or 120B at $0.15/$0.60. A free key exists with rate limits. Llama 3.1 8B and 3.3 70B are no longer on Free/Developer as of 16 August 2026.
Tools Terkait
T
OTerakhir ditinjau: 2026-09 · Ditinjau secara editorial oleh AIKetra · Cara kami menilai tools