Groq API Nasıl Ücretsiz Kullanılır?

Groq, her hesaba OpenAI uyumlu uç noktası için bir Free Plan anahtarı verir ve bu anahtar kaydolduğunuz anda çalışır. İnsanların takıldığı nokta erişim almak değil, uygulamanız gerçekten modeli çağırmaya başladığında limitlerin içinde kalmaktır. Groq, belgelerinde model başına Free Plan rakamlarını yayınlar, ancak bu sayılar değişir ve kendi hesabınız farklı olabilir. Güvenilir alışkanlık, hesap ayarlarınızı kontrol etmek ve her çağrıda yanıt başlıklarını okumaktır, çünkü limitler oturum ortasında değişebilir.

Bu kılavuz, bir anahtar edinmeyi, standart bir OpenAI istemcisini Groq'un uç noktasına yönlendirmeyi ve çoğu "ücretsiz katman" yazısının atladığı kısmı kapsar: üretimde bir 429'dan öğrenmek yerine limitlerinizi gerçek zamanlı olarak izlemek. Ardından kodlama ajanınız bu kontrolü bir Apidog CLI testine dönüştürür, böylece unuttuğunuz tek seferlik bir curl komutu değil, tekrarlanabilir olur.

Kısa Özet

Groq iki katman sunar: Free Plan ve Developer Plan. Hız limitleri kuruluş düzeyinde uygulanır (kullanıcı başına değil), istekler, token'lar veya günlük toplamlar arasında hangi sınıra önce ulaşırsanız o geçerlidir ve önbelleğe alınmış token'lar size karşı sayılmaz. Groq model başına Free Plan rakamlarını yayınlar, ancak hesabınıza uygulanan sayılar konsolunuzdaki limitler sayfasında bulunur, bu nedenle güvenilir yol, habersiz değişebilecek bir tabloya güvenmek yerine her çağrıda x-ratelimit-* yanıt başlıklarından bunları okumaktır.

Anahtar edinme ve uç noktayı çağırma

console.groq.com adresinde bir hesap oluşturun ve anahtarlar sayfasından bir anahtar üretin. Groq bu anahtarı OpenAI uyumlu bir API aracılığıyla sunar, yani daha önce OpenAI'nin SDK'sını çağırdıysanız şekli zaten biliyorsunuz. Temel URL'yi OpenAI yerine Groq'a yönlendirin ve diğer her şeyi aynı tutun:

curl https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer $GROQ_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-3.1-8b-instant",
    "messages": [{"role": "user", "content": "Summarize this ticket in one sentence."}]
  }'

Veya resmi Python OpenAI istemcisiyle:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["GROQ_API_KEY"],
    base_url="https://api.groq.com/openai/v1",
)

response = client.chat.completions.create(
    model="llama-3.3-70b-versatile",
    messages=[{"role": "user", "content": "List three causes of API timeout errors."}],
)

print(response.choices[0].message.content)

Groq'un OpenAI uyumluluk belgeleri, mevcut kodu kopyalamadan önce bilmeye değer birkaç boşluğa dikkat çeker: logprobs, logit_bias, top_logprobs ve messages[].name hepsi 400 hatası döndürür, n ayarlarsanız 1'e eşit olmalıdır ve 0 sıcaklığı gerçek açgözlü kod çözme yerine küçük bir pozitif float'a dönüştürülür.

Free Plan ve Developer Plan

Groq'un kendi ifadesi açıktır: "Daha yüksek limitlere, Batch ve Flex işlemeye ve daha fazlasına erişmek için Developer planına yükseltin." Her yeni anahtar Free Plan ile başlar ve bu plan test ile küçük yan projeler için gerçekten kullanılabilir.

İşte Free Plan'ın birkaç model için izin verdiği miktarlar, Groq'un hız limitleri belgelerine göre 2026-09-15 tarihinde okunduğu şekliyle:

Aynı sayfada her model için daha yüksek tavanlara sahip bir Developer Plan sekmesi, ayrıca Batch ve Flex işleme bulunur. Yukarıdaki tabloyu bir anlık görüntü olarak değerlendirin, çünkü Groq bu sayıları haber vermeden değiştirebilir. Kendi rakamlarınız hesap ayarlarınızdaki limitler sayfasında bulunur: eğer uyuşmazlarsa bu sayfa yerine o sayfaya güvenin.

İki politika ayrıntısı ham sayılardan daha önemlidir. Hız limitleri "kuruluş düzeyinde, bireysel kullanıcılarda değil" uygulanır, yani bir Groq organizasyonunu paylaşan beş kişi beş ayrı limit değil, tek bir limiti paylaşır. Ve "önbelleğe alınmış token'lar hız limitlerinize sayılmaz," bu da iyi önbelleğe alınmış bir istem yapısının başlıkta görünen sayıdan daha fazla gerçek verim sağladığı anlamına gelir.

Bir limite çarpmadan önce bilmeye değer modeller

Önemli olan limit, hangi modeli çağırdığınıza bağlıdır. Groq'un metin modelleri ve Compound sistemleri 131.072 token bağlamında çalışır:

Whisper modelleri, whisper-large-v3 ve whisper-large-v3-turbo, bu tabloya uymaz. Bunlar ses transkripsiyon modelleridir ve Groq verimlerini token cinsinden değil, kendi RPM ve RPD sınırlarının yanı sıra saat başına ve gün başına ses saniyesi (ASH/ASD) cinsinden ölçer.

Her modelin kendi RPM, RPD ve token sınırları vardır, bu nedenle llama-3.1-8b-instant'ın limitlerinin openai/gpt-oss-120b için geçerli olduğunu varsaymayın.

Tahmin etmek yerine hız limiti başlıklarını okuyun

api.groq.com'dan gelen her yanıt, tam olarak nerede durduğunuzu söyleyen bir dizi başlık taşır, konsolu ziyaret etmeye gerek yoktur:

• x-ratelimit-limit-requests ve x-ratelimit-limit-tokens, mevcut pencere için tavanınız
• x-ratelimit-remaining-requests ve x-ratelimit-remaining-tokens, şu anda kalan miktar
• x-ratelimit-reset-requests ve x-ratelimit-reset-tokens, pencerenin ne zaman yenileneceği
• retry-after, 429 üzerinde gönderilir ve ne kadar beklemeniz gerektiğini söyler

Her çağrıdan sonra x-ratelimit-remaining-tokens'ı okuyun, böylece bir kez bakıp tekrar gözden geçirmeyi unuttuğunuz statik bir sayı değil, canlı bir göstergeye sahip olursunuz. İşte yalnızca başlıkları yazdıran cURL ile hızlı bir kontrol:

curl -sD - https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer $GROQ_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "llama-3.1-8b-instant", "messages": [{"role": "user", "content": "hi"}]}' \
  -o /dev/null | grep -i ratelimit

Bunu konuşkan bir test betiğine karşı bir döngüde birkaç kez çalıştırın ve x-ratelimit-remaining-tokens'ın geri sayımını izleyin. Uygulamanızın bir gün geri çekilme (backoff) mantığına ihtiyacı olursa, bir gecikmeyi tahmin etmek yerine retry-after başlığına uyan desenler için API hız sınırlaması nasıl uygulanır kılavuzumuza bakın.

Kodlama ajanınızın kontrolü Apidog CLI ile çalıştırmasına izin verin

Curl ve grep dansını elle yapmak tek bir hata ayıklama oturumu için işe yarar. Bir ekibe ölçeklenmez ve kimse her dağıtımdan önce tek seferlik bir kabuk komutunu yeniden çalıştırmaz. Kontrolü bunun yerine kodlama ajanınıza verin: Apidog CLI ile testi bir kez yazar ve her istediğinizde çalıştırır. Bir kez kurun:

npm install -g apidog-cli@latest
apidog login --with-token <YOUR_TOKEN>
npx -y skills add https://apidog.com   # pick your agent when prompted

Token, Apidog'ta Hesap Ayarları, API Erişim Token'ı altından gelir. Ardından ajana bir istem verin:

Use Apidog CLI on project <id>. Create a Groq environment with base URL
https://api.groq.com/openai/v1 and add POST /chat/completions with Bearer auth
from {{GROQ_API_KEY}}. Create one test case per model we run in production
(llama-3.1-8b-instant, openai/gpt-oss-120b) that asserts status 200 and fails
when x-ratelimit-remaining-tokens drops below 10% of x-ratelimit-limit-tokens.
Put both cases in a "Groq limits" test suite, run it, and report the headers.

Çalıştırdığı komutlar, Apidog CLI 2.2.7'ye göre kontrol edilmiştir:

apidog environment create Groq --project <id> --base-url https://api.groq.com/openai/v1
apidog endpoint create --project <id> --file groq-chat.json
apidog cli-schema validate test-case-create --file groq-8b-case.json
apidog test-case create --project <id> --file groq-8b-case.json
apidog test-suite create --project <id> --name "Groq limits"
apidog run --test-suite <suiteId> --project <id> -e <envId> \
  --env-var "GROQ_API_KEY=$GROQ_API_KEY" -r cli,junit

Küçülen bir bütçe artık bir demolarda sürpriz bir 429 yerine başarısız bir test olarak ortaya çıkar. Bu son satırı dağıtım öncesi CI işinize koyun, Apidog CLI CI/CD ardışık düzeni kılavuzumuzdaki gibi, veya ajandan bir apidog scheduled-task create isteyin; bu, paketi bir runner üzerinde cron ile çalıştırır. Bu, Groq'un kuruluş düzeyinde havuzlaması göz önüne alındığında daha da önemlidir: bir ekip arkadaşının çalıştırdığı toplu iş, üretim uç noktanızın bir saat sonra ihtiyaç duyacağı paylaşılan bütçeyi yiyebilir. Bu, GPT hız limitleri için bir API test etme yazımızın arkasındaki fikirle aynıdır.

Gerçekten limite ulaştığınızda ne yapmalı

Bir 429 döndüğünde, hemen yeniden denemek yerine retry-after'a uyun. İstek düzeyinde bir limite karşı sıkı bir yeniden deneme döngüsü, kalan bütçenizi daha hızlı harcar ve sıfırlama penceresini daha da ileri iter. Bunu bir test betiği yerine bir üretim hizmetine yerleştiriyorsanız, hız limiti aşıldı hatası için kapsamlı kılavuzumuz, yalnızca Groq'ta değil, sağlayıcılar arasında işleyen geri çekilme stratejilerini ele alır.

Free Plan'da sürekli tavana çarpıyorsanız, en hızlı çözüm Groq'un belgelerinde doğrudan işaret ettiği Developer Plan yükseltmesidir. İkinci en hızlı çözüm, özellikle bir prototip için, trafiği birden fazla sağlayıcıya yaymaktır. OpenRouter alternatifleri derlememiz, tam da bu durum için arka cebinizde bulundurmaya değer diğer uç noktaları kapsar.

SSS

Groq'un API'si için ücretsiz bir katman var mı? Evet. Her yeni hesap, OpenAI uyumlu uç noktasına erişimle Free Plan'da başlar. Groq birkaç model için örnek Free Plan limitleri yayınlar, ancak hesabınıza gerçekten uygulanan sınırlar konsol ayarlarınızdaki limitler sayfasındadır.

Mevcut Groq hız limitimi nasıl kontrol ederim? İki yol: hesap ayarlarınızdaki limitler sayfasını açın veya herhangi bir API yanıtındaki x-ratelimit-limit-requests ve x-ratelimit-limit-tokens başlıklarını okuyun. Başlıklar, çağrı yaptığınız anda hesabınızın gerçek limitini yansıtır; bu, bir kez görüp hatırladığınız bir sayıdan daha güvenilirdir.

Groq hız limitini aştığımda ne olur? Kaç saniye beklemeniz gerektiğini söyleyen bir retry-after başlığı içeren bir 429 yanıtı alırsınız. Bir gecikmeyi tahmin etmek yerine bunu kodda ele almak için hız limiti aşıldı kılavuzumuza bakın.

Önbelleğe alınmış token'lar Groq hız limitime sayılır mı? Hayır. Groq, önbelleğe alınmış token'ların hız limitlerinize sayılmadığını doğrudan belirtir, bu nedenle önbelleğe alınmış bir sistem mesajını yeniden kullanan bir istem yapısı, ham token limitinin ima ettiğinden daha fazla gerçek verim elde eder.

Groq hız limiti kullanıcı başına mı yoksa kuruluş başına mı? Kuruluş başına. Aynı Groq organizasyonu altındaki her anahtar tek bir istek ve token havuzunu paylaşır, bu nedenle bir ekip arkadaşınızın betiği, üretim uygulamanızın ihtiyaç duyduğu bütçeyi yiyebilir.

Hangi Groq modelleri en yüksek bağlam penceresine sahiptir? llama-3.1-8b-instant, llama-3.3-70b-versatile, openai/gpt-oss-120b, openai/gpt-oss-20b ve Compound sistemleri hepsi 131.072 token bağlamında çalışır. Whisper modelleri metin değil ses transkripsiyonudur, bu nedenle Groq limitlerini bunun yerine ses süresi cinsinden ölçer. Hız limitleri aynı bağlam penceresi içinde bile modelden modele farklılık gösterir, bu nedenle her birini ayrı ayrı kontrol edin.

Sonuç

Groq API'sini ücretsiz kullanmanın yolu gizli bir sayı değil, bir alışkanlıktır. Bir anahtar alın, OpenAI uyumlu uç noktayı ona yönlendirin ve bu yazı da dahil olmak üzere bir blog yazısında bulduğunuz bir rakama güvenmek yerine her çağrıda yanıt başlıklarını okuyun.

Kodlama ajanınızın bu kontrolü bir kez Apidog CLI ile, her model için kalan token'lar üzerinde bir doğrulama ile oluşturmasını sağlayın ve o andan itibaren her dağıtımda çalışır. Kurulum, Groq belgelerinin geri kalanını okumaktan daha kısa sürer. Yük altında bir AI API katmanını test etme konusunda daha derin kapsam için, AI ajanları için en iyi API test araçları kılavuzumuz iyi bir sonraki duraktır.