Rate Limits von Muse Wonder: 3,000 RPM, 4M TPM, geteilt vom ganzen Team

Muse-Wonder-API-Limits: 3,000 Anfragen und 4M Token pro Minute pro Team, keine Stufen. Wie ein 1M-Kontext das TPM aufzehrt, Header, Backoff und der Test des 429-Pfads.

INEZA Felin-Michel

INEZA Felin-Michel

16 October 2026

Rate Limits von Muse Wonder: 3,000 RPM, 4M TPM, geteilt vom ganzen Team

Apidog fĂĽr Unternehmen

On-Premises Bereitstellung

SSO & RBAC

SOC 2 konform

Apidog Enterprise entdecken

Die Rate Limits von Muse Wonder auf der Meta Model API betragen 3,000 Anfragen pro Minute und 4,000,000 Token pro Minute. Beide gelten pro Modell und pro Team, nicht pro API-Schlüssel: Jeder Schlüssel, den Ihre Organisation erstellt, schöpft aus demselben Pool. Hintergrundantworten erhalten ein separates Kontingent von 600 neuen Einreichungen pro Minute. Es gibt keine veröffentlichten Nutzungsstufen und keinen dokumentierten Weg, mehr anzufordern. Wenn Sie ein Limit überschreiten, erhalten Sie HTTP 429, und Metas Empfehlung ist exponentielles Backoff mit Jitter ab etwa 500 ms, wobei Retry-After zu beachten ist, wenn vorhanden.

Diese vier Fakten entscheiden, wie Sie alles aufbauen, was muse-wonder-1.0 im groĂźen MaĂźstab aufruft. Dieser Beitrag behandelt, was die Limits in der Praxis bedeuten, wie ein 1M-Token-Kontext ein 4M-TPM-Budget aufzehrt, wie man die Header liest, wie man den Retry-Pfad baut und testet, und was zu tun ist, wenn 3,000 RPM nicht reichen. FĂĽr die API-Grundlagen beginnen Sie mit dem Muse Wonder API Guide.

button

Die Limits

Limit Wert Geltungsbereich
Anfragen pro Minute 3,000 Pro Team, pro Modell
Token pro Minute 4,000,000 Pro Team, pro Modell
Hintergrund-Einreichungen 600 pro Minute Pro Team, zusätzlich zu Obigem
Kontextfenster 1,048,576 Token Pro Anfrage
Nutzungsstufen Keine veröffentlicht
Erhöhung der Limits Kein dokumentierter Prozess

Dieselben 3,000 / 4M-Werte gelten fĂĽr Muse Spark 1.3; die Contributor-Variante von Spark ist niedriger gedeckelt, bei 150 RPM und 3M TPM. Jedes Modell hat seinen eigenen Pool, sodass starker Wonder-Traffic eine Spark-Lane nicht aushungert und umgekehrt. Metas injizierter Steering-Kontext wird nicht auf TPM angerechnet und erscheint nicht in usage.

Die Token gehen zur Neige, bevor die Anfragen es tun

Bei 4M Token pro Minute ist das Anfragelimit fĂĽr einen Agenten selten das bindende. Drei Illustrationen:

Arbeitslast Token pro Anfrage Anfragen pro Minute, bevor TPM bindet
Kurze Chat-Runden 3,000 1,333
DokumentenprĂĽfung 50,000 80
Lange Agentenrunde, 400K Kontext 400,000 10
Anfrage mit vollem Fenster 1,000,000 4

Ein Team, das eine Handvoll Agenten mit großen Kontexten betreibt, erreicht 4M TPM schon mit einem Dutzend gleichzeitiger Anfragen. Zwischengespeicherte Eingaben zählen weiterhin zu TPM; der Cache-Rabatt ist ein Abrechnungsrabatt, kein Rate-Limit-Rabatt. Reasoning-Token zählen auf Ihr max_output_tokens und Ihre Rechnung, und Ausgabe-Token zählen ebenfalls zu TPM.

Die praktische Konsequenz: Budgetieren Sie TPM nach Kontextgröße, nicht nach Anfrageanzahl. Ein Agent, der bei jeder Runde ein 300K-Token-Gespräch erneut sendet, ist jedes Mal eine 300K-Token-Anfrage, und zehn solcher Agenten, die einmal pro Minute einen Schritt machen, verbrauchen drei Viertel des Teamkontingents.

Planen Sie die Parallelität anhand der Zahlen

Die Kapazitätsrechnung ist eine Zeile: gleichzeitige Agenten mal Token pro Runde mal Runden pro Minute muss unter 4,000,000 bleiben. Rechnen Sie es für Ihre schwerste Lane durch, bevor Sie deployen.

Agenten Token pro Runde Runden pro Minute je Agent Benötigtes TPM Spielraum
4 150,000 2 1,200,000 70%
8 250,000 1 2,000,000 50%
12 300,000 1 3,600,000 10%
20 300,000 1 6,000,000 ĂĽber dem Limit

Lassen Sie mindestens 40% Spielraum. Agentenrunden sind bursty, ein Retry-Sturm nach einem vorübergehenden Fehler verdoppelt die Nachfrage für eine Minute, und alle anderen im Team schöpfen aus demselben Pool. Die dritte Zeile sieht auf dem Papier gut aus und scheitert in der Praxis, sobald zwei Agenten zum ersten Mal gleichzeitig retryen.

Zwei Hebel verkleinern die linke Seite der Gleichung. Kompaktion hält Token pro Runde davon ab, unbegrenzt zu wachsen: Fassen Sie alte Tool-Ergebnisse zusammen oder verwerfen Sie sie, sobald ein Lauf eine Schwelle überschreitet, wie der Kontextfenster-Beitrag beschreibt. Und Stateless Encrypted Replay auf der Responses API lässt Sie genau kontrollieren, was Sie erneut senden, während serverseitig verwalteter Verlauf mit previous_response_id alles erneut sendet.

Ein Pool fĂĽr jeden SchlĂĽssel

Meta legt die Limits pro Team fest. Ein Schlüssel für Staging, ein Schlüssel für Produktion und ein Schlüssel für den Laptop eines Kollegen schöpfen alle aus denselben 3,000 / 4M. Das hat zwei Konsequenzen.

Erstens kann ein Lasttest eines einzelnen Entwicklers die Produktion drosseln. Isolieren Sie Experimente zeitlich oder in einem separaten Team, wenn Ihre Organisation das erlaubt. Zweitens zeigt Ihnen Monitoring pro SchlĂĽssel nicht das ganze Bild. Aggregieren Sie die x-ratelimit-*-Header ĂĽber alle Aufrufer, sonst sehen Sie 429er auf einem SchlĂĽssel, der scheinbar weit unter seinem Limit liegt.

Lesen Sie die Header

Token-basierte Antworten tragen x-ratelimit-*-Header. Loggen Sie sie bei jedem Aufruf. Das Muster, das zählt, ist verbleibende Kapazität, die innerhalb einer Minute bei allen Aufrufern gegen Null tendiert – Ihr Signal, langsamer zu werden, bevor die 429 kommt. Transkriptionsantworten tragen diese Header nicht; die von Wonder schon.

Wenn eine 429 doch kommt, ist Metas Dokumentation konkret: Gehen Sie exponentiell mit Jitter zurück, beginnend bei etwa 500 ms, und falls Retry-After vorhanden ist, warten Sie mindestens so lange. Eine Retry-Schleife, die Retry-After ignoriert und in festen Intervallen weiterhämmert, verlängert die Störung für alle im Team.

Bauen Sie den Retry-Pfad

import random, time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.meta.ai/v1", api_key=os.environ["MODEL_API_KEY"])

def call(input_text, attempts=6):
    delay = 0.5
    for i in range(attempts):
        try:
            return client.responses.create(model="muse-wonder-1.0", input=input_text,
                                           reasoning={"effort": "medium"}, max_output_tokens=4096)
        except RateLimitError as e:
            retry_after = e.response.headers.get("retry-after")
            wait = float(retry_after) if retry_after else delay + random.uniform(0, delay)
            time.sleep(wait)
            delay = min(delay * 2, 30)
    raise RuntimeError("rate limited after retries")

Drei Designpunkte. Begrenzen Sie das Backoff, damit eine lange Störung nicht in einen 20-Minuten-Schlaf ausartet. Halten Sie Retries idempotent: Ein Responses-Aufruf, der auf Ihrer Seite nichts erzeugt, kann gefahrlos wiederholt werden, aber wenn die Tool-Aufrufe Ihres Agenten Seiteneffekte haben, wiederholen Sie den Modellaufruf, nicht das Tool. Und machen Sie Retries in Ihren Traces sichtbar, damit Sie ein langsames Modell von einem gedrosselten unterscheiden können; der Tool-Call-Tracing-Guide erklärt, was zu loggen ist.

Nutzen Sie Hintergrundantworten fĂĽr den langen Schwanz

Lange Jobs müssen keine Verbindung offen halten. background: true stellt die Antwort in die Warteschlange, gibt "status": "queued" zurück und lässt Sie GET /v1/responses/{id}?stream=true nach Lebenszyklus-Ereignissen pollen. Hintergrund-Einreichungen haben ihr eigenes Kontingent von 600 pro Minute zusätzlich zu den Hauptlimits, sodass Batch-artige Arbeit dorthin verlagert RPM für interaktiven Traffic frei. Einschränkungen: kein stream: true beim POST, ein Body-Limit von 1 MiB, und abgebrochen wird mit POST /v1/responses/{id}/cancel.

Wenn 3,000 RPM nicht reichen

Meta veröffentlicht keine Stufenleiter und kein Formular zum Anheben der Limits. Ihre Optionen heute:

Testen Sie die Limit-Behandlung in Apidog

Entdecken Sie Ihre Retry-Bugs nicht bei Anfrage 3,001. In Apidog:

  1. Bauen Sie die Responses-Anfrage mit MODEL_API_KEY als Secret-Variable und fügen Sie einen Post-Prozessor hinzu, der die x-ratelimit-*-Header in Umgebungsvariablen liest, damit ein Szenario prüfen kann, dass die verbleibende Kapazität nie unter eine Untergrenze fällt.
  2. Erstellen Sie einen Mock von /v1/responses mit einer Mock-Erwartung, die 429 und einen Retry-After: 2-Header zurückgibt, wenn eine Anfrage einen Header wie X-Test-Scenario: throttle trägt. Richten Sie Ihren Client auf den Mock und prüfen Sie, dass er mindestens zwei Sekunden wartet und beim nächsten Versuch erfolgreich ist.
  3. Führen Sie einen Performance-Test durch, der das Anfragevolumen gegen den Mock hochfährt, um zu bestätigen, dass Ihr Limiter greift, bevor es die API täte.
  4. Legen Sie das Szenario mit der Apidog CLI in CI, damit eine Änderung am Retry-Code nicht ausgeliefert werden kann, ohne den Test zu bestehen.

Laden Sie Apidog herunter, um Mock und Assertions in einem Projekt einzurichten.

Häufig gestellte Fragen

Sind die Rate Limits von Muse Wonder pro SchlĂĽssel oder pro Konto? Pro Team. Alle SchlĂĽssel in einem Team teilen sich einen 3,000-RPM-/4M-TPM-Pool pro Modell.

Zählen zwischengespeicherte Eingaben zum TPM? Ja. Caching senkt den Preis dieser Token, nicht ihr Gewicht gegen das Token-Limit pro Minute.

Kann ich ein höheres Limit anfordern? Die Preis- und Rate-Limits-Seite von Meta listet weder Stufen noch einen Prozess. Prüfen Sie die Seite auf Änderungen; Frontier-Launches fügen oft innerhalb von Wochen Stufen hinzu.

Welchen Statuscode und welche Header erhalte ich? HTTP 429, optional mit Retry-After, plus x-ratelimit-*-Header bei tokenbasierten Antworten.

Nächster Schritt

Messen Sie die Token pro Anfrage Ihrer schwersten Agentenrunde, multiplizieren Sie mit der Parallelität und vergleichen Sie mit 4,000,000. Liegt die Antwort nah dran, bauen Sie Limiter und Mock-Test noch diese Woche, bevor sich das Team den Pool mit der Produktion teilt.

Praktizieren Sie API Design-First in Apidog

Entdecken Sie eine einfachere Möglichkeit, APIs zu erstellen und zu nutzen