Ihr Agent sendet bei jedem einzelnen Aufruf die gleichen 40.000 Tokens des System-Prompts, der Tool-Definitionen und der Richtliniendokumente erneut. Bei einem Claude Opus 5.5-Eingabepreis von 4 $ pro Million Tokens kostet dieser Präfix jedes Mal 0,16 $, wenn er übertragen wird, unabhängig davon, ob sich seit der letzten Anfrage ein einziges Byte davon geändert hat.
Prompt-Caching ist die Lösung, und Anthropic hat es bei Opus 5.5 aggressiv bepreist. Ein zwischengespeicherter Lesevorgang kostet 0,20 $ pro Million Tokens gegenüber 4,00 $ für frische Eingaben, ein Rabatt von 95 %. Ein Cache-Schreibvorgang kostet jedoch 5,00 $ pro Million, was mehr ist als das Senden der Tokens ohne Cache. Caching ist also kein kostenloses Geld. Es ist eine Wette darauf, dass Sie den Präfix wiederverwenden werden, und diese Wette hat einen genauen Break-Even-Punkt, den fast niemand vor dem Einschalten berechnet.
Dieser Artikel rechnet das durch. Die kurze Antwort: Bei einem einzelnen Präfix erreichen Sie den Break-Even nach 1,26 Aufrufen, und im stabilen Zustand erreichen Sie den Break-Even bei einer Cache-Trefferquote von etwa 21 %. Darunter kostet Sie das Caching Geld.
Der Umfang ist es wert, zuerst genannt zu werden. OpenAI gab bei seinem eigenen Start bekannt, dass sein mittlerer Forscher über 600 $ pro Tag für Codierungsagenten ausgibt, wobei das 90. Perzentil über 7.000 $ pro Tag liegt. Bei diesem Volumen entspricht eine Differenz von 20 Prozentpunkten bei der Trefferquote einem Gehalt. Für das umfassendere Preisbild aller drei September-Starts siehe unsere Aufschlüsselung des Modell-Preiskampfes vom September 2026.
Die drei Tarife, die alles entscheiden
| Token-Typ | Claude Opus 5.5-Rate pro Million | Relativ zu frischer Eingabe |
|---|---|---|
| Frische Eingabe | $4.00 | Basislinie |
| Cache-Schreibvorgang | $5.00 | 1,00 $ Aufpreis |
| Zwischengespeicherter Lesevorgang | $0.20 | 3,80 $ Ersparnis |
| Ausgabe | $20.00 | Caching betrifft es nicht |
Zwei Fakten gehen direkt aus dieser Tabelle hervor. Das Schreiben eines Präfixes in den Cache kostet Sie 1,00 $ pro Million mehr, als es überhaupt nicht zwischenzuspeichern. Jeder spätere Lesevorgang dieses Präfixes spart Ihnen 3,80 $ pro Million. Der Ausgabepreis ändert sich nie, daher hat ein Agent, der lange Antworten aus einem kurzen Prompt generiert, hier wenig zu gewinnen, während einer, der einen großen stabilen Kontext liest und ein kurzes Urteil zurückgibt, viel zu gewinnen hat.
Das vollständige Datenblatt, einschließlich des Kontextfensters von 1.000.000 Tokens und der maximalen Ausgabe von 128.000 Tokens, finden Sie unter Was ist Claude Opus 5.5.
Der Break-Even liegt bei 1,26 Aufrufen, nicht bei zwei
Nehmen Sie einen Präfix von genau einer Million Tokens und N Aufrufe, die ihn teilen, einen Schreibvorgang und N minus einen Lesevorgang.
uncached: N * $4.00
cached: $5.00 + (N - 1) * $0.20
4.00N = 5.00 + 0.20(N - 1)
3.80N = 4.80
N = 1.26
Sie benötigen 1,26 Aufrufe, um den Schreib-Aufpreis zu amortisieren. Da Aufrufe in ganzen Zahlen erfolgen, bedeutet das: wenn der Präfix auch nur einmal gelesen wird, war das Caching korrekt. Zwei Aufrufe bringen Sie bereits 35 % in Führung.
| Aufrufe, die einen Schreibvorgang teilen | Nicht zwischengespeicherte Kosten pro 1 Mio. Präfix | Zwischengespeicherte Kosten | Ersparnis |
|---|---|---|---|
| 1 | $4.00 | $5.00 | 25% schlechter |
| 2 | $8.00 | $5.20 | 35% |
| 5 | $20.00 | $5.80 | 71% |
| 10 | $40.00 | $6.80 | 83% |
| 100 | $400.00 | $24.80 | 94% |
Diese Tabelle geht von einem Schreibvorgang und perfekter Wiederverwendung danach aus. Echte Systeme sind unübersichtlicher, und hier kommt die zweite Berechnung ins Spiel.
Im stabilen Zustand ist die einzige Zahl, die zählt, die Trefferquote
Über den Verlauf eines Tages schreiben Sie nicht nur einmal. Caches verfallen, Präfixe werden bearbeitet, neue Mieter kommen hinzu. Sei h der Anteil Ihrer Präfix-Tokens, die aus dem Cache bedient werden. Ein Fehlschlag wird als Schreibvorgang abgerechnet, ein Treffer als Lesevorgang:
effective cost per 1M prefix tokens = $5.00 * (1 - h) + $0.20 * h
= $5.00 - $4.80h
break-even against $4.00 uncached: h = 1.00 / 4.80 = 20.8%
Einundzwanzig Prozent ist die Zahl, die man sich merken sollte. Wenn weniger als etwa jeder fünfte Ihrer Präfix-Tokens aus dem Cache bedient wird, hat das Einschalten des Caching Ihre Rechnung verschlechtert.
| Cache-Trefferquote | Effektive Kosten pro 1 Mio. Präfix | Gegenüber 4,00 $ ungezählt |
|---|---|---|
| 0% | $5.00 | 25% schlechter |
| 20.8% | $4.00 | Break-Even |
| 50% | $2.60 | 35% günstiger |
| 75% | $1.40 | 65% günstiger |
| 90% | $0.68 | 83% günstiger |
| 95% | $0.44 | 89% günstiger |
| 99% | $0.25 | 94% günstiger |
| 100% | $0.20 | 95% günstiger |
Die beiden Tabellen zeigen dieselbe Gleichung aus verschiedenen Blickwinkeln, da ein Schreibvorgang pro N Aufrufen einer Trefferquote von (N-1)/N entspricht. Zehn Aufrufe pro Schreibvorgang bedeuten eine Trefferquote von 90 % und beide Tabellen geben 83 % an.
Drei Anfragetypen, durchgerechnet
Typ 1: Hochfrequenz-Agent, kleiner Präfix
Ein Support-Triage-Agent mit einem 40.000 Token-Präfix, einer variablen Benutzeraktion von 800 Tokens, 600 Tokens Ausgabe, 10.000 Aufrufen pro Tag. Angenommen, Schreibvorgänge bei 3 % der Aufrufe, also eine Trefferquote von 97 %.
| Nicht zwischengespeichert | Zwischengespeichert | |
|---|---|---|
| Präfix, 400 Mio. Tokens/Tag | $1,600.00 | $137.60 |
| Variable Aktion, 8 Mio. Tokens/Tag | $32.00 | $32.00 |
| Gesamte Eingabe pro Tag | $1,632.00 | $169.60 |
Das sind 89,6 % Ersparnis bei der Eingabe, etwa 1.462 $ pro Tag oder 43.800 $ pro Monat. Die Ausgabe bleibt so oder so bei 120 $ pro Tag. Beachten Sie, dass der Präfix nur 40.000 Tokens beträgt. Caching zahlt sich hier aufgrund der Häufigkeit aus, nicht aufgrund der Größe.
Typ 2: Einmaliger Durchlauf über einen 1M-Kontext
Eine Million Tokens rein, eine Antwort raus, nie wiederverwendet. Nicht zwischengespeichert kostet dieser Aufruf 4,00 $ Eingabe. Zwischengespeichert kostet er 5,00 $, weil Sie für das Schreiben eines Präfixes bezahlt haben, den niemand gelesen hat. Wenn Sie täglich 500 Dokumente nach diesem Muster verarbeiten, kostet Sie das Caching zusätzlich 500 $ pro Tag für nichts.
Dies ist der Typ, bei dem die Leute am häufigsten Fehler machen, da der Kontext enorm ist und der Instinkt besagt, dass enorme Kontexte offensichtlich Caching benötigen. Die Größe ist irrelevant. Die Wiederverwendung ist die einzige Variable.
Typ 3: Lange Agentensitzung in einem 1M-Fenster
Nehmen Sie nun denselben Millionen-Token-Kontext und lassen Sie einen Agenten ihn über 200 Durchgänge hinweg erneut lesen, was genau einem 18-stündigen Aufgabenzyklus entspricht.
| Kosten | |
|---|---|
| Nicht zwischengespeichert, 200 x 4,00 $ | $800.00 |
| Zwischengespeichert, 1 Schreibvorgang + 199 Lesevorgänge | $44.80 |
| Zwischengespeichert, 5 Schreibvorgänge + 195 Lesevorgänge | $64.00 |
Selbst wenn der Cache mitten in der Sitzung viermal kalt wird und Sie fünf vollständige Schreibvorgänge bezahlen, liegen Sie immer noch 92 % unter der nicht zwischengespeicherten Rechnung. Lange Sitzungen sind der Bereich, in dem der Tarif von 0,20 $ seinen Ruf verdient.
Der teure Fehler: den Teil cachen, der sich ändert
Betrachten Sie 5.000 Dokumente mit je 60.000 Tokens, die jeweils einmal hinter einem gemeinsamen 6.000 Token-Anweisungsheader zusammengefasst werden.
| Strategie | Eingabekosten |
|---|---|
| Kein Caching überhaupt | $1,320 |
| Die gesamte Anfrage cachen, einschließlich jedes Dokuments | $1,650 |
| Nur den 6.000 Token-Header cachen | $1,206 |
Das Caching der falschen Grenze ist 25 % schlechter als gar kein Caching. Das Caching der richtigen Grenze ist 9 % besser. Dieselbe Funktion, dieselben Tarife, eine Spanne von 444 $, die ausschließlich davon abhängt, wo der zwischengespeicherte Präfix endet.
Die daraus resultierende Regel: Speichern Sie den längsten übereinstimmenden Byte-Abschnitt im Cache, der über alle Aufrufe hinweg identisch ist, und keinen Byte mehr. Wenn ein Zeitstempel, eine Anforderungs-ID oder ein pro-Anfrage-Dokument in Ihrem zwischengespeicherten Präfix enthalten ist, sinkt Ihre Trefferquote auf Null und jeder Aufruf wird mit 5,00 $ anstatt 4,00 $ abgerechnet. Die allgemeinen Mechanismen des Präfix-Abgleichs werden in unserem Prompt-Caching-Einführung behandelt.
95 % ist eine Asymptote, kein Rabatt, den Sie erhalten
Die Schlagzeile lautet, dass zwischengespeicherte Lesevorgänge 5 % der frischen Eingabe kosten. Sie werden niemals tatsächlich 5 % bezahlen, da Sie immer für mindestens einen Schreibvorgang bezahlt haben. Bei 100 Aufrufen pro Schreibvorgang liegen Sie bei 94 %. Bei 10 Aufrufen pro Schreibvorgang liegen Sie bei 83 %. Bei 2 Aufrufen liegen Sie bei 35 %.
Budgetieren Sie anhand der Trefferquotentabelle, nicht anhand der Schlagzeile. Ein Finanzteam, das eine 95%ige Ersparnis modelliert und 83% beobachtet, wird schlussfolgern, dass die Funktion defekt ist, obwohl sie genau wie bepreist funktioniert.
Was Ihnen das Launch-Material nicht verrät
Drei Eingaben für diese Berechnung sind nicht im Anthropic Opus 5.5 Launch-Material enthalten, und diese zu erraten, wäre der schnellste Weg, ein Budget falsch zu planen:
- Cache-Lebensdauer. Wie lange ein geschriebener Präfix warm bleibt, bestimmt direkt Ihre stabile Trefferquote. Jedes oben durchgerechnete Beispiel hält h als Annahme konstant, nicht als Plattformgarantie.
- Mindestlänge des cachefähigen Präfixes. Plattformen weigern sich in der Regel, sehr kurze Präfixe zu cachen. Wenn Ihr Präfix unter diesem Minimum liegt, ist Ihre effektive Trefferquote null, egal wie stabil die Bytes sind.
- Cache-Geltungsbereich. Ob ein warmer Präfix über API-Schlüssel, Workspaces oder Regionen hinweg geteilt wird, ändert die Anzahl der Schreibvorgänge in einer Multi-Tenant-Bereitstellung erheblich.
Überprüfen Sie alle drei auf der Anbieter-Preisseite, bevor Sie sich auf eine Zahl festlegen. Die Tarife in diesem Artikel sind veröffentlicht. Diese drei sind es nicht.
Testen Sie, ob der Cache tatsächlich trifft
Der Fehlerfall ist still. Nichts löst einen Fehler aus, wenn ein Präfix kalt wird. Jemand fügt eine Debug-ID zur Systemnachricht hinzu, die Trefferquote sinkt von 97 % auf 0, und das einzige Signal ist ein Posten auf einer Rechnung drei Wochen später.
Die Messages API meldet die Aufteilung bei jeder Antwort:
"usage": {
"input_tokens": 812,
"cache_creation_input_tokens": 0,
"cache_read_input_tokens": 40960,
"output_tokens": 604
}
Beim ersten Aufruf enthält `cache_creation_input_tokens` den Präfix. Bei jedem weiteren Aufruf sollte dieses Feld 0 sein und `cache_read_input_tokens` dieselbe Last tragen. Speichern Sie die Anfrage einmal in Apidog, senden Sie sie zweimal und beobachten Sie, welches Feld sich ändert.
Wandeln Sie diese Beobachtung dann in eine Assertion um, damit sie nicht unbemerkt rückläufig wird. Ein Apidog-Testszenario, das die Anfrage zweimal sendet und `cache_read_input_tokens > 40000` bei der zweiten Antwort überprüft, wird in der CI fehlschlagen, sobald ein Teamkollege den Präfix nicht-deterministisch macht. Das ist ein einzeiliger Test, der zwischen Ihnen und einer 25-fachen Erhöhung der Präfixabrechnung steht, und er ist das Einzige mit dem höchsten Ertrag in diesem Artikel.
Wo GPT-6 bei der gleichen Rechnung landet
GPT-6 Sol listet Eingaben mit 2,00 $ pro Million mit einem Rabatt von 90 % auf zwischengespeicherte Lesevorgänge, was einen zwischengespeicherten Lesevorgang bei 0,20 $ pro Million platziert, derselbe Wert wie bei Opus 5.5. GPT-6 Luna bei 0,10 $ pro Million Eingabe ergibt 0,01 $ pro Million zwischengespeichert.
Der Unterschied liegt in dem, was wir berechnen können. OpenAIs Launch-Material gibt keine Cache-Schreibrate an, daher kann die Break-Even-Wiederverwendungsrate für GPT-6 nicht auf die gleiche Weise abgeleitet werden wie für Opus 5.5. Die Veröffentlichung eines expliziten Schreibpreises von 5,00 $ durch Anthropic macht die Zahl von 21 % überhaupt erst berechenbar. Der Rest von OpenAIs Caching-Veröffentlichung, einschließlich Cache-erhaltender Aufwandsänderungen und der neuen Diagnosetools, ist in unserem GPT-6 Prompt Caching-Bericht enthalten.
Unterm Strich
Prompt-Caching auf Claude Opus 5.5 ist eine arithmetische Frage: Werden mehr als ein Fünftel Ihrer Präfix-Tokens warm zurückkommen? Wenn ja, schalten Sie es ein und erwarten Sie 83 % bis 94 % Rabatt auf die Eingabezeile statt der beworbenen 95 %. Wenn Ihre Arbeitslast einmalige Durchläufe über einzigartige Dokumente sind, lassen Sie es ausgeschaltet und sparen Sie den 1,00 $ pro Million Schreib-Aufpreis. Und was auch immer Sie wählen, überprüfen Sie `cache_read_input_tokens` in der CI, denn eine Cache-Regression kündigt sich nie an.