Aracınız, her çağrıda aynı 40.000 jetonluk sistem istemi, araç tanımları ve politika belgelerini yeniden gönderir. Claude Opus 5.5'in milyon jeton başına 4 dolarlık giriş fiyatlandırmasıyla, bu önek her hareket ettiğinde, son talepten bu yana tek bir baytı değişmiş olsun ya da olmasın, 0,16 dolara mal olur.
İstem önbelleğe alma (prompt caching) çözümdür ve Anthropic, Opus 5.5'te bunu agresif bir şekilde fiyatlandırmıştır. Önbelleğe alınmış bir okuma, milyon jeton başına 0,20 dolara mal olurken, yeni giriş için bu maliyet 4,00 dolardır, yani %95 indirim. Ancak önbellek yazma maliyeti milyon başına 5,00 dolardır; bu, jetonları önbelleğe almadan göndermekten daha fazladır. Dolayısıyla önbelleğe alma bedava değildir. Bu, öneki yeniden kullanacağınıza dair bir bahistir ve bu bahsin, neredeyse hiç kimsenin etkinleştirmeden önce hesaplamadığı kesin bir başa baş noktası vardır.
Bu yazı, bu aritmetiği açıklamaktadır. Kısa cevap: tek bir önek üzerinde 1,26 çağrıdan sonra başa baş noktasına ulaşırsınız ve kararlı durumda yaklaşık %21'lik bir önbellek isabet oranında başa baş noktasını yakalarsınız. Bunun altında, önbelleğe alma size para kaybettirir.
Ölçeği belirtmekle başlamakta fayda var. OpenAI, kendi lansmanında, medyan araştırmacısının kodlama aracılarına günde 600 doların üzerinde, %90'lık dilimde ise günde 7.000 doların üzerinde harcadığını açıkladı. Bu hacimde, isabet oranındaki 20 puanlık bir fark bir maaşa denk gelir. Eylül ayındaki üç lansmanın tamamındaki geniş fiyatlandırma tablosu için, Eylül 2026 model fiyat savaşı dökümümüzü inceleyin.
Her şeyi belirleyen üç oran
| Jeton türü | Claude Opus 5.5 milyon başına oran | Yeni girişe göre |
|---|---|---|
| Yeni giriş | $4.00 | referans |
| Önbellek yazma | $5.00 | $1.00 prim |
| Önbelleğe alınmış okuma | $0.20 | $3.80 tasarruf |
| Çıktı | $20.00 | önbelleğe alma bunu etkilemez |
Bu tablodan iki gerçek hemen ortaya çıkıyor. Bir öneki önbelleğe yazmak, onu hiç önbelleğe almamaktan milyon başına 1,00 dolar daha fazla maliyet getirir. Bu önekin sonraki her okuması size milyon başına 3,80 dolar tasarruf sağlar. Çıktı fiyatlandırması asla değişmez, bu nedenle kısa bir istemden uzun yanıtlar veren bir aracı burada pek bir şey kazanamazken, büyük bir sabit bağlamı okuyup kısa bir karar döndüren bir aracının kazanacağı çok şey vardır.
1.000.000 jetonluk bağlam penceresi ve 128.000 jetonluk maksimum çıktı dahil olmak üzere tam teknik özellikler Claude Opus 5.5 nedir yazımızda bulunmaktadır.
Başa baş noktası iki değil, 1,26 çağrıdır
Tam olarak bir milyon jetonluk bir önek ve bunu paylaşan N sayıda çağrı (bir yazma ve N eksi bir okuma) olduğunu varsayın.
uncached: N * $4.00
cached: $5.00 + (N - 1) * $0.20
4.00N = 5.00 + 0.20(N - 1)
3.80N = 4.80
N = 1.26
Yazma primini karşılamak için 1,26 çağrıya ihtiyacınız var. Çağrılar tam sayılar halinde geldiğinden, bu şu anlama gelir: eğer önek bir kez bile geri okunursa, onu önbelleğe almak doğruydu. İki çağrı bile sizi %35 öne geçirir.
| Bir yazmayı paylaşan çağrılar | Önbelleğe alınmamış, 1M önek başına maliyet | Önbelleğe alınmış maliyet | Tasarruf |
|---|---|---|---|
| 1 | $4.00 | $5.00 | %25 daha kötü |
| 2 | $8.00 | $5.20 | %35 |
| 5 | $20.00 | $5.80 | %71 |
| 10 | $40.00 | $6.80 | %83 |
| 100 | $400.00 | $24.80 | %94 |
Bu tablo, bir yazma ve ardından mükemmel yeniden kullanımı varsayar. Gerçek sistemler daha karmaşıktır ve ikinci hesaplama işte burada devreye girer.
Kararlı durumda, önemli olan tek sayı isabet oranıdır
Bir günlük trafik boyunca bir kez yazma yapmazsınız. Önbellekler süresi dolar, önekler düzenlenir, yeni kiracılar gelir. h, önbellekten sunulan önek jetonlarınızın oranı olsun. Bir ıskalama yazma olarak, bir isabet ise okuma olarak faturalandırılır:
effective cost per 1M prefix tokens = $5.00 * (1 - h) + $0.20 * h
= $5.00 - $4.80h
break-even against $4.00 uncached: h = 1.00 / 4.80 = 20.8%
Yüzde yirmi bir, hatırlamanız gereken sayıdır. Eğer önek jetonlarınızın yaklaşık beşte birinden daha azı önbellekten sunuluyorsa, önbelleğe almayı açmak faturanızı kötüleştirmiştir.
| Önbellek isabet oranı | 1M önek başına etkili maliyet | Önbelleğe alınmamış $4.00'a kıyasla |
|---|---|---|
| 0% | $5.00 | %25 daha kötü |
| 20.8% | $4.00 | başa baş |
| 50% | $2.60 | %35 daha ucuz |
| 75% | $1.40 | %65 daha ucuz |
| 90% | $0.68 | %83 daha ucuz |
| 95% | $0.44 | %89 daha ucuz |
| 99% | $0.25 | %94 daha ucuz |
| 100% | $0.20 | %95 daha ucuz |
İki tablo, aynı denklemin farklı açılardan görülmesidir, çünkü N çağrı başına bir yazma, (N-1)/N'lik bir isabet oranıdır. Yazma başına on çağrı %90 isabet oranı demektir ve her iki tablo da %83'ü gösterir.
Üç istek şekli, işlendi
Şekil 1: Yüksek frekanslı aracı, küçük önek
40.000 jetonluk öneki, 800 jetonluk değişken kullanıcı dönüşü, 600 jetonluk çıktısı ve günde 10.000 çağrısı olan bir destek triyaj aracısı. Çağrıların %3'ünde yazma olduğunu varsayın, yani %97 isabet oranı.
| Önbelleğe alınmamış | Önbelleğe alınmış | |
|---|---|---|
| Önek, günde 400M jeton | $1,600.00 | $137.60 |
| Değişken dönüş, günde 8M jeton | $32.00 | $32.00 |
| Günlük toplam giriş | $1,632.00 | $169.60 |
Bu, giriş hattından %89,6 indirim, yani günde yaklaşık 1.462 dolar veya ayda 43.800 dolar demektir. Çıktı her iki durumda da günde 120 dolarda kalır. Önekin yalnızca 40.000 jeton olduğunu unutmayın. Önbelleğe alma burada boyuttan değil, frekanstan dolayı kazanç sağlar.
Şekil 2: 1M bağlam üzerinde tek seferlik geçiş
Bir milyon jeton girdi, bir yanıt çıktı, asla yeniden kullanılmadı. Önbelleğe alınmamış bu çağrı 4,00 dolarlık giriş maliyetine sahiptir. Önbelleğe alınmış hali 5,00 dolara mal olur, çünkü kimsenin okumadığı bir öneki yazmak için ödeme yaptınız. Günde 500 belgeyi bu desende çalıştırırsanız, önbelleğe alma size boşuna fazladan günde 500 dolar maliyet çıkarır.
İnsanların en sık yanlış anladığı şekil budur, çünkü bağlam çok büyüktür ve içgüdüsel olarak devasa bağlamların açıkça önbelleğe alınması gerektiği düşünülür. Boyut alakasızdır. Yeniden kullanım tüm değişkendir.
Şekil 3: 1M pencerede uzun aracı oturumu
Şimdi aynı bir milyon jetonluk bağlamı alın ve bir aracının bunu 200 tur boyunca yeniden okumasını sağlayın; bu, bir 18 saatlik görev döngüsünün tam olarak neye benzediğidir.
| Maliyet | |
|---|---|
| Önbelleğe alınmamış, 200 x $4.00 | $800.00 |
| Önbelleğe alınmış, 1 yazma + 199 okuma | $44.80 |
| Önbelleğe alınmış, 5 yazma + 195 okuma | $64.00 |
Önbellek oturum ortasında dört kez soğusa ve beş tam yazma için ödeme yapsanız bile, önbelleğe alınmamış faturanın %92 altında kalırsınız. Uzun oturumlar, 0,20 dolarlık oranın itibar kazandığı yerdir.
Pahalı hata: Değişen kısmı önbelleğe almak
Her biri 60.000 jeton olan 5.000 belgeyi, paylaşılan 6.000 jetonluk bir talimat başlığının arkasında birer kez özetlendiğini düşünün.
| Strateji | Giriş maliyeti |
|---|---|
| Hiç önbelleğe alma yok | $1,320 |
| Her belge dahil tüm isteği önbelleğe al | $1,650 |
| Yalnızca 6.000 jetonluk başlığı önbelleğe al | $1,206 |
Yanlış sınırı önbelleğe almak, hiç önbelleğe almamaktan %25 daha kötüdür. Doğru olanı önbelleğe almak %9 daha iyidir. Aynı özellik, aynı oranlar, tamamen önbelleğe alınmış önekin nerede bittiğine göre belirlenen 444 dolarlık bir fark.
Buradan çıkan kural şudur: çağrılar arasında aynı olan en uzun bayt dizisini önbelleğe alın, tek bir bayt fazlasını değil. Eğer bir zaman damgası, bir istek kimliği veya isteğe özel bir belge önbelleğe alınmış önekinizin içindeyse, isabet oranınız sıfıra düşer ve her çağrı 4,00 dolar yerine 5,00 dolardan faturalandırılır. Önek eşleştirmenin genel mekanizmaları istem önbelleğe alma başlangıç rehberimizde ele alınmıştır.
%95, aldığınız bir indirim değil, bir asimptottur
Manşet rakamı, önbelleğe alınmış okumaların yeni girişin %5'i kadar maliyetli olmasıdır. Asla gerçekten %5 ödemezsiniz, çünkü her zaman en az bir yazma için ödeme yaptınız. Yazma başına 100 çağrıda %94, yazma başına 10 çağrıda %83, 2 çağrıda ise %35 oranında olursunuz.
Bütçenizi manşetten değil, isabet oranı tablosundan belirleyin. %95 tasarruf modelleyen ve %83 gözlemleyen bir finans ekibi, özellik tam olarak fiyatlandırıldığı gibi çalışırken bozuk olduğu sonucuna varacaktır.
Lansman materyalinin size söylemedikleri
Bu aritmetiğin üç girdisi Anthropic'in Opus 5.5 lansman materyalinde yer almıyor ve bunları tahmin etmek, bütçeyi yanlış yapmanın en hızlı yolu olacaktır:
- Önbellek ömrü. Yazılan bir önekin ne kadar süre aktif kaldığı, kararlı durumdaki isabet oranınızı doğrudan belirler. Yukarıdaki her örnek, h'yi bir platform garantisi olarak değil, bir varsayım olarak sabit tutar.
- Minimum önbelleğe alınabilir önek uzunluğu. Platformlar genellikle çok kısa önekleri önbelleğe almayı reddeder. Sizinki minimum değerin altındaysa, baytlar ne kadar kararlı olursa olsun etkili isabet oranınız sıfır olur.
- Önbellek kapsamı. Aktif bir önekin API anahtarları, çalışma alanları veya bölgeler arasında paylaşılıp paylaşılmadığı, çok kiracılı bir dağıtımda yazma sayısını önemli ölçüde değiştirir.
Bir sayıya karar vermeden önce üçünü de sağlayıcının fiyatlandırma sayfasında kontrol edin. Bu makaledeki oranlar yayınlanmıştır. Bu üçü ise yayınlanmamıştır.
Önbelleğin gerçekten isabet ettiğini test edin
Hata modu sessizdir. Bir önek soğuduğunda hiçbir şey hata vermez. Birisi sistem mesajına bir hata ayıklama kimliği ekler, isabet oranı %97'den %0'a düşer ve tek sinyal üç hafta sonraki bir faturada görünen bir satırdır.
Mesajlar API'si her yanıtta ayrımı raporlar:
"usage": {
"input_tokens": 812,
"cache_creation_input_tokens": 0,
"cache_read_input_tokens": 40960,
"output_tokens": 604
}
İlk çağrıda cache_creation_input_tokens öneki taşır. Sonraki her çağrıda, bu alan 0 olmalı ve cache_read_input_tokens aynı yükü taşımalıdır. İsteği bir kez Apidog'a kaydedin, iki kez çalıştırın ve hangi alanın değiştiğini izleyin.
Ardından bu gözlemi bir doğrulama (assertion) haline getirin, böylece sessizce gerileme yaşanmaz. İsteği iki kez gönderen ve ikinci yanıtta cache_read_input_tokens > 40000 olduğunu doğrulayan bir Apidog test senaryosu, bir ekip arkadaşı öneki belirlenimsiz (non-deterministic) hale getirdiği anda CI'da başarısız olacaktır. Bu, sizinle önek faturalandırmasında 25 kat artış arasında duran tek satırlık bir testtir ve bu makaledeki en yüksek getirili şeydir.
GPT-6 aynı matematikte nerede duruyor
GPT-6 Sol, milyon başına 2,00 dolarlık bir giriş fiyatı ve önbelleğe alınmış okumalarda %90 indirim sunar; bu da önbelleğe alınmış bir okumayı milyon başına 0,20 dolara getirir, Opus 5.5 ile aynı rakamdır. Milyon başına 0,10 dolarlık girişle GPT-6 Luna, milyon başına 0,01 dolarlık önbelleğe alınmış maliyete tekabül eder.
Fark, hesaplayabileceğimiz şeydir. OpenAI'nin lansman materyali bir önbellek yazma oranı belirtmez, bu nedenle GPT-6 için başa baş yeniden kullanım oranı, Opus 5.5 için olduğu gibi çıkarılamaz. Anthropic'in açık bir şekilde 5,00 dolarlık yazma fiyatı yayınlaması, %21'lik rakamın hesaplanabilir olmasını sağlayan şeydir. OpenAI'nin önbelleğe alma sürümünün geri kalanı, önbelleği koruyan çaba değişiklikleri ve yeni teşhis araçları dahil olmak üzere GPT-6 istem önbelleğe alma yazımızda yer almaktadır.
Sonuç
Claude Opus 5.5'te istem önbelleğe alma, tek bir aritmetik sorudur: önek jetonlarınızın beşte birinden fazlası aktif olarak geri dönecek mi? Evet ise, açın ve reklamı yapılan %95 yerine giriş hattında %83 ila %94 indirim bekleyin. İş yükünüz benzersiz belgeler üzerinde tek seferlik geçişlerse, kapatın ve milyon başına 1,00 dolarlık yazma primini kaydedin. Ve hangisini seçerseniz seçin, CI'da cache_read_input_tokens üzerinde doğrulama yapın, çünkü bir önbellek gerilemesi asla kendini belli etmez.