OpenAI Ultrafast: Kecepatan 6x Lipat, Harga 6x Lipat. Kapan Balik Modal?

OpenAI Ultrafast adalah tingkatan layanan, bukan model baru. Tambahkan service_tier: "ultrafast" ke permintaan API Respons untuk gpt-6-astra dan OpenAI menghasilkan token hingga 6x lebih cepat di API (hingga 8x, atau 300 token per detik, di Codex). Biayanya 6x Standard: $60 input dan $300 output per juta token, dibandingkan $10 dan $50. ID model tidak berubah, jadi jawaban menjadi lebih cepat, bukan lebih pintar. Ini sepadan dengan biayanya ketika seseorang atau langkah yang terikat latensi menunggu output yang panjang, dan hampir tidak pernah untuk pekerjaan batch atau latar belakang.

OpenAI menjadikan Ultrafast tersedia secara luas di GPT-6 Astra pada DevDay tanggal 29 September 2026 (lihat semua hal lain dari DevDay). Posting ini membahas ketersediaan, permintaan, harga, batas laju, dan model titik impas yang dapat Anda jalankan kembali dengan angka Anda sendiri. Untuk model itu sendiri, baca panduan API GPT-6 Astra. Anda akan mengukur kedua tingkatan di Apidog sebelum beralih.

OpenAI Ultrafast Sekilas

Sumber: Panduan mode Ultrafast OpenAI dan halaman harga.

Apa itu Ultrafast, dan siapa yang bisa menggunakannya

Rekap DevDay OpenAI menyebut Ultrafast sebagai tingkatan kecepatan premiumnya. Menurut panduan, GPT-6 Astra Ultrafast terbuka untuk semua pengguna API dengan batas laju default yang rendah, dan organisasi dengan tim akun OpenAI dapat meminta lebih banyak. Panduan ini juga mencantumkan akses pratinjau untuk GPT-5.6 Sol melalui tim akun (OpenAI pertama kali mempratinjau Ultrafast di GPT-5.6 Sol pada 13 Agustus), sementara rekap menyebut GPT-6.1 Sol sebagai yang berikutnya. Keduanya tidak memiliki harga Ultrafast yang dipublikasikan.

Di ChatGPT, Ultrafast Astra berjalan di ChatGPT Work dan Codex pada Pro 500 dan Enterprise. Langganan tersebut mencakup aplikasi, bukan API: skrip, pekerjaan CI, dan agen yang Anda bangun tetap membayar per token dengan kunci API.

Baca klaim kecepatan dengan cermat. Ini tentang generasi token, dan dikatakan "hingga". Angka 300 token per detik adalah untuk Codex; klaim API adalah hingga 6x. OpenAI tidak mempublikasikan angka time-to-first-token (TTFT) untuk Ultrafast, dan angka token per detik tidak memberi tahu Anda berapa lama Anda menunggu token pertama.

Cara mengaktifkan service_tier ultrafast

Atur model ke gpt-6-astra dan service_tier ke ultrafast pada setiap permintaan. Melalui HTTP, dari dokumen OpenAI:

curl https://api.openai.com/v1/responses \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6-astra",
    "input": "Explain why the sky is blue in one sentence.",
    "service_tier": "ultrafast"
  }'

OpenAI sangat merekomendasikan WebSockets, terutama untuk agen yang melakukan banyak panggilan alat secara berurutan dengan cepat, karena overhead jaringan per-permintaan dapat mengikis keuntungan. Berikut adalah contoh Python dari dokumen, mengalirkan dua giliran melalui satu koneksi:

from openai import OpenAI

client = OpenAI()
previous_response_id: str | None = None
prompts = [
    "Explain why the sky is blue in one sentence.",
    "Now explain why sunsets look red.",
]

with client.responses.connect() as connection:
    for prompt in prompts:
        connection.response.create(
            model="gpt-6-astra",
            service_tier="ultrafast",
            previous_response_id=previous_response_id,
            input=prompt,
        )
        for event in connection:
            if event.type == "response.output_text.delta":
                print(event.delta, end="", flush=True)
            elif event.type == "response.completed":
                previous_response_id = event.response.id
                print()
                break
            elif event.type in {"response.failed", "response.incomplete", "error"}:
                raise RuntimeError(event.to_json())
        else:
            raise RuntimeError("Connection closed before the response finished.")

Instal dengan pip install --upgrade "openai[realtime]" dan atur OPENAI_API_KEY. Panduan mode WebSocket OpenAI kami membahas batas koneksi dan koneksi ulang.

Harga Ultrafast di samping Standard, Fast, dan Batch

Harga per 1M token untuk gpt-6-astra pada konteks pendek (272K token input atau kurang):

Di atas 272K token input, Ultrafast naik menjadi $120 input, $12 cached, $150 cache write, dan $450 output. Fast adalah pemrosesan Prioritas sebelumnya, diganti namanya pada 30 Juli 2026. Perhatikan bahwa setiap kolom input juga dikalikan, jadi prompt panjang membayar 6x untuk token yang tidak ditargetkan oleh klaim kecepatan.

Batas laju dan residensi data

Batas Ultrafast default GPT-6 Astra adalah 500.000 token per menit pada Tingkat penggunaan 1-3, 1.000.000 pada Tingkat 4, dan 5.000.000 pada Tingkat 5. Ultrafast hanya mendukung residensi data AS dan pemrosesan global. Jika kontrak Anda merutekan lalu lintas melalui endpoint EU atau regional lainnya, Ultrafast tidak tersedia untuk proyek tersebut.

Kapan Ultrafast sepadan dengan biayanya: model titik impas

Ini adalah aritmatika ilustratif pada harga daftar, bukan tolok ukur. Satu input kecepatan adalah placeholder: asumsikan pengukuran Anda sendiri menunjukkan Astra Standard mengalirkan 40 token output per detik pada prompt Anda. Ganti dengan angka Anda sendiri.

Jawaban yang berhadapan dengan pengguna: 5.000 token input yang tidak di-cache, 2.000 token output.

• Standard: $0.05 input + $0.10 output = $0.15.
• Ultrafast: $0.30 + $0.60 = $0.90, jadi $0.75 lebih mahal.
• Waktu generasi: 2.000 / 40 = 50 detik pada Standard, sekitar 8,3 detik pada 6x penuh. Anda menghemat sekitar 41,7 detik.
• Biaya per detik yang dihemat: $0.75 / 41.7 = $0.018, atau $64.80 per jam waktu tunggu yang dihilangkan.

Jika percepatan terukur Anda berada di bawah batas maksimum, setiap detik yang dihemat berharga lebih mahal:

Loop agen: 20 langkah, masing-masing dengan 20.000 token input (18.000 di-cache, 2.000 baru) dan 500 token output, mengabaikan biaya penulisan cache.

• Standard: $0.018 cached + $0.020 new input + $0.025 output = $0.063 per langkah, $1.26 per proses.
• Ultrafast: $7.56 per proses, jadi $6.30 lebih mahal.
• Waktu generasi: 250 detik pada Standard, sekitar 41.7 pada 6x. Anda menghemat sekitar 208 detik.
• Biaya per detik yang dihemat: sekitar $0.030, atau $109 per jam.

Agen membeli detik dengan tarif yang lebih buruk karena sebagian besar tagihannya adalah input, yang mendapatkan harga 6x tanpa percepatan generasi. Untuk output saja pada 6x penuh, setiap detik yang dihemat berharga sekitar $0.0003 dikalikan token output Standard Anda per detik; input hanya meningkatkannya.

Jadi pertanyaannya konkret: apakah seseorang, atau sesuatu dengan nilai dolar, terhalang selama detik-detik itu, dan apakah penantian itu bernilai lebih dari $65 hingga $110 per jam? Seorang insinyur yang terhalang oleh agen pengkodean internal Anda, atau pelanggan yang menatap spinner dalam alur berbayar, dapat melewati ambang batas itu. Pekerjaan cron tidak bisa.

Di mana Ultrafast tidak sepadan

• Tidak ada yang menunggu. Evaluasi malam, pengisian ulang, dan laporan termasuk dalam Batch API atau Flex dengan $5 input dan $25 output, seperdua belas dari tarif Ultrafast.
• Agen latar belakang. Jika agen berjalan tanpa pengawasan dan melaporkan ketika selesai, menyelesaikan tiga menit lebih cepat jarang mengubah hasilnya.
• Output pendek. Klasifikasi 50 token memiliki sedikit waktu generasi untuk dipersingkat; pengaturan koneksi dan waktu tunggu token pertama mendominasi, terutama melalui HTTP.
• Prompt panjang. Panggilan yang banyak input membayar 6x untuk token yang tidak dicakup oleh klaim kecepatan, dan di atas 272K input, tarif naik menjadi $120 dan $450.
• Pemrosesan regional. Tidak ada endpoint EU.
• Panggilan yang terikat TTFT. Analisis latensi GPT-6 Sol kami menemukan bahwa pada proses penalaran yang panjang, sebagian besar waktu jam dinding berlalu sebelum token terlihat pertama kali. Jika latensi Anda berada di sana, ukur apakah Ultrafast mempersingkatnya sebelum membayarnya.

Ukur TTFT dan total waktu di Apidog sebelum Anda beralih

Ganti placeholder dengan angka Anda sendiri dalam waktu sekitar sepuluh menit.

1. Buat lingkungan di Apidog dengan OPENAI_API_KEY. Tambahkan permintaan POST ke https://api.openai.com/v1/responses dengan header Authorization: Bearer {{OPENAI_API_KEY}} dan body ini:

{
  "model": "gpt-6-astra",
  "input": "<prompt produksi nyata Anda>",
  "service_tier": "ultrafast",
  "stream": true
}

2. Duplikasi permintaan dan hapus service_tier untuk baseline Standard. Pertahankan prompt yang identik.
3. Kirim keduanya. Apidog merender aliran peristiwa yang dikirim server peristiwa demi peristiwa. Catat kapan response.output_text.delta pertama tiba (TTFT) dan kapan aliran berakhir (total waktu), dan simpan blok usage dari peristiwa response.completed terakhir untuk biaya.
4. Ulangi setiap varian setidaknya 10 kali dan bandingkan median dan p95, bukan satu kali proses.
5. Untuk loop agen, uji jalur WebSocket: buka permintaan WebSocket di Apidog ke wss://api.openai.com/v1/responses dengan header yang sama, kirim pesan response.create dengan bidang yang sama minus stream, lalu giliran kedua dengan previous_response_id. Perbandingan WebSocket vs SSE menjelaskan mengapa koneksi terbuka itu penting.

Detik yang dihemat adalah median total waktu pada Standard dikurangi median pada Ultrafast. Beri harga token usage pada kedua tarif, bagi, dan bandingkan hasilnya dengan biaya penantian Anda.

FAQ

Apa itu OpenAI Ultrafast? Tingkatan layanan API Respons yang menghasilkan token hingga 6x lebih cepat di API dengan harga 6x Standard. Anda mengaktifkannya per permintaan dengan service_tier: "ultrafast".

Apakah Ultrafast model yang lebih pintar? Tidak. Anda memanggil ID model gpt-6-astra yang sama; tingkatan mengubah kecepatan dan harga, bukan modelnya.

Berapa biaya GPT-6 Astra Ultrafast? $60 input, $6 input cache, $75 tulis cache, dan $300 output per 1M token pada konteks pendek, dibandingkan $10, $1, $12.50, dan $50 pada Standard.

Dari mana datangnya "300 token per detik"? Itu adalah angka OpenAI untuk Ultrafast di Codex, di mana ia mengklaim hingga 8x. Klaim API adalah hingga 6x.

Apakah GPT-6.1 Sol mendukung Ultrafast? Belum. OpenAI mengatakan itu akan segera hadir; rangkuman DevDay 2026 melacak apa yang sudah aktif.

Langkah selanjutnya

Pilih permintaan terlama yang berhadapan dengan pengguna Anda, jalankan pada Standard dan Ultrafast masing-masing sepuluh kali, dan bandingkan median detik yang dihemat dengan biaya ekstra. Unduh Apidog untuk menyimpan kedua varian, waktunya, dan angka usage dalam satu proyek.