OpenAI Ultrafast là một tầng dịch vụ, không phải là một mô hình mới. Thêm service_tier: "ultrafast" vào yêu cầu API Responses cho gpt-6-astra và OpenAI sẽ tạo ra các token nhanh hơn tới 6 lần trong API (lên đến 8 lần, hoặc 300 token mỗi giây, trong Codex). Chi phí của nó gấp 6 lần gói Standard: $60 cho đầu vào và $300 cho đầu ra trên mỗi triệu token, so với $10 và $50. ID mô hình không thay đổi, vì vậy câu trả lời sẽ nhanh hơn chứ không thông minh hơn. Nó tự bù đắp chi phí khi một người hoặc một bước bị giới hạn bởi độ trễ phải chờ đợi các đầu ra dài, và hầu như không bao giờ cho các công việc theo lô hoặc công việc nền.
OpenAI đã cung cấp rộng rãi Ultrafast trên GPT-6 Astra tại DevDay vào ngày 29 tháng 9 năm 2026 (xem mọi thông tin khác từ DevDay). Bài đăng này bao gồm tính khả dụng, yêu cầu, giá cả, giới hạn tốc độ và một mô hình hòa vốn mà bạn có thể chạy lại với số liệu của riêng mình. Để biết về chính mô hình, hãy đọc hướng dẫn API GPT-6 Astra. Bạn sẽ đo lường cả hai tầng dịch vụ này trong Apidog trước khi chuyển đổi.
Tải ứng dụng
OpenAI Ultrafast Sơ lược
| Mục | Chi tiết |
|---|---|
| Nó là gì | Tầng dịch vụ nhanh nhất trong OpenAI API |
| Tham số | service_tier: "ultrafast" trên Responses create hoặc WebSocket response.create |
| Các mô hình | GPT-6 Astra hiện tại; GPT-6.1 Sol “sắp ra mắt” |
| Tuyên bố về tốc độ | Tạo token nhanh hơn tới 6 lần trong API; lên đến 8 lần (300 token/giây) trong Codex |
| Giá (Astra) | $60 đầu vào, $6 bộ nhớ đệm, $75 ghi bộ nhớ đệm, $300 đầu ra trên mỗi 1M token |
| Giới hạn tốc độ | 500K TPM (Tầng 1-3), 1M (Tầng 4), 5M (Tầng 5) |
| Xử lý | Chỉ lưu trú dữ liệu tại Hoa Kỳ và toàn cầu; không có điểm cuối khu vực EU hoặc các khu vực khác |
| Giao thức truyền tải | Rất khuyến nghị sử dụng WebSockets |
| Các gói ChatGPT | ChatGPT Work và Codex trên Pro 500 và Enterprise |
Nguồn: Hướng dẫn chế độ Ultrafast và trang giá của OpenAI.
Ultrafast là gì và ai có thể sử dụng nó
Bản tóm tắt DevDay của OpenAI gọi Ultrafast là tầng tốc độ cao cấp của họ. Theo hướng dẫn, GPT-6 Astra Ultrafast mở cửa cho tất cả người dùng API với giới hạn tốc độ mặc định thấp, và các tổ chức có đội ngũ tài khoản OpenAI có thể yêu cầu thêm. Hướng dẫn cũng liệt kê quyền truy cập xem trước cho GPT-5.6 Sol thông qua các đội ngũ tài khoản (OpenAI lần đầu tiên giới thiệu Ultrafast trên GPT-5.6 Sol vào ngày 13 tháng 8), trong khi bản tóm tắt nêu tên GPT-6.1 Sol là mô hình tiếp theo. Cả hai đều chưa có giá Ultrafast được công bố.
Trong ChatGPT, Ultrafast Astra chạy trong ChatGPT Work và Codex trên Pro 500 và Enterprise. Gói đăng ký đó bao gồm các ứng dụng, không phải API: các script, công việc CI và tác nhân bạn xây dựng vẫn trả tiền theo từng token với khóa API.
Hãy đọc kỹ tuyên bố về tốc độ. Nó nói về việc tạo token, và nó ghi “lên đến”. Con số 300 token mỗi giây là dành cho Codex; tuyên bố về API là lên đến 6 lần. OpenAI không công bố con số thời gian đến token đầu tiên (TTFT) cho Ultrafast, và số token mỗi giây không cho bạn biết bạn phải chờ bao lâu để có token đầu tiên.
Cách bật service_tier ultrafast
Đặt model là gpt-6-astra và service_tier là ultrafast trên mỗi yêu cầu. Qua HTTP, từ tài liệu của OpenAI:
curl https://api.openai.com/v1/responses \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-6-astra",
"input": "Explain why the sky is blue in one sentence.",
"service_tier": "ultrafast"
}'
OpenAI đặc biệt khuyến nghị sử dụng WebSockets, đặc biệt đối với các tác nhân thực hiện nhiều lệnh gọi công cụ liên tiếp nhanh chóng, vì chi phí mạng cho mỗi yêu cầu có thể làm mất đi lợi ích. Đây là ví dụ Python từ tài liệu, truyền hai lượt qua một kết nối:
from openai import OpenAI
client = OpenAI()
previous_response_id: str | None = None
prompts = [
"Explain why the sky is blue in one sentence.",
"Now explain why sunsets look red.",
]
with client.responses.connect() as connection:
for prompt in prompts:
connection.response.create(
model="gpt-6-astra",
service_tier="ultrafast",
previous_response_id=previous_response_id,
input=prompt,
)
for event in connection:
if event.type == "response.output_text.delta":
print(event.delta, end="", flush=True)
elif event.type == "response.completed":
previous_response_id = event.response.id
print()
break
elif event.type in {"response.failed", "response.incomplete", "error"}:
raise RuntimeError(event.to_json())
else:
raise RuntimeError("Connection closed before the response finished.")
Cài đặt bằng pip install --upgrade "openai[realtime]" và đặt OPENAI_API_KEY. Hướng dẫn chế độ WebSocket của OpenAI của chúng tôi bao gồm giới hạn kết nối và kết nối lại.
Giá Ultrafast so với Standard, Fast và Batch
Giá trên mỗi 1M token cho gpt-6-astra với ngữ cảnh ngắn (272K token đầu vào trở xuống):
| Tầng dịch vụ | Đầu vào | Đầu vào đã lưu vào bộ đệm | Ghi bộ đệm | Đầu ra | so với Standard |
|---|---|---|---|---|---|
| Standard | $10.00 | $1.00 | $12.50 | $50.00 | 1x |
| Batch hoặc Flex | $5.00 | $0.50 | $6.25 | $25.00 | 0.5x |
| Fast | $20.00 | $2.00 | $25.00 | $100.00 | 2x |
| Ultrafast | $60.00 | $6.00 | $75.00 | $300.00 | 6x |
Trên 272K token đầu vào, giá Ultrafast tăng lên $120 đầu vào, $12 đã lưu vào bộ đệm, $150 ghi bộ đệm và $450 đầu ra. Fast là dịch vụ xử lý Ưu tiên trước đây, được đổi tên vào ngày 30 tháng 7 năm 2026. Lưu ý rằng mọi cột đầu vào cũng được nhân lên, vì vậy các lời nhắc dài sẽ phải trả gấp 6 lần cho các token mà tuyên bố tốc độ không nhắm đến.
Giới hạn tốc độ và nơi lưu trú dữ liệu
Giới hạn Ultrafast mặc định của GPT-6 Astra là 500.000 token mỗi phút trên các tầng sử dụng 1-3, 1.000.000 trên tầng 4 và 5.000.000 trên tầng 5. Ultrafast chỉ hỗ trợ lưu trú dữ liệu tại Hoa Kỳ và xử lý toàn cầu. Nếu hợp đồng của bạn định tuyến lưu lượng truy cập qua điểm cuối EU hoặc khu vực khác, Ultrafast sẽ không khả dụng cho dự án đó.
Khi Ultrafast tự bù đắp chi phí: một mô hình hòa vốn
Đây là phép tính minh họa dựa trên giá niêm yết, không phải là một tiêu chuẩn. Dữ liệu tốc độ đầu vào chỉ là một giá trị giữ chỗ: giả sử phép đo của riêng bạn cho thấy Standard Astra truyền 40 token đầu ra mỗi giây trên lời nhắc của bạn. Hãy thay thế bằng số liệu của riêng bạn.
Một câu trả lời hướng đến người dùng: 5.000 token đầu vào chưa được lưu vào bộ đệm, 2.000 token đầu ra.
- Standard: $0.05 đầu vào + $0.10 đầu ra = $0.15.
- Ultrafast: $0.30 + $0.60 = $0.90, tức là đắt hơn $0.75.
- Thời gian tạo: 2.000 / 40 = 50 giây với Standard, khoảng 8.3 giây với tốc độ gấp 6 lần hoàn toàn. Bạn tiết kiệm khoảng 41.7 giây.
- Chi phí cho mỗi giây tiết kiệm được: $0.75 / 41.7 = $0.018, hoặc $64.80 cho mỗi giờ chờ đợi được loại bỏ.
Nếu tốc độ tăng mà bạn đo được thấp hơn mức tối đa, mỗi giây tiết kiệm được sẽ tốn kém hơn:
| Tốc độ tăng đã đo | Số giây tiết kiệm được (trong 50) | Chi phí thêm cho mỗi giây | Mỗi giờ tiết kiệm được |
|---|---|---|---|
| 6x | 41.7 | $0.018 | $64.80 |
| 4x | 37.5 | $0.020 | $72.00 |
| 2x | 25.0 | $0.030 | $108.00 |
Một vòng lặp tác nhân: 20 bước, mỗi bước có 20.000 token đầu vào (18.000 đã lưu vào bộ đệm, 2.000 mới) và 500 token đầu ra, bỏ qua phí ghi bộ đệm.
- Standard: $0.018 đã lưu vào bộ đệm + $0.020 đầu vào mới + $0.025 đầu ra = $0.063 mỗi bước, $1.26 mỗi lần chạy.
- Ultrafast: $7.56 mỗi lần chạy, tức là đắt hơn $6.30.
- Thời gian tạo: 250 giây với Standard, khoảng 41.7 giây với tốc độ gấp 6 lần. Bạn tiết kiệm khoảng 208 giây.
- Chi phí cho mỗi giây tiết kiệm được: khoảng $0.030, hoặc $109 mỗi giờ.
Tác nhân mua giây với tỷ lệ tệ hơn vì phần lớn chi phí của nó là đầu vào, vốn phải trả giá gấp 6 lần mà không có sự tăng tốc tạo ra. Chỉ riêng đầu ra với tốc độ gấp 6 lần hoàn toàn, mỗi giây tiết kiệm được tốn khoảng $0.0003 nhân với số token đầu ra Standard mỗi giây của bạn; đầu vào chỉ làm tăng nó lên.
Vì vậy, câu hỏi cụ thể là: có phải một người, hoặc một thứ có giá trị tiền tệ, bị chặn trong những giây đó, và việc chờ đợi đó có đáng giá hơn $65 đến $110 một giờ không? Một kỹ sư bị chặn bởi tác nhân mã hóa nội bộ của bạn, hoặc một khách hàng nhìn chằm chằm vào biểu tượng chờ đợi trong một quy trình trả phí, có thể vượt qua rào cản đó. Một cron job thì không thể.
Khi Ultrafast không mang lại lợi ích
- Không ai đang chờ đợi. Các đánh giá hàng đêm, điền lại dữ liệu và báo cáo thuộc về Batch API hoặc Flex với $5 đầu vào và $25 đầu ra, bằng một phần mười hai của tốc độ Ultrafast.
- Các tác nhân chạy nền. Nếu một tác nhân chạy tự động và báo cáo khi hoàn thành, việc kết thúc sớm hơn ba phút hiếm khi thay đổi kết quả.
- Đầu ra ngắn. Một phân loại 50 token có ít thời gian tạo để cắt giảm; thiết lập kết nối và thời gian chờ token đầu tiên chiếm ưu thế, đặc biệt qua HTTP.
- Lời nhắc dài. Các cuộc gọi nặng về đầu vào phải trả gấp 6 lần cho các token mà tuyên bố tốc độ không bao gồm, và trên 272K đầu vào, mức giá tăng lên $120 và $450.
- Xử lý khu vực. Không có điểm cuối EU.
- Các cuộc gọi bị giới hạn bởi TTFT. Phân tích độ trễ của GPT-6 Sol của chúng tôi cho thấy rằng trong các lần chạy suy luận dài, phần lớn thời gian thực tế trôi qua trước khi token đầu tiên hiển thị. Nếu độ trễ của bạn nằm ở đó, hãy đo lường xem Ultrafast có rút ngắn nó hay không trước khi trả tiền cho nó.
Đo lường TTFT và tổng thời gian trong Apidog trước khi bạn chuyển đổi
Thay thế giá trị giữ chỗ bằng số liệu của riêng bạn trong khoảng mười phút.
- Tạo một môi trường trong Apidog với
OPENAI_API_KEY. Thêm một yêu cầu POST đếnhttps://api.openai.com/v1/responsesvới tiêu đềAuthorization: Bearer {{OPENAI_API_KEY}}và nội dung sau:
{
"model": "gpt-6-astra",
"input": "<your real production prompt>",
"service_tier": "ultrafast",
"stream": true
}
- Sao chép yêu cầu và xóa
service_tierđể làm cơ sở cho Standard. Giữ lời nhắc giống hệt. - Gửi cả hai. Apidog sẽ hiển thị luồng sự kiện được gửi từ máy chủ từng sự kiện một. Ghi lại thời điểm
response.output_text.deltađầu tiên đến (TTFT) và thời điểm luồng kết thúc (tổng thời gian), đồng thời giữ khốiusagetừ sự kiệnresponse.completedcuối cùng để tính chi phí. - Lặp lại mỗi biến thể ít nhất 10 lần và so sánh giá trị trung vị (median) và p95, không phải chỉ một lần chạy.
- Đối với các vòng lặp tác nhân, hãy kiểm tra đường dẫn WebSocket: mở một yêu cầu WebSocket trong Apidog đến
wss://api.openai.com/v1/responsesvới cùng tiêu đề, gửi một tin nhắnresponse.createvới cùng các trường trừstream, sau đó là lượt thứ hai vớiprevious_response_id. So sánh WebSocket và SSE giải thích tại sao kết nối mở lại quan trọng.
Số giây tiết kiệm được là tổng thời gian trung vị ở Standard trừ đi trung vị ở Ultrafast. Tính giá các token usage ở cả hai mức, chia và so sánh kết quả với chi phí mà bạn phải trả khi chờ đợi.
Câu hỏi thường gặp
OpenAI Ultrafast là gì? Là một tầng dịch vụ API Responses giúp tạo token nhanh hơn tới 6 lần trong API với giá gấp 6 lần gói Standard. Bạn bật nó cho mỗi yêu cầu bằng cách thêm service_tier: "ultrafast".
Ultrafast có phải là một mô hình thông minh hơn không? Không. Bạn gọi cùng một ID mô hình gpt-6-astra; tầng dịch vụ thay đổi tốc độ và giá cả, chứ không phải mô hình.
GPT-6 Astra Ultrafast có giá bao nhiêu? $60 đầu vào, $6 đầu vào đã lưu vào bộ đệm, $75 ghi bộ đệm và $300 đầu ra trên mỗi 1M token ở ngữ cảnh ngắn, so với $10, $1, $12.50 và $50 trên Standard.
Con số “300 token mỗi giây” đến từ đâu? Đó là con số của OpenAI cho Ultrafast trong Codex, nơi họ tuyên bố tốc độ lên tới 8 lần. Tuyên bố cho API là lên tới 6 lần.
GPT-6.1 Sol có hỗ trợ Ultrafast không? Chưa. OpenAI cho biết nó sẽ sớm ra mắt; tổng hợp DevDay 2026 theo dõi những gì đang hoạt động.
Bước tiếp theo
Chọn yêu cầu hướng đến người dùng chậm nhất của bạn, chạy nó ở Standard và Ultrafast mỗi loại mười lần, và so sánh số giây trung vị tiết kiệm được với chi phí phát sinh. Tải Apidog để giữ cả hai biến thể, thời gian của chúng và số lượng usage trong một dự án.
