Gemini Decisions API và OpenAI Decisions API: Nên dùng endpoint quyết định nào?

Sự lựa chọn giữa Gemini Decisions API và OpenAI Decisions API quyết định ở đầu vào và giới hạn, chứ không phải giá. Cả hai đều tính 0,10 USD cho mỗi 1M token đầu vào và không tính phí đầu ra. Chọn Gemini khi bạn cần đầu vào âm thanh, video hoặc PDF, nhiều hơn 400 câu hỏi mỗi yêu cầu, hoặc gói miễn phí. Chọn OpenAI khi bạn cần một endpoint đã GA, prompt caching, bằng chứng dạng JSON và lệnh gọi công cụ, hay điều khoản ZDR và HIPAA.

Decisions API hoạt động thế nào

Decisions API là một endpoint trả lời các câu hỏi có tập kết quả đóng về đầu vào của bạn thay vì sinh văn bản. Bạn gửi bằng chứng chung cùng một danh sách câu hỏi có định kiểu (có/không, chọn một phương án, chấm điểm theo thang) và nhận lại xác suất cùng điểm tự tin cho từng câu trả lời. Token đầu ra bằng không, nên bạn chỉ trả tiền cho đầu vào.

OpenAI là bên ra mắt đầu tiên. Decisions API của họ chính thức GA ngày 22 tháng 10 năm 2026 với gpt-6-luna. Google trả lời vào ngày 11 tháng 11 năm 2026 với Gemini Decisions API, được vận hành bởi một mô hình mới, gemini-decision-1.

Cả hai nhắm đến định tuyến, lựa chọn công cụ, kiểm tra chính sách và chấm điểm theo rubric. Điểm khác nhau nằm ở những gì bạn có thể đưa vào và một yêu cầu có thể đi xa đến đâu.

Gemini Decisions API vs OpenAI Decisions API trong một cái nhìn

Mỗi dòng trong bảng đều lấy từ tài liệu của từng nhà cung cấp, đọc ngày 12 tháng 11 năm 2026. “Chưa có tài liệu” nghĩa là tài liệu không đề cập.

Cấu trúc yêu cầu: cùng ý tưởng, JSON khác nhau

Hai API trông giống nhau cho đến khi bạn viết payload. Gemini đánh khóa câu hỏi bằng ID tự đặt của bạn và gọi loại có/không là noul:

result = client.decisions.create(
    model="gemini-decision-1",
    input="I was charged twice for my order.",
    questions={
        "department": {
            "type": "choice",
            "instructions": "Which department should handle this request?",
            "criteria": {"billing": "Payments and refunds.", "other": ""},
        },
    },
)

OpenAI nhận một mảng có thứ tự, dùng predicate cho loại có/không, và liệt kê các lựa chọn dưới dạng đối tượng value và description. Hướng dẫn OpenAI từng bước của chúng tôi có yêu cầu đầy đủ.

Ba khác biệt quan trọng trong mã thực tế:

1. Tra cứu câu trả lời. Gemini trả về một map đánh khóa bằng ID câu hỏi của bạn. OpenAI trả về một mảng mà bạn đối chiếu qua name.
2. Từ chối trả lời. OpenAI có thể trả về câu trả lời refusal cho một câu hỏi trong khi các câu khác vẫn có kết quả. Gemini chặn toàn bộ yêu cầu với HTTP 400 và mã safety hoặc prohibited_content khi bộ lọc đầu vào bị kích hoạt.
3. Thứ tự lựa chọn. Gemini sắp xếp khóa phương án theo bảng chữ cái trước khi chấm điểm, nên khóa như none_of_the_above sẽ đứng trước shipping. Hãy dùng other làm phương án dự phòng trên Gemini.

Xác suất noul của Gemini nằm giữa 0,01 và 0,99, nên ngưỡng > 0,99 không bao giờ kích hoạt. Mô hình câu hỏi ba loại sẽ trông quen thuộc nếu bạn đã đọc so sánh OpenAI vs Jev của chúng tôi.

Đầu vào và giới hạn: nơi Gemini vượt trội

Đầu vào của Gemini tái sử dụng các content block của Interactions API: text, image, audio, video và document (PDF). Bạn có thể trộn một bản ghi cuộc gọi với siêu dữ liệu tài khoản rồi đặt 1.000 câu hỏi về nó. Dữ liệu inline hỗ trợ tối đa 100 MB mỗi yêu cầu (50 MB với PDF); URI Files API và URL HTTPS hoạt động tối đa 15 MB mỗi cái. Các block ảnh và video nhận thiết lập resolution để đánh đổi chi tiết lấy token.

OpenAI hỗ trợ ít định dạng media hơn nhưng có cấu trúc tốt hơn. Theo hướng dẫn OpenAI Decisions, input chấp nhận văn bản, ảnh và các phần input_json, cùng lịch sử hội thoại có lệnh gọi hàm và kết quả của chúng. Không hỗ trợ tệp và âm thanh. Mỗi câu hỏi có thể mang ảnh riêng trong instructions, rất tiện khi so sánh nhiều ứng viên với một tài liệu tham chiếu.

Kết luận:

• Âm thanh, video hoặc PDF quét làm bằng chứng: chọn Gemini.
• Lịch sử lệnh gọi công cụ hoặc JSON thô: OpenAI hỗ trợ nguyên bản; Gemini yêu cầu chuyển thành văn bản.
• Ảnh cho từng câu hỏi: chỉ OpenAI.

Giá cả: cùng niêm yết, hóa đơn khác nhau

Cả hai đều niêm yết 0,10 USD mỗi 1M token đầu vào và không tính phí đầu ra, cùng tính tiền đầu vào dùng chung một lần mỗi yêu cầu. Hóa đơn bắt đầu khác nhau khi đầu vào được lặp lại.

Tài liệu Gemini nói rõ rằng Decisions API không hỗ trợ context caching, Batch, Flex hay Priority, và rằng “đầu vào lặp lại giữa các yêu cầu được tính trọn vẹn.” OpenAI đã thêm prompt caching từ GA. Một tiền tố input dùng chung tối thiểu 1.024 token có thể trúng cache với giá 0,01 USD mỗi 1M, còn ghi cache được tính theo giá chuẩn của Luna (0,125 USD mỗi 1M cho bản ghi 30 phút). Kiểm tra trang giá của OpenAI để biết mức giá cache hiện tại.

Một ví dụ minh họa (phép tính của chúng tôi, không phải báo giá từ nhà cung cấp): mỗi yêu cầu kiểm tra cùng một tài liệu chính sách 10.000 token với 20 câu hỏi, mỗi câu 50 token, một triệu lần mỗi tháng.

• Gemini: 11.000 token x 1 triệu yêu cầu = 11 tỷ token x 0,10 USD mỗi 1M = 1.100 USD.
• OpenAI, trúng cache hoàn toàn: 10 tỷ token cached x 0,01 USD mỗi 1M = 100 USD, cộng 1 tỷ token câu hỏi không cached x 0,10 USD mỗi 1M = 100 USD, tức khoảng 200 USD cộng chi phí ghi cache.

Với đầu vào mới mỗi yêu cầu, như một ticket hay tấm ảnh mới, cache không giúp được gì và cả hai có giá như nhau trên mỗi token. OpenAI còn áp hệ số gấp 2 lần trên 272K token đầu vào và phụ thu xử lý theo khu vực 10%.

Ưu điểm của Gemini là gói miễn phí. Trang giá của Google liệt kê đầu vào Gemini Decision là “Miễn phí” ở đó, nhưng dữ liệu của gói miễn phí được dùng để cải thiện sản phẩm của Google. Dữ liệu của gói trả phí thì không.

Tốc độ và giới hạn tốc độ

Google cho biết Gemini Decision 1 chấm điểm các phương án trong một lượt forward duy nhất: 50 đến 100 ms tính toán mô hình trung vị, 150 đến 250 ms từ đầu đến cuối, gần như không đổi từ 1 đến 100 câu hỏi, với đầu vào tối đa 16K token. Đó là tuyên bố của Google cho đến khi bạn tự đo.

OpenAI công bố một tỉ lệ, không phải con số: “nhanh hơn khoảng 10 lần so với Responses API.” Phân tích Decisions vs Responses API của chúng tôi giải thích ý nghĩa con số này.

Giới hạn tốc độ cũng theo cùng mô hình. Trang giới hạn tốc độ của Google liệt kê giới hạn Gemini Decision theo từng cấp:

OpenAI không công bố giới hạn riêng cho Decisions; hãy kiểm tra trang giới hạn của tổ chức bạn.

Khi nào nên chọn bên nào

Chọn Gemini Decisions API khi:

• Bằng chứng của bạn là âm thanh, video hoặc PDF, không cần bước chuyển giọng hay OCR.
• Bạn cần nhiều hơn 400 câu hỏi mỗi yêu cầu.
• Bạn muốn thử nghiệm原型 miễn phí 0 USD trong Google AI Studio.

Chọn OpenAI Decisions API khi:

• Bạn cần một endpoint đã GA ngay hôm nay. Gemini vẫn là v1beta, và hỗ trợ Vertex AI “sắp ra mắt.”
• Bạn tái sử dụng một đầu vào dùng chung lớn và muốn cache giúp giảm hóa đơn.
• Bằng chứng của bạn là lịch sử agent với lệnh gọi công cụ, hoặc JSON thô.
• Bạn cần ZDR, đủ điều kiện HIPAA, hay xử lý theo khu vực Mỹ và EU.
• Bạn đã chạy GPT-6 Luna hoặc GPT-Live; OpenAI tài liệu hóa một trigger GPT-Live nguyên bản cho Decisions.

Nếu không điều nào ở trên quyết định được, hãy thử cả hai.

Để coding agent của bạn chạy thử nghiệm A/B với Apidog CLI

Benchmark của nhà cung cấp không cho thấy hai mô hình xử lý ticket của bạn ra sao. Thử nghiệm A/B dựa trên bộ fixture thì có, và coding agent của bạn có thể xây dựng và chạy nó với Apidog CLI.

Cài đặt một lần:

npm install -g apidog-cli@latest
apidog login --with-token <YOUR_TOKEN>
npx -y skills add https://apidog.com   # pick Claude Code, Codex, Cursor or OpenCode

Sau đó đưa cho agent một prompt duy nhất:

In Apidog project <id>, create two endpoints: Gemini Decisions
(take the REST path from Google's Decisions API docs, model
gemini-decision-1) and OpenAI Decisions (POST /v1/decisions,
model gpt-6-luna). Both ask the same "department" choice question
(billing, technical, shipping, other) about {{ticket}}.
Build a test scenario that calls both for each row of fixtures.csv,
asserts HTTP 200, saves each answer, confidence and response time,
and flags rows where the two answers disagree. Run it and summarize.

Agent sẽ xác thực payload, tạo tài nguyên và chạy kịch bản cho từng dòng fixture:

apidog cli-schema get endpoint-create
apidog cli-schema validate endpoint-create --file gemini-decisions.json
apidog endpoint create --project <id> --file gemini-decisions.json
apidog endpoint create --project <id> --file openai-decisions.json
apidog cli-schema get test-scenario-create
apidog test-scenario create --project <id> --file decisions-ab.json
apidog run -t <scenarioId> --project <id> -e <envId> -d fixtures.csv -r cli,json

Cờ -d đưa một dòng CSV cho mỗi lần lặp, nên 200 ticket có nhãn trở thành 200 cặp lệnh gọi, và báo cáo JSON sắp xếp câu trả lời, độ tự tin và thời gian phản hồi cạnh nhau. So sánh chúng với nhãn của bạn và bạn có độ chính xác cùng độ trễ trên dữ liệu của riêng mình. Hãy giữ cả hai khóa API trong môi trường Apidog, không phải trong prompt. Xem tài liệu tham khảo lệnh apidog run và Apidog CLI trong Claude Code.

Gói Free của Apidog hỗ trợ tối đa 4 người dùng.

Câu hỏi thường gặp

Gemini Decisions API có rẻ hơn OpenAI Decisions API không? Không xét giá niêm yết: cả hai đều tính 0,10 USD mỗi 1M token đầu vào. OpenAI rẻ hơn khi có đầu vào dùng chung lớn được tái sử dụng (0,01 USD mỗi 1M đã cache). Gemini rẻ hơn cho việc thử nghiệm nhờ gói miễn phí.

OpenAI Decisions API có đọc được âm thanh hay PDF không? Không. Nó chỉ chấp nhận văn bản, ảnh và JSON. Gemini bổ sung âm thanh, video và PDF.

Gemini Decisions API đã sẵn sàng cho môi trường sản xuất chưa? Nó vẫn ở dạng v1beta; hỗ trợ Google Cloud “sắp ra mắt.” Endpoint của OpenAI đã GA từ ngày 22 tháng 10 năm 2026.

Có thể đặt bao nhiêu câu hỏi mỗi yêu cầu? Gemini cho phép 1 đến 1.000, giới hạn bởi cửa sổ ngữ cảnh 262.144 token. OpenAI cho phép 1 đến 400.

Có thể chuyển đổi giữa hai API mà không phải viết lại code không? Không trực tiếp được: map câu hỏi vs mảng, noul vs predicate, định dạng lựa chọn khác nhau. Hãy đặt một lớp adapter mỏng phía trước và thử cả hai trên cùng bộ fixture.