Gemini Decisions API와 OpenAI Decisions API의 선택은 가격이 아니라 입력 형식과 제한에 달려 있습니다. 두 API 모두 입력 토큰 100만 개당 $0.10을 청구하고 출력 요금은 없습니다. 오디오, 비디오, PDF 입력이 필요하거나, 요청당 400개 이상의 질문이 필요하거나, 무료 티어를 원한다면 Gemini를 선택하세요. GA(정식 출시) 엔드포인트, 프롬프트 캐싱, JSON 및 도구 호출 증거, ZDR 및 HIPAA 약관이 필요하다면 OpenAI를 선택하세요.
Decisions API의 역할
Decisions API는 텍스트를 생성하는 대신 입력에 대해 닫힌 선택지형 질문에 답하는 엔드포인트입니다. 공유 증거와 유형이 지정된 질문 목록(예/아니오, 하나의 옵션 선택, 척도 평가)을 보내면 답변별로 확률과 신뢰도 점수를 받게 됩니다. 출력 토큰은 무료이므로 입력에 대해서만 비용을 지불합니다.
OpenAI가 최초로 출시했습니다. OpenAI의 Decisions API는 2026년 10월 22일 gpt-6-luna와 함께 정식 출시(GA)되었습니다. Google은 2026년 11월 11일, 새로운 모델 gemini-decision-1으로 구동되는 Gemini Decisions API로 맞섰습니다.
두 API 모두 라우팅, 도구 선택, 정책 검사, 루브릭 평가를 목표로 합니다. 두 API의 차이는 무엇을 입력할 수 있는지, 그리고 한 번의 요청이 어디까지 처리할 수 있는지에 있습니다.
Gemini Decisions API vs OpenAI Decisions API 한눈에 비교
모든 항목은 2026년 11월 12일 기준으로 각 벤더의 문서를 읽고 작성되었습니다. "문서화되지 않음"은 문서에 언급이 없다는 의미입니다.
| Gemini Decisions API | OpenAI Decisions API | |
|---|---|---|
| 모델 | gemini-decision-1 (유일한 옵션) |
gpt-6-luna (유일한 옵션) |
| 상태 | Gemini Developer API에서 v1beta |
2026년 10월 22일부터 GA |
| 호출 방식 | client.decisions.create(...), SDK 3.2+ |
POST /v1/decisions |
| 요청당 질문 수 | 1 ~ 1,000 | 1 ~ 400 |
| 질문 구조 | 자체 ID로 키가 지정된 맵 | 배열, 각 항목에 선택적 name |
| 예/아니오 타입 | noul (0.01 ~ 0.99) |
predicate (0 ~ 1) |
| 선택지 옵션 수 | 2 ~ 255 | 2 ~ 255 |
| 점수 단계 | 2 ~ 255 (2 ~ 10 권장) | 2 ~ 10 |
| 입력 유형 | 텍스트, 이미지, 오디오, 비디오, PDF | 텍스트, 이미지, input_json, 도구 호출 및 출력 |
| 질문 텍스트 내 미디어 | 불가, 텍스트만 | 가능, instructions에 이미지 포함 |
| 컨텍스트 윈도우 | 262,144 토큰 | 엔드포인트에 대해서는 문서화되지 않음; 272K 초과 시 롱 컨텍스트 가격 적용 |
| 입력 가격 | $0.10 / 1M | $0.10 / 1M (272K 초과 시 2배) |
| 출력 가격 | $0 | $0 |
| 캐싱 | 미지원 | 프롬프트 캐싱, 캐시된 입력 $0.01 / 1M |
| Batch / Flex | 미지원 | 문서화되지 않음 |
| 무료 티어 | 있음, Google AI Studio에서 | 이 엔드포인트에 대해서는 문서화되지 않음 |
| 공식 지연 시간 | 엔드 투 엔드 150~250 ms (Google 발표 수치) | "Responses API보다 약 10배 빠름" |
| 요청 한도 | 티어별 공개 | 조직별이며 엔드포인트별로는 공개되지 않음 |
| ZDR / HIPAA | 문서화되지 않음 | 해당 고객에게 지원 |
| 지역별 처리 | 문서화되지 않음 | 미국 및 EU, 10% 추가 요금 |
요청 구조: 같은 개념, 다른 JSON
두 API는 페이로드를 작성하기 전까지는 비슷해 보입니다. Gemini는 질문을 여러분의 ID로 키 지정하며 예/아니오 타입을 noul이라고 부릅니다:
result = client.decisions.create(
model="gemini-decision-1",
input="I was charged twice for my order.",
questions={
"department": {
"type": "choice",
"instructions": "Which department should handle this request?",
"criteria": {"billing": "Payments and refunds.", "other": ""},
},
},
)
OpenAI는 순서가 있는 배열을 사용하고, 예/아니오에는 predicate를, 선택지는 value와 description 객체로 나열합니다. 전체 요청 내용은 단계별 OpenAI 가이드에서 확인할 수 있습니다.
프로덕션 코드에서 중요한 세 가지 차이점:
- 답변 조회. Gemini는 질문 ID로 키가 지정된 맵을 반환합니다. OpenAI는
name으로 매칭해야 하는 배열을 반환합니다. - 거부(Refusal). OpenAI는 하나의 질문에 대해
refusal답변을 반환하면서도 나머지 질문에는 답변을 제공할 수 있습니다. Gemini는 입력 필터가 작동하면 HTTP 400과 함께safety또는prohibited_content코드로 전체 요청을 차단합니다. - 선택지 정렬. Gemini는 점수 산정 전에 옵션 키를 알파벳순으로 정렬하므로,
none_of_the_above같은 키가shipping보다 앞에 위치하게 됩니다. Gemini에서는other를 기타 용도로 사용하세요.
Gemini의 noul 확률은 0.01과 0.99 사이에 있으므로 > 0.99 임계값은 절대 발동하지 않습니다. 3가지 타입의 질문 모델은 OpenAI vs Jev 비교를 읽어보셨다면 익숙할 것입니다.
입력과 제한: Gemini가 앞서는 부분
Gemini의 입력은 Interactions API의 콘텐츠 블록을 재사용합니다: text, image, audio, video, document (PDF). 통화 녹음과 계정 메타데이터를 함께 넣고 1,000개의 질문을 던질 수 있습니다. 인라인 데이터는 요청당 최대 100MB(PDF는 50MB), Files API URI와 HTTPS URL은 각각 최대 15MB까지 지원됩니다. 이미지와 비디오 블록에는 resolution 설정을 사용해 세부 정보와 토큰 수의 균형을 조절할 수 있습니다.
OpenAI는 미디어 지원은 적지만 구조화된 데이터 지원은 더 많습니다. OpenAI Decisions 가이드에 따르면, input은 텍스트, 이미지, input_json 파트와 함께 함수 호출과 그 출력이 담긴 대화 기록도 받습니다. 파일과 오디오는 지원되지 않습니다. 각 질문의 instructions에 자체 이미지를 포함할 수 있어, 여러 후보를 하나의 기준 이미지와 비교할 때 유용합니다.
정리하면:
- 오디오, 비디오 또는 스캔된 PDF를 증거로 사용: Gemini.
- 도구 호출 기록 또는 원시 JSON: OpenAI가 네이티브 지원; Gemini는 텍스트로 직렬화해야 함.
- 질문별 이미지: OpenAI만 가능.
가격: 같은 표면 가격, 다른 청구서
두 API 모두 입력 토큰 100만 개당 $0.10에 출력 무료로 표기되어 있으며, 공유 입력은 요청당 한 번만 청구됩니다. 청구서가 달라지는 지점은 반복 입력입니다.
Gemini 문서는 Decisions API가 컨텍스트 캐싱, Batch, Flex, Priority를 지원하지 않으며, "요청 간 반복 입력은 전액 청구된다"고 명시합니다. OpenAI는 GA 시점에 프롬프트 캐싱을 추가했습니다. 최소 1,024 토큰 이상의 공유 input 접두사는 100만 토큰당 $0.01로 캐시를 적중할 수 있으며, 캐시 쓰기는 Luna의 표준 요율로 청구됩니다(30분 쓰기 기준 100만 토큰당 $0.125). 현재 캐시 요율은 OpenAI 가격 페이지에서 확인하세요.
실제 계산 예시(벤더 제공 견적이 아닌 우리의 계산): 매 요청마다 동일한 10,000 토큰 정책 문서를 50토큰짜리 질문 20개로 검사하고, 이를 한 달에 백만 번 수행하는 경우입니다.
- Gemini: 11,000 토큰 x 100만 요청 = 110억 토큰 x 100만 토큰당 $0.10 = $1,100.
- OpenAI, 모두 캐시 적중 시: 캐시된 100억 토큰 x 100만 토큰당 $0.01 = $100, plus 캐시되지 않은 질문 토큰 10억 x 100만 토큰당 $0.10 = $100, 따라서 캐시 쓰기 비용을 제외하면 약 $200.
새 티켓이나 사진처럼 매 요청마다 새로운 입력이 들어오는 경우 캐싱은 도움이 되지 않으며, 두 API 모두 토큰당 동일한 비용이 듭니다. OpenAI는 272K 입력 토큰을 초과하면 2배 승수를, 지역별 처리에는 10% 추가 요금을 적용합니다.
Gemini의 강점은 무료 티어입니다. Google 가격 페이지에는 Gemini Decision 입력이 "무료"로 표시되어 있지만, 무료 티어의 데이터는 Google 제품 개선에 사용됩니다. 유료 티어의 데이터는 그렇지 않습니다.
속도와 요청 한도
Google은 Gemini Decision 1이 한 번의 순전리(forward pass)로 옵션을 점수 산정한다고 설명합니다: 모델 연산 중앙값 50~100ms, 엔드 투 엔드 150~250ms, 질문 1개부터 100개까지 거의 일정하며, 최대 16K 토큰 입력까지 지원합니다. 직접 측정하기 전까지는 이것이 Google의 주장입니다.
OpenAI는 숫자가 아닌 비율을 공개합니다: "Responses API보다 약 10배 빠름." 그 의미는 Decisions vs Responses API 분석에서 다룹니다.
요청 한도도 같은 패턴을 따릅니다. Google의 요청 한도 페이지는 티어별 Gemini Decision 한도를 나열합니다:
| 티어 | RPM | TPM | RPD |
|---|---|---|---|
| Free | 200 | 50,000 | 10,000 |
| Tier 1 | 1,500 | 1,000,000 | 50,000 |
| Tier 2 | 5,000 | 4,000,000 | 제한 없음 |
| Tier 3 | 15,000 | 10,000,000 | 제한 없음 |
OpenAI는 Decisions 전용 한도를 공개하지 않으므로 조직의 한도 페이지를 확인하세요.
무엇을 선택해야 할까
다음 경우 Gemini Decisions API를 선택하세요:
- 증거가 오디오, 비디오 또는 PDF이며, 별도의 전사(Transcription)나 OCR 단계 없이 처리하고 싶을 때.
- 요청당 400개 이상의 질문이 필요할 때.
- Google AI Studio에서 $0으로 프로토타입을 만들고 싶을 때.
다음 경우 OpenAI Decisions API를 선택하세요:
- 지금 당장 GA 엔드포인트가 필요할 때. Gemini는
v1beta상태이며 Vertex AI 지원은 "곧 제공 예정"입니다. - 큰 공유 입력을 재사용하며 캐싱으로 비용을 절감하고 싶을 때.
- 증거가 도구 호출이 포함된 에이전트 기록이거나 원시 JSON일 때.
- ZDR, HIPAA 적격성, 또는 미국 및 EU 지역별 처리가 필요할 때.
- 이미 GPT-6 Luna 또는 GPT-Live를 사용 중일 때; OpenAI는 Decisions를 위한 네이티브 GPT-Live 트리거를 문서화하고 있습니다.
어느 것으로도 결정되지 않는다면, 둘 다 테스트해 보세요.
Apidog CLI로 코딩 에이전트에게 A/B 테스트 맡기기
벤더 벤치마크는 두 모델이 여러분의 티켓을 어떻게 처리하는지 보여주지 못합니다. 픽스처 기반 A/B 테스트는 이를 보여주며, 여러분의 코딩 에이전트가 Apidog CLI로 이를 만들고 실행할 수 있습니다.
한 번만 설정하세요:
npm install -g apidog-cli@latest
apidog login --with-token <YOUR_TOKEN>
npx -y skills add https://apidog.com # pick Claude Code, Codex, Cursor or OpenCode
그다음 에이전트에 프롬프트 하나를 주세요:
In Apidog project <id>, create two endpoints: Gemini Decisions
(take the REST path from Google's Decisions API docs, model
gemini-decision-1) and OpenAI Decisions (POST /v1/decisions,
model gpt-6-luna). Both ask the same "department" choice question
(billing, technical, shipping, other) about {{ticket}}.
Build a test scenario that calls both for each row of fixtures.csv,
asserts HTTP 200, saves each answer, confidence and response time,
and flags rows where the two answers disagree. Run it and summarize.
에이전트는 페이로드를 검증하고, 리소스를 작성하고, 픽스처 행마다 시나리오를 실행합니다:
apidog cli-schema get endpoint-create
apidog cli-schema validate endpoint-create --file gemini-decisions.json
apidog endpoint create --project <id> --file gemini-decisions.json
apidog endpoint create --project <id> --file openai-decisions.json
apidog cli-schema get test-scenario-create
apidog test-scenario create --project <id> --file decisions-ab.json
apidog run -t <scenarioId> --project <id> -e <envId> -d fixtures.csv -r cli,json
-d 플래그는 반복마다 CSV 행을 하나씩 공급하므로, 레이블이 붙은 200개의 티켓이 200쌍의 호출이 되고, JSON 보고서는 답변, 신뢰도, 응답 시간을 나란히 정리합니다. 이를 여러분의 레이블과 비교하면 자체 데이터에서 정확도와 지연 시간을 얻을 수 있습니다. 두 API 키는 프롬프트가 아니라 Apidog 환경에 보관하세요. 자세한 내용은 apidog run 명령 참조와 Claude Code에서의 Apidog CLI를 참고하세요.
Apidog의 Free 플랜은 최대 4명의 사용자까지 지원합니다.
FAQ
Gemini Decisions API가 OpenAI Decisions API보다 저렴한가요? 정가 기준으로는 아닙니다: 두 API 모두 입력 토큰 100만 개당 $0.10을 청구합니다. 큰 공유 입력을 재사용하면 OpenAI가 더 저렴해집니다(캐시된 입력 100만 토큰당 $0.01). Gemini는 무료 티어 덕분에 프로토타이핑 시 더 저렴합니다.
OpenAI Decisions API는 오디오나 PDF를 읽을 수 있나요? 아니요. 텍스트, 이미지, JSON만 받습니다. Gemini는 오디오, 비디오, PDF를 추가로 지원합니다.
Gemini Decisions API는 프로덕션 준비가 되었나요? v1beta로 제공되며, Google Cloud 지원은 "곧 제공 예정"입니다. OpenAI의 엔드포인트는 2026년 10월 22일부터 GA입니다.
요청당 몇 개의 질문을 할 수 있나요? Gemini는 262,144 토큰 컨텍스트 윈도우 범위 내에서 1~1,000개를 허용합니다. OpenAI는 1~400개를 허용합니다.
코드를 다시 작성하지 않고 두 API 사이를 전환할 수 있나요? 직접적으로는 불가능합니다: 질문 맵 vs 배열, noul vs predicate, 서로 다른 선택지 형식. 얇은 어댑터를 앞에 두고 동일한 픽스처로 둘 다 테스트하세요.