Caché de prompts de GPT-6: 90% de descuento en lecturas en caché y cómo conseguir realmente aciertos en la caché

Caché de prompts de GPT-6: un 90 % de descuento en lecturas de entrada en caché, tasas de acierto más altas de forma predeterminada, cambios de esfuerzo de razonamiento y de herramientas seguros para la caché, puntos de interrupción explícitos y cómo probar tu tasa de acierto en CI.

Ashley Goolam

Ashley Goolam

2 November 2026

Caché de prompts de GPT-6: 90% de descuento en lecturas en caché y cómo conseguir realmente aciertos en la caché

Apidog para empresas

Despliegue local

SSO & RBAC

Conforme con SOC 2

Explorar Apidog Enterprise

Cada bucle de agente que ejecutas reenvía la misma apertura. El prompt del sistema, las definiciones de herramientas, la especificación OpenAPI, las convenciones del repositorio. El modelo ya ha visto ese prefijo cien veces hoy, y pagaste el precio completo de entrada por él cada una de esas veces.

A escala, esa factura se vuelve escandalosa. OpenAI dice que su propio investigador mediano gasta más de $600 al día en agentes de programación, y el percentil 90 gasta $7,000 al día. Esas son personas ejecutando las herramientas internas de un laboratorio, no una API de producción que atiende a clientes.

Junto con GPT-6 Sol y GPT-6 Luna el 22 de septiembre de 2026, OpenAI lanzó una versión de caché de prompts que apunta exactamente a esto. Las lecturas de entrada en caché tienen un descuento del 90%, las tasas de aciertos son más altas por defecto, dos de los cambios que más rompían la caché ya no la rompen, puedes colocar puntos de corte explícitos, y ahora hay un Panel de caché de prompts más una herramienta de diagnóstico para ver qué está pasando realmente. GitHub, que usa esto en producción, informa más del 50% menos de tokens de prompt que necesitan procesamiento nuevo en miles de millones de solicitudes.

button

Esta guía cubre qué cambió, cuánto vale el descuento en dinero real, cómo estructurar un prompt para que la caché realmente acierte, y cómo probar que sigue acertando después de que alguien refactorice tu prompt del sistema.

Qué se lanzó

Cambio Qué significa para tu código
Descuento del 90% en lecturas de entrada en caché El prefijo repetido se factura a una décima parte de la tarifa de entrada
Tasas de aciertos más altas por defecto Las integraciones existentes obtienen parte de esto sin cambiar código
Cambiar el esfuerzo de razonamiento ya no rompe la caché Puedes escalar de bajo a máximo a mitad de sesión y mantener el prefijo caliente
Cambiar la disponibilidad de herramientas ya no rompe la caché Agrega o quita una herramienta sin pagar por un prefijo en frío
Puntos de corte explícitos Tú decides dónde termina el prefijo en caché en lugar de adivinar
Panel de caché de prompts y una herramienta de diagnóstico La tasa de aciertos se convierte en algo que mides, no en algo que asumes

Los tres primeros importan más para los agentes. El último importa más para el ingeniero que tiene que explicar la factura del mes pasado.

La aritmética

La caché de prompts solo toca los tokens de entrada. El precio de salida no se mueve, así que un agente que escribe respuestas largas a partir de un prompt corto apenas lo notará. Un agente que lee un contexto grande y estable y emite un veredicto corto lo notará mucho.

Esto es lo que el descuento hace a las tarifas publicadas para los dos modelos nuevos:

Modelo Entrada por 1M Lectura en caché por 1M Salida por 1M Contexto
GPT-6 Sol (gpt-6-sol) $2.00 $0.20 $10.00 872k
GPT-6 Luna (gpt-6-luna) $0.10 $0.01 $0.50 1M

La columna de lectura en caché es el descuento del 90% aplicado a la tarifa de entrada publicada. Confírmalo en la página de precios en vivo antes de construir un presupuesto sobre él.

Ahora una carga de trabajo concreta. Supongamos que ejecutas un agente de revisión de código: 40,000 tokens de prefijo estable (prompt del sistema, esquemas de herramientas, el documento OpenAPI del servicio, tus convenciones de API) más unos 2,000 tokens de diff por ejecución, 500 ejecuciones al día.

Sol, sin aciertos de caché Sol, prefijo en caché Luna, sin aciertos de caché Luna, prefijo en caché
Tokens de prefijo por día 20M a $2.00 = $40.00 20M a $0.20 = $4.00 20M a $0.10 = $2.00 20M a $0.01 = $0.20
Tokens nuevos por día 1M a $2.00 = $2.00 1M a $2.00 = $2.00 1M a $0.10 = $0.10 1M a $0.10 = $0.10
Costo diario de entrada $42.00 $6.00 $2.10 $0.30

Eso es aproximadamente un 86% de descuento en la factura de entrada en Sol para una carga de trabajo que no cambió de forma en absoluto. Lo único que cambió es si el prefijo se mantuvo idéntico byte a byte entre llamadas.

Vale la pena ponerlo al lado: Claude Opus 5.5 lista las lecturas en caché a $0.20 por millón frente a $4.00 de entrada, con escrituras de caché a $5.00 por millón. El precio de lectura queda en el mismo lugar que el de Sol, y Anthropic cobra un sobreprecio explícito por escribir la caché. El lanzamiento de OpenAI no indica una tarifa de escritura de caché para Sol o Luna, que es una de las preguntas abiertas al final de este artículo. Si estás comparando facturas completas en lugar de números individuales, nuestro desglose de la guerra de precios de modelos de septiembre de 2026 pone los tres lanzamientos en una tabla.

Por qué los fallos de caché solían ser tu propia culpa

La caché de prompts coincide en un prefijo. La caché está indexada por la secuencia inicial de tokens de tu solicitud, así que el primer byte que difiere de la llamada anterior invalida todo lo que viene después. Un carácter en el lugar equivocado te cuesta el descuento completo de 40,000 tokens. Los infractores clásicos, en orden aproximado de con qué frecuencia aparecen en código real:

Otros dos solían estar en esa lista y ahora ya no. Cambiar el esfuerzo de razonamiento ya no rompe la caché, así que un agente que ejecuta low en los turnos fáciles y escala a max en el difícil mantiene su prefijo caliente durante la escalada. Cambiar la disponibilidad de herramientas tampoco la rompe, así que poner una herramienta peligrosa detrás de una verificación de permisos ya no fuerza una lectura en frío de todo lo anterior. Esos dos patrones son extremadamente comunes en frameworks de agentes, y hasta ahora anulaban silenciosamente la caché exactamente en los turnos que más costaban.

Estructura el prompt con lo estable primero, lo volátil al final

La disciplina sobrevive a cualquier cambio futuro de precios: ordena tu contexto por con qué frecuencia cambia, lo más estable arriba.

  1. Instrucciones del sistema o del desarrollador que son idénticas para cada usuario.
  2. Esquemas de herramientas y funciones, serializados en un orden fijo.
  3. Material de referencia compartido y extenso: el documento OpenAPI, la guía de estilo, el esquema de la base de datos.
  4. Contexto por inquilino o por proyecto que cambia rara vez.
  5. Fragmentos recuperados, que cambian por consulta.
  6. El turno del usuario y cualquier cosa que tenga un reloj.

Las capas uno a tres son tu caché. Si una marca de tiempo tiene que estar en el prompt, ponla en el turno del usuario, no en el mensaje del sistema. Si tu lista de herramientas se arma dinámicamente, ordénala y congela el orden de las claves JSON para que dos procesos la serialicen de forma idéntica.

from openai import OpenAI

client = OpenAI()

STATIC_PREFIX = [
    {"role": "developer", "content": SYSTEM_INSTRUCTIONS},   # never changes
    {"role": "developer", "content": OPENAPI_DOCUMENT},      # changes on deploy
]

response = client.responses.create(
    model="gpt-6-sol",
    reasoning={"effort": "low"},
    tools=SORTED_TOOL_SCHEMAS,
    prompt_cache_key="review-agent:v7",
    input=STATIC_PREFIX + [
        {"role": "user", "content": f"Review this diff:\n{diff}"},  # volatile, last
    ],
)

print(response.usage)

Los puntos de corte explícitos de esta versión te permiten marcar dónde termina ese prefijo en caché en lugar de confiar en que la plataforma lo infiera. Eso es más útil cuando la capa cuatro es grande: un bloque por inquilino que es estable para un cliente y diferente para el siguiente, donde quieres que el límite se dibuje deliberadamente en lugar de en el token que haya elegido la heurística.

Versiona la propia clave de caché, como en review-agent:v7 arriba. Cuando cambies el prefijo a propósito, sube la versión, y verás el período en frío en tus métricas en lugar de preguntarte por qué se dispararon los costos.

Verifícalo, no lo asumas

El objeto de uso en cada respuesta te dice cuántos tokens de entrada se sirvieron desde caché. Léelo, regístralo y alerta sobre él. Una forma aproximada:

usage = response.usage
cached = usage.input_tokens_details.cached_tokens
total_in = usage.input_tokens

print(f"cache hit rate: {cached / total_in:.0%}  billed fresh: {total_in - cached}")

Los nombres de campo en los fragmentos anteriores provienen de las formas actuales de la API de OpenAI en lugar de del anuncio de lanzamiento, así que verifícalos con la referencia antes de desplegar. El principio no cambia: la respuesta te dice la verdad, así que pon ese número en un panel.

El nuevo Panel de caché de prompts y la herramienta de diagnóstico cubren la vista a nivel de flota, que es donde detectarás el patrón que reporta GitHub: más del 50% de los tokens de prompt ya no necesitan procesamiento nuevo en miles de millones de solicitudes. Esa es una medición de toda la plataforma, y la única forma de conocer tu propia cifra es medirla.

El modo de fallo es silencioso. Nada da error cuando la caché deja de acertar. Un compañero de equipo agrega un ID de solicitud al prompt del sistema para depurar, el prefijo se enfría, y la única señal es una línea lenta en la factura tres semanas después.

Eso lo convierte en una prueba de regresión, no en un problema de monitoreo. Trata el endpoint del modelo como cualquier otra API de la que dependes: guarda la solicitud en Apidog, verifica que usage.input_tokens_details.cached_tokens supere un mínimo en la segunda llamada de un escenario, y ejecútala según una programación en CI. Dos llamadas en secuencia, una para calentar y otra para verificar, es toda la prueba, y una refactorización de prompt que mate la caché fallará en el pull request en lugar de en la factura.

La nota al pie sobre latencia

La caché recorta el trabajo hecho antes del primer token, así que normalmente ayuda al tiempo hasta el primer token además del costo. No esperes que rescate los modos de razonamiento.

Artificial Analysis, un tercero, mide el tiempo hasta el primer token en 102.15 segundos para GPT-6 Sol y 124.23 segundos para GPT-6 Luna en sus variantes de razonamiento “max”. Esos no son los números que verás con esfuerzo low, y no son cifras del proveedor, así que trátalos como orientativos. El punto se mantiene de todos modos: ningún descuento de caché convierte un presupuesto de pensamiento de dos minutos en uno interactivo. Mide la latencia por nivel de esfuerzo antes de prometer un tiempo de respuesta. Nuestra guía de la API de GPT-6 Astra cubre los niveles de esfuerzo con más detalle.

Lo que el lanzamiento no responde

Cuatro cosas vale la pena confirmar antes de comprometer un diseño con esto:

Ninguna de ellas bloquea el trabajo de estructura. El orden con lo estable primero, una clave de caché versionada y una aserción sobre los tokens en caché dan resultado con cualquiera de las respuestas.

La versión corta

Ordena tu prompt por volatilidad y mantén el reloj fuera del mensaje del sistema. Versiona la clave de caché para que los cambios deliberados sean visibles. Lee cached_tokens en cada respuesta y pon un mínimo bajo él en CI. Escala el esfuerzo de razonamiento y alterna herramientas libremente ahora, porque ninguno de los dos te cuesta el prefijo ya. Para contexto sobre el mecanismo en sí, nuestro explicador sobre cómo funciona la caché de prompts cubre los fundamentos.

Los precios de estos modelos volverán a moverse. Siempre lo hacen. La disciplina de estructura del prompt es la parte que sigue pagando después de que el próximo lanzamiento restablezca cada número de la tabla.

button

Practica el diseño de API en Apidog

Descubre una forma más fácil de construir y usar APIs