El coste real de la inferencia y cómo elegir modelo sin fiarse del ranking

En corto, para quien decide

  • El precio por millón de tokens sirve de poco para presupuestar. La unidad útil es el coste por tarea correcta, que incluye razonamiento, reintentos y revisión humana.

  • Los precios a capacidad equivalente caen deprisa, mientras que el gasto en modelos punta puede subir porque cada tarea consume más.

  • Autoalojar se justifica casi siempre por control o volumen sostenido. Las cifras públicas de punto de equilibrio son débiles y proceden en buena parte de quien vende una de las opciones.

  • Una región europea garantiza dónde se procesa el dato. La jurisdicción aplicable al proveedor es otra cuestión, y hay que analizarla por separado.

Los precios de lista son el principio del cálculo

La siguiente tabla recoge una muestra de tarifas estándar publicadas, en dólares por millón de tokens. Sirve para ver órdenes de magnitud, y debe recomprobarse antes de cualquier decisión porque estas páginas cambian con frecuencia.

Proveedor y modelo Entrada Salida
OpenAI GPT-6 Astra 10 50
OpenAI GPT-6.1 Sol 2 10
OpenAI GPT-6.1 Terra 1 5
OpenAI GPT-6 Luna 0,10 0,50
Anthropic Claude Fable 5.1 10 50
Anthropic Claude Opus 5.5 4 20
Anthropic Claude Sonnet 5.5 2 10
Anthropic Claude Haiku 5.5 (prompt hasta 100K) 0,10 0,50
Google Gemini 3.1 Pro Preview (hasta 200K) 2 12
Google Gemini 3.5 Flash 1,50 9
Google Gemini 3.1 Flash-Lite 0,25 1,50
Mistral Large 4 0,70 2,10

La letra pequeña pesa tanto como la columna. En GPT-6.1 Terra, los prompts de más de 272K tokens pagan el doble en entrada y 1,5 veces en salida en toda la petición. Haiku 5.5 multiplica su precio por encima de 100K tokens de prompt. Y los tokens no son una unidad común: Anthropic indica que el mismo texto genera aproximadamente un 30% más de tokens en sus modelos desde Claude 4.7. Una comparación rigurosa cuenta tokens reales con el propio contenido.

El razonamiento se factura como salida

Los tres grandes proveedores cobran el razonamiento interno a precio de salida. OpenAI puede facturar entrada y razonamiento aunque la respuesta visible quede vacía al alcanzar el límite. Anthropic factura el razonamiento completo aunque se muestre resumido, y Google cobra los pensamientos completos, también si la respuesta se trunca.

Un ejemplo ilustrativo, con un modelo a 2 dólares de entrada y 10 de salida: 100.000 peticiones al mes con 8.000 tokens de entrada, de los que 6.000 son contexto estable, 400 de respuesta visible y 1.000 de razonamiento.

Escenario Entrada Salida Total mensual
Presupuesto ingenuo, solo salida visible 1.600 $ 400 $ 2.000 $
Con razonamiento facturado 1.600 $ 1.400 $ 3.000 $
Con razonamiento y caché ideal a 0,1x 520 $ 1.400 $ 1.920 $

El caso con caché usa un multiplicador ilustrativo, algunos modelos de este precio bajan a 0,05x, supone aciertos en todas las peticiones e ignora el coste de escritura. Anthropic cobra esa escritura a 1,25 veces la entrada con duración de 5 minutos y a 2 veces con duración de 1 hora, y Gemini añade un cargo por almacenamiento por millón de tokens y hora. Las tareas que admiten espera tienen además la vía de los lotes, con un 50% de descuento tanto en OpenAI como en Anthropic.

Una tendencia doble

Los datos históricos parecen contradictorios porque miden cosas distintas. a16z estimó en 2024 una caída de unas 10 veces al año a capacidad equivalente. Epoch AI calcula unas 13 veces al año desde 2023 sobre 5 benchmarks, con un ritmo de 75 veces cuando un nivel acaba de ser punta y de 4,7 veces dos años después, y advierte de que supone un usuario que busca sin descanso el modelo más rentable para cada tarea.

El equipo de Gundlach y Thompson en el MIT añade la otra cara: a rendimiento fijo el precio cae entre 5 y 10 veces al año, mientras que ejecutar modelos punta se encarece entre 3 y 18 veces al año, por modelos mayores y más razonamiento. Epoch documenta el efecto del consumo con un caso de FrontierMath: unos 43 millones de tokens de salida con o4-mini en esfuerzo alto frente a unos 5 millones con GPT-5.2 en esfuerzo bajo, para llegar a un 27% de acierto, lo que deja al modelo nuevo con un coste unas 3 veces menor. Un modelo barato por token puede salir caro por resultado.

La métrica que importa: coste por tarea correcta

Una fórmula sencilla evita muchas decisiones erróneas:

Coste por tarea terminada = inferencia por intento × intentos + revisión × proporción revisada + (1 − tasa de acierto final) × corrección humana

Con cifras ilustrativas, 1 intento, sin revisión sistemática previa y una corrección humana de 1,50 $ por caso fallido, la comparación se invierte:

Modelo económico Modelo superior
Inferencia por tarea 0,002 $ 0,020 $
Tasa de acierto 70% 92%
Corrección humana esperada 0,450 $ 0,120 $
Coste total por tarea 0,452 $ 0,140 $

El resultado cambia por completo si la tarea tolera errores o si la corrección es automática. Por esa razón hay que medir la tasa de acierto con el trabajo de la propia organización, y estimar el coste del error con quien lo sufre.

Evaluación propia, porque los rankings están contaminados

The Leaderboard Illusion documentó 27 variantes privadas probadas por Meta en LMArena en marzo de 2025 antes de un lanzamiento, y una distribución de datos muy favorable a los proveedores propietarios. LMArena rechazó el trabajo alegando errores factuales y afirmaciones engañosas, y según Simon Willison no respondió a la crítica central sobre la selección de variantes. El episodio de Llama 4 Maverick, cuya versión sin modificar quedó muy por debajo de la experimental, ilustra el riesgo. En programación, el estudio que presenta SWE-Bench Pro Verified vio caer a GLM-5.2 del 78,80% al 57,32% en las tareas originales de SWE-Bench Pro al aislar soluciones y artefactos de evaluación.

El protocolo mínimo se parece al que recomiendan los propios proveedores: casos extraídos de registros reales, distribución representativa, inclusión de casos límite, calificación automática donde sea posible y revisión humana donde no. Cada candidato se ejecuta con su mejor prompt razonable, porque portar un prompt sin adaptarlo perjudica al modelo que no se usó para escribirlo. Se registran acierto, dispersión, latencia en percentil 95 y tokens reales.

Enrutar: menos ahorro del prometido

RouteLLM afirmó en 2024 ahorros superiores a 2 veces en algunos casos, con poco deterioro de calidad. Las evaluaciones posteriores de terceros son más prudentes. LLMRouterBench, con 33 modelos, alcanza hasta un 31,7% de ahorro igualando al mejor modelo único, y varios enrutadores recientes no lo superan de forma fiable. The Routing Plateau evaluó 21 métodos: el mejor quedó a entre 10 y 30 puntos del oráculo según el benchmark, con un simple kNN entre los primeros en los cinco.

Este último estudio trata decisiones de una sola pasada y corrección binaria, sin cubrir agentes. En la práctica, el enrutado que suele pagarse solo es el más aburrido: reglas por tipo de tarea, modelo pequeño para clasificación y extracción, y modelo superior para los casos con mayor coste de error.

Autoalojar: la cuenta incluye la utilización

Una referencia de alquiler: Runpod publica la H100 SXM a 3,99 $ por hora en Secure Cloud. Ocho GPU durante 730 horas suman unos 23.300 $ al mes, sin personal. Esa cifra se paga con la máquina llena o vacía. Digital Applied estima, sin citar origen, una utilización del 35% al 45% al dimensionar para picos con tráfico a ráfagas y sin autoescalado agresivo. Entre esa firma y General Compute, el equilibrio se sitúa entre 200 y 1.200 millones de tokens mensuales. Ambas fuentes tienen problemas: la primera vende despliegues autoalojados y no publica sus supuestos, la segunda vende inferencia gestionada y sus cálculos no cuadran del todo. No se han encontrado datos primarios auditados, de modo que cada caso exige su propio modelo.

El software recorta parte de la factura. vLLM midió en 2023 entre 2 y 4 veces más rendimiento que sus alternativas, en GPU y bases de comparación de la época. Red Hat reporta con cuantización W8A8 INT8 un paso de 14,9 GB a 8 GB y un 44% más de tokens por segundo con Llama 3.1 8B, un único modelo pequeño medido por un proveedor interesado.

Las licencias forman parte del coste. Llama 4 exige acuerdo aparte por encima de 700 millones de usuarios activos mensuales, y su política de uso excluye de la licencia multimodal a personas y empresas con sede en la UE, lo que afecta a una organización con sede principal en la UE que quiera operarlos, aunque no a los usuarios finales de productos que los integren. Mistral Large 4 permite el uso comercial y pide licencia aparte para ofrecerlo como servicio. Qwen3.5-35B-A3B usa Apache 2.0. Conviene comprobar el archivo de licencia de cada checkpoint antes de desplegarlo.

Soberanía: tres preguntas distintas

Pregunta Qué la responde Qué deja sin resolver
¿Dónde se procesa el dato? Región o perfil geográfico de inferencia Plano de control, soporte, funciones excluidas
¿Qué ley puede alcanzar al proveedor? Domicilio y control societario La ubicación física no lo evita por sí sola
¿Quién puede operar y apagar el sistema? Contrato, despliegue dedicado o propio Coste, talento y dependencia del fabricante

El 18 U.S.C. 2713 obliga a los proveedores sujetos a la CLOUD Act a cumplir las obligaciones legales de conservar o revelar datos en su posesión, custodia o control, estén dentro o fuera de Estados Unidos. En junio de 2025, un directivo de Microsoft Francia declaró bajo juramento ante el Senado francés que no podía garantizar que los datos de ciudadanos franceses no se transmitieran al Gobierno estadounidense sin acuerdo de Francia, y añadió que nunca había ocurrido, afirmación de la empresa sin verificación independiente.

Las opciones regionales difieren en detalles que importan. OpenAI añade un 10% al procesamiento regional en modelos recientes. La API directa de Anthropic ofrece us y global, sin opción UE, y en Bedrock Opus 5.5 usa un perfil geográfico europeo. Azure, con despliegues Data Zone, limita la inferencia a la zona UE, que puede incluir países EFTA como Noruega y Suiza, y puede añadir regiones sin aviso. Mistral cobra 1,1 veces en endpoints regionales, donde no están disponibles Batch, Agents ni Files, y su plano de control puede quedar fuera. AWS European Sovereign Cloud incluye Bedrock y entidades alemanas, y el anuncio no aborda la CLOUD Act. Su inmunidad jurídica sigue siendo materia discutible.

Dejar escrito por qué se eligió

Una decisión de modelo caduca en meses, así que debe poder repetirse. El registro mínimo contiene las restricciones aplicadas, los candidatos descartados y el motivo, el conjunto de evaluación y su versión, las cifras medidas, el coste por tarea correcta, la capa de abstracción que permite cambiar de proveedor y la condición que obliga a reevaluar. Allrework compara modelos comerciales y abiertos sin vender licencias ni horas de desarrollo, y entrega ese documento. Para sistemas con documentación interna, la segunda parte de la decisión está en RAG en sectores regulados.

Precios y condiciones consultados a 8 de noviembre de 2026. Las referencias a licencias y jurisdicción son una lectura técnica y no constituyen asesoramiento jurídico.

Anterior
Anterior

El AI Act como requisito de arquitectura: qué hay que construir antes de diciembre de 2027

Siguiente
Siguiente

RAG en sectores regulados: dónde se rompe entre el índice y la cita