Tokens, créditos, presupuestos y coste total.

El precio de una llamada no es el costo de una tarea completa. Cuente la indexación, la conversación y las herramientas por separado.

Puedes seguir este curso sin cuenta ni programación. Los ejemplos utilizan datos sintéticos y es necesario comprobar los resultados de la IA.

Cómo funciona, paso a paso

El costo pertenece a todo el camino.

Cuente llamadas de modelos, tokens de entrada y salida, incorporaciones, reclasificación, visión y herramientas. El razonamiento puede consumir tokens facturables sin una respuesta visible igualmente larga. Los costos de indexación y los costos de conversación difieren. Utilice precios actuales en lugar de un número permanente de un curso. Una estimación simple es tokens/1.000.000 × precio más operaciones adicionales; Los créditos de la aplicación pueden tener su propia conversión. Compare el costo por tarea exitosa, no solo por llamada. La ejecución paralela puede reducir la latencia y al mismo tiempo aumentar el consumo total. Un presupuesto necesita una condición de parada verificada.

Elija por tarea y capacidades

Verifique el idioma, el contexto, la llamada de herramientas, la salida estructurada y las modalidades de entrada admitidas. Compare modelos con solicitudes idénticas utilizando la misma rúbrica y un presupuesto realista. Muestreo de cambios de temperatura, no verdad. El esfuerzo de razonamiento asigna esfuerzo a modelos compatibles y puede aumentar el tiempo y el costo; Los valores aceptados varían. Los modelos locales ofrecen control de infraestructura pero requieren recursos y mantenimiento. Las pesas abiertas no garantizan una licencia sin restricciones ni un código de entrenamiento completo. Los catálogos y los precios cambian; Lea la tarjeta del modelo actual.

Defina el éxito antes de optimizar

Preparar solicitudes representativas y respuestas o propiedades esperadas. Incluya casos comunes, ambigüedad, datos faltantes y errores de herramientas. Para RAG, mida la recuperación de evidencia por separado de la corrección de las respuestas. Recall@k mide la proporción de evidencia relevante encontrada en los primeros k resultados; precision@k mide la proporción de resultados devueltos que son relevantes. Para los agentes, también realice un seguimiento de las acciones, los permisos y las detenciones. Un LLM como juez puede acelerar la evaluación, pero necesita una calibración con respecto a los humanos. No cambie el indicador, el modelo y el índice simultáneamente si desea comprender qué mejoró los resultados.

El esquema explicativo

Siga las flechas sólidas para el flujo principal. Las flechas azules discontinuas proporcionan datos o contexto; Las flechas discontinuas de color rosa muestran comentarios o resultados devueltos. Colores y formas distinguen modelos, tiendas, decisiones y resultados. En pantallas pequeñas, desplázate horizontalmente para seguir todo el esquema.

Un ejemplo completo

Utilizando precios ficticios de 2 por millón de insumos y 10 de productos, 10.000 insumos y 1.000 productos cuestan 0,03 unidades monetarias antes de las herramientas. Estos son valores de ejercicio, no precios actuales.

Pruébalo tú mismo

1. Calcule tres llamadas y una ejecución de indexación, luego el costo por tarea exitosa.
2. Registre la entrada, la fuente y el resultado esperado antes de ejecutar el experimento. Utilice únicamente los datos ficticios del ejemplo.
3. Siga las etapas del diagrama. En cada paso registre qué información se recibe y se produce; No confunda el resultado intermedio con el resultado final.
4. Repita después de eliminar la información necesaria o hacer que la entrada sea ambigua. Compruebe si el sistema aclara, detiene o inventa una respuesta.
5. Comparar con la solución explicada. Conserve la configuración, fecha, resultado y una explicación de las diferencias. Cambie una cosa y vuelva a probar.

Una solución explicada

Calcule 0,02 + 0,01 y agregue el consumo adicional por separado; comparar con el uso real de la organización. Un ejercicio exitoso le permite mostrar la conexión entre los aportes, las etapas y el resultado. Cuando falta información, una respuesta cautelosa es más útil que detalles inventados. Compare más que estilo: compruebe también las condiciones, las fuentes y las operaciones.

Cuándo resulta útil y cuáles son sus límites

Los créditos de la aplicación y la moneda del proveedor pueden tener conversiones diferentes. Elija este enfoque cuando mejore una necesidad medida. Mantenga una línea de base simple y compare los resultados utilizando insumos idénticos. Un ejemplo exitoso no establece confiabilidad en todas las situaciones.

Comprueba lo que has aprendido

¿Más llamadas simultáneas son automáticamente más baratas?

No. El tiempo transcurrido y el consumo total son cantidades diferentes.

¿La temperatura cero garantiza la corrección?

No. Puede reducir la variación, pero una respuesta estable aún puede ser incorrecta.

¿Qué resultado debería producir este ejercicio?

Calcule 0,02 + 0,01 y agregue el consumo adicional por separado; comparar con el uso real de la organización.

Términos que conviene recordar

• Latență / Latencia: Tiempo hasta un resultado útil.
• esfuerzo de razonamiento: Un entorno dependiente del modelo que controla el esfuerzo de razonamiento.
• Regresión / Regresión: Un cambio que rompe un caso previamente correcto.

Fuentes y su próximo paso

• OpenRouter — tokens de razonamiento
• Hugging Face — LLM Course
• LangGraph — Flujos de trabajo y agentes

Para preparar: E04 — Observabilidad y depuración