Los sospechosos habituales

  • Las reglas de facturación varían según proveedor y modelo. Las unidades, el redondeo y qué cuenta como token facturable no son idénticos en todas partes — consulta la documentación del modelo específico, no solo la página general de precios del proveedor.
  • La longitud de la salida puede cambiar. Una respuesta más extensa cuesta más, y la salida suele ser el lado más caro de la factura.
  • El historial de chat se acumula. Las conversaciones largas de varios turnos reenvían un historial creciente como entrada en cada turno, así que el costo por conversación aumenta a medida que se alarga — no porque un mensaje concreto se haya hecho más grande.
  • Los system prompts pueden reenviarse en cada llamada, multiplicando un costo fijo en cada solicitud que hace tu aplicación.
  • El contexto de RAG / base de conocimiento puede aumentar los tokens de entrada, especialmente si el contenido se recupera de nuevo en cada mensaje en lugar de una vez por conversación.
  • Algunos modelos o proveedores facturan tokens de razonamiento o adicionales que no son evidentes a partir de la respuesta final visible. Este comportamiento varía según el proveedor — consulta la documentación en lugar de asumir.
  • El texto en idiomas distintos del inglés puede tokenizarse de forma diferente. Muchos idiomas, incluidos el portugués y el español, pueden necesitar más tokens que el inglés para el mismo significado.
  • Los precios cambian con el tiempo. Los proveedores actualizan precios, así que una cifra que recuerdas de hace meses puede ya no ser la actual.

Cómo investigar una factura inesperada

  • Consulta primero el panel de uso de tu proveedor. Es la fuente de verdad de lo que realmente ocurrió, desglosado de formas que un total mensual no puede mostrar.
  • Mira la entrada y la salida por separado. Una factura impulsada por la longitud de salida tiene una solución distinta a una impulsada por el crecimiento de entrada/historial.
  • Reverifica los precios actuales en la página oficial del proveedor — no confíes en una cifra recordada.
  • Comprueba si el historial se está reenviando sin límite. Esta es una de las causas más comunes, y más solucionables, de una factura que crece más rápido que el uso.

Cómo reducir el riesgo antes de lanzar

Consejo de planificación

Estima primero. Un rango Bajo / Probable / Alto construido con tus supuestos reales detecta la mayoría de las sorpresas antes de que ocurran — prueba la calculadora que se ajuste a tu caso.

  • Establece un presupuesto o límite de uso donde tu proveedor lo admita.
  • Mantén el system prompt ligero — cada token en él se repite en cada llamada.
  • Limita el historial de conversación con una ventana deslizante de turnos recientes en lugar de reenviarlo todo indefinidamente.
  • Ajusta el modelo a la tarea — un modelo capaz de gama media suele ser suficiente, y puede costar una fracción de un modelo de vanguardia para la misma carga de trabajo.

Lectura relacionada