Planifica la capacidad para cargas de agentes de IA
El precio por capacidad puede hacer más predecible la economía por llamada cuando varias cargas comparten capacidad activa.
Escenario ilustrativo
Escenario ilustrativo de agentes: atención al cliente, revisión de código y generación de informes pueden crear muchas llamadas de inferencia dentro de un mismo flujo.
Los costes por token pueden ser difíciles de prever cuando varían el volumen de peticiones, los pasos de razonamiento y las llamadas a herramientas.
Un plan de capacidad ayuda a elegir capacidad activa alrededor de la carga esperada.
Cómo puede encajar QDivZero
QDivZero Compute usa precio por capacidad activa para cargas de modelos compatibles. Cuando muchas llamadas comparten eficazmente la misma capacidad activa, la economía por llamada puede ser más predecible.
El equipo puede escalar con la demanda y monitorizar la utilización. La economía real depende de la forma de la carga, el modelo y la capacidad seleccionada.
Cómo encaja QDivZero
Precio basado en capacidad
Selecciona capacidad según la carga y la utilización esperadas.
Economía predecible
Mantén más predecible el coste por llamada mientras la capacidad activa no cambie.
Flujos provisionados por capacidad
Escala dentro de la capacidad que hayas provisionado.
Flujo ilustrativo
Elegir la capacidad de Compute según la carga y utilización esperadas del agente
Usar la capacidad activa de forma eficiente para hacer más predecible el coste por llamada
Ejecutar los flujos de agentes dentro de la capacidad seleccionada
Planificar la partida de capacidad y monitorizar la utilización