API de inferencia
Protege una petición con LLM Firewall
Evalúa una petición de chat compatible antes de que llegue al modelo seleccionado.
Asocia la política
Envía el slug del firewall como campo de primer nivel. QDivZero resuelve la política de la cuenta y evalúa la entrada antes de ejecutar la inferencia.
firewall.py
1response = client.chat.completions.create(
2 model="your-serving-name",
3 messages=[{"role": "user", "content": "..."}],
4 extra_body={"firewall": "customer-input"},
5)Orden de decisión
LLM Firewall evalúa primero. Si la petición continúa, QDivZero expone las herramientas configuradas y llama al backend elegido. Una petición bloqueada no llega al modelo.