Enrutamiento y registro de modelos

Enrutamiento y registro de modelos

Configure modelo predeterminado, registro estricto, reglas condicionales y destinos de proveedores.

El gateway decide qué modelo usar y a dónde enviar cada solicitud. Model Inventory centraliza los modelos permitidos. Los modelos iniciales comienzan deshabilitados; Add custom model añade ID, proveedor, URL de backend y API key opcional. Edit actualiza, Register registra modelos shadow y Delete elimina modelos personalizados.

Cada modelo utiliza openai o anthropic; IDs claude-* usan anthropic por defecto, configurable por modelo.

AjusteFunciónUbicación
Default modelSe usa si el cliente omite model.Settings -> Default Model
Default backendDestino si no hay URL propia.Settings -> Default Backend

Reject Unregistered Models: OFF envía modelos desconocidos al backend predeterminado; ON responde 400 model_not_registered. Un modelo deshabilitado responde 400 model_disabled en ambos modos.

Reglas: agent, agentgroup, agenttag, ip, model, group, risk, flag y header name; operadores Equals, NotEquals, GreaterThan, GreaterOrEqual, LessThan, LessOrEqual, In, NotIn y Matches. Las condiciones usan AND; gana la primera regla. Destino: modelo registrado o URL directa; grupos solo filtran. IDs desconocidos fallan de forma segura.

Dónde continuar#

Dónde continuar