Configurar modelos y API keys

Configurar modelos y API keys

Registre un proveedor, configure el backend del modelo y gestione API keys para el tráfico de AI-FW.

Use esta guía para añadir un modelo al inventario y comprobar que el gateway puede acceder al proveedor. Las API keys se guardan en la configuración del gateway, no en el código del cliente.

Antes de empezar#

  • Confirme que el gateway puede conectarse al endpoint del proveedor.
  • Obtenga una API key autorizada y guárdela en el almacén de secretos aprobado.
  • Decida si usará la clave registrada del modelo o una clave enviada por el cliente.

Agregar un modelo#

  1. Abra Model Inventory.
  2. Seleccione Add custom model.
  3. Introduzca el ID del modelo, proveedor, URL de backend y protocolo.
  4. Añada la API key según la política de credenciales de su organización.
  5. Guarde el modelo y habilítelo solo después de verificar la configuración.

Revisar los modos de clave#

El modo model usa la clave registrada para ese modelo. El modo client reenvía el Bearer key del cliente y solo debe usarse cuando BYOK esté explícitamente permitido. Compruebe la precedencia regla -> modelo -> global en Settings -> Access Control.

Probar el modelo#

Envíe una solicitud de prueba con una API key de AI-FW y el ID registrado. Revise la vista de actividad y los logs para confirmar identidad, modelo, backend y decisión de inspección.

Proteger credenciales#

  • No guarde API keys en repositorios, ejemplos compartidos ni historial del terminal.
  • Rote o revoque claves cuando cambien responsables o permisos.
  • Use claves distintas por modelo cuando sea posible.
  • Restrinja quién puede administrar credenciales y revisar logs.

Dónde continuar#

Dónde continuar