配置模型和 API key

配置模型和 API key

注册提供方、配置模型 backend,并管理 AI-FW 流量使用的 API key。

使用本指南将模型添加到清单,并确认 gateway 可以访问提供方。API key 保存在 gateway 配置中,而非客户端代码。

开始之前

  • 确认 gateway 可以连接提供方 endpoint。
  • 获取获准使用的 API key,并保存至认可的密钥管理服务。
  • 决定使用模型注册的 key,还是客户端提供的 key。

添加模型

  1. 打开 Model Inventory。
  2. 选择 Add custom model。
  3. 输入模型 ID、提供方、backend URL 和协议。
  4. 按组织凭据策略添加 API key。
  5. 保存模型,确认配置后再启用。

检查密钥模式

model 模式使用模型注册的 key。client 模式转发客户端 Bearer key,仅在允许 BYOK 时使用。在 Settings -> Access Control 检查规则 -> 模型 -> 全局的优先顺序。

测试模型

使用 AI-FW API key 和已注册模型 ID 发送测试请求。检查 Activity 和日志,确认身份、模型、backend 和检查判定。

保护凭据

  • 不要将 API key 保存到仓库、共享示例或终端历史。
  • 责任人或权限变更时轮换或撤销 key。
  • 尽可能为不同模型使用独立 key。
  • 限制凭据管理和日志查看权限。

后续阅读

后续阅读