配置模型和 API key
注册提供方、配置模型 backend,并管理 AI-FW 流量使用的 API key。
使用本指南将模型添加到清单,并确认 gateway 可以访问提供方。API key 保存在 gateway 配置中,而非客户端代码。
开始之前
- 确认 gateway 可以连接提供方 endpoint。
- 获取获准使用的 API key,并保存至认可的密钥管理服务。
- 决定使用模型注册的 key,还是客户端提供的 key。
添加模型
- 打开 Model Inventory。
- 选择 Add custom model。
- 输入模型 ID、提供方、backend URL 和协议。
- 按组织凭据策略添加 API key。
- 保存模型,确认配置后再启用。
检查密钥模式
model 模式使用模型注册的 key。client 模式转发客户端 Bearer key,仅在允许 BYOK 时使用。在 Settings -> Access Control 检查规则 -> 模型 -> 全局的优先顺序。
测试模型
使用 AI-FW API key 和已注册模型 ID 发送测试请求。检查 Activity 和日志,确认身份、模型、backend 和检查判定。
保护凭据
- 不要将 API key 保存到仓库、共享示例或终端历史。
- 责任人或权限变更时轮换或撤销 key。
- 尽可能为不同模型使用独立 key。
- 限制凭据管理和日志查看权限。
相关内容