使用 AI 创建规则
根据目标生成规则建议,检查预览,并只保存已批准的策略。
Create Rule with AI 卡片可以根据自然语言目标协助起草 guardrail 规则。建议内容只是草稿,保存前请检查条件和操作。
生成规则建议
- 打开 Rules Manager 并选择 Create Rule with AI。
- 描述要允许、阻止或检测的行为。
- 选择 keyword 或 semantic 类型。
- 检查建议的 pattern 或 intent、action 和 severity。
- 编辑并测试示例,确认符合预期后再保存。
保存前检查
- 确认规则匹配预期流量,不会阻止合法用例。
- 检查 inbound/outbound 方向及 block、mask、log_only 或 accept 操作。
- 避免过宽模式,也不要在描述中写入秘密。
- 使用 Prompt Analyzer 测试 inbound 规则,不会调用模型或写日志。
- 先在受控环境应用并审查判定记录。
AI 协助生成建议,但不认证规则是否完整。策略负责人应验证行为和副作用。