使用 AI 创建规则

使用 AI 创建规则

根据目标生成规则建议,检查预览,并只保存已批准的策略。

Create Rule with AI 卡片可以根据自然语言目标协助起草 guardrail 规则。建议内容只是草稿,保存前请检查条件和操作。

生成规则建议

  1. 打开 Rules Manager 并选择 Create Rule with AI。
  2. 描述要允许、阻止或检测的行为。
  3. 选择 keyword 或 semantic 类型。
  4. 检查建议的 pattern 或 intent、action 和 severity。
  5. 编辑并测试示例,确认符合预期后再保存。

保存前检查

  • 确认规则匹配预期流量,不会阻止合法用例。
  • 检查 inbound/outbound 方向及 block、mask、log_only 或 accept 操作。
  • 避免过宽模式,也不要在描述中写入秘密。
  • 使用 Prompt Analyzer 测试 inbound 规则,不会调用模型或写日志。
  • 先在受控环境应用并审查判定记录。

AI 协助生成建议,但不认证规则是否完整。策略负责人应验证行为和副作用。

后续阅读

后续阅读