内建护栏类型
开箱即用的策略库，覆盖输入、输出与双向场景。
输入
PII 检测与脱敏
暂不可用识别身份证、手机号、邮箱、银行卡等敏感信息，自动脱敏或阻断。需单独开通服务，暂不可用。
输入
越狱与注入拦截
检测 Prompt 注入与越狱攻击模式，命中即阻断请求进入模型。
双向
密钥泄露防护
扫描 API Key、Token 等凭据，防止敏感凭据随请求或响应外泄。
输出
内容审核
对暴力、仇恨、成人等类别打分，超阈值自动拦截或改写。
输出
结构化输出校验
强制输出符合 JSON Schema，字段缺失或类型不符自动重试。
双向
自定义规则
支持正则、关键词词库与 LLM-as-Judge 组合，编排专属护栏。
双向护栏流水线
请求在进入模型前、响应在返回用户前分别经过护栏校验，命中策略即阻断、脱敏、改写或重试。
请求护栏 · Input
PII 检测
暂不可用 · 需自托管服务
越狱注入
命中 jailbreak 规则
敏感词
未命中
模型调用
gpt-4o
响应护栏 · Output
内容审核
toxicity 0.02
JSON Schema
校验通过
幻觉检测
置信度偏低
本次请求因命中 jailbreak 规则被拦截，事件已记录到对应 Trace 链路。
策略即代码
护栏规则以声明式配置管理，支持版本化、审阅与灰度发布。按任务、租户与环境灵活挂载，所有命中记录自动沉淀到可观测链路，形成安全审计闭环。
- 版本化与灰度发布
- 按租户 / 环境差异化挂载
- 命中记录联动 Trace 审计
guardrails.yaml
guardrails:
- id: block-jailbreak
stage: input
when: prompt_injection.score > 0.8
action: block
- id: mask-pii
stage: input
detectors: [email, phone, id_card]
action: redact
- id: enforce-schema
stage: output
schema_ref: ./order.schema.json
action: retry
max_retries: 2从模型目录开始，安全接入
选择模型、挂载护栏、开启观测，三步构建可信的应用。