Guardrail（护栏）
先用一句话说清楚
Guardrail（护栏）是对 AI Agent（人工智能体）的输入、输出、工具、权限和动作设置的安全约束机制。
实战知识卡
| 维度 | 要点 |
|---|---|
| 项目里看什么 | 看输入拦截、资料权限、输出校验、工具白名单、人工审批、限流和失败兜底是否覆盖全链路。 |
| 新手最该记住 | Guardrail（护栏）不是一句安全 Prompt（提示词），而是系统层的硬边界。 |
| 作品集证据 | 做一张风险与护栏矩阵：低风险自动、中风险校验、高风险审批、失败时拒答或转人工。 |
| 面试回答公式 | 先按输入、检索、工具、输出、运行五层讲，再说明不同风险级别如何处理。 |
| 常见追问 | 护栏做太多会不会影响用户体验？你如何按风险分级取舍？ |
新手通俗解释
护栏不是一句“不要乱回答”的 Prompt（提示词）。它更像高速路上的栏杆、限速牌、监控和紧急出口：不是为了让车不开，而是让车在可控范围内跑。
在 AI Agent（人工智能体）项目中，模型会犯错、用户会输入异常内容、工具会失败、资料会过期。如果没有 Guardrail（护栏），系统可能编造答案、越权读取、错误调用工具、泄露隐私，甚至把高风险动作自动执行。
为什么智能体工程师岗位会问它
企业不会因为一个 Demo（演示）效果好就上线。面试官问 Guardrail（护栏），是在确认你是否有生产环境意识：能不能把模型能力放进安全、合规、可审计的边界里。
岗位常见考察点：
| 考察点 | 应该讲什么 |
|---|---|
| 输入护栏 | 恶意输入、越权请求、敏感信息、无效任务如何处理 |
| 输出护栏 | 无依据回答、敏感内容、法律医疗财务结论如何拦截 |
| 工具护栏 | 工具白名单、参数校验、风险分级、人工审批 |
| 数据护栏 | 资料权限、隐私脱敏、引用范围、日志脱敏 |
| 运行护栏 | 超时、限流、成本、失败兜底、Trace ID（追踪编号） |
它在项目里到底怎么用
以“企业知识库 RAG（检索增强生成）问答系统”为例，Guardrail（护栏）应该贯穿全流程：
| 环节 | 护栏设计 |
|---|---|
| 用户输入 | 识别是否越权询问、是否缺少必要条件、是否涉及敏感主题 |
| 检索资料 | 按用户权限过滤资料范围，不返回无权查看的片段 |
| 模型生成 | 要求基于 Citation（引用来源）回答，无证据时拒答 |
| 工具调用 | 只读工具自动执行，写入工具用户确认，高风险工具人工审批 |
| 输出展示 | 隐私脱敏，标注依据、风险和下一步 |
| 日志复盘 | 记录 Trace ID（追踪编号）、失败类型和处理结果，但不保存敏感原文 |
和 Prompt（提示词）约束的区别
Prompt（提示词）可以提醒模型遵守规则，但它不是安全系统。真正的 Guardrail（护栏）要落在系统层：权限判断、字段校验、工具白名单、输出检查、人工审批和日志审计。
面试时可以这样说：Prompt（提示词）是软约束，系统护栏是硬边界。两者要配合，但不能互相替代。
常见误解
| 误解 | 为什么不对 | 正确理解 |
|---|---|---|
| 写一句安全提示就是护栏 | 模型可能忽略或误解提示 | 需要系统层校验和拦截 |
| 护栏会降低智能程度 | 无边界的智能无法交付 | 护栏让系统可控、可信、可上线 |
| 只有高风险行业需要护栏 | 客服、销售、人事、财务都涉及权限和隐私 | 任何企业 Agent（智能体）都需要护栏 |
| 护栏只管输出 | 输入、检索、工具、日志都可能出问题 | 护栏要覆盖全链路 |
面试官可能怎么追问
1. 你会怎么设计 Agent（智能体）的护栏？
考察点： 是否能从全链路回答。
参考回答： 我会分输入、检索、工具、输出和运行五层设计。输入侧拦截越权和敏感请求；检索侧按权限过滤资料；工具侧做白名单、参数校验、风险分级和审批；输出侧检查是否有依据、是否泄露隐私；运行侧记录 Trace ID（追踪编号）、限流、超时和失败兜底。
容易扣分： 只说“加敏感词过滤”。
2. Guardrail（护栏）和人工确认是什么关系？
考察点： 是否理解自动化边界。
参考回答： 人工确认是护栏的一种，主要用于高风险、不可逆或责任明确的动作，比如退款、改价、发正式通知、修改合同。AI Agent（人工智能体）可以生成建议和草稿，但最终执行需要人确认或审批。
容易扣分： 认为所有动作都应该自动化。
3. 护栏做太多会不会影响体验？
考察点： 是否能做取舍。
参考回答： 会，所以护栏要分级。低风险查询可以自动完成，高风险写入必须确认；内部普通知识可以直接回答，敏感资料要按权限过滤；低置信度时拒答或追问。好的护栏不是处处拦截，而是按风险选择合适边界。
容易扣分： 只强调安全，完全不考虑用户效率。
作品集里怎么展示它
你可以在作品集里加入“风险与护栏矩阵”：
- 低风险：常见政策问答，允许自动回答，但必须有 Citation（引用来源）。
- 中风险：订单、工单、客户资料查询，需要身份和权限校验。
- 高风险：退款、合同、财务、人事决策，只生成草稿或建议，必须人工确认。
- 失败兜底：无资料、无权限、工具失败、输出异常时如何处理。
这比简单说“我做了安全控制”更有说服力。