审计(Audit)
先用一句话说清楚
审计(Audit)是记录和复核一次系统行为的过程,用来回答“谁在什么时候做了什么、依据是什么、结果如何、能否追责”。
实战知识卡
| 维度 | 要点 |
|---|---|
| 项目里看什么 | 看模型输出、RAG(检索增强生成)检索、Tool Calling(工具调用)、审批和配置变更是否能串起来复核。 |
| 新手最该记住 | 审计不是普通日志,它要能回答责任、依据、权限和结果。 |
| 作品集证据 | 展示一条审计记录:Trace ID(追踪编号)、触发人、工具、权限、审批、结果和失败原因。 |
| 面试回答公式 | 先说为什么要审计,再说记录哪些字段,最后说明哪些敏感信息不能记录。 |
| 常见追问 | 如果工具执行错了,你怎么判断是模型误判、权限配置错误、工具失败还是人工确认失误? |
新手通俗解释
日志只是记录事情发生了,审计(Audit)更强调责任和复核。比如 AI Agent(人工智能体)调用了创建工单工具,审计记录应该能说明:哪个用户触发、模型为什么建议调用、系统是否校验权限、谁确认、工具结果是什么、失败时如何处理。
企业系统里,审计(Audit)不是为了写得好看,而是为了出问题时能查清楚。
为什么岗位会问它
AI Agent(人工智能体)会连接资料、工具和业务系统。面试官问审计(Audit),是在看你是否知道企业交付不是只看成功路径,还要能复盘、追责和证明系统没有越权。
| 审计对象 | 要记录什么 |
|---|---|
| 模型输出 | 输出摘要、模型名称、风险等级、Trace ID(追踪编号) |
| RAG(检索增强生成) | 检索问题、引用来源、资料版本、权限范围 |
| Tool Calling(工具调用) | 工具名称、参数摘要、执行结果、失败原因 |
| 人工审批 | 审批人、审批时间、审批结论、备注 |
| 配置变更 | 谁改了模型、提示词、阈值、工具开关 |
它在项目里怎么用
作品集里可以把审计(Audit)做成“运行记录”或“操作记录”:
| 字段 | 说明 |
|---|---|
| Trace ID(追踪编号) | 串起一次任务 |
| 操作类型 | 检索、模型调用、工具调用、审批、导出 |
| 触发来源 | 用户、系统、定时任务或人工 |
| 结果状态 | 成功、失败、拒绝、转人工 |
| 风险等级 | 普通、中风险、高风险 |
| 脱敏摘要 | 记录必要信息,不保存敏感原文 |
和日志的区别
日志偏技术排查,审计(Audit)偏责任复核。日志可以非常细,审计记录要能被业务、管理和安全人员理解。AI Agent(人工智能体)项目最好同时有日志和审计摘要。
常见误解
| 误解 | 为什么不对 | 正确理解 |
|---|---|---|
| 审计(Audit)就是日志 | 日志不一定能回答责任问题 | 审计要能复核行为和权限 |
| 作品集不用审计 | 面试官会追问真实上线风险 | 作品集也可以展示审计设计 |
| 记录越多越好 | 可能泄露隐私和密钥 | 记录必要、脱敏、可追踪的信息 |
| 只有金融项目需要审计 | 客服、合同、人事、知识库也需要 | 只要涉及业务动作就要考虑 |
面试官可能怎么追问
1. 工具调用为什么要审计?
考察点: 是否理解模型动作风险。
参考回答: 因为工具调用可能读取资料、创建工单、提交审批或影响客户权益。审计(Audit)能记录模型意图、系统校验、人工确认和工具结果。出错时可以判断是模型误判、权限配置问题、工具失败还是人工确认失误。
容易扣分: 只说“方便调试”。
2. 审计日志里不能记录什么?
考察点: 是否有隐私意识。
参考回答: 不能记录 API Key(接口密钥)、Cookie(浏览器登录凭据)、身份证、银行卡、完整隐私对话和无必要的原始文件内容。需要复盘时可以记录摘要、标识和脱敏字段。
容易扣分: 为了方便排查保存所有原文。
作品集里怎么展示它
- 展示一次任务的审计记录。
- 展示一次工具调用被拒绝或转人工的记录。
- 展示配置变更记录,例如从 Mock Mode(模拟模式)切到 Live Mode(真实运行模式)。
- 展示隐私脱敏说明。