跳到主要内容

审计(Audit)

先用一句话说清楚​

审计(Audit)是记录和复核一次系统行为的过程,用来回答“谁在什么时候做了什么、依据是什么、结果如何、能否追责”。

实战知识卡​

维度要点
项目里看什么看模型输出、RAG(检索增强生成)检索、Tool Calling(工具调用)、审批和配置变更是否能串起来复核。
新手最该记住审计不是普通日志,它要能回答责任、依据、权限和结果。
作品集证据展示一条审计记录:Trace ID(追踪编号)、触发人、工具、权限、审批、结果和失败原因。
面试回答公式先说为什么要审计,再说记录哪些字段,最后说明哪些敏感信息不能记录。
常见追问如果工具执行错了,你怎么判断是模型误判、权限配置错误、工具失败还是人工确认失误?

新手通俗解释​

日志只是记录事情发生了,审计(Audit)更强调责任和复核。比如 AI Agent(人工智能体)调用了创建工单工具,审计记录应该能说明:哪个用户触发、模型为什么建议调用、系统是否校验权限、谁确认、工具结果是什么、失败时如何处理。

企业系统里,审计(Audit)不是为了写得好看,而是为了出问题时能查清楚。

为什么岗位会问它​

AI Agent(人工智能体)会连接资料、工具和业务系统。面试官问审计(Audit),是在看你是否知道企业交付不是只看成功路径,还要能复盘、追责和证明系统没有越权。

审计对象要记录什么
模型输出输出摘要、模型名称、风险等级、Trace ID(追踪编号)
RAG(检索增强生成)检索问题、引用来源、资料版本、权限范围
Tool Calling(工具调用)工具名称、参数摘要、执行结果、失败原因
人工审批审批人、审批时间、审批结论、备注
配置变更谁改了模型、提示词、阈值、工具开关

它在项目里怎么用​

作品集里可以把审计(Audit)做成“运行记录”或“操作记录”:

字段说明
Trace ID(追踪编号)串起一次任务
操作类型检索、模型调用、工具调用、审批、导出
触发来源用户、系统、定时任务或人工
结果状态成功、失败、拒绝、转人工
风险等级普通、中风险、高风险
脱敏摘要记录必要信息,不保存敏感原文

和日志的区别​

日志偏技术排查,审计(Audit)偏责任复核。日志可以非常细,审计记录要能被业务、管理和安全人员理解。AI Agent(人工智能体)项目最好同时有日志和审计摘要。

常见误解​

误解为什么不对正确理解
审计(Audit)就是日志日志不一定能回答责任问题审计要能复核行为和权限
作品集不用审计面试官会追问真实上线风险作品集也可以展示审计设计
记录越多越好可能泄露隐私和密钥记录必要、脱敏、可追踪的信息
只有金融项目需要审计客服、合同、人事、知识库也需要只要涉及业务动作就要考虑

面试官可能怎么追问​

1. 工具调用为什么要审计?​

考察点: 是否理解模型动作风险。

参考回答: 因为工具调用可能读取资料、创建工单、提交审批或影响客户权益。审计(Audit)能记录模型意图、系统校验、人工确认和工具结果。出错时可以判断是模型误判、权限配置问题、工具失败还是人工确认失误。

容易扣分: 只说“方便调试”。

2. 审计日志里不能记录什么?​

考察点: 是否有隐私意识。

参考回答: 不能记录 API Key(接口密钥)、Cookie(浏览器登录凭据)、身份证、银行卡、完整隐私对话和无必要的原始文件内容。需要复盘时可以记录摘要、标识和脱敏字段。

容易扣分: 为了方便排查保存所有原文。

作品集里怎么展示它​

  • 展示一次任务的审计记录。
  • 展示一次工具调用被拒绝或转人工的记录。
  • 展示配置变更记录,例如从 Mock Mode(模拟模式)切到 Live Mode(真实运行模式)。
  • 展示隐私脱敏说明。

和哪些术语一起理解​

对应章节与项目​