跳到主要内容

第 2.17.1 节:先明确 Agent 评估到底评什么

进入实现之前,先围绕“先明确 Agent 评估到底评什么”划清适用场景、不做范围和判断条件。完成本节后,你应该能够写出评估对象与边界的适用场景、不适用场景、前置条件和进入工程实现的判断标准。

本章要解决什么问题​

Agent(智能体)项目最容易出现一种假进步:一次 Prompt(提示词)改动让几个演示问题变好了,但旧问题、权限边界、引用质量或工具轨迹悄悄变差。没有评估与回归测试,团队只能凭感觉判断“效果不错”,这不够工程化。

本章把评估拆成三层:最终响应评估、轨迹评估和单步评估。最终响应回答“用户看到的结果对不对”;轨迹评估回答“系统有没有走正确工具、状态和审批路径”;单步评估回答“检索、重排、工具参数、权限判断这些局部动作是否可靠”。

5 分钟结论​

问题本章结论
为什么要做 eval(评估)因为 Agent 行为会随资料、Prompt、模型、工具和审批流变化而漂移。
首版测什么happy path、无资料拒答、权限不足、工具失败、提示注入、长上下文和高风险动作。
阈值怎么定先把未授权工具调用、结构化输出合法率和黄金问题作为硬门禁。
失败怎么处理失败样例进入 regression_cases(回归样例),下一次发布必须复测。

评估对象​

评估层看什么示例失败
Final Response(最终响应)答案、引用、拒答、格式、风险提示无资料时编造答案。
Trajectory(轨迹)工具顺序、状态转移、审批节点、停止条件退款请求绕过审批直接执行。
Single Step(单步)检索命中、工具参数、权限判断、脱敏结果token audience 错误但工具仍执行。

继续学习​