Token（文本计量单位）
先用一句话说清楚
Token（文本计量单位）是模型处理文本时使用的基本计量单位，会影响 Context Window（上下文窗口）、成本、延迟和输出长度。
新手通俗解释
模型不是按“页数”或“字数”直接计费和处理，而是把文本切成 Token（文本计量单位）。你可以粗略理解为模型眼里的文字小片段。用户问题、系统 Prompt（提示词）、历史对话、RAG（检索增强生成）片段、工具结果和模型输出都会消耗 Token（文本计量单位）。
所以一个 AI Agent（人工智能体）项目不是内容越多越好。内容越多，花费越高，速度越慢，模型也更容易被无关信息干扰。
为什么智能体工程师岗位会问它
企业项目非常关心成本和性能。面试官问 Token（文本计量单位），是在看你是否知道大模型应用不是免费无限调用，也不是把所有资料都塞给模型。
常见考察点：
| 考察点 | 应该怎么回答 |
|---|---|
| 成本 | 输入和输出都会消耗 Token（文本计量单位） |
| 延迟 | 内容越长，处理通常越慢 |
| 上下文 | Context Window（上下文窗口）容量有限，需要选择内容 |
| RAG（检索增强生成） | 检索片段数量和长度要控制 |
| 评估 | 成本要和任务价值绑定，不只看回答质量 |
它在项目里到底怎么用
以企业知识库问答为例，Token（文本计量单位）预算可以这样管理：
| 内容来源 | 控制方法 |
|---|---|
| 系统 Prompt（提示词） | 保留必要规则，避免堆模板话 |
| 用户问题 | 保留原意，必要时改写成检索问题 |
| 历史对话 | 只保留关键事实和当前任务状态 |
| RAG（检索增强生成）片段 | 控制数量、长度和相关性 |
| 工具结果 | 只传必要摘要，不传完整原始响应 |
| 模型输出 | 按任务限制长度，避免过度生成 |
和 Context Window（上下文窗口）的关系
Context Window（上下文窗口）表示模型一次能处理多少 Token（文本计量单位）。Token（文本计量单位）是容量单位，上下文窗口是容量上限。一个项目要同时考虑：放什么内容、放多少内容、输出多长、成本多少、延迟多少。
面试时可以说：我会把 Token（文本计量单位）当成工程预算，不只是模型参数。
常见误解
| 误解 | 为什么不对 | 正确理解 |
|---|---|---|
| Token（文本计量单位）只影响费用 | 还影响延迟、上下文容量和质量 | 成本、速度、效果都要看 |
| 输出越详细越好 | 长输出成本高，也可能掩盖重点 | 按用户场景控制输出 |
| RAG（检索增强生成）片段越多越好 | 片段多会占上下文并带来噪声 | 要控制相关性和数量 |
| 只要模型支持大上下文就不用预算 | 大上下文也有成本和噪声 | 仍要做上下文管理 |
面试官可能怎么追问
1. 你会怎么控制大模型调用成本？
考察点： 是否理解成本来源。
参考回答： 我会从减少无效输入、控制 RAG（检索增强生成）片段数量、压缩历史上下文、按任务选择模型、缓存重复结果、限制输出长度、批处理非实时任务和记录成本日志几个方面控制。成本要绑定业务对象，才能知道哪类任务最贵。
容易扣分： 只说“用便宜模型”。
2. Token（文本计量单位）太多会造成什么问题？
考察点： 是否理解质量和性能影响。
参考回答： 会增加成本和延迟，也可能导致模型关注到无关内容，出现回答跑偏或引用不准。长上下文不是越长越好，要通过检索、重排、摘要和状态管理控制输入质量。
容易扣分： 只说“超过限制会报错”。
3. RAG（检索增强生成）里怎么做 Token（文本计量单位）预算？
考察点： 是否能把概念落到项目。
参考回答： 我会先给系统 Prompt（提示词）、用户问题、历史状态、检索片段和输出分别预留预算。检索片段会按相关性、来源可信度、去重和长度筛选，必要时使用 Reranker（重排序器）减少低质量片段进入上下文。
容易扣分： 把所有召回片段都塞进去。
作品集里怎么展示它
作品集可以加一个“成本与上下文面板”：
- 本次任务输入大概由哪些内容构成。
- RAG（检索增强生成）片段放了多少条。
- 为什么丢弃某些历史对话或低相关资料。
- 输出长度如何限制。
- 高成本任务如何通过缓存、摘要或模型分层降低成本。
这会让你的项目更像真实工程，而不是玩具 Demo（演示）。