跳到主要内容

Context Window(上下文窗口)

先用一句话说清楚​

Context Window(上下文窗口)是模型一次请求中能够处理的内容范围,包括指令、用户输入、历史对话、检索资料、工具结果和输出。

实战知识卡​

维度要点
项目里看什么看上下文里放了哪些资料、哪些被压缩、哪些必须重新检索。
新手最该记住上下文窗口(Context Window(上下文窗口))是有限资源,不能把所有资料都塞进去。
作品集证据说明系统提示、用户输入、检索片段、历史摘要和工具结果如何取舍。
面试回答公式先说上下文有限,再说用检索、摘要和优先级控制信息进入模型。
常见扣分点认为上下文越长越好。

新手通俗解释​

你可以把 Context Window(上下文窗口)理解成模型这次“能看到的桌面”。桌面上可以放任务说明、用户问题、历史聊天、知识库片段、工具返回结果等。桌面越大,能放的东西越多,但也更容易乱、成本更高、处理更慢。

AI Agent(人工智能体)项目不是把所有资料都塞进 Context Window(上下文窗口)。真正的工程能力是判断:这次任务到底需要哪些内容,哪些内容会干扰模型,哪些内容应该通过 RAG(检索增强生成)按需检索。

为什么智能体工程师岗位会问它​

Context Window(上下文窗口)直接影响模型效果、成本、延迟和 RAG(检索增强生成)设计。面试官问它,通常是在看你是否理解“上下文管理”不是简单堆内容。

常见考察点:

考察点面试官想确认
内容选择哪些信息应该进入上下文,哪些不应该
历史压缩多轮会话如何保留关键事实,丢弃无关内容
RAG(检索增强生成)关系上下文变大后是否还需要检索
成本控制Token(文本计量单位)越多,成本和延迟越高
失败定位回答错误可能是上下文缺失或上下文污染

它在项目里到底怎么用​

以客服 Agent(智能体)为例,Context Window(上下文窗口)可能包含:

内容是否应该放入原因
当前用户问题必须任务入口
系统规则必须定义安全和输出边界
最近关键对话选择性放入保留用户意图和补充信息
全部历史聊天通常不应该成本高、噪声大
RAG(检索增强生成)命中片段选择性放入提供回答依据
工具返回结果必须按需放入提供业务事实
无关资料不应该会干扰判断

和记忆的区别​

Context Window(上下文窗口)是模型本次请求能看到的内容;Memory(记忆)是系统长期保存或提取的用户偏好、历史事实和任务状态。记忆进入模型前,仍然要经过选择和过滤,不能无脑塞进上下文。

面试时可以说:上下文是本次推理现场,记忆是可被提取的长期信息;两者都要受权限和相关性约束。

常见误解​

误解为什么不对正确理解
上下文越大越好大上下文成本高、延迟高、噪声多要做上下文选择
大上下文可以替代 RAG(检索增强生成)资料更新、权限和检索效率仍是问题大上下文和 RAG(检索增强生成)可以配合
历史对话都要保留大量历史会干扰当前任务保留关键事实和当前目标
回答错一定是模型差可能是上下文缺证据或有错误资料要看 Trace ID(追踪编号)和输入内容

面试官可能怎么追问​

1. Context Window(上下文窗口)变大后,还需要 RAG(检索增强生成)吗?​

考察点: 是否理解两者边界。

参考回答: 仍然需要。大上下文能放更多内容,但不能解决资料更新、权限过滤、检索效率、引用定位和成本控制问题。RAG(检索增强生成)负责按需找到相关证据,再把必要片段放进上下文,两者是互补关系。

容易扣分: 说“上下文足够大就不用知识库了”。

2. 多轮对话怎么管理上下文?​

考察点: 是否理解会话状态。

参考回答: 我会保留当前任务目标、用户已确认信息、关键工具结果、未完成步骤和风险状态;对历史闲聊、重复信息和过期内容做摘要或丢弃。需要长期保存的内容进入 Memory(记忆)或业务状态,但进入模型前仍要筛选。

容易扣分: 全量拼接历史对话。

3. 上下文污染是什么?​

考察点: 是否能定位模型错误。

参考回答: 上下文污染是指无关、过期、错误或权限不匹配的信息进入模型输入,影响模型判断。比如把旧政策片段和新政策片段一起放进去,模型可能混合生成错误答案。处理方式是做资料版本控制、相关性过滤、权限过滤和引用检查。

容易扣分: 只关注“内容不够”,不关注“内容太乱”。

作品集里怎么展示它​

可以在作品集里展示一个“上下文构成面板”:

  • 当前用户问题。
  • 进入上下文的知识库片段和 Citation(引用来源)。
  • 进入上下文的工具结果。
  • 被丢弃或压缩的历史信息。
  • Token(文本计量单位)预算、成本和延迟。

这能证明你理解 AI Agent(人工智能体)不是无限聊天,而是受控地组织信息。

和哪些术语一起理解​

对应章节与项目​