LLM(大语言模型)
先用一句话说清楚
LLM(大语言模型)是能够理解和生成自然语言的模型能力,是 AI Agent(人工智能体)系统里的推理与生成核心,但不是完整应用。
新手通俗解释
可以把 LLM(大语言模型)理解成一个很强的“语言和推理引擎”。它能读懂问题、总结资料、生成回答、改写内容、做分类和提出计划。但它不是数据库,不天然知道你的企业资料,也不能自己保证权限和事实正确。
真实项目里,LLM(大语言模型)通常要和 Prompt(提示词)、RAG(检索增强生成)、Tool Calling(工具调用)、Structured Output(结构化输出)、日志和后端系统配合,才能变成可交付产品。
为什么智能体工程师岗位会问它
面试官问 LLM(大语言模型),不是让你背模型发展史,而是看你能不能把模型能力放到工程系统里使用。
常见考察点:
| 考察点 | 面试官想听什么 |
|---|---|
| 能力边界 | LLM(大语言模型)擅长语言理解和生成,不擅长事实保证和权限执行 |
| 模型选择 | 不同任务按质量、成本、延迟、上下文和稳定性取舍 |
| 系统集成 | 模型要和 RAG(检索增强生成)、工具、结构化输出、日志配合 |
| 失败处理 | 幻觉、格式错误、超时、成本过高如何处理 |
| 评估方法 | 不能只凭“看起来不错”,要有样例和指标 |
它在项目里到底怎么用
在 AI Agent(人工智能体)项目中,LLM(大语言模型)常承担这些职责:
| 职责 | 示例 | 注意事项 |
|---|---|---|
| 理解用户意图 | 判断用户是在咨询、投诉、查订单还是要求写报告 | 不能用意图直接替代权限判断 |
| 总结资料 | 把知识库片段整理成用户能读懂的回答 | 必须保留 Citation(引用来源) |
| 生成草稿 | 生成邮件、工单、复盘、报告初稿 | 高风险内容需要人工确认 |
| 结构化判断 | 输出风险等级、下一步动作、缺失字段 | 需要 schema(结构定义)校验 |
| 任务规划 | 把复杂任务拆成步骤 | 步骤要被系统状态和工具结果约束 |
和 AI(人工智能)应用的区别
LLM(大语言模型)是能力,AI(人工智能)应用是产品。只接入模型接口,通常只能得到一个回答能力;要做成项目,还要设计用户界面、业务对象、数据来源、工具调用、权限、日志、部署、监控和验收。
面试时可以说:我不会把“用了大模型”当成项目亮点,真正的亮点是如何把模型能力放进可验证的业务闭环。
常见误解
| 误解 | 为什么不对 | 正确理解 |
|---|---|---|
| 模型越大越好 | 大模型成本高、延迟高,不一定适合所有任务 | 按任务选择模型 |
| LLM(大语言模型)知道所有事实 | 模型知识会过时,也不知道私有资料 | 需要 RAG(检索增强生成)和工具 |
| 模型回答自信就可信 | 自信不等于有依据 | 要看证据、引用和评估 |
| 换模型能解决所有问题 | 很多问题来自资料、流程、权限和提示设计 | 先定位失败层级 |
面试官可能怎么追问
1. 你如何选择模型?
考察点: 是否能做工程取舍。
参考回答: 我会按任务复杂度、输出质量、Context Window(上下文窗口)、成本、延迟、稳定性、结构化输出能力、工具调用能力和部署约束选择模型。简单分类可以用便宜模型,复杂推理或关键生成用更强模型;高频任务要特别关注成本和延迟。
容易扣分: 只说“选最强的”。
2. LLM(大语言模型)出现幻觉怎么办?
考察点: 是否能分层治理。
参考回答: 我会先判断幻觉来自哪里:资料缺失、检索错误、Prompt(提示词)边界不清、模型自由发挥、输出校验不足还是用户问题本身不明确。对应处理包括 RAG(检索增强生成)证据约束、Citation(引用来源)、拒答、结构化输出校验、人工复核和评估样例。
容易扣分: 只说“加一句不要编造”。
3. LLM(大语言模型)在 Agent(智能体)里负责什么,不负责什么?
考察点: 是否理解职责边界。
参考回答: LLM(大语言模型)负责理解、生成、总结、分类、候选决策和任务规划;不应该直接负责权限、数据库写入、高风险执行和最终业务授权。这些要由后端系统、工具层和人工审批控制。
容易扣分: 让模型承担全部决策和执行责任。
作品集里怎么展示它
作品集里不要只写“接入某某模型”。应该展示:
- 为什么这个任务需要 LLM(大语言模型)。
- 哪些地方用了小模型,哪些地方用了强模型。
- 如何控制 Token(文本计量单位)、成本和延迟。
- 如何通过 RAG(检索增强生成)和工具补足模型不知道的事实。
- 如何记录失败样例并迭代。
这样更像工程项目,而不是模型体验页。