跳到主要内容

LLM(大语言模型)

先用一句话说清楚​

LLM(大语言模型)是能够理解和生成自然语言的模型能力,是 AI Agent(人工智能体)系统里的推理与生成核心,但不是完整应用。

新手通俗解释​

可以把 LLM(大语言模型)理解成一个很强的“语言和推理引擎”。它能读懂问题、总结资料、生成回答、改写内容、做分类和提出计划。但它不是数据库,不天然知道你的企业资料,也不能自己保证权限和事实正确。

真实项目里,LLM(大语言模型)通常要和 Prompt(提示词)、RAG(检索增强生成)、Tool Calling(工具调用)、Structured Output(结构化输出)、日志和后端系统配合,才能变成可交付产品。

为什么智能体工程师岗位会问它​

面试官问 LLM(大语言模型),不是让你背模型发展史,而是看你能不能把模型能力放到工程系统里使用。

常见考察点:

考察点面试官想听什么
能力边界LLM(大语言模型)擅长语言理解和生成,不擅长事实保证和权限执行
模型选择不同任务按质量、成本、延迟、上下文和稳定性取舍
系统集成模型要和 RAG(检索增强生成)、工具、结构化输出、日志配合
失败处理幻觉、格式错误、超时、成本过高如何处理
评估方法不能只凭“看起来不错”,要有样例和指标

它在项目里到底怎么用​

在 AI Agent(人工智能体)项目中,LLM(大语言模型)常承担这些职责:

职责示例注意事项
理解用户意图判断用户是在咨询、投诉、查订单还是要求写报告不能用意图直接替代权限判断
总结资料把知识库片段整理成用户能读懂的回答必须保留 Citation(引用来源)
生成草稿生成邮件、工单、复盘、报告初稿高风险内容需要人工确认
结构化判断输出风险等级、下一步动作、缺失字段需要 schema(结构定义)校验
任务规划把复杂任务拆成步骤步骤要被系统状态和工具结果约束

和 AI(人工智能)应用的区别​

LLM(大语言模型)是能力,AI(人工智能)应用是产品。只接入模型接口,通常只能得到一个回答能力;要做成项目,还要设计用户界面、业务对象、数据来源、工具调用、权限、日志、部署、监控和验收。

面试时可以说:我不会把“用了大模型”当成项目亮点,真正的亮点是如何把模型能力放进可验证的业务闭环。

常见误解​

误解为什么不对正确理解
模型越大越好大模型成本高、延迟高,不一定适合所有任务按任务选择模型
LLM(大语言模型)知道所有事实模型知识会过时,也不知道私有资料需要 RAG(检索增强生成)和工具
模型回答自信就可信自信不等于有依据要看证据、引用和评估
换模型能解决所有问题很多问题来自资料、流程、权限和提示设计先定位失败层级

面试官可能怎么追问​

1. 你如何选择模型?​

考察点: 是否能做工程取舍。

参考回答: 我会按任务复杂度、输出质量、Context Window(上下文窗口)、成本、延迟、稳定性、结构化输出能力、工具调用能力和部署约束选择模型。简单分类可以用便宜模型,复杂推理或关键生成用更强模型;高频任务要特别关注成本和延迟。

容易扣分: 只说“选最强的”。

2. LLM(大语言模型)出现幻觉怎么办?​

考察点: 是否能分层治理。

参考回答: 我会先判断幻觉来自哪里:资料缺失、检索错误、Prompt(提示词)边界不清、模型自由发挥、输出校验不足还是用户问题本身不明确。对应处理包括 RAG(检索增强生成)证据约束、Citation(引用来源)、拒答、结构化输出校验、人工复核和评估样例。

容易扣分: 只说“加一句不要编造”。

3. LLM(大语言模型)在 Agent(智能体)里负责什么,不负责什么?​

考察点: 是否理解职责边界。

参考回答: LLM(大语言模型)负责理解、生成、总结、分类、候选决策和任务规划;不应该直接负责权限、数据库写入、高风险执行和最终业务授权。这些要由后端系统、工具层和人工审批控制。

容易扣分: 让模型承担全部决策和执行责任。

作品集里怎么展示它​

作品集里不要只写“接入某某模型”。应该展示:

  • 为什么这个任务需要 LLM(大语言模型)。
  • 哪些地方用了小模型,哪些地方用了强模型。
  • 如何控制 Token(文本计量单位)、成本和延迟。
  • 如何通过 RAG(检索增强生成)和工具补足模型不知道的事实。
  • 如何记录失败样例并迭代。

这样更像工程项目,而不是模型体验页。

和哪些术语一起理解​

对应章节与项目​