大模型动态选型指南
资料更新时间:2026-07-04。本页不是固定排行榜。模型能力、价格、上下文长度、地区可用性和工具支持变化很快,发布前需要复核官方文档。
选模型不要从“哪个最强”开始,而要从任务开始。AI Agent(人工智能体)项目常见任务包括需求分析、代码生成、RAG(检索增强生成)、Tool Calling(工具调用)、长文档处理、中文商业表达、数据分析、面试材料生成和低成本批量处理。不同任务需要不同模型能力。
先看 8 个维度
| 维度 | 说明 | 适合什么项目 |
|---|---|---|
| 代码能力 | 能否稳定理解项目结构、跨文件修改、修复错误 | Codex(智能编程代理)项目、代码助手案例 |
| 长上下文 | 能否处理大量文档、日志、需求和历史记录 | RAG(检索增强生成)、知识库、GEO(生成式引擎优化) |
| 推理能力 | 能否做复杂判断、归因、方案取舍 | 数据分析、多智能体、面试追问 |
| 工具调用能力 | 能否稳定选择工具、填参数、处理失败 | MCP(模型上下文协议)、Tool Calling(工具调用) |
| 中文表达 | 能否写清楚业务方案、报告、简历和面试话术 | 中文企业项目、求职材料 |
| 成本 | 单次调用和批量任务是否可承受 | 50 个案例批量生成、低价值摘要任务 |
| 速度 | 响应延迟是否影响交互体验 | 客服、导购、工作台 |
| 合规与可用性 | 企业是否允许使用、数据是否能出域 | 企业交付和真实业务系统 |
常见模型家族的选型位置
| 模型家族 | 适合优先考虑的任务 | 使用提醒 |
|---|---|---|
| OpenAI(模型服务商) GPT 系列与 Codex 可用模型 | 复杂代码、专业工作、Agent(智能体)任务、工具协作、结构化输出 | 参考 OpenAI(模型服务商) Codex(智能编程代理)说明 与 OpenAI(模型服务商)模型列表。不要把具体型号写死成长期结论 |
| Anthropic(模型服务商) Claude(模型产品) | 长程任务、复杂推理、Agent(智能体)编程、文档分析 | 参考 Claude(模型产品)模型选择指南,重点看任务长度、工具使用和企业政策 |
| Google(模型服务商) Gemini(模型产品) | 多模态、长上下文、搜索增强、视频和图片相关任务 | 参考 Gemini(模型产品)模型文档,重点看多模态、上下文和地区可用性 |
| DeepSeek(深度求索模型) | 成本敏感、OpenAI-compatible API(兼容式接口)、推理与代码任务 | 参考 DeepSeekAPI(应用程序接口)文档;注意模型名和下线时间 |
| Qwen(通义千问模型) | 中文场景、开源生态、Agent(智能体)与多模态探索 | 参考 QwenAPI(应用程序接口)平台 |
| GLM(智谱模型) | 中文企业场景、长上下文、国产模型生态 | 参考 智谱 AI(人工智能)开放文档 |
这张表只告诉你“该看什么能力”,不等于最终采购建议。真实项目还要看企业账号、数据能否出域、价格、上下文窗口、并发限制、工具调用支持、日志合规和团队熟悉度。
模型能力卡模板
选型时不要只写“用某某模型”。每个候选模型至少要写成一张能力卡。
| 字段 | 要写什么 | 为什么 |
|---|---|---|
| 使用任务 | 需求分析、代码生成、RAG 回答、工具调用、批量摘要等 | 不同任务不该共用一个笼统结论 |
| 输入规模 | 上下文长度、文档数量、图片或表格数量 | 判断是否需要长上下文或多模态 |
| 输出要求 | 自然语言、JSON、表格、引用、工具参数 | 判断是否需要结构化输出和 schema 校验 |
| 成本等级 | 单次交互、批量任务、每日预算 | 防止高频低价值任务烧钱 |
| 延迟要求 | 用户能等几秒,是否能后台异步处理 | 决定交互式还是队列式 |
| 工具能力 | 是否需要 Tool Calling(工具调用)、函数参数、流式事件 | 决定是否适合 Agent(智能体)执行链 |
| 合规边界 | 数据能否出域,日志能否保留,供应商是否批准 | 企业项目先过合规,再谈能力 |
| 失败模式 | 常见错法、拒答情况、格式偏差、幻觉风险 | 为回归样例和兜底策略服务 |
| 备用方案 | 失败或成本超限时切到哪个模型或流程 | 支持灰度、回滚和降级 |
场景选择建议
| 项目场景 | 优先模型能力 | 不建议 |
|---|---|---|
| RAG(检索增强生成)知识库 | 长上下文、引用意识、拒答稳定性 | 只选便宜模型,不做引用验收 |
| MCP(模型上下文协议)工具平台 | 工具调用、参数遵循、失败处理 | 只看生成文本质量 |
| 多智能体系统 | 长程规划、状态保持、角色协作 | 让低能力模型承担全局规划 |
| 数据分析 Agent(智能体) | 表格理解、推理、中文报告 | 只看回答速度 |
| 客服 Agent(智能体) | 低延迟、稳定、风险控制 | 让模型直接承诺退款或合同条款 |
| GEO(生成式引擎优化) | 长文分析、平台差异、中文策略表达 | 不做来源记录和版本标注 |
| Coding Agent(智能体)和代码助手 | 跨文件理解、错误修复、测试意识、工具调用、长程任务保持 | 不看项目结构直接改大范围文件,不运行验证就声称完成 |
新手默认策略
- 第一轮用成本可控模型跑 Mock(模拟)模式。
- 项目闭环跑通后,把关键生成、判断和工具调用切到更强模型。
- 低价值批量任务用便宜模型,高价值决策任务用强模型。
- 企业项目先看合规和可用性,再看能力。
- 永远用样例集验收,不靠“感觉回答不错”。
- 不要把模型名写死在业务代码里;用配置、模型能力卡和 Provider Adapter(供应商适配器)管理差异。
模型切换门禁
模型切换不是“换个名字再跑一次”。至少要过下面这些门禁。
| 门禁 | 检查项 | 不通过时怎么处理 |
|---|---|---|
| 样例集 | 正常样例、边界样例、高风险样例是否都覆盖 | 先补样例,再谈切换 |
| 输出契约 | 字段名、枚举、错误格式、引用格式是否一致 | 加 schema 校验或适配层 |
| 工具调用 | 工具名称、参数、权限、失败回传是否稳定 | 收窄工具 schema,增加失败样例 |
| 成本和延迟 | 平均成本、峰值成本、响应时间是否可接受 | 分层路由、缓存、队列或降级 |
| 日志证据 | 是否记录 provider、model、trace_id、错误码和耗时 | 补日志后再灰度 |
| 回滚条件 | 质量下降、超时、成本异常时是否能切回 | 先设计回滚,再扩大使用 |
任务拆分选型法
一个 AI Agent(人工智能体)项目通常不应该只用一个模型承担所有任务。更像企业工程的做法,是把任务拆开:
| 任务 | 优先能力 | 常见选择方式 |
|---|---|---|
| 需求分析与项目计划 | 长上下文、推理、中文表达 | 用强模型先定边界,避免后面返工 |
| 代码生成与修复 | 跨文件理解、工具使用、验证意识 | 在 Codex(智能编程代理)里优先选择适合复杂 Coding Agent(智能体)任务的模型 |
| RAG(检索增强生成)回答 | 引用意识、拒答稳定性、事实约束 | 重点验收“引用是否支持答案” |
| Tool Calling(工具调用) | 参数遵循、失败处理、状态保持 | 用样例覆盖参数错误、超时和权限不足 |
| 批量摘要与标签 | 成本、速度、稳定格式 | 可用轻量模型,但必须抽样检查 |
| 面试材料生成 | 中文表达、结构化复盘、追问能力 | 用强模型生成追问,再人工修正成真实经历 |
面试时可以这样说:
我不会简单说“用了某个最强模型”。我会按任务拆模型:复杂规划和关键判断用强模型,批量低风险任务用轻量模型,RAG(检索增强生成)重点验收引用和拒答,工具调用重点验收参数、权限和失败恢复。这样能把效果、成本和风险一起控制住。
模型路由最小字段
如果项目要支持多个供应商或多个模型,至少要把路由配置写成可审查字段,而不是散落在代码里。
| 字段 | 示例含义 |
|---|---|
task_type | planning、rag_answer、tool_calling、batch_summary |
provider | OpenAI、Claude、Gemini、DeepSeek、Qwen、GLM 或企业批准供应商 |
model | 当前使用的具体模型名,以官方文档和项目配置为准 |
capability_profile | 强推理、低延迟、长上下文、结构化输出、多模态等能力标签 |
fallback_model | 主模型失败、超时或成本超限时的备用模型 |
timeout_ms | 超时阈值 |
max_cost_per_task | 单任务成本上限 |
requires_human_review | 是否必须人工复核 |
trace_id | 本次调用的追踪编号 |
模型路由记录示例
下面不是业务源码,而是一张项目记录。它的作用是让你、面试官和后续维护者都能看懂:为什么某个任务用这个模型,失败后退到哪里,哪些结果必须人工复核。
| 任务 | 主模型能力 | 备用策略 | 人工复核 | 验收样例 |
|---|---|---|---|---|
planning | 强推理、长上下文、中文表达 | 降级为人工整理需求,再让模型生成结构化计划 | 需要 | 复杂需求能拆成范围、风险、字段和验收 |
rag_answer | 引用意识、拒答稳定、长上下文 | 检索不足时拒答,不切到会猜测的模型 | 高风险问题需要 | 答案每个关键结论都有引用,无资料时拒答 |
tool_calling | 参数遵循、结构化输出、失败处理 | 参数校验失败时重试一次,再转人工 | 写入动作需要 | 参数错误、权限不足、超时都有日志 |
batch_summary | 成本低、速度快、格式稳定 | 抽样失败率超标时切回强模型或人工复核 | 抽样复核 | 100 条摘要抽样 10 条,格式和事实通过 |
interview_material | 中文表达、结构化复盘、追问能力 | 先生成草稿,再人工删掉夸大表达 | 需要 | 简历描述不伪造客户和生产经历 |
如果要写成配置,至少保留任务、供应商、模型、能力标签、失败策略和追踪字段。
{
"task_type": "rag_answer",
"provider": "approved-provider",
"model": "current-project-model",
"capability_profile": ["long_context", "citation_aware", "stable_refusal"],
"fallback_model": "manual_review",
"timeout_ms": 20000,
"max_cost_per_task": "project_budget_defined",
"requires_human_review": false,
"trace_id": "generated_per_request"
}
候选模型验收样例
选型时不要只让模型回答一个漂亮问题。至少准备下面 6 类样例,每类都记录输入、期望、实际输出、失败原因和是否通过。
| 样例类型 | 要测什么 | 不通过说明什么 |
|---|---|---|
| 正常样例 | 主流程能不能稳定完成 | 基础能力或提示词还不稳 |
| 边界样例 | 输入缺字段、超长、格式混乱时怎么处理 | 需要补 schema、裁剪或拒答 |
| 高风险样例 | 退款、合同、权限、生产写入等是否会越权 | 必须加人工确认或禁止动作 |
| 引用样例 | RAG 答案是否被资料支撑 | 检索、引用或拒答策略有问题 |
| 工具失败样例 | API 超时、权限不足、参数错误时怎么回传 | 工具调用不能只测成功路径 |
| 成本压力样例 | 批量任务是否超预算、超时或格式漂移 | 需要分层路由、队列或缓存 |
给 Codex(智能编程代理)的模型选择提示词
请帮我为当前 AI Agent(人工智能体)项目选择模型。
项目类型:请根据当前项目判断。
约束:不要给固定排行榜;请按任务拆分模型能力。
请输出:需求分析模型、代码生成模型、RAG(检索增强生成)回答模型、工具调用模型、低成本批量任务模型、最终验收模型。
每个选择都要说明原因、风险和替代方案。