据 ai987.cn 于 2026 年 8 月 2 日收到的消息 ‣ 大语言模型的快速崛起已深刻改变现代人工智能应用的构建方式。从客服聊天机器人到能够推理、规划并跨工具执行任务的复杂智能体，大模型无处不在。闭源模型如 GPT-5.5 和 Opus-4.6 虽然通过简单的 API 调用即可快速原型开发，但也带来了供应商锁定、定制化受限、定价与性能不可控以及数据隐私担忧等代价。因此，开源大模型变得愈发关键，它们允许开发者私有化部署、利用领域数据微调、并针对特定负载优化推理性能。
开源大模型通常指架构、代码与权重公开发布，任何人可下载、本地运行、微调并部署于自有基础设施的模型，赋予团队对推理、定制、数据隐私及长期成本的完全掌控。但“开源”一词常被宽泛使用，许多模型虽开放权重，许可证却不符合开源倡议（OSI）的传统定义。开放权重意味着参数可免费下载，但许可证可能限制商业用途、要求署名或限制再分发。OSI 指出，开源模型需完全共享训练代码、中间检查点、训练数据集及其构成，而开放权重模型通常不共享这些。两类模型均支持自托管、行为审查与微调，主要差异在于许可自由度与训练管道披露程度。本文列出的模型均可自由下载自托管，满足多数生产评估需求。
GLM-5.2 来自 Z.ai，定位为代理工程、软件开发与长程推理任务的旗舰模型。它沿用 GLM-5 主干，拥有 7540 亿总参数、单 token 激活 400 亿参数的 MoE 架构，上下文窗口扩展至 100 万 token，并采用 DeepSeek 稀疏注意力机制（DSA）提升长上下文推理效率。GLM-5.2 采用 MIT 许可证，支持无限制商用、修改与分发。其在软件工程与终端执行基准（如 SWE-Bench Pro、Terminal-Bench 2.1、FrontierSWE）上达到最先进水平，甚至超越 GPT-5.5 与 Claude Opus 4.8，并支持多级思维努力平衡性能与延迟。100 万 token 上下文使编程智能体能一次性载入中型代码仓库，避免频繁压缩。新增的 IndexShare 优化通过在每四层稀疏注意力层间复用索引器，将 100 万 token 场景下的单 token 计算量降低约 2.9 倍。资源有限团队可考虑轻量版 GLM-4.7-Flash，这是一款 300 亿参数 MoE 模型，具备强代理性能与更高服务效率。
MiniMax-M3 由 MiniMaxAI 发布，总参数 4280 亿、激活 230 亿，专为长程代理编码与复杂任务执行设计。核心升级为 MSA（MiniMax 稀疏注意力），使 100 万 token 上下文成为可能，官方称其将 100 万 token 场景下的单 token 计算量降至上一代的 1/20，预填与解码速度分别提升 9 倍与 15 倍。M3 在软件工程基准上逼近 Opus 4.7 与 GPT-5.5，训练中引入交互式用户模拟器，使其擅长多轮协作而非单次生成，能澄清需求、调整方案并跨会话迭代。配合同训练的 MiniMax Code 智能体框架，可将大任务分解为并发自纠错工作流，数日无人值守运行。内部测试显示，M3 自主复现 ICLR 论文耗时约 12 小时，优化 Hopper FP8 GEMM CUDA 内核耗时约 24 小时，硬件峰值利用率从 7.6% 提升至 71.3%。原生多模态训练支持图像、视频输入及桌面操作，驱动跨应用工作流。注意其采用 MiniMax 社区许可证，附带商用条件。
DeepSeek-V4 包含两款大型 MoE 模型：旗舰版 DeepSeek-V4-Pro（总参数 1.6 万亿、激活 490 亿）与高性价比版 DeepSeek-V4-Flash（总参数 2840 亿、激活 130 亿）。两者均基于超 32 万亿 token 预训练，支持 100 万 token 上下文。架构创新在于混合注意力机制，结合压缩稀疏注意力（CSA）与高度压缩注意力（HCA），通过多层级 KV 缓存摘要平衡细粒度推理与全局感知，并保留近期 token 滑动窗口以维持局部精度。采用 MIT 许可证。DeepSeek-V4-Pro 在推理与编码密集型负载上表现强劲，最大推理模式在主流基准上极具竞争力。DeepSeek 内部以 V4 作为日常代理编码默认模型，实测可靠性优于 Claude Sonnet 4.5，质量接近 Claude Opus 4.6 非思考模式。两模型均支持非思考、思考高、思考最大三种推理努力模式，可按需权衡延迟与质量。知识深度显著跃升，SimpleQA-Verified 基准上超越所有开源模型约 20 个百分点，仅次于 Gemini-Pro-3.1。长上下文 KV 缓存压力大幅降低，100 万 token 场景下 KV 缓存仅需 DeepSeek-V3.2 的 10%，单 token 推理 FLOPs 仅 27%。DeepSeek 表示 V4-Pro API 吞吐受限于高端算力供给，预计华为昇腾 950 超级节点规模交付后下半年定价将大幅下探。
MiMo-V2.5-Pro 为小米最新开源模型家族旗舰，总参数 1.02 万亿、激活 420 亿，专注代理编码、长程推理与多模态工作流，基于 27 万亿 token 以 FP8 混合精度训练，原生序列长度 32K。架构亮点为长上下文效率，以 6:1 比例交错滑动窗口注意力（128 token 窗口）与全局注意力，将 KV 缓存存储降低近 7 倍并保持长上下文性能。后训练结合 SFT、大规模代理 RL 与多教师在线策略蒸馏（MOPD），实现跨任务行为更稳定。MIT 许可证允许商用、修改与微调。MiMo-V2.5-Pro 在主要编码与代理任务上匹配或超越 DeepSeek-V4-Pro 与 Kimi-K2.6 等前沿开放权重模型，并在编译器实现、桌面应用开发、EDA 流程等复杂工作流中展现持续工具使用能力。在 ClawEval 基准上，其以约 40%-60% 的 token 消耗达到 Claude Opus 4.6 相当能力。混合 SWA/GA 架构在 GraphWalks 基准上保持 512K token 以上的强性能，为仓库级推理、长文档分析与持久代理记忆提供工程保障。
Kimi-K2.6 为月之暗面最新开放权重模型，总参数约 1 万亿、激活 320 亿，结合多头潜在注意力（MLA）与 MoonViT 视觉编码器（约 4 亿参数），支持 256K token 上下文及图像、视频输入（视频理解为实验性功能，仅限官方 API）。采用修改版 MIT 许可证，商用月活超 1 亿或月收超 2000 万美元需在产品 UI 显著位置标注“Kimi K2.6”。Kimi-K2.6 在复杂端到端编码上设立开源新高度，泛化至 Zig 等小众语言，支持长周期自主编码会话。引入 `preserve_thinking` 模式保留完整推理轨迹，配合 Kimi Code CLI 框架效果最佳。代理群编排能力大幅扩展，可动态分解任务为最多 300 子代理、4000 协调步骤并行执行，单次群运行可交付文档、网站、幻灯片、电子表格等完整产出。持久化后台代理测试中，基于 Kimi-K2.6 的代理自主运行 5 天处理监控、事件响应与系统运维无需人工干预。此外擅长编码驱动 UI 生成，可将简单提示转化为具备美学布局、交互元素与滚动触发动画的前端界面。
Qwen3.5-397B-A17B 为阿里巴巴通义千问系列最新旗舰，采用大型 MoE 架构融合多模态推理与超长上下文，解码吞吐较早期 Qwen3-Max 提升 8.6 至 19 倍。视觉语言在架构早期融合，统一框架内推理文本、图像、视频、文档，并可在多模态推理中调用代码解释器、图像搜索等工具。在指令跟随、推理、编码、代理及多语言任务上表现强劲，多项基准逼近 GPT-5.2 与 Claude 4.5 Opus 等闭源前沿模型。原生上下文 262K token，可扩展超 100 万 token，适配智能体、RAG 与长对话，但超长序列需约 1 TB GPU 显存，遇 OOM 可在保留 128K 以上的前提下缩减上下文。多语言覆盖超 200 种语言与方言。Qwen3.5 系列还包含中型模型（如 Qwen3.5-35B-A3B、Qwen3.5-122B-A10B、Qwen3.5-27B）与小模型（0.8B、2B、4B、9B），前者通过架构改进、高质量数据与规模化 RL 实现以小博大，后者面向边缘推理、紧凑智能体与移动应用。
Gemma 4 为 Google 最新一代开放权重模型家族，统一设计涵盖文本、图像、音频，提供四种规模适配端侧至大规模推理。核心为混合注意力机制，交错本地滑动窗口注意力（1024 token 窗口）与全局注意力并以全局层收尾，兼顾长上下文内存管理与深度语境感知。旗舰密集模型 31B 支持 256K token 上下文，为同规模开源密集模型罕见。Apache 2.0 许可证支持商用、修改及专有数据微调。Gemma 4 31B 在同规模开放权重模型中推理与编码性能居前，AIME、GPQA 等推理基准与 LiveCodeBench、Codeforces 等编码任务表现优异，可舒适运行于单张 80GB H100。多模态提示建议将图像或音频置于文本前以提升质量。家族包含端侧部署的 E2B/E4B（2.3B/4.5B 有效参数，独有音频输入支持）、近 4B 服务成本的 MoE 模型 26B A4B、消费级硬件可运行的 12B 与旗舰 31B。原生支持结构化工具调用、系统提示与多轮对话，便于代理管线集成。预训练覆盖 100 余种语言，开箱支持 30 余种语言。注意 31B 密集模型不支持音频输入，需音频处理请选择其余三款变体。
关于常见问题：当前不存在单一“最佳”开源大模型，选择取决于用例、算力预算与优先级。参考建议：推理选 MiniMax-M3，编码助手选 Kimi-K2.7-Code，代理工作流选 GLM-5.2 与 MiniMax-M3，通用对话选 DeepSeek-V4-Pro，创意写作选 DeepSeek-V4-Pro，OpenClaw 选 GLM-5.2 与 MiniMax-M3。开源大模型领域演进极快，新发布常在数月内超越旧模型，追逐最新赢家不如构建灵活推理平台，便于快速切换前沿模型并应用优化技术。
选择开源大模型而非闭源的核心优势在于：定制化能力强，可微调专有数据并应用投机解码、前缀缓存、预填解码解耦等推理优化；数据安全可控，本地或私有云部署避免数据发往供应商服务器；长期成本效益高，虽需基建投入但消除持续 API 费用，经优化常具更优性价比；受惠社区协作，持续获得改进、修复、新特性与最佳实践；规避供应商锁定，不依赖单一提供商路线图、定价与可用性。
据 Epoch AI 数据，开放权重模型平均仅落后最先进闭源模型约三个月。差距因能力而异：编码助手与代理、数学推理、通用对话差距较小，开源模型已具强竞争力；多模态（图像/视频）差距中等偏大，闭源模型在性能与精细度上仍领先；极端长上下文与高可靠性场景差距中等，闭源模型在大规模下稳定性更优。
随着开源模型逼近闭源，单纯切换最新前沿模型不再构成显著差异化。真正差异源于对模型与推理管线的产品化适配，聚焦性能、成本与领域相关性。最有效路径是基于专有数据微调更小开源模型，编码领域专长、用户行为模式与品牌调性，这是通用前沿模型无法复制的。小模型服务成本远低，在特定任务上可超越大模型。关键步骤包括：基于真实用户交互构建高质量任务聚焦数据集、识别专业化影响最大的工作流、微调小模型在特定任务上超越大模型、优化推理延迟、吞吐与成本。此举受限于数据安全与隐私，闭源 Serverless API 难以实现。
自托管开源模型的一大优势是可针对特定用例应用推理优化。vLLM 与 SGLang 等框架已内置连续批处理、投机解码等技术。但随模型规模增长与复杂度提升，单节点优化不再足够。KV 缓存快速膨胀、GPU 显存成瓶颈、长上下文代理任务挑战单 GPU 极限。因此推理架构转向分布式，前缀缓存、KV 缓存卸载、数据/张量/流水线/专家混合并行、预填解码解耦等优化愈发必要。虽部分框架支持这些特性，但需精细调优以适配现有基建，且随新模型发布需重新评估。
生产部署大模型需考量：模型规模平衡精度、速度与成本，小模型响应更快、GPU 成本更低，大模型推理更细腻、输出质量更高，务必针对负载基准测试；GPU 选型依赖显存与带宽，企业自托管常选 NVIDIA A100、H200、B200 或 AMD MI300X、MI350X、MI355X，需在目标硬件上基准测试，llm-optimizer 等工具可辅助寻找最佳配置；扩展性需支持按需自动扩缩容且冷启动极快，否则用户体验受损；除传统监控外需追踪首 token 时间（TTFT）、token 间延迟（ITL）、token 吞吐等推理指标；部署模式（BYOC、多云跨区域、本地混合）决定延迟、扩展性、隐私与成本，需匹配企业运维需求。
开源大模型的爆发式增长赋予团队前所未有的 AI 应用构建控制权。它们在缩小与闭源差距的同时，提供无可比拟的灵活性。
综合自网络信息