Thinking Machines 发布 Inkling-Small 模型 性能接近旗舰版参数量仅四分之一

据 ai987.cn 于 2026 年 8 月 4 日收到的消息 ‣ 前 OpenAI 首席技术官米拉·穆拉蒂创办的初创公司 Thinking Machines 今日推出 Inkling-Small,这是一款拥有 2760 亿总参数的多模态推理模型。新模型在参数量仅为旗舰版 Inkling(9750 亿参数)约四分之一的情况下,性能几乎持平,甚至在部分基准测试中超越前代。

Thinking Machines 发布 Inkling-Small 模型 性能接近旗舰版参数量仅四分之一 - Image 1

第三方评测机构 Artificial Analysis 给 Inkling-Small 打出 40 分的智能指数得分,仅比 Inkling 的 41 分低一分。Inkling-Small 每 token 激活 120 亿参数,而旗舰版为 410 亿。该模型采用稀疏专家混合架构,42 层解码器将每个 token 路由至 256 个专家中的 6 个,加上 2 个共享专家。它支持文本、图像和音频输入,输出文本,上下文窗口高达 100 万 token。

在编码和推理任务上表现突出。Inkling-Small 在 SWE-bench Verified 上得分 80.2%,高于 Inkling 的 77.6%;在 Terminal Bench 2.1 上得 64.7%,同样领先。但在事实性知识和部分针对性任务上,旗舰版仍保持优势。企业若用于高风险事实查询,仍需配合检索、验证和人工审核。

尽管名为“Small”,但该模型并非消费级产品。标准 BF16 检查点需至少 600GB 显存,量化 NVFP4 版本也需约 180GB。支持的配置包括 4 块 NVIDIA B300 或 8 块 H200 GPU。实际部署面向企业 GPU 服务器、云集群和专业推理服务商。

Inkling-Small 采用 Apache 2.0 许可证发布,允许商业使用、修改、微调和再分发。这比许多定制“开放”许可证(如 Moonshot 近期为 Kimi K3 采用的许可证)提供了更大的法律灵活性,简化了企业采购和合规流程。

公司研究人员表示,Inkling-Small 的发布流程已趋常规化,得益于改进的预训练数据混合、配方调整以及以 Inkling 为教师模型的在线蒸馏。完整权重已上传 Hugging Face,并通过 Tinker API 支持微调。API 定价提供限时五折优惠,标准 64K 上下文版本输入每百万 token 0.58 美元,输出 1.44 美元。

综合自网络信息


吉ICP备2020006555号

ai987.cn

⌜ 免 责 声 明 ⌝
本站仅为个人学习AI(人工智能)知识的相关日志,网页内容(如有图片或视频亦包括在内)短期缓存均无商业目的。
遇有侵害您合法权益之处欲申诉删改,可联络处理(删/改)!