Kimi K3 开源逼近闭源极限,2.8T 参数刷新开放模型天花板
7 月 22 日,月之暗面发布 2.8 万亿参数混合专家视觉语言模型 Kimi K3,在 Artificial Analysis 智能指数中拿到 57 分,成为迄今最接近闭源前沿的开放权重模型。官方承诺于 7 月 27 日开源权重,这将是已知最大开放权重模型。
7 月 22 日,月之暗面发布 2.8 万亿参数混合专家视觉语言模型 Kimi K3,在 Artificial Analysis 智能指数中拿到 57 分,成为迄今最接近闭源前沿的开放权重模型。官方承诺于 7 月 27 日开源权重,这将是已知最大开放权重模型。
注:智能指数为 9 项经济有用任务的综合评分。为便于直观对比,柱形自 45 分起缩放,非零起点;分差以标注分数为准。Kimi K3 与榜首分差 3 分,与第四名 GLM-5.2 拉开 6 分。
Kimi K3 的核心不是堆参数,而是两项让 MoE 在长上下文里更稀疏、更省内存的架构改动。两者都来自月之暗面近期发表的论文,K3 是首次落地。
每个新 token 与之前所有 token 逐一比较;残差连接把每层输出等权累加,层数越多,单层贡献被稀释越严重。
3/4 注意力层换用 KDA 线性注意力;残差连接换用 Attention Residuals,让每层选择性取用更早层的输出。
效率数据来自 Kimi Linear 实验模型与 Attention Residuals 论文实验。月之暗面称完整技术细节将在后续技术报告中给出。
架构之外,稀疏 MoE 设计让 2.8T 总参数中每个 token 仅激活 896 个专家中的 16 个(约 50B 活跃参数),加上改进的训练数据配方,综合使训练效率较前代提升约 2.5 倍。
过去一年,开放模型你追我赶,但离闭源前沿始终差一截。Kimi K3 把这个距离压到了 3 分以内——这是自 2024 年 Llama 3 以来最接近的一刻。
与此同时,闭源厂商正在加速游说收紧对开放权重的监管。报道援引投资人 Bill Gurley 的观点指出:开源是成熟的商业策略,不是需要被许可和遏制的危险;David Sachs 亦公开表示「没有理由在中文模型毫无障碍处理的任务上限制美国模型,我们只是在让自己失去竞争力」。
更耐人寻味的是同期的安全事件:OpenAI 研究员测试系统时意外让自主智能体攻击了 Hugging Face 基础设施;Hugging Face 试图用闭源 LLM 分析攻击日志,模型以安全为由拒绝;最终用开放模型 GLM-5.2 在自有基础设施上完成了分析——敏感日志不必发给第三方。
本文主要数据来自月之暗面官方博客与 Artificial Analysis、Arena.ai 等评测机构,均为单方披露或机构自评,未见独立第三方复测。K3 的"开源第一"成立前提是 7 月 27 日权重如期开放且许可证允许商用——读者宜带着"承诺尚未兑现"的背景读当前性能数据。
同期安全事件段落引自当事方公开复盘,细节仍在浮现,事件全貌以最终调查报告为准。
开放权重模型在性能上逼近闭源前沿、在安全事件中反而成为可用的防御工具,正在瓦解"开放=危险、闭源=安全"的叙事——这条叙事一旦松动,闭源厂商以安全为名推动监管捕获的合法性基础就会随之动摇。
Kimi K3 已在 kimi.com、Kimi 移动端、Kimi Work、Kimi Code CLI 上线;API 定价 $3.00/$0.30/$15.00(输入/缓存/输出每百万 tokens),权重 7 月 27 日开放。
kimi.com → 立即体验