
2.8万亿参数与稀疏化架构
2026年7月16日,月之暗面正式发布新一代开源模型Kimi K3。模型拥有2.8万亿参数,采用混合专家架构(MoE),包含896个专家模块,每次推理仅激活16个,将计算量控制在合理水平。核心创新包括Kimi Delta Attention(KDA)和Attention Residuals(AttnRes),KDA通过混合线性注意力实现百万上下文下6.3倍解码加速,AttnRes跨层复用注意力信息,提升训练效率约25%。相比上一代K2,整体扩展效率提升约2.5倍,大模型竞争正从“规模越大越强”转向“效率优先”。
长上下文与智能体编码
Kimi K3原生支持100万Token上下文窗口,可一次性容纳中型前端项目代码。在Frontend Code Arena评测中,K3以1679分登顶,涵盖7个细分赛道中拿下6个第一。其单任务成本仅0.94美元,低于GPT-5.6 Sol的1.04美元和Claude Fable 5的2.75美元,得益于超过90%的缓存命中率。K3将AI能力从“回答问题”升级为“完成复杂工作流”,如自主阅读20多篇论文、交叉验证、生成代码与仪表盘,耗时两小时相当于传统研究人员一到两周的工作。
自主芯片设计:AI自我增强
Kimi K3在一次48小时自主运行中,使用开源EDA工具和Nangate 45nm工艺库,完成了一款针对自身架构小型模型的芯片设计、优化和验证。尽管45nm工艺与先进制程差距较大,但此番尝试展示了AI自主组织工程流程的能力。此外,K3还开发了类似Triton的紧凑型编译器MiniTriton,包括中间表示层、优化流程和PTX代码生成。这标志着AI开始参与创造下一代AI的硬件与工具,形成自我增强循环。
开源与定价策略
K3的API定价为输入3美元/百万Token、输出15美元/百万Token,约为Claude Fable 5的三分之一。但月之暗面明确放弃低价竞争,转而基于任务成本定价。官方宣布将于2026年7月27日开放模型权重,为有算力资源的企业提供自托管选项。然而2.8万亿参数规模要求至少64张高端加速器,中小团队自托管仍不现实。开放权重的具体协议尚未明确,将影响下游生态采用。月之暗面从长上下文技术路线起步,此次K3的发布进一步巩固其在智能体编码领域的领先地位。
声明:文章不代表CHAINTT观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险 自担!转载请注明出处:https://www.chaintt.cn/61117.html