日前，月之暗面方面宣布正式开源Kimi K3模型，并同步发布模型权重、技术报告，此外还开源了支撑Kimi K3训练的三项关键Infra技术MoonEP、FlashKDA、AgentEnv，覆盖从高性能通信、高性能算子到分布式RL环境的关键链路。据悉，这也是Kimi K3自本月早些时候发布以来，完整开放模型及相关技术。
作为首个达到2.8万亿参数规模的开源大模型，Kimi K3是基于KDA混合线性注意力机制（Kimi Delta Attention）和注意力残差（Attention Residuals）技术构建，原生支持视觉理解，并提供100万token上下文窗口。在过去12个月中，Kimi系列有9个月保持了开源模型参数规模的领先。
模型架构方面，Kimi K3进一步提升了Mixture of Experts（MoE）的稀疏度，结合Stable LatentMoE框架后，可在896个专家中高效激活16个。官方公布的数据显示，与K2相比，K3整体扩展效率提升约2.5倍。此外，Kimi K3还具备长程编码能力，可处理大型代码库、持续执行长时间工程任务，并支持结合截图等视觉信息完成游戏开发、前端开发、CAD等软件工程场景任务。
此前在7月16日，月之暗面正式发布Kimi K3。当时官方表示，Kimi K3整体表现仍落后于最强闭源模型Claude Fable 5和GPT-5.6 Sol等闭源模型，但在评测中已达到前沿水平，超过了其他所有模型。随后由于访问量快速增长，还曾一度暂停面向新用户开放订阅，以缓解算力压力。
【本文图片来自网络】
