Kimi K3 开放日：模型权重、技术报告与关键 Infra 技术一并开放
Kimi K3开放日开启！模型权重、技术报告及关键Infra技术开源，加速AGI研究与部署。核心内容：1. Kimi K3模型权重详情（参数规模、技术创新及部署方式）2. 技术报告核心技术细节（KDA+AttnRes、Stable LatentMoE等）3. 开源关键Infra技术（MoonEP、FlashKDA、AgentEnv）
Kimi K3 权重公布Kimi K3 是我们能力最强的模型：这是一个拥有 2.8 万亿参数的混合专家（MoE）模型，具备原生视觉理解能力，并支持 100 万 token 的上下文窗口。Kimi K3 参数规模是 Kimi K2.5 的 3 倍左右，但是规模化并不仅仅是参数的堆叠，在并不宽裕的算力条件下，我们凭借 Kimi Delta Attention、Attention Residuals 以及 MoonEP 等一系列技术创新，规模化效率提升了 2.5 倍（即在算力最优意义下，单位算力产出智能约等于原来 2.5 倍）。
现在，每个人都可以下载并部署 Kimi K3 模型——无论是用于内部研发，还是嵌入到面向终端用户的产品中，均可自由使用（其他使用情形，详见Kimi K3 许可证）。
→ 下载 Kimi K3 模型权重
今天上线的内容不只有 Kimi K3 模型权重，用于训练模型的方法也以 Kimi K3 技术报告的形式同步公开——Kimi K3 技术报告正式发布。通过技术报告，可以进一步了解以下技术细节：
- KDA + AttnRes：跨层信息流动由块级注意力残差强化；长上下文的高效建模则通过按 3:1 混合 KDA 与 Gated MLA 实现。
- Stable LatentMoE：在极高稀疏度下，训练稳定性由 SiTU-GLU 与 Quantile Balancing 维持；896 个路由专家中，每个 token 会激活 16 个。
- MoonViT-V2：无需对比预训练，视觉编码器直接从零开始接受 next-token prediction 训练；其效果达到 SigLIP 初始化基线，优化过程也更稳定。
- 后训练与评估：完整结果覆盖近 20 个内部评测集；同时建设百万 token 上下文强化学习基建，并在编程 Agent、通用 Agent、通用推理三大领域大规模合成任务。
→ 下载 Kimi K3 技术报告
Kimi K3 关键 Infra 技术开源模型能力背后，离不开训练系统，即 Infra 基础设施层的稳定支撑。今天，我们向大家介绍支撑 Kimi K3 训练的三项 Infra 技术：MoonEP、FlashKDA 和 AgentEnv，覆盖从高性能通信、高性能算子到分布式 RL 环境的关键链路。其中 FlashKDA 此前已开源，MoonEP 和 AgentEnv 则随本次发布正式开源。
- MoonEP：MoonEP 是我们为超大的细粒度 MoE 打造的高性能通信库，让专家并行（expert-parallel）的通信在不均衡的情况下仍然实现极致效率。
- FlashKDA：FlashKDA 是我们实现的 Kimi Delta Attention 高性能算子（kernel）。在英伟达 H20 上，相比 flash-linear-attention 基线，它的 prefill 速度提升 1.72-2.22 倍，可以直接作为 flash-linear-attention 的替换后端。
- AgentEnv：为满足大规模并行的 Agent 工作流和训练任务，AgentENV 提供快速快照、恢复、分叉（fork）等灵活能力。这个由我们和 KVCache.ai 合作开发、用于大规模运行 Agent 环境的沙箱系统，还以高保真和强隔离支持 Kimi K3 的后训练。
→ MoonEP GitHub仓库
→ FlashKDA GitHub仓库
→ AgentENV GitHub仓库为什么选择开放我们始终相信开放权重模型具有重要价值：它们既能降低获取智能的门槛、促进创新，也能让用户对数据拥有更多控制权、隐私保护和所有权。过去几周，我们欣喜地听到 AI 社区及多位拥有共同愿景的技术领袖表达支持。我们相信，面对 AGI 这样影响深远的技术，广泛而开放的生态系统才是最适宜的承载土壤。为此，我们将继续贡献力量。
↓立即开始
- 下载 Kimi K3 模型权重
- 阅读 Kimi K3 技术报告
- 查看 MoonEP 技术
- 查看 FlashKDA 技术
- 查看 AgentEnv 技术
- 了解 Kimi K3 模型
登录后查看剩余 70% 内容
相关资讯
-
07.29
鹅鸭杀手游渡鸦怎么玩-渡鸦机制与玩法介绍
-
07.29
鹅鸭杀手游中鹅阵营有哪些角色
-
07.29
新手必看 鹅鸭杀三大阵营全面解析
-
07.29
鹅鸭杀工程师具备哪些技能
-
07.29
失落城堡2小丑技能打法推荐 失落城堡2小丑角色技能解析
-
07.29
失落城堡2营地升级方法详解：高效提升营地等级与功能
游戏推荐
推荐专题
热门阅读
推荐下载
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏