Kimi K3是首个达到2.8万亿参数规模的开源模型。在过去12个月中的9个月里，Kimi模型都保持着开源模型的规模上限。

Kimi K3基于Kimi Delta Attention（KDA）和Attention Residuals（AttnRes）构建。这两项架构更新，都是为了让信息在更长序列和更深模型中流动得更顺畅。并进一步扩大了Mixture of Experts（MoE）的稀疏度：结合Stable LatentMoE框架后，模型可以在896个专家中高效激活16个。再加上训练方法和数据配方的优化，这些结构性改进让Kimi K3相比K2的整体扩展效率提升约2.5倍，能更有效地把算力转化为能力。

编程

Kimi K3具备很强的长程编码能力。在极少人工监督的情况下，它可以持续完成长时间工程任务，理解和处理大型代码库，并协调使用终端工具。

Kimi K3也擅长结合软件工程与视觉推理的任务。它能够利用截图和视觉反馈，优化游戏开发、前端和CAD等场景。

3D模拟长征十号火箭发射

3D开放世界游戏

• 科研编程

Kimi K3可以打通科学文献与可执行代码，自主完成复杂计算研究流程的实现、验证和分析。

在一个案例中，Kimi K3用约两小时完成了通常需要一名资深研究人员一到两周才能完成的工作。为了复现计算天体物理中的I-Love-Q普适关系，它阅读并交叉验证了20多篇论文，实现了完整的数值流程，评估了300多种状态方程，发现了已发表公式中的不一致之处，生成了3,000多行Python代码，并产出了一个用于探索结果的交互式HTML仪表盘。

知识工作

Kimi K3推动了端到端知识工作的进展。

• 研究及其可视化
  

推理芯片行业研究：覆盖ASIC行业42年历史，由K3经过120多轮递归自我改进生成。K3将证据转化为定制图表、动画示意图和交互式视觉叙事。整个过程中，它完成了2800多次网页搜索与抓取、1100多次终端数据拉取，处理了87份季报和99份原始PDF，合计超过11000页资料。

• 视频剪辑

Kimi K3擅长动效设计、动画和视频剪辑，因为它原生的多模态架构可以在同一个模型中理解文字、图像和视频。

在一个案例中，K3制作了一支介绍自己架构的「3Blue1Brown」风格动态图形讲解视频，把技术概念转化为动画图示和转场。