Kimi K3 开源:2.8T MoE 模型与技术报告

来源:X:Kimi.ai (@Kimi_Moonshot) 2026年7月27日 23:14 AIHOT 评分:81 精选
摘要:Kimi 发布其最强模型 Kimi K3,这是一个 2.8T 参数的 MoE 模型,具备原生视觉理解和 1M token 上下文窗口。新架构实现了每单位计算 2.5 倍的智能提升。除模型权重外,Kimi 还开源了高性能注意力内核、MoE 通信库及大规模智能体运行环境基础设施。
# Kimi K3 开源:2.8T MoE 模型与技术报告 - 来源:Kimi.ai (@Kimi_Moonshot) - 发布时间:2026-07-27 23:14 - AIHOT 分数:81 - AIHOT 标记:精选 - AIHOT 链接:https://aihot.virxact.com/items/cms3dxit00betro3fiwkotg0j - 原文链接:https://x.com/Kimi_Moonshot/status/2081760186235289764 ## 精选理由 Kimi K3 这次开源很彻底,连注意力内核和 MoE 通信库都给了,对想深入研究 MoE 架构的团队是个宝库。 ## AI 摘要 Kimi 发布其最强模型 Kimi K3,这是一个 2.8T 参数的 MoE 模型,具备原生视觉理解和 1M token 上下文窗口。新架构实现了每单位计算 2.5 倍的智能提升。除模型权重外,Kimi 还开源了高性能注意力内核、MoE 通信库及大规模智能体运行环境基础设施。 ## 正文 发布 Kimi K3 的模型权重和技术报告。 Kimi K3 是我们能力最强的模型:一个 2.8T 参数的 MoE 模型,具备原生视觉理解能力和 1M token 的上下文窗口。 全新的模型架构:每单位计算量的智能水平提升 2.5 倍,而不仅仅是增加参数量。 与 Kimi K3 一同,我们还将开放其背后的更多技术栈——高性能注意力内核、MoE 通信库,以及用于大规模运行智能体环境的基础设施。 模型权重:http://huggingface.co/moonshotai/Kimi-K3 技术报告:http://github.com/MoonshotAI/Kimi-K3/blob/master/k3_tech_report.pdf 技术博客:http://kimi.com/blog/kimi-k3