全球最强开源模型 Kimi K3 发布,参数规模 3 万亿,真的是强!

2026-07-17 10:10:41AI云资讯1359

十小时前,月之暗面正式推出迄今为止能力最强的旗舰模型——Kimi K3。2.8万亿总参数,全球首个开源的3万亿级别大模型,原生搭载视觉理解能力,内置100万token超长上下文窗口。开源大模型的天花板,再次被向上大幅抬高。

一、2.8万亿参数意味着什么?

Kimi K3是全球首个达到2.8万亿参数规模的开源基础大模型。回顾过去12个月(2025.7–2026.7),长达9个月的时间里,全球规模最大的开源模型都来自Kimi。可以说,在万亿参数开源赛道上,Kimi一直在独自持续推动行业规模边界。

参数体量从来不是K3想要炫耀的核心卖点。单纯堆砌参数只会带来算力浪费,真正的突破在于:K3解决了超大MoE模型普遍存在的效率瓶颈,让庞大参数集群真正把算力转化为智能。

很多超大稀疏模型面临通病:参数堆上去,但信息传递损耗巨大、长序列能力衰减、扩展效率低下。K3一系列底层架构革新,目标就是破解这个难题。

二、底层架构手术刀级升级:不靠蛮力堆料,让信息通路更顺畅

Kimi K3在模型底层架构落地两大自研核心创新:KDA(Kimi Delta Attention)混合线性注意力机制、AttnRes(Attention Residuals)注意力残差技术,同时搭配迭代优化后的Stable LatentMoE稀疏专家框架。

1、KDA(Kimi Delta Attention)混合线性注意力

传统标准Transformer全注意力具备O(n²)复杂度,当上下文拉长至几十万、上百万token时,算力开销、KV缓存占用会急剧膨胀,这也是百万上下文模型很难大规模商用的痛点。KDA基于Gated DeltaNet改进而来,引入逐通道细粒度门控机制,属于线性注意力体系。

核心技术收益:在100万token超长上下文场景,最高实现6.3倍解码加速,大幅降低长文本推理成本;优化KV缓存占用,缓解超长序列下内存压力。它和多头潜在注意力MLA采用分层混合部署方案,兼顾全局信息捕获与长序列推理效率,专门适配智能体、大型代码库解析、超长文档分析场景。

2、AttnRes(Attention Residuals)注意力残差

常规深度Transformer使用固定权重的残差连接,信息在多层网络传递时容易出现衰减、丢失。AttnRes摒弃静态残差叠加方式,利用注意力机制动态检索、加权复用前面所有网络层的有效信息。官方实测数据:仅增加不到2%额外计算成本,即可实现约25%训练效率提升,让深度模型内部信息流转更加稳定,缓解深层模型梯度消失问题。

3、Stable LatentMoE 稀疏专家框架升级

Kimi K3进一步拉高MoE稀疏度配置:整体模型拥有896个专家模块,单次推理动态激活16个专家。稀疏MoE的核心优势:总参数量极大,但每次推理只调用一小部分参数,在控制单次推理算力开销的前提下,极大扩充模型知识容量。叠加两项注意力革新、训练数据策略优化后,K3相对上代K2整体扩展效率提升约2.5倍。通俗来讲:投入同等算力资源,K3能够产出显著更强的模型能力。这才是2.8万亿参数背后真正的技术含金量——追求“更高效”,而不是单纯追求“更大”。

三、长程编程能力:面向工程任务的耐力型AI

如果架构创新是模型内功,长周期软件工程能力,就是K3最具竞争力的核心外功。Kimi K3重点强化智能体编码(Agentic Coding),可以在极少人工监督的条件下,稳定执行长时间连续工程任务。

编码能力对比(来自于官方)

更加亮眼的是软件工程+视觉推理的复合能力。K3原生集成视觉理解,支持同时读取源代码、截图界面、运行日志。能够对照前端渲染画面、游戏预览截图、CAD可视化结果反向修改代码,非常适配前端开发、独立游戏制作、可视化工程、基础设施搭建场景。不再局限于单纯“读懂文本代码”,而是实现“看懂画面 + 修改代码”的闭环工作流。

四、知识工作能力:摒弃实验室刷榜,瞄准真实业务场景

和很多侧重公开基准跑分的模型路线不同,Kimi团队对K3的优化重心放在真实生产场景。K3内部评测数据集,全部来自真实用户与AI智能体协作时高频遇到的任务,并非人工构造的理想化测试题目。从评测结果来看,K3在各类知识工作流、长链条复杂任务上呈现均衡稳定提升,属于全域能力优化,而非单一题型“应试式”突破。

在海外Arena公开榜单中,K3(内测代号Kivine)提前曝光阶段就表现突出;前端代码竞技场得分超越多款顶级闭源模型。综合能力仅次于Claude Fable 5、GPT-5.6 Sol,位居全球第二梯队前列,也是开源阵营领头羊。

五、开发者重点关注:API调用规范、特性与避坑指南

即日起开发者可直接调用Kimi K3云端API,接口完全兼容OpenAI SDK,迁移成本极低。

核心功能要点汇总

思考模式默认常开K3 永久启用推理思考模式,通过reasoning_effort参数控制思考强度。当前仅支持max最高档位,low/high 档位后续更新;注意:K2 时代的 thinking 参数不再兼容,不要继续沿用。

百万上下文 + 全自动上下文缓存原生支持 100 万 token 上下文;最大输出max_completion_tokens默认 131072,上限可达 1048576。上下文缓存全自动生效,无需手动配置 cache ID、TTL。只要对话前置长文本保持不变,后续请求自动命中缓存,直接降低 token 开销。

完整开发者能力矩阵流式输出、原生视觉输入、JSON Schema 结构化输出、Partial Mode、多工具连续调用、动态工具加载全部支持。

开发避坑清单多轮对话、工具调用场景,API返回完整assistant消息必须原样回传,不可只保留content字段;视觉输入不支持公网图片URL,传入图片需要base64编码或ms://格式,入参content必须使用对象数组;temperature=1.0、top_p=0.95为模型内置默认参数,建议开发者不要显式传入覆盖;联网搜索工具正在迭代优化,短期内不建议用于正式生产业务。六、万众期待:开源权重发布时间表

所有人最关心的本地部署问题,官方已经给出明确节点:Kimi K3完整模型权重,将于2026年7月27日前正式对外发布开源。

当前月之暗面正在联合全球推理框架厂商、开源社区维护者对齐技术细节,保障模型可以在主流推理生态稳定运行。同步发布的还有K3完整技术报告,公开架构设计、训练方案、全套评测数据。

结尾

从K2迈入万亿参数时代,再到如今K3冲击2.8万亿参数,Kimi走出了一条持续向上的开源路线。很多厂商选择把最强模型闭源商用,而Kimi选择将旗舰级超大稀疏模型完整开放权重。不只是简单参数规模竞赛:自研注意力架构、优化MoE扩展效率、深耕长程智能体编程、原生融合多模态,整套技术栈持续迭代。在闭源巨头持续领跑的当下,开源阵营迎来新的标杆选手。开源大模型能力的上限,再一次被Kimi重新定义。7月27日,一起等待权重正式开源。

相关文章

AI企业

更多>>

AI硬件

更多>>

AI产业

更多>>

AI技术

更多>>
AI云资讯(爱云资讯)立足人工智能科技,打造有深度、有前瞻、有影响力的泛科技信息平台。
合作QQ:1211461360微信号:icloudnews