Kimi K3 震撼發布!2.8 兆參數最大開源模型,編碼能力超越 Claude Opus 4.8

中國 AI 獨角獸月之暗面發表 Kimi K3,2.8 兆參數開源模型、896 專家 MoE、100 萬 token 上下文,在編碼測試中全面超越 Claude Opus 4.8。本文解析 KDA 混合注意力架構、基準測試表現與全球 AI 競賽的意義。

  • Dennis
  • 3 分鐘閱讀
Kimi K3 震撼發布!2.8 兆參數最大開源模型,編碼能力超越 Claude Opus 4.8

2026 年 7 月 16 日,中國 AI 獨角獸 月之暗面(Moonshot AI) 正式發布了 Kimi K3——全球參數規模最大的開源 AI 模型,擁有 2.8 兆(2.8T)總參數,在編碼與代理任務上的表現甚至超越 Anthropic 的 Claude Opus 4.8。

Kimi K3 的驚人數字

項目規格
總參數量2.8 兆(2.8T)
專家數896 個(每次啟用 16 個)
上下文視窗100 萬 token
架構Stable LatentMoE + KDA 混合注意力
發布日期2026 年 7 月 16 日
授權方式Modified MIT(開源權重)
權重釋放預計 7 月 27 日

KDA 混合注意力架構:百萬 token 的關鍵

Kimi K3 最核心的技術突破是 Kimi Delta Attention(KDA),這是一種混合線性注意力機制,專為超長序列設計:

三大創新

  1. KDA 混合線性注意力:結合傳統注意力與線性注意力,在保持高品質理解的同時大幅降低計算複雜度。與前文快取(Prefix Caching)技術結合,為百萬 token 上下文提供高達 6.3 倍的解碼速度提升

  2. Attention Residuals(AttnRes):不同於傳統模型均勻地累積表示,AttnRes 允許模型跨越深度選擇性地檢索表示。僅增加不到 2% 的計算開銷,就能提升約 25% 的訓練效率

  3. 分位數平衡(Quantile Balancing):直接從路由得分的分位數推導專家分配,消除了傳統 MoE 中敏感的平衡超參數,有效解決大規模專家路由的優化挑戰。

低精度訓練

K3 從監督微調階段就採用量化感知訓練,使用 MXFP4 權重與 MXFP8 啟用,具備廣泛的硬體相容性。官方建議在擁有 64 個或更多加速器的超級節點環境中部署。

基準測試:全面超越 Claude Opus 4.8

Artificial Analysis 綜合智能指數中,Kimi K3 獲得 57 分,略勝 Claude Opus 4.8 的 56 分,排名全球第四。

編碼能力對比

測試項目Kimi K3Claude Opus 4.8
DeepSWE67.559.0
Program Bench77.871.9
Terminal Bench 2.188.384.6
FrontierSWE81.266.7
SWE Marathon42.040.0

K3 在編碼測試中全面領先 Opus 4.8,特別是 FrontierSWE 大幅領先 14.5 分,展現了在複雜軟體工程任務上的壓倒性優勢。

推理與代理任務

測試項目Kimi K3Claude Opus 4.8
GPQA-Diamond(研究生級)93.591.0
GDPval-AA v2(Elo)1668.01600.0
AA-Briefcase(Elo)1548.01354.0
Automation Bench30.8%27.2%

數學與視覺

測試項目Kimi K3Claude Opus 4.8
MathVision94.386.7
MMMU-Pro81.678.9
CharXiv(RQ)84.880.5

需要注意的弱點

獨立評測指出,K3 的幻覺率從前代的 39% 攀升至 51%。雖然知識問答準確率從 33% 提升到 46%,但編造答案的機率也隨之增加。這是在使用 K3 時需要特別注意的限制。

Agent Swarm:300 個子智能體並行工作

Kimi K3 引入了 Agent Swarm(智能體群)技術,能協調多達 300 個子智能體並行工作(K3 Swarm Max 變體)。這對於大規模並行處理任務,如自動化軟體開發、深度研究、多步驟工作流程等,提供了前所未有的能力。

API 定價:中國廉價 AI 時代的終結

Kimi K3 的定價標誌著中國 AI 模型的價格轉折點:

項目價格(每百萬 token)
輸入(快取命中)$0.30 美元
輸入(快取未命中)$3.00 美元
輸出(含推理)$15.00 美元
平均每任務成本$0.94 美元

這個定價與 Anthropic 的 Sonnet 5 完全一致,不再走極致低價路線。K3 的平均每任務成本($0.94)約為 Opus 4.8($1.80)的一半,與 GPT-5.6 Sol($1.04)接近。

突破晶片封鎖的中國 AI 奇蹟

值得注意的是,月之暗面的前代推理模型 Kimi K2 Thinking 是在已被禁售的 Nvidia H800 GPU 上訓練完成的。Kimi K3 成功在參數規模上突破 3T 級別,證明了中國 AI 企業在「高階 GPU 數量處於劣勢」的情況下,依然能透過架構創新研發出頂尖大模型。

對全球 AI 競爭的意義

Kimi K3 的發布不僅是技術上的里程碑,更標誌著:

  1. 開源模型與閉源模型的差距持續縮小:K3 在許多任務上已超越 Claude Opus 4.8,接近 Fable 5 和 GPT-5.6 Sol 的水準
  2. 中國 AI 不再只能打價格戰:K3 的定價策略顯示中國前沿模型開始追求價值而非低價
  3. 多智能體協作成為新戰場:Agent Swarm 技術為 AI 工作流程的自動化開闢了全新可能性

原始來源