2026 年 7 月 16 日,中國 AI 獨角獸 月之暗面(Moonshot AI) 正式發布了 Kimi K3——全球參數規模最大的開源 AI 模型,擁有 2.8 兆(2.8T)總參數,在編碼與代理任務上的表現甚至超越 Anthropic 的 Claude Opus 4.8。
Kimi K3 的驚人數字
| 項目 | 規格 |
|---|---|
| 總參數量 | 2.8 兆(2.8T) |
| 專家數 | 896 個(每次啟用 16 個) |
| 上下文視窗 | 100 萬 token |
| 架構 | Stable LatentMoE + KDA 混合注意力 |
| 發布日期 | 2026 年 7 月 16 日 |
| 授權方式 | Modified MIT(開源權重) |
| 權重釋放 | 預計 7 月 27 日 |
KDA 混合注意力架構:百萬 token 的關鍵
Kimi K3 最核心的技術突破是 Kimi Delta Attention(KDA),這是一種混合線性注意力機制,專為超長序列設計:
三大創新
KDA 混合線性注意力:結合傳統注意力與線性注意力,在保持高品質理解的同時大幅降低計算複雜度。與前文快取(Prefix Caching)技術結合,為百萬 token 上下文提供高達 6.3 倍的解碼速度提升。
Attention Residuals(AttnRes):不同於傳統模型均勻地累積表示,AttnRes 允許模型跨越深度選擇性地檢索表示。僅增加不到 2% 的計算開銷,就能提升約 25% 的訓練效率。
分位數平衡(Quantile Balancing):直接從路由得分的分位數推導專家分配,消除了傳統 MoE 中敏感的平衡超參數,有效解決大規模專家路由的優化挑戰。
低精度訓練
K3 從監督微調階段就採用量化感知訓練,使用 MXFP4 權重與 MXFP8 啟用,具備廣泛的硬體相容性。官方建議在擁有 64 個或更多加速器的超級節點環境中部署。
基準測試:全面超越 Claude Opus 4.8
在 Artificial Analysis 綜合智能指數中,Kimi K3 獲得 57 分,略勝 Claude Opus 4.8 的 56 分,排名全球第四。
編碼能力對比
| 測試項目 | Kimi K3 | Claude Opus 4.8 |
|---|---|---|
| DeepSWE | 67.5 | 59.0 |
| Program Bench | 77.8 | 71.9 |
| Terminal Bench 2.1 | 88.3 | 84.6 |
| FrontierSWE | 81.2 | 66.7 |
| SWE Marathon | 42.0 | 40.0 |
K3 在編碼測試中全面領先 Opus 4.8,特別是 FrontierSWE 大幅領先 14.5 分,展現了在複雜軟體工程任務上的壓倒性優勢。
推理與代理任務
| 測試項目 | Kimi K3 | Claude Opus 4.8 |
|---|---|---|
| GPQA-Diamond(研究生級) | 93.5 | 91.0 |
| GDPval-AA v2(Elo) | 1668.0 | 1600.0 |
| AA-Briefcase(Elo) | 1548.0 | 1354.0 |
| Automation Bench | 30.8% | 27.2% |
數學與視覺
| 測試項目 | Kimi K3 | Claude Opus 4.8 |
|---|---|---|
| MathVision | 94.3 | 86.7 |
| MMMU-Pro | 81.6 | 78.9 |
| CharXiv(RQ) | 84.8 | 80.5 |
需要注意的弱點
獨立評測指出,K3 的幻覺率從前代的 39% 攀升至 51%。雖然知識問答準確率從 33% 提升到 46%,但編造答案的機率也隨之增加。這是在使用 K3 時需要特別注意的限制。
Agent Swarm:300 個子智能體並行工作
Kimi K3 引入了 Agent Swarm(智能體群)技術,能協調多達 300 個子智能體並行工作(K3 Swarm Max 變體)。這對於大規模並行處理任務,如自動化軟體開發、深度研究、多步驟工作流程等,提供了前所未有的能力。
API 定價:中國廉價 AI 時代的終結
Kimi K3 的定價標誌著中國 AI 模型的價格轉折點:
| 項目 | 價格(每百萬 token) |
|---|---|
| 輸入(快取命中) | $0.30 美元 |
| 輸入(快取未命中) | $3.00 美元 |
| 輸出(含推理) | $15.00 美元 |
| 平均每任務成本 | $0.94 美元 |
這個定價與 Anthropic 的 Sonnet 5 完全一致,不再走極致低價路線。K3 的平均每任務成本($0.94)約為 Opus 4.8($1.80)的一半,與 GPT-5.6 Sol($1.04)接近。
突破晶片封鎖的中國 AI 奇蹟
值得注意的是,月之暗面的前代推理模型 Kimi K2 Thinking 是在已被禁售的 Nvidia H800 GPU 上訓練完成的。Kimi K3 成功在參數規模上突破 3T 級別,證明了中國 AI 企業在「高階 GPU 數量處於劣勢」的情況下,依然能透過架構創新研發出頂尖大模型。
對全球 AI 競爭的意義
Kimi K3 的發布不僅是技術上的里程碑,更標誌著:
- 開源模型與閉源模型的差距持續縮小:K3 在許多任務上已超越 Claude Opus 4.8,接近 Fable 5 和 GPT-5.6 Sol 的水準
- 中國 AI 不再只能打價格戰:K3 的定價策略顯示中國前沿模型開始追求價值而非低價
- 多智能體協作成為新戰場:Agent Swarm 技術為 AI 工作流程的自動化開闢了全新可能性
