前 OpenAI 技術長 Mira Murati 創辦的 Thinking Machines Lab 於 2026 年 7 月 15 日正式發表了他們的首款開源權重模型——Inkling。這款擁有 9750 億(975B)總參數的通用多模態基礎模型,採用 Apache 2.0 授權發布,立刻成為美國最強大的開源 AI 模型,引發業界熱烈討論。
是誰創辦了 Thinking Machines Lab?
2025 年底,Mira Murati 在 OpenAI 的動盪期間選擇離開,創立了 Thinking Machines Lab。這家公司集結了來自 OpenAI、Meta、Anthropic 等頂尖 AI 實驗室的工程師與研究員,目標是打造「不僅強大,而且真正開放」的 AI 模型。
經過一年多的低調研發,Inkling 的發布讓世人看到了這個團隊的真正實力。
「我們相信 AI 的未來應該是開放的。Inkling 不僅是技術上的突破,更是我們對 AI 民主化承諾的具體實現。」——Thinking Machines Lab 團隊
Inkling 的技術架構深度解析
Inkling 採用解碼器唯讀(Decoder-only)的混合專家(MoE) 架構,在設計上展現了多項技術創新:
參數規模與效率
| 項目 | 數值 |
|---|---|
| 總參數量 | 9750 億(975B) |
| 每次啟用參數 | 410 億(41B) |
| 路由專家數 | 256 個 |
| 共享專家數 | 2 個 |
| 每次啟用專家數 | 8 個(6 路由 + 2 共享) |
| 解碼層數 | 66 層 |
| 上下文視窗 | 100 萬 token |
創新的注意力機制
Inkling 在注意力架構上與常見的 RoPE(旋轉位置編碼)不同,採用了相對位置嵌入(Relative Positional Embedding),在長文本序列的外推表現上更優秀。
66 層解碼層以 5:1 的比例交替配置滑動窗口注意力(局部)與全域注意力層——55 層滑動窗口、11 層全域注意力。這種設計讓模型既能捕捉局部細節,又能掌握全局脈絡。
短卷積(SConv)加速
在注意力鍵/值投影後,以及注意力與 MLP 殘差分支輸出前,Inkling 應用了寬度為 4 的 1D 短卷積。這項技術幫助模型更有效地釋放局部特徵的計算負載,是提升推理效率的關鍵設計之一。
多 Token 預測(MTP)
Inkling 內置了 8 個鏈接的 MTP 頭,允許在單次前向傳播中預測多達 9 個 Token。這項技術可以用作推論加速的草稿模型(speculative decoding),大幅提升推理速度。
多模態能力:不僅是文字模型
Inkling 是一款原生多模態模型,專為即時語音和視覺理解而設計:
- 視覺理解:支援圖片輸入與分析
- 即時語音:可進行語音互動
- 文字生成:標準的文本生成與推理
這意味著一個模型就能處理文字、圖片、語音三種模態的輸入,企業不需再為不同任務部署多個模型。
與其他開源模型的比較
Inkling 的發布填補了美國開源模型在頂尖效能上的空白:
| 模型 | 參數量 | 授權 | 地區 |
|---|---|---|---|
| Inkling | 975B | Apache 2.0 | 美國 |
| DeepSeek V4 Pro | 1.6T | MIT 修改版 | 中國 |
| Llama 4 | ~400B | Llama 社群授權 | 美國 |
| Qwen 3.5 | 235B | Apache 2.0 | 中國 |
雖然 Inkling 的總參數不及中國的 DeepSeek V4 Pro(1.6T)或最新發布的 Kimi K3(2.8T),但其 Apache 2.0 授權讓企業在商用部署上擁有最大的自由度,這是許多企業選擇 AI 模型時的關鍵考量。
Tinker 微調平台
Thinking Machines Lab 同時推出了 Tinker 微調平台,讓開發者和企業能夠針對特定需求對 Inkling 進行微調:
- 支援 64K 與 256K 上下文的微調選項
- 簡化的微調工作流程
- 企業級安全與隱私保護
這意味著企業可以基於 Inkling 打造專屬的 AI 模型,而不必從零開始訓練。
Apache 2.0 授權的意義
Apache 2.0 是目前最友善的開源授權之一,允許:
- 無限制的商業使用
- 修改與衍生作品
- 再發布(包括修改版)
- 專利授權
對於台灣的企業和開發者來說,這意味著可以自由地將 Inkling 部署到自己的伺服器上,或基於它開發商業產品,完全不必擔心授權問題。
對 AI 產業的影響
美國開源 AI 的里程碑
過去一年,中國的開源模型(DeepSeek、Qwen 等)在效能和規模上持續領先,美國的開源選擇相對有限。Inkling 的出現改變了這個局面,為美國 AI 生態系統注入了強大的開源能量。
企業部署的新選擇
對於重視資料安全和隱私的企業,Inkling 提供了可以本地部署的高效能開源模型選項。這在金融、醫療、法律等對資料安全要求極高的行業特別有價值。
開源社群的勝利
Inkling 的 Apache 2.0 授權代表了 Thinking Machines Lab 對開源社群的承諾。這不僅是一個模型發布,更是對 AI 民主化信念的實踐。
