Inkling 2 Mini 實測:32GB Mac 跑得動,但你等得起嗎

Thinking Machines(OpenAI 前 CTO 米拉·穆拉蒂創辦)在 2026-11-20 發布 Inkling 2 Mini:264 億參數、24 層但中間 12 層循環三遍、檔案約 20GB、權重公開可免費商用。官方說 32GB Mac 就能跑,實測 2021 年款 MacBook Pro 約每秒 10 個 token。但預設思考檔位是最高檔,同一題從 47 秒變成 6 分 47 秒,認硬幣測試更花了約 20 分鐘仍沒結果。本文整理實測數據、五個翻車情境與安裝避坑。

  • Dennis
  • 5 分鐘閱讀
Inkling 2 Mini 實測:32GB Mac 跑得動,但你等得起嗎

一句話結論

「32GB Mac 就能跑」是真的;「跑著爽」是另一回事。

真正的門檻不是記憶體,是等待時間。預設思考檔位是最高檔,同一道題可以從 47 秒變成 6 分 47 秒;而在需要事實記憶的題目上,它會輸出上萬個 token 之後仍然給不出答案。

一、這是什麼

項目內容
名稱Inkling 2 Mini
開發者Thinking Machines(創辦人:OpenAI 前 CTO 米拉·穆拉蒂)
發布日2026-11-20(推文 158 萬次播放)
參數量264 億(26.4B),MoE 架構(每次只叫醒一小部分)
層數24 層,中間 12 層循環 3 遍
檔案大小約 20GB
授權權重公開、可免費商用
前作半個月前的 Inkling 2 Small:5,940 億參數(Mini 的 20 多倍)

Mini 存在的理由很直白:上一版太大,多數人跑不動。 這一版的目標是讓斷網的筆電也能在本機做完整任務——包括飛機上開飛航模式。

二、「循環模型」是什麼

一般模型的計算路徑是「從第一層走到最後一層,走完就結束」。Inkling 2 Mini 讓中間的 12 層來回走三遍:

說法意義
「24 層的身子幹 48 層的活」用循環換深度,不靠加層
「同一副腦子,開口之前在心裡多過兩輪」推理預算花在內部反覆運算
官方原話「循環讓模型多想些」
但官方也承認「不會讓它多記住東西」

這句話是整篇的關鍵。 循環加強的是「想」,不是「記」——所以遇到需要知識與事實的題目(例如數硬幣),它會不斷打轉,甚至很自信地編造不存在的函數。

三、硬體實測:能跑,但速度決定體驗

機型實測結果
2021 年款 MacBook Pro(32GB)約 每秒 10 個 token;使用者評價「頭一個能跟瀏覽器同時開不卡的模型」
M1 Max(64GB)光下載 20GB 模型花 16 分鐘;修一個小 bug 每次要等 1.5–2.5 分鐘
M5 Ultra(96GB,Mac Studio)EXO 團隊用來跑天氣 App 測試(影片特別提醒「不是你手上那台筆電」)
單張 RTX 5090跑 30 分鐘做出可玩的 Minecraft 風格 3D 小世界
16GB 機型有壓縮版可跑,但效果會打折扣

每秒 10 個 token 聽起來可以,但模型是「話癆」:認硬幣那題輸出了 12,000 個 token,按每秒 10 個計算,光想就想了約 20 分鐘。

四、效能與價格:這一面很漂亮

第三方評測(Artificial Analysis)

項目結果
綜合分數20 分,與 Qwen 3.8 27B 同分
成本每道題便宜 6 倍
速度每道題快 4 倍
囉嗦程度跑完整套輸出 1.61 億 token,同檔 15 個模型中最囉嗦,比千問多 38%

實戰對比(EXO 團隊,同一個天氣 App)

模型耗時成本(按 API 價)
Inkling 2 Mini8 分 37 秒$0.20
Claude Sonnet 5.515 分 54 秒$2.22

快將近一倍、便宜 11 倍。 兩者產出的頁面都好看。

其他實測

  • 即時戰略遊戲:對 Qwen 3.8 27B 贏約 4 次;換上 Claude Opus 5.5 後,Opus 明顯更精明
  • 旅行分帳網頁:自動腳本第一把就通過 13 項檢查
  • 介紹動畫:2 輪產出 70 秒影片
  • 斷網 MacBook 上同時模擬 20 個村民的像素小鎮

五、它在哪裡翻車(五個情境)

#翻車點具體情況
1思考過度、囉嗦預設最高檔,單題常輸出上萬 token;「能跑和跑著爽是兩回事」
2記憶與事實查證弱循環只加強推理;數硬幣、需要外部知識的題目會原地打轉
3中文有缺陷官方模型卡自述:中文句子會被截斷、會中英夾雜
4終端長任務長時間工具操作測試僅 5.6%;官方也警告可能陷在推理裡出不來
5工具安全風險使用工具時可能不詢問就刪除或覆蓋檔案

順帶一提:英偉達同體量的模型在修 bug 測試中也全對,而且速度快 4 倍。

六、最大的坑:預設思考檔位是最高檔

這是所有實測者共同的抱怨。同一個模型,換檔位差近 9 倍:

測試低檔最高檔
鵜鶘騎自行車47 秒/1,700 token6 分 47 秒/11,000+ token
認硬幣—12,000 token,約 20 分鐘仍無結論
WordPress 插件—想了 19,000+ token 沒寫完
60 行緩存面試題1,000 token 預算加到 8,000 token,正文一個字都沒吐

影片的建議很直接:簡單任務先切低檔或中檔,並限制輸出長度與來回輪數。

七、安裝避坑(影片實測)

步驟注意事項
下載約 20GB;M1 Max 上花了 16 分鐘
Ollama正式版拉不下來且會直接報錯,必須裝預發布版(官方文章沒寫這件事)
思考檔位先改低檔,否則預設最高檔會讓你以為模型壞了
檔案安全讓模型動本地檔案前先放進沙盒,並設定刪檔前詢問
其他工具影片只提到 Ollama 與 EXO 團隊;未提及 llama.cpp 或 MLX

八、誰該用、誰不該用

適合不適合
有 32GB 以上的 Mac、且不想把程式碼或資料傳上網需要即時回答(等不了一兩分鐘)
寫小網頁、小遊戲、看截圖操作介面需要事實查證、知識問答
斷網環境的私人助理(郵件、日曆、備忘錄、菜譜、購物清單)中文為主要工作語言(官方自述有截斷與混語問題)
願意先調低思考檔位、限制輸出長度終端長任務、多輪工具自動化

影片的結論很傳神:它最適合的地方就是「那趟沒網的航班」——時間多、沒網路、程式碼不用外傳。

九、兩個延伸思考

1. 本地小模型的「等待經濟學」 它的成本優勢(便宜 11 倍)是用你的等待時間換來的。對個人使用者,時間幾乎免費;對公司,工程師的 20 分鐘可能比 API 費用貴。所以「便宜」在不同情境下是相反的結論——這是本地模型評測裡最少被講清楚的一件事。

2. 循環架構的邊界已被講明 官方自己承認「多想不多記」。這句話其實劃出了這類模型的位置:適合把已知的東西做得更好,不適合當知識庫。任何要求「記住事實」的應用(客服、法規問答、醫療)都不該用它當主力。

十、站內延伸閱讀

參考來源

  • 三少科技,〈Inkling 2 Mini 循環模型,32GB 的 Mac 就能跑?一期看懂〉(YouTube)
  • 影片引用之第三方數據:Artificial Analysis 評分與 token 統計、EXO 團隊天氣 App 實測、日本與本地社群使用者實測
  • 官方模型卡陳述:中文輸出截斷、終端任務與工具使用風險(由影片轉述)

(本文為影片內容整理與獨立分析,未自行重跑全部測試。速度與耗時均為他人實測值,會隨機型、量化版本與思考檔位大幅變動;官方規格與授權請以 Thinking Machines 發布頁為準。)

📬 訂閱 most.tw 電子報

每週精選 AI 工具教學與技術乾貨,直接送到你的信箱。免費、隨時可退訂。

訂閱即表示同意收到 most.tw 電子報,隨時可一鍵退訂。

💬 有問題想討論?加 LINE 聯絡我

歡迎透過 LINE 官方帳號直接留言,我會盡快回覆你的問題。

加入 LINE 好友