一句話結論
「32GB Mac 就能跑」是真的;「跑著爽」是另一回事。
真正的門檻不是記憶體,是等待時間。預設思考檔位是最高檔,同一道題可以從 47 秒變成 6 分 47 秒;而在需要事實記憶的題目上,它會輸出上萬個 token 之後仍然給不出答案。
一、這是什麼
| 項目 | 內容 |
|---|---|
| 名稱 | Inkling 2 Mini |
| 開發者 | Thinking Machines(創辦人:OpenAI 前 CTO 米拉·穆拉蒂) |
| 發布日 | 2026-11-20(推文 158 萬次播放) |
| 參數量 | 264 億(26.4B),MoE 架構(每次只叫醒一小部分) |
| 層數 | 24 層,中間 12 層循環 3 遍 |
| 檔案大小 | 約 20GB |
| 授權 | 權重公開、可免費商用 |
| 前作 | 半個月前的 Inkling 2 Small:5,940 億參數(Mini 的 20 多倍) |
Mini 存在的理由很直白:上一版太大,多數人跑不動。 這一版的目標是讓斷網的筆電也能在本機做完整任務——包括飛機上開飛航模式。
二、「循環模型」是什麼
一般模型的計算路徑是「從第一層走到最後一層,走完就結束」。Inkling 2 Mini 讓中間的 12 層來回走三遍:
| 說法 | 意義 |
|---|---|
| 「24 層的身子幹 48 層的活」 | 用循環換深度,不靠加層 |
| 「同一副腦子,開口之前在心裡多過兩輪」 | 推理預算花在內部反覆運算 |
| 官方原話 | 「循環讓模型多想些」 |
| 但官方也承認 | 「不會讓它多記住東西」 |
這句話是整篇的關鍵。 循環加強的是「想」,不是「記」——所以遇到需要知識與事實的題目(例如數硬幣),它會不斷打轉,甚至很自信地編造不存在的函數。
三、硬體實測:能跑,但速度決定體驗
| 機型 | 實測結果 |
|---|---|
| 2021 年款 MacBook Pro(32GB) | 約 每秒 10 個 token;使用者評價「頭一個能跟瀏覽器同時開不卡的模型」 |
| M1 Max(64GB) | 光下載 20GB 模型花 16 分鐘;修一個小 bug 每次要等 1.5–2.5 分鐘 |
| M5 Ultra(96GB,Mac Studio) | EXO 團隊用來跑天氣 App 測試(影片特別提醒「不是你手上那台筆電」) |
| 單張 RTX 5090 | 跑 30 分鐘做出可玩的 Minecraft 風格 3D 小世界 |
| 16GB 機型 | 有壓縮版可跑,但效果會打折扣 |
每秒 10 個 token 聽起來可以,但模型是「話癆」:認硬幣那題輸出了 12,000 個 token,按每秒 10 個計算,光想就想了約 20 分鐘。
四、效能與價格:這一面很漂亮
第三方評測(Artificial Analysis)
| 項目 | 結果 |
|---|---|
| 綜合分數 | 20 分,與 Qwen 3.8 27B 同分 |
| 成本 | 每道題便宜 6 倍 |
| 速度 | 每道題快 4 倍 |
| 囉嗦程度 | 跑完整套輸出 1.61 億 token,同檔 15 個模型中最囉嗦,比千問多 38% |
實戰對比(EXO 團隊,同一個天氣 App)
| 模型 | 耗時 | 成本(按 API 價) |
|---|---|---|
| Inkling 2 Mini | 8 分 37 秒 | $0.20 |
| Claude Sonnet 5.5 | 15 分 54 秒 | $2.22 |
快將近一倍、便宜 11 倍。 兩者產出的頁面都好看。
其他實測
- 即時戰略遊戲:對 Qwen 3.8 27B 贏約 4 次;換上 Claude Opus 5.5 後,Opus 明顯更精明
- 旅行分帳網頁:自動腳本第一把就通過 13 項檢查
- 介紹動畫:2 輪產出 70 秒影片
- 斷網 MacBook 上同時模擬 20 個村民的像素小鎮
五、它在哪裡翻車(五個情境)
| # | 翻車點 | 具體情況 |
|---|---|---|
| 1 | 思考過度、囉嗦 | 預設最高檔,單題常輸出上萬 token;「能跑和跑著爽是兩回事」 |
| 2 | 記憶與事實查證弱 | 循環只加強推理;數硬幣、需要外部知識的題目會原地打轉 |
| 3 | 中文有缺陷 | 官方模型卡自述:中文句子會被截斷、會中英夾雜 |
| 4 | 終端長任務 | 長時間工具操作測試僅 5.6%;官方也警告可能陷在推理裡出不來 |
| 5 | 工具安全風險 | 使用工具時可能不詢問就刪除或覆蓋檔案 |
順帶一提:英偉達同體量的模型在修 bug 測試中也全對,而且速度快 4 倍。
六、最大的坑:預設思考檔位是最高檔
這是所有實測者共同的抱怨。同一個模型,換檔位差近 9 倍:
| 測試 | 低檔 | 最高檔 |
|---|---|---|
| 鵜鶘騎自行車 | 47 秒/1,700 token | 6 分 47 秒/11,000+ token |
| 認硬幣 | — | 12,000 token,約 20 分鐘仍無結論 |
| WordPress 插件 | — | 想了 19,000+ token 沒寫完 |
| 60 行緩存面試題 | 1,000 token 預算 | 加到 8,000 token,正文一個字都沒吐 |
影片的建議很直接:簡單任務先切低檔或中檔,並限制輸出長度與來回輪數。
七、安裝避坑(影片實測)
| 步驟 | 注意事項 |
|---|---|
| 下載 | 約 20GB;M1 Max 上花了 16 分鐘 |
| Ollama | 正式版拉不下來且會直接報錯,必須裝預發布版(官方文章沒寫這件事) |
| 思考檔位 | 先改低檔,否則預設最高檔會讓你以為模型壞了 |
| 檔案安全 | 讓模型動本地檔案前先放進沙盒,並設定刪檔前詢問 |
| 其他工具 | 影片只提到 Ollama 與 EXO 團隊;未提及 llama.cpp 或 MLX |
八、誰該用、誰不該用
| 適合 | 不適合 |
|---|---|
| 有 32GB 以上的 Mac、且不想把程式碼或資料傳上網 | 需要即時回答(等不了一兩分鐘) |
| 寫小網頁、小遊戲、看截圖操作介面 | 需要事實查證、知識問答 |
| 斷網環境的私人助理(郵件、日曆、備忘錄、菜譜、購物清單) | 中文為主要工作語言(官方自述有截斷與混語問題) |
| 願意先調低思考檔位、限制輸出長度 | 終端長任務、多輪工具自動化 |
影片的結論很傳神:它最適合的地方就是「那趟沒網的航班」——時間多、沒網路、程式碼不用外傳。
九、兩個延伸思考
1. 本地小模型的「等待經濟學」 它的成本優勢(便宜 11 倍)是用你的等待時間換來的。對個人使用者,時間幾乎免費;對公司,工程師的 20 分鐘可能比 API 費用貴。所以「便宜」在不同情境下是相反的結論——這是本地模型評測裡最少被講清楚的一件事。
2. 循環架構的邊界已被講明 官方自己承認「多想不多記」。這句話其實劃出了這類模型的位置:適合把已知的東西做得更好,不適合當知識庫。任何要求「記住事實」的應用(客服、法規問答、醫療)都不該用它當主力。
十、站內延伸閱讀
- AI 寫的程式都是垃圾,除了我寫的:3,000 個 PR 的實驗——小模型寫程式時,「約束」比「更大」有效
- Kinetograph 實測:不開瀏覽器的影片引擎——同樣是「本機跑得動,但要看成本」的取捨
- 2026 最暴利 AI 生意:別再做產品,改賣注意力——當模型變便宜,稀缺的就不再是模型
參考來源
- 三少科技,〈Inkling 2 Mini 循環模型,32GB 的 Mac 就能跑?一期看懂〉(YouTube)
- 影片引用之第三方數據:Artificial Analysis 評分與 token 統計、EXO 團隊天氣 App 實測、日本與本地社群使用者實測
- 官方模型卡陳述:中文輸出截斷、終端任務與工具使用風險(由影片轉述)
(本文為影片內容整理與獨立分析,未自行重跑全部測試。速度與耗時均為他人實測值,會隨機型、量化版本與思考檔位大幅變動;官方規格與授權請以 Thinking Machines 發布頁為準。)
