Inkling：975B 多模態模型規格
| 項目 | 規格 |
|---|---|
| 總參數 / 主動參數 | 975B / 41B（MoE，Top-6 路由 + 2 共享專家） |
| 上下文視窗 | Hugging Face 權重最高 1M；Tinker API 提供 64K / 256K |
| 輸入模態 | 文字、影像、音訊（影片於預訓練階段納入） |
| 輸出模態 | 文字、程式碼、結構化資料 |
| 預訓練規模 | 45 兆 Token（文字、影像、音訊、影片） |
| 授權 | Apache 2.0（另附獨立使用政策文件） |
| 完整權重容量 | BF16 約 1.9 TB；NVFP4 約 592 GB；1-bit GGUF 270–285 GB |
| 輕量版 | Inkling-Small（276B 總參數 / 12B 主動參數，預覽中） |
由前 OpenAI 技術長 Mira Murati 領軍、估值高達 120 億美元的人工智慧新創 Thinking Machines Lab，於 2026 年 7 月 15 日正式發表首款自主研發的開放權重（Open-weights）多模態大型語言模型「Inkling」。這款模型以 9750 億總參數規模、原生多模態理解能力與極高的客製化潛力，在開源社群與企業應用市場掀起熱議。
Inkling 技術架構解析：975B MoE 模型的三項創新
CyberQ 觀察，Inkling 採用混合專家（Mixture-of-Experts, MoE）架構，擁有 9750 億總參數，但每個 Token 僅主動啟用其中 410 億參數。這種設計大幅降低計算能耗，在維持模型表達能力的同時確保推論速度。
架構上有三項值得關注的創新：
其一，捨棄 RoPE 位置編碼。 Inkling 改用「可學習、依賴輸入之相對位置偏置」（Learned, input-dependent relative-position bias）技術。根據技術社群分析，這種設計在處理超長序列時展現出比 RoPE 更佳的外推表現，是 Inkling 能支援最高 100 萬 Token 上下文視窗的關鍵。需注意的是，1M 上下文適用於自行部署的 Hugging Face 完整權重；官方 Tinker API 目前提供 64K 與 256K 兩種上下文長度。
其二，嵌入層後直接加入 RMSNorm。 為穩定超大規模模型初期層級的特徵表示，研發團隊在 Token 嵌入層之後額外加入一層 RMSNorm。
其三，精細的專家路由機制。 路由器除了對路由專家評分外，還整合兩個始終啟用的「共享專家」（Shared Experts），每次推論執行 Top-6 專家選取，使硬體資源分配更加精準。
硬體訓練方面，Thinking Machines 與 NVIDIA 深度合作，模型在 GB300 NVL72 系統上完成預訓練，總計吞吐 45 兆個涵蓋文字、影像、音訊與影片的 Token。
原生多模態能力與 Tinker 微調生態系
與市面上多數僅支援文字輸入的開放權重模型不同，Inkling 能夠原生接收並解讀影像與音訊，是目前少數原生融合三種模態的開放權重模型。它可以同時辨識並推理複雜的音軌、影像細節與程式碼邏輯，無需外部轉譯模組。不過，模型的輸出能力目前仍侷限於文字、程式碼、結構化資料與特定樣式的排版文件。
除多模態能力外，Thinking Machines 的核心商業策略圍繞客製化展開，並同步推出模型微調平台 Tinker。在官方展示中，Inkling 甚至示範了自我微調能力：模型在 OpenCode 沙盒環境中自主撰寫微調評估指令、產生合成訓練資料、透過 Tinker API 啟動後續訓練，並成功完成自我權重更新。
另一項實用重點是「可控思考機制」（Controllable Thinking Effort）。開發者可依應用場景在推論速度與思考深度之間彈性調整：處理複雜代理人（Agentic）任務、深度推理或程式開發時調高思考權重；一般客服問答或快速檢索時降低思考時間，在執行效率與運算成本之間取得平衡。
優勢與局限在第三方實測並陳
為驗證官方宣稱，CyberQ 也觀察了第三方評測機構 Artificial Analysis 的最新實測資料。
智慧指標登頂美國開源榜首。 在 Artificial Analysis Intelligence Index 中，Inkling 以 41 分成為目前美國本土最強的開放權重模型，超越 NVIDIA Nemotron 3 Ultra（38 分）與 Google Gemma 4 31B（29 分）。
Token 效率是最大優點。 在 Terminal Bench 2.1 基準測試中，Inkling 達成與 Nemotron 3 Ultra 旗鼓相當的任務解決率，但消耗的 Token 數量僅約後者的三分之一。Artificial Analysis 的跨任務實測也證實這一點：Inkling 在智慧指標任務中平均僅消耗 2.5 萬個輸出 Token，遠低於 GLM-5.2 的 4.3 萬與 Kimi K2.6 的 3.8 萬。對於需要在長工作流程中大量呼叫模型的企業而言，這條「效率曲線」的意義可能比單點最高分更為重要。
網頁開發代理人表現亮眼。 在視覺網頁開發的盲測人類評測 Design Arena（Agentic Web Dev Leaderboard）上，Inkling 取得 1253 至 1257 的 Elo 評分，擠進與 Anthropic Claude Opus 4.6、Google Gemini 3.5 Flash 相同的效能陣容。Artificial Analysis 公開報告中另載明 GDPval-AA v2 Elo 為 1238。
明顯弱點：幻覺率偏高。 我們也必須指出 Inkling 的缺陷。根據實測，Inkling 在事實問答SimpleQA Verified測試中精準度僅約 40%，該得分落在開源與輕量模型的中間區間，對比頂尖開源模型（如 DeepSeek V4 Pro 的 57.0%）仍有差距。
Thinking Machines Lab 在發布時便相當坦誠，公開表示 Inkling 並非各領域最強的 AI 模型。雖然這個成績仍優於 GLM-5.2 的 38.1% 精準度，但如果幻覺率還沒辦法降下來，公司如果要將其用於內部知識檢索（RAG）或高合規系統時，必須額外設計防範幻覺的護欄機制。
值得一提的是，官方同步預覽的輕量版 Inkling-Small（276B 總參數、12B 主動參數）以相似訓練配方打造，在 IFBench 指令遵循測試中甚至以 83.4% 反超大模型的 79.8%，展現出以小搏大的潛力。
本地部署硬體門檻：從 1.9 TB 到 290 GB
Inkling 的開源釋出在 Hugging Face 與 Reddit 技術社群引發轟動，但 9750 億參數的龐大體積也帶來高昂的硬體門檻。未經量化的全精度（BF16）版本需要將近 1.9 TB 的儲存與視訊記憶體空間；即便是官方的 NVFP4 量化版，也仍需約 592 GB，官方建議以 4 至 16 張資料中心等級 GPU 組成的叢集執行。
所幸開源社群反應迅速。知名最佳化團隊 Unsloth 於首日釋出「動態 1-bit 量化」（Dynamic 1-bit Quantization）GGUF 版本，將模型體積從 1.9 TB 壓縮至 270–285 GB（縮小 86%），同時維持約 74.2% 的 Top-1 精準度。依 Unsloth 官方文件，總記憶體（RAM + VRAM）約 290 GB 即可執行 1-bit 版本，且建議保留適當餘裕；另有 2-bit 版本（317 GB，81% 精準度）可供選擇。
不過社群也存在不同聲音。部分開發者在 ObviousBench 等基礎直覺任務測試中發現，當思考機制調至最高設定時，Inkling 的運算成本可達一般最佳化模型的 50 倍，處理簡單任務時顯得過於笨重。也正因如此，社群對 Inkling-Small 的正式釋出寄予厚望，12B 主動參數的規模，才是主流開發者在 128 GB 級別硬體上實現商業落地的務實解答。
資料主權與授權細節
CyberQ 認為，從資安合規與風險評估的角度來看，Thinking Machines 以 Apache 2.0 授權開源 Inkling 權重，對企業用戶是一大利多。在各國政府針對雲端封閉式 AI 模型實施出口管制與存取限制的當下，掌握完整的模型控制權是確保合規與資料主權（Data Sovereignty）的最佳防線。
透過在本地或私有雲端執行 Inkling，企業可完全避免將敏感內部資料、客戶個資或專利程式碼傳輸至第三方雲端 API，從根本解決 GDPR 等跨國隱私法規的遵循問題。此外，Inkling 內建的校準回應（Calibrated Responses）特性，模型在不確定時會主動示警而非盲目猜測，金融與醫療等高合規場景提供了更好的容錯邊界。
惟須提醒法務與資安團隊留意一項細節：Inkling 的權重雖標示 Apache 2.0，但官方另附有獨立的使用政策（Acceptable Use Policy）文件。在受監管產業或長期部署情境中，建議先釐清兩份文件的法律關係，再將模型視為固定的軟體相依項目納入架構。
不完美，但值得企業納入評估的開源模型新選擇
CyberQ 指出，Inkling 當然並非毫無瑕疵，它有幻覺問題仍待改善，特定設定下運算開銷也偏高。但是呢，作為一個具備 100 萬上下文視窗、原生多模態解讀能力，且能透過 Tinker 深度客製化的開放權重基底，它為企業提供了一個不受制於大型科技廠商、可完全自控的 AI 新選擇。
目前它和歐洲的 Mistral，為市場上較受矚目的非中國陣營開源大模型，後續發展也很值得關注。
由前 OpenAI 技術長 Mira Murati 領軍的 Thinking Machines，在打造這款 975B 混合專家模型 (MoE) 時，其核心訴求並非盲目追逐排行榜成績，而是客製化與開發者可控性。開發者可以調整 AI 的思考努力程度，在特定編程任務中，能用更少的 Token 達成與競爭對手相同的效果。它是少數原生融合文字、視覺和音訊的開源基礎模型，且具備 Apache 2.0 開源授權。
隨著 Inkling-Small 正式釋出在即，自主客製化與去中心化的開源生態系，有可能因 Thinking Machines 的加入而邁向全新格局噢。
常見問題（FAQ）
Q1：Inkling 可以免費商用嗎？ 權重以 Apache 2.0 授權釋出，原則上允許商業使用，但官方另附獨立的使用政策文件，建議企業法務於部署前一併檢視。
Q2：本地執行 Inkling 需要什麼硬體？ 全精度 BF16 版本需約 1.9 TB 記憶體空間，須以多張資料中心級 GPU 叢集執行；Unsloth 動態 1-bit 量化版僅需約 290 GB 總記憶體（RAM + VRAM），高階工作站即可執行。
Q3：Inkling 與 GLM-5.2、Kimi K2.6 等開源模型相比如何？ 在純程式碼與複雜推理任務上，GLM-5.2 仍佔優勢；但 Inkling 的差異化在於原生多模態輸入、可控思考成本，以及顯著更低的 Token 消耗量，適合大量呼叫的代理人工作流程。
