科技大廠 Nvidia 目前正在開發新一代人工智慧模型 Nemotron 4，目標是在全球與頂尖開放模型展開競爭。根據路透社這篇引用的The Information報導 Nvidia building 1-trillion-parameter Nemotron 4 to rival open AI models, The Information reports ，參與該專案的員工指出Nvidia期望透過釋出這款模型，在人工智慧領域中佔據更有利的位置，提升其在全球開放模型市場的競爭力。
雖然目前 Nemotron 4 最終訓練尚未完成，Nvidia 仍尚未敲定 Nemotron 4 的發布日期，但據內部員工透露，該模型最快可能在今年秋季末準備就緒。
瞄準頂尖AI系統Nemotron 4參數規模將破兆
多位參與研發 的員工指出，Nemotron 4 最大的模型版本預計將達到至少1T參數。這樣的規模大約是 Nvidia 今年六月推出的前代最大型模型 Nemotron 3 Ultra 的兩倍。
Nemotron 3 Ultra 共有550B參數，每次運算會啟用其中 55B 參數，當然參數數量並不能直接代表模型能力，實際表現還會受到模型架構、啟用參數數量、訓練資料、訓練方法及推論效率等因素影響。目前外界也尚不清楚 Nemotron 4 將採用何種模型架構、每次運算會啟用多少參數，以及Nvidia 預計會推出哪些不同規模的版本。
面對近期市場上成本較低的人工智慧模型逐漸逼近美國領先 AI 模型的能力，Nvidia 作為少數持續釋出大型開放模型的美國科技企業之一，其動向備受市場關注。
針對這項報導，Nvidia 已證實正在開發Nemotron 4，但並沒有證實 The Information 報導的參數規模及發布時程等細節。Nvidia 生成式人工智慧副總裁 Kari Briski 表示，公司投資 Nemotron，是因為相信各國與企業都需要容易取得的先進開放模型，以強化安全、加速創新，並提供可長期使用的技術基礎。
推出Nemotron 3.5 Lightning處理大量代理任務
除了仍在開發中的Nemotron 4，Nvidia 近期也推出了 Nemotron 3.5 Lightning以及相關工具 (NVIDIA Nemotron 3.5 Lightning and NeMo Switchyard Deliver Faster, Smarter, More Efficient Agentic AI)。這款混合專家模型共有30B參數，每次運算會啟用其中3B參數，主要針對長時間運作的AI代理及大量低延遲任務進行最佳化。
Nemotron 3.5 Lightning 這款模型適合用來處理程式碼檢查、工具操作、驗證執行結果、監控安全警示及回答帳務問題等工作。相較於讓大型模型來處理AI代理的每一個步驟，用這種較小型的模型來處理大量重複性工作，能夠有效降低運算成本及等待時間。
Nvidia 也同步推出開放原始碼模型路由工具 NeMo Switchyard，可依照任務的難度及需求，自動將工作分配給較適合的模型。例如，複雜規畫可交由大型推理模型處理，例行性的工具操作則交給Nemotron 3.5 Lightning，避免所有工作都使用成本較高的大型模型。
從開放模型到融資平台擴大GPU市場
Nvidia 投入資源開發開源模型的策略，其核心目的在於刺激GPU運算能力的市場需求。提供免費且具備高度競爭力的開源模型，有助於吸引更多開發者跟企業採用，如此一來，當越來越多使用者將這些模型應用於日常業務，對於Nvidia底層運算架構與硬體的依賴程度也會隨之提升。
Nvidia 近期的行動顯示，該公司擴大AI運算市場的方式已不只限於提供模型、晶片及軟體。根據CNBC報導，Nvidia已與Apollo、BlackRock、Blackstone、Brookfield、Goldman Sachs及KKR等六家金融機構簽署合作備忘錄，計畫成立AI運算基礎設施融資平台，引進超過5000億美元的第三方資金。
這項融資計畫主要面向先進AI模型開發商、企業、政府及雲端服務供應商，協助其取得興建資料中心及採購 Nvidia 運算設備所需的資金。對於具有AI運算需求、卻難以負擔龐大建置成本的企業而言，融資平台可能降低擴充資料中心的資金門檻；對 Nvidia 而言，則有助於擴大潛在客戶及GPU市場。由此可見，Nvidia 同時從模型、軟體、硬體及資金融通等不同方向擴大AI生態系，來帶動Nvidia硬體及軟體平台的使用量。
不過，目前這項融資計畫尚仍處於合作備忘錄階段，5000億美元是計畫引進的資金規模，Nvidia 尚未公布各家金融機構的實際出資額、完整融資條件及資金投入時程。
網路安全與開放模型的潛在挑戰
隨著開放模型普及，網路安全風險也成為外界關注的焦點。開放模型可由使用者下載及自行部署，不會像雲端封閉模型一樣，由服務供應商持續限制其用途。這項特性讓企業能自行檢查、調整及保護模型，卻也可能被利用於尋找漏洞或發動網路攻擊。
為了處理相關問題，Nvidia於7月27日與多家企業及組織成立了 Open Secure AI Alliance，共同開發及分享保護軟體與AI代理的開放技術及工具。參與者包括Adobe、Cisco、CrowdStrike、Dell Technologies、Hugging Face、IBM、Linux Foundation及Microsoft等企業與組織。
Nvidia 也在7月24日簽署支持開放權重模型的公開信，呼籲美國政策制定者支持開放模型發展，避免美國在相關技術及開發者生態系中失去影響力。這些行動顯示，Nvidia除了利用開放模型擴大GPU 市場，也試圖回應外界對模型遭到濫用及AI代理失控的疑慮。
CyberQ 觀點
Nvidia的開源策略，透過Nemotron 4這類兆級參數規模的開源模型，訴求還是想辦法穩固其在人工智慧開源社群的地位，至少要表態展現自己在這方面的實力，也能從應用端直接鎖定企業對高階GPU的需求。
在競爭對手積極研發客製化晶片之際，Nvidia選擇將模型開源，其實就是利用軟體生態系來鞏固其運算硬體，後續發展如何，再來觀察吧。
首圖由 Nano Banana AI 生成
