隨著自律型 AI Agent 應用的迅速崛起，能夠自動規劃任務、呼叫工具並完成多步驟複雜工作流程的系統，已成為新一代軟體開發的核心趨勢。過去這類強大的 Agent 服務極度依賴雲端伺服器的運算資源與大型模型，使得在效能與記憶體受限的手機或筆記型電腦等消費級裝置上進行本機執行，始終被視為難以克服的瓶頸。
近期 Liquid AI 發布了最新的輕量化模型 LFM2.5-2.6B，這項技術成果迅速引發科技圈與資安領域的廣泛關注。CyberQ 觀察 Liquid AI 官方公告，這款僅有 26.9 億參數（2.69B）的小型模型，不僅能完全在裝置端獨立執行，還能在工具調用與多步驟 Agent 任務中，展現出媲美甚至超越四倍體積大型模型的性能，讓智慧型手機順暢執行小型地端 AI Agent 成為可能。
Liquid AI 的四位共同創辦人皆來自麻省理工學院計算機科學與人工智慧實驗室（MIT CSAIL），團隊背景主要涵蓋奧地利、伊朗、羅馬尼亞與美國，擔任執行長（CEO）的 Ramin Hasani 為伊朗裔奧地利籍學者，出生於伊朗，後於奧地利維也納科技大學取得博士學位。擔任技術長（CTO）的 Mathias Lechner 為奧地利籍，同樣畢業於維也納科技大學與奧地利科技學院。擔任 CSO 的 Alexander Amini 為美國人，出生於德州並於麻省理工學院取得學士至博士學位。另一位共同創辦人 Daniela Rus 則是羅馬尼亞裔美國人，出生於東歐的羅馬尼亞，現為 MIT CSAIL 的主任與教授。
突破規模瓶頸的架構與訓練機制
LFM2.5-2.6B 擁有 30 層網路結構，並採用高達 34 兆（34 Trillion）Token 的預訓練資料量。為了強化多語言支援能力，開發團隊將詞彙表擴展至 128,000 個 Token，並提供長達 131,072 Token 的上下文視窗，完整涵蓋繁體中文與日語等多國語言需求。
與傳統僅透過合成資料訓練的小模型不同，Liquid AI 採用了極為獨特的 post-training 訓練流程。模型直接在目前最流行的 Agent 執行架構內進行強化學習，結合多領域專家模型的知識蒸餾技術，針對指令遵循、工具呼叫、網路搜尋與軟體工程等真實任務進行深入塑形。這種訓練策略讓 LFM2.5-2.6B 獲得了不錯的相容性，在基準測試中，其工具使用與指令執行表現不僅直逼大型模型，甚至在部分 Agent 評測指標中一舉超越了 Qwen3.5-9B。
驚人的推論速度與硬體適應力
在實際推論速度方面，LFM2.5-2.6B 展現出不錯的硬體執行效率。在中央處理器（CPU）的解碼速度測試中，蘋果 Apple M5 Max 晶片可達到每秒 220 Token 的驚人速度，AMD Ryzen AI Max+ 395 亦具備每秒 113 Token 的處理能力。即便是運算資源相對有限的智慧型手機，也能維持每秒 30 Token 左右的穩定輸出，完全滿足即時互動與自主 AI Agent 任務的執行需求。
對於企業級或資料中心環境，當使用 NVIDIA H100 GPU 進行高併發處理時，該模型的解碼速度更可飆升至每秒約 15,000 Token，單日輸出量高達 13 億 Token。為滿足不同開發情境的需求，Liquid AI 除了提供原生模型權重外，亦同步釋出了適用於 llama.cpp 的 GGUF 量化版本、跨平台的 ONNX Runtime 格式，以及針對 Apple Silicon 最佳化的 MLX 格式，並區分為預訓練基底模型 LFM2.5-2.6B-Base 與後訓練版 LFM2.5-2.6B，降低了社群開發者的部署門檻。
邊緣端 AI Agent 的市場趨勢與資安隱私效益
從市場趨勢與資訊安全合規的角度來看，LFM2.5-2.6B 的登場代表著 AI 應用正式進入「去雲端化」與「邊緣 AI」的新階段。將 AI Agent 的運算重心從雲端轉移至終端裝置，最直觀的效益在於歸零的 Token 呼叫成本與極低的網路延遲，這讓開發者能夠大幅平行化部署多個 Agent 協同工作，而不必擔心龐大的 API 費用帳單。
更重要的是，地端跑這種小型代理人，為企業與個人資料安全在終端小型裝置上帶來了革命性的保護。傳統雲端 Agent 往往需要將敏感的個人資料、商業機密或系統存取權限傳輸至第三方伺服器，衍生出嚴重的資料外洩與資安合規風險。當 AI Agent 能夠完全離線並在本地端執行時，所有資料存取與工具調用均鎖定在裝置內部，從根本上杜絕了資料傳輸過程中的截獲疑慮，非常適合應用於金融、醫療及企業內部敏感流程的自動化。
雖然在複雜程式碼撰寫與多模態視覺處理等特定領域，規模較大的 Gemma 4 或 Qwen3.5 等模型依然保有相對優勢，但 LFM2.5-2.6B 的發表算是開啟了另一條路線，透過架構設計與真實場景的強化學習，小型邊緣模型也能跑 AI Agent 代理人，未來終端裝置就不只是雲端 AI 的顯示螢幕，增加了具備簡單獨立思考與行動能力。
CyberQ 認為，這些裝置如果使用這些模型，其實可以看出適合的是小型裝置。
| 裝置 | 適合程度 | 用途 |
|---|---|---|
| 手機 / Android | ★★★★★ | 個人 AI Agent、Tool Calling、離線助理 |
| Raspberry Pi 5 | ★★★★☆ | IoT Agent、Home Automation、設備控制 |
| Intel Core Ultra / AMD Ryzen AI | ★★★★★ | 本機 Agent、AIOps、Automation |
| 產線 QC、物流機器 | ★★★★☆ | 能發展的方向 |
| RTX 5060 Ti 16GB | ★★★★★ | 可以跑，但有點「大材小用」 |
| NVIDIA + NAS | ★★★★★ | NAS 上跑本地 Agent 很合適 |
| NVIDIA DGX Spark GB10 | ★★★★☆ | 可以跑，但不應該只拿它跑 2.6B |
| QNAP NAS CPU | ★★★★☆ | 非常適合做輕量常駐 Agent |
| Snapdragon X / Snapdragon 手機 | ★★★★★ | 這類硬體正是它的主要戰場 |
| MCU / 超低階 IoT | ★☆☆☆☆ | 2.6B 還是太大，應該看 230M/350M |
可以它定位成小型 AI Controller 可能會比小型 ChatGPT 更適合，搭配代理人程式會較值得在小型裝置使用。
首圖由 Nano Banana AI 生成
