隨著大型語言模型技術的演進，地端 AI 代理人（AI Agent）為具備自主規劃、執行指令與多工具呼叫能力的人工智慧實體。如果希望地端助理能夠排除電腦關機的限制，真正做到 24 小時不斷電地執行資料採集、撰寫報告、自動發文等複雜工作流，將其部署在穩定運作的 QNAP NAS 伺服器上是一種相對簡單且不錯的解決方案，畢竟 NAS 設備這種小型或中大型儲存伺服器有運算能力，基本上是不關機的，非常適合拿來跑一些容器服務，以及現在熱門的 AI 代理人服務，更重要的是具備為日後多裝置間記憶同步的能力。
CyberQ 在不同場域實作後，認為這個方式是比較簡單且安全的，你可以將 AI 代理人放在 QNAP NAS 中的容器，本文將解析如何利用 QNAP Container Station，結合地端高階運作模型或雲端 API，打造一個專屬且具備持久記憶的 AI 自動化工作站。
建立持久化儲存空間與環境準備
在開始建置容器之前，確保代理人的資料與記憶能夠在容器重啟或更新時完整保留，是系統架構的首要重點。請先登入 QNAP QTS 系統並開啟 File Station，在 Container 共享資料夾下建立一個專為代理人準備的獨立目錄，例如命名為 hermes-agent。
這個資料夾未來將會透過實體對應的方式，存放所有關鍵的設定檔、環境變數憑證、自動化腳本以及核心記憶資料庫。從網路架構的角度來看，集中在 NAS 的優勢在於便於進行快照備份，同時也為日後多裝置間的記憶同步奠定了實體基礎。
透過 Container Station 進行 Docker Compose 部署
準備好實體資料夾後，接著進入 QNAP Container Station 建立應用程式。我們跳過繁瑣的單一指令配置，直接採用 Docker Compose 進行多工作階段的架構定義。在建立應用程式的畫面中，為您的代理人輸入識別名稱，並在程式碼區塊中定義服務內容。映像檔部分指定 Nous Research 官方發布的最新版本 hermes-agent，並將重啟策略設定為除非手動停止否則自動重啟。
CyberQ 編寫範例用的 YAML 程式碼如下，請直接複製貼到你容器工作站的建立應用程式畫面中，修改你的地端 AI API 位置 (如果沒有地端 API 算力節點，你可以連線雲端 Claude、OpenAI API 等使用，在愛馬仕 AI 代理人的畫面中可另外設定)，驗證完即可部署使用 :
version: ‘3.8’
services:
hermes-agent:
image: nousresearch/hermes-agent:latest
container_name: hermes-agent
restart: unless-stopped
ports:
– “8642:8642”
– “9119:9119”
volumes:
– /share/Container/hermes-agent:/opt/data
environment:
– HERMES_DASHBOARD=1
– HERMES_DASHBOARD_BASIC_AUTH_USERNAME=cyberq
– HERMES_DASHBOARD_BASIC_AUTH_PASSWORD=Newhelena2026
– OPENAI_BASE_URL=http://192.168.2.142:8000/v1
– OPENAI_API_KEY=local-ds4
– API_SERVER_ENABLED=true
– API_SERVER_HOST=0.0.0.0
– API_SERVER_KEY=hermes_api_secure_pass_2026
– API_SERVER_CORS_ORIGINS=*
command: gateway run
在連接埠對應上，我們需要將主機的連接埠與容器內部的核心服務進行綁定，例如用於主控台與 API 溝通的特定通訊埠。最關鍵的步驟在於磁碟卷軸的掛載，必須精確地將剛才在 NAS 建立的實體路徑，對應到容器內部的指定資料夾。這項設定能確保代理人在執行的過程中所累積的知識與本地端檔案，都會即時寫回 NAS 實體硬碟中。設定完成後點擊建立，系統便會自動開始下載映像檔並建置環境。
自訂模型端點與核心參數配置
當容器成功啟動後，可以點選瀏覽器畫面連到 hermes-agent 在的 IP 位置，可以連線進入使用。
接著我們可以透過區域網路內的其他裝置，利用網路芳鄰（SMB）的方式存取 NAS 內該代理人的資料夾，如下方範例就在 CyberQ NAS 中容器資料夾前面文章提到設定好的 hermes-agent 資料夾。此時會發現原本空無一物的目錄已經自動生成了核心結構。使用文字編輯器開啟設定檔 config.yaml，我們便能針對核心模型，再進行其他的最佳化配置。
Hermes Agent 的彈性在於其同時支援雲端大廠的 API 與地端私有化部署的模型。為了確保最高規格的資料隱私與效能表現，最佳的實踐方式是將其連接到地端由具備 NVIDIA 顯示卡、工作站等中高階硬體建構的 AI 推理伺服器。在設定檔中，將 AI 服務的提供者設定為自訂模式，並將基礎網址指向地端推理伺服器的 API 端點，同時指定主力執行的輕量高效模型。這種架構能讓 NAS 專注於邏輯調度、工具呼叫與排程執行，而將沉重的運算負荷完全解耦至後端的專屬 AI 運算節點，實現極低延遲的自動化回應。
串聯外部通訊管道與排程自動化實務
一個合格的 24 小時自動化助理，必須具備主動回報與定時執行的能力。進入網頁管理介面後，可以發現系統內建了強大的通訊頻道配置功能。以主流的 Telegram 為例，我們可以透過掃描行動條碼或整合憑證的方式，讓代理人正式進駐指定的對話群組。系統會將敏感的憑證資訊安全地寫入地端的環境變數檔案中，在每次開機時自動連線。
完成通訊管道配置後，便能進一步在排程任務管理介面中創造自動化工作流。我們可以建立一個專門的股價匯率財經資訊自動採集任務，在提示詞中明確指示代理人必須定期啟動本地端的虛擬環境，執行特定的自動化 Python 腳本，愛馬仕代理人就會自動透過你地端的 AI 算力節點去生成對應的程式碼和任務來，或透過前述 Claude AI API、其他 AI 算力服務 API 去完成你的自動任務程式碼。
CyberQ 實測案例其中一個，是將執行時間設定為每日早晨固定時間，配合完善的 Gateway 機制，地端助理便會在無人看管的情況下，自動上網蒐集最新的財經情資，經過模型分析後整理成需要的資料格式，並透過 Telegram 即時推送給相關工作人員。這不僅解決了人工監看財經資訊的時間成本問題，更達成了真正的全天候自動化運作。同理，資安任務、系統監控、產線資料收集也可以透過愛馬仕代理人來完成。
模型的選擇上，本範例是使用地端的 DS4 專案，也就是高達 284B 參數量化過後的 deepseek-v4-flash 模型，你可以自行指定你需要的模型在愛馬仕 AI 代理人中。
愛馬仕 AI 代理人的二三事
hermes-agent 可以進行更新，在 QNAP NAS 上可使用容器工具 Watchtower 自動更新，而在你的桌機或筆電上，開啟 hermes-agent 時會自動檢查是否有更新，有的話就會出現下面的畫面來。
另外，hermes-agent 耗用的記憶體並不會很多，任務很多它還是可以跑得很好，關鍵會在你接的 AI 地端與 AI 雲端伺服器 API 上，通常是任務排程的瓶頸。
跨裝置代理人的記憶中樞同步策略
當您在辦公室的桌上型電腦或在外奔波的筆電上也同樣部署了本地端的 Hermes Agent 時，如何讓這些分散在各處的助理共享同一個大腦記憶，就成了進階架構必須處理的問題。得益於 QNAP NAS 先天的網路儲存優勢，CyberQ 實務上有使用過兩種還算可以的方式來整合跨裝置的記憶。
第一種方式是利用區域網路的特性，直接在桌機與筆電上將 QNAP 的該容器資料夾掛載為網路磁碟機，並強制將本地端代理人的資料路徑指向該網路位置。這能讓所有裝置在同一時間讀寫同一個記憶資料庫，達成完美的即時同步。以 Linux 環境為例，最佳的方式是撰寫 systemd 掛載單元檔案，將遠端的共用資料夾穩定掛載到如 /mnt/hermes-memory 的本地目錄，並在設定檔中加入讀寫權限與網路最佳化參數以確保連線穩定。最後，在部署本地端的 Hermes Agent 時，透過修改 .env 環境變數或設定檔，將原本指向容器內部空間的記憶資料庫路徑，重新指定到剛剛掛載完成的網路磁碟機目錄。這樣一來，當代理人程式在執行推論與記憶寫入時，所有的資料變更都會即時透過網路直接寫入 QNAP NAS，達成跨裝置完全無縫的即時記憶共享。
第二種方式則是針對需要離線辦公的筆電，利用 NAS 內建的同步工具如 Qsync 或部署同步用的容器，在本地端資料夾與 NAS 儲存點之間建立自動的雙向變更同步。不論你的 AI 代理人助理在哪部裝置上學到了新的知識或留下了對話紀錄，這些記憶最終都會匯流回 QNAP NAS 的中央儲存中樞，讓公司的地端 AI 團隊永遠保持資訊同步。
針對需要離線辦公、無法隨時連回區域網路的筆電，則需要引進雙向同步機制來維持記憶的最終一致性。實作這套架構時，可以在 QNAP NAS 上啟用 Qsync Central 服務，或是在 NAS 上利用 Container Station 部署一個專屬的 Syncthing 容器作為中央節點。接著在外出的筆電上安裝對應的 Qsync 用戶端或 Syncthing 代理程式，並將筆電本地端 Hermes Agent 的記憶資料夾與 NAS 上的中央儲存點建立雙向同步關聯。
同場加映串聯 DS4 AI 節點實務
愛馬仕 AI 代理人除了使用雲端 API 外，如果你能有地端 AI 伺服器，那改成串地端伺服器的 API ，你就不用花額外的訂閱費或 API 費用給雲端大廠了，也有公司會希望一些任務可透過地端 AI 來處理，不上雲，或關鍵任務呼叫雲端 API 去機敏化後處理，這確實是個市場需求，而這次部署的地端AI 算力模型，CyberQ 是選用 redis 大神 Salvatore Sanfilippo (antirez) 寫的這個 DS4 專案，在 NVIDIA DGX Spark 上部署。
在執行部署前，同樣在 QNAP NAS 上把 nfs 服務開好，並讓 DGX Spark GB10 機器掛載設定好的指定資料夾 /mnt/nas2/AIModels/，我們將透過 10GBE、100GBE 網路來連線處理掛載模型檔權重，讓 DS4 執行時是直接從 QNAP NAS 資料夾中載入這個大小是 91GB 的 AI 模型檔。
都下載好 DS4 在 DGX Spark GB10 上後，執行的編譯指令如下 :
make cuda-spark
這條指令會自動呼叫 nvcc 並帶入最適合這台機器架構的設定，將硬體算力完整發揮出來。為了確保新拉下來的程式碼能完全乾淨地建置，直接在 ~/src/ds4 目錄下執行以下指令組合：
make clean && make cuda-spark系統編譯好後，我們下載好對應的模型，就可以執行 ds4 啟動指令，把模型載入起來，指令是 :
./download_model.sh
這時候可以選擇要使用的 deepseek-v4 類型來下載，如果沒有 QNAP NAS 或有 QNAP NAS 但沒有高速網路卡的話，建議是下載到本機 SSD 或硬碟來使用。
本範例中除了載入 deepseek-v4-flash 模型外，還有載入一個 MTP 模型，對於改善思考鏈的效率有幫助，這是一個大小僅有 3.5 GB 的投機解碼（Speculative Decoding）加速組件，可以搭配現有的 q2-imatrix 模型。它會在背景先執行輕量級的預測，再交由大模型驗證，能夠在完全不犧牲模型精確度的前提下，大幅提升文字輸出的生成速度，非常推薦下載搭配使用。不過會吃掉幾 GB 的記憶體，範例啟動指令如下 :
./ds4-server –ctx 100000 –kv-disk-dir /opt/ds4-kv –kv-disk-space-mb 32768 –model /mnt/nas2/AIModels/ds4/gguf/DeepSeek-V4-Flash-IQ2XXS-w2Q2K-AProjQ8-SExpQ8-OutQ8-chat-v2-imatrix.gguf –mtp /mnt/nas2/AIModels/ds4/gguf/DeepSeek-V4-Flash-MTP-Q4K-Q8_0-F32.gguf –mtp-draft 1 –host 0.0.0.0
實際跑任務後，可以看到 AI 代理人有任務進來時會呼叫 DS4 server 上的 AI 算力節點，進行提詞的處理和任務執行如下列示範圖。
除了 NVIDIA DGX Spark GB10 之外，蘋果電腦 MacBook 具備 128GB 統一記憶體的也能夠載入這個 DS4 中的 DeepSeek V4 Flash 模型，還有人串聯二台 Mac，可跑 DeepSeek V4 Pro 模型，也是可以參考的方式之一。
善用 hermes agents 搭配 QNAP NAS，希望可以幫助你的生活和工作更順利，這些都是它能夠完成的工作喔 ，還有更多等著你去發掘:
• 資料科學：Jupyter Notebook、數據分析
• MLOps：vLLM 部署、HuggingFace、llama.cpp、W&B
• GitHub 工作流：PR review、issue 管理、程式碼審查
• 生產力工具：Google Workspace、Notion、Airtable、PDF
• 智慧家庭：Philips Hue 燈控
• 社交媒體：X/Twitter 發文搜尋 
