根據經濟學人 Companies are scrambling to curtail soaring AI costs 報導，愈來愈多企業正急於削減不斷飆升的人工智慧成本。許多公司開始意識到，將人工智慧導入日常營運雖然能帶來明顯的效率提升，但 AI 的成本控管也造成公司財務的管理壓力。
成本飆升迫使公司重新評估投資回報
人工智慧領域的知名學者 Gary Marcus 曾多次對 AI 相關投資的經濟效益提出警告，而當前市場的發展也驗證了他的觀點。許多科技大廠與新創公司在AI發展初期為了搶佔版圖，幾乎是不計代價地投入運算資源。這種大量消耗 token、卻缺乏明確成本控管的擴張模式，已逐漸被市場視為難以長期維持。隨著營收增長未能完全覆蓋高昂的伺服器與資料處理費用，管理團隊不得不重新審視各項技術的實際價值，也讓企業從積極導入轉向嚴格的預算控管。
企業控管AI成本四大策略
WSJ這篇 The AI Price War Is Here, Piling Pressure on OpenAI and Anthropic 提到，為了有效控制開支，企業目前採取了四種主要作法。第一是分級使用模型，將簡單或例行任務交由較便宜或開源的模型來處理，只有複雜推理或關鍵任務才動用 OpenAI 與 Anthropic 等高階模型。第二是限制員工可用工具與額度，避免各部門無效地消耗資源。第三是調整提示詞與工作流程以減少不必要的長上下文與低效循環。第四則是導入類似管理雲端費用的模式建立明確的追蹤機制。
成本透明度不足成為管理盲區
建立追蹤機制之所以迫切是因為多數企業仍缺乏成本可視化能力。根據WSJ另一篇報導 The Metric CFOs Struggle to Track: AI Usage 曾提及 KPMG 調查顯示僅有26%的企業能夠清楚掌握完整支出；高達一半的企業只有部分掌握；而有 22% 的企業幾乎完全無法掌握，等收到帳單才發現花費驚人。這顯示許多企業並非不想控管而是尚未建立追蹤 token 使用量與部門花費的明確機制。
價格戰開打模型大廠面臨獲利考驗
這種樽節的趨勢也直接影響了到模型的定價能力。許多企業開始採用較便宜的方案來處理例行任務，如此一來部分輔助工作的花費因此最高可下降 95%。
這樣的現象對 AI 模型大廠造成不小壓力，許多廠商進行首次公開募股時，投資人比以往更嚴格地檢視其毛利與獲利模式。因此如果高階模型無法證明其價值足以支撐高昂定價，未來相關服務恐將遭遇激烈的價格競爭壓力。
投資焦點轉向實質營收與務實發展
一般公司在面對龐大的 AI 開銷時，許多公司的執行長已開始要求開發團隊提出更具成本效益的解決方案。這些方案包含尋找更輕量級的模型，透過更精確的指令設定來減少不必要的運算消耗等。這顯現出，管理團隊與執行長開始在意投入的資金能否省下人力或實質提高營收，而市場焦點已經從過去單純的技術力展示，轉移到如何創造穩定的商業獲利。
CyberQ 認為，我們得想辦法有效控制預算並帶來實質產出，不然在之後的競爭會有點難掌握足夠的競爭力。
首圖由 ChatGPT AI 生成，配圖由 Nano Banana AI 生成
