大型語言模型當評審（LLM as a judge）已是業界常見做法，但用最強模型來打分，帳單往往高得嚇人。Hightouch 團隊在部落格揭露一套「分工」策略 A Jev that can ask Opus for help gives Opus accuracy at 4x lower cost，讓較便宜的模型負責提問、再由 Opus 接手解題，結果準確度與全程使用 Opus 相當，成本卻降到約四分之一。它把該不該用最貴模型這個問題，從單純的效能比較，推向可實際落地的成本架構設計。
評審模型的成本難題
所謂 LLM 評審，是指用一個語言模型來判斷另一個模型的輸出是否正確、是否符合規範。這種做法在資料標註、品質驗證與自動化測試中相當普遍，但若直接採用頂規模型擔任評審，每次判斷都是一筆可觀支出。Hightouch 面對的正是這類場景，他們需要大量判斷兩筆身分記錄是否指向同一個人，也就是身分解析（identity resolution）問題。
這類任務的特性是判斷本身不複雜，但數量龐大且必須穩定可靠。若全部交給最強模型處理，成本會隨規模線性膨脹，讓原本可行的流程變得難以持續。
把「提問」與「解題」拆開
Hightouch 的做法是把流程拆成兩個角色。由成本較低的 Jev 模型負責生成提問與初步推理，再把這些提問連同上下文交給 Opus 處理。換句話說，便宜模型不是直接下判斷，而是扮演整理問題、縮小範圍的前置角色，讓 Opus 只需針對關鍵處給出答案。
這樣的設計讓貴模型的用量大幅下降，因為它不再需要處理完整的原始輸入，而是聚焦在已被濃縮的問題上。團隊量測到的結果是，準確度維持在與全程使用 Opus 相同的水準，總成本則降到約四分之一。
為何這種分工能維持準確度
關鍵在於任務的可分解性。身分解析這類判斷，往往可以拆成若干具體子問題，例如姓名是否相符、地址是否一致、時間區間是否重疊。便宜模型擅長把模糊的原始資料整理成明確提問，而最強模型則在單點判斷上展現優勢。
當提問品質夠好，貴模型面對的其實是更乾淨、更聚焦的輸入，出錯空間反而縮小。這也是為什麼成本下降並沒有換來準確度折損，因為省下的是重複的整體推理，而不是判斷本身的嚴謹度。
對實務應用的啟示
這套模式對正在建置自動化評審流程的團隊具有直接參考價值。過去常見的兩難是，用便宜模型怕不準，用最貴模型又怕燒錢，而分工架構提供第三條路，把成本花在真正需要高階推理的環節上。
不過這樣的做法也意味著流程設計變得更複雜，需要妥善界定哪些工作交給前置模型、哪些保留給高階模型，並且要有對應的驗證機制確認提問品質。對規模化應用的團隊而言，這類工程投入通常值得，因為省下的成本會隨量體放大。
CyberQ 觀點
當最強模型只負責最關鍵的判斷，成本結構就能顯著改善。對台灣團隊而言，無論是自建評審流程或導入外部服務，先問哪些環節真的需要最貴的推理會比直接全套採用頂規模型更務實。分工設計加上嚴謹驗證，才是讓 AI 流程既準確又負擔得起的長久之道。
