跳到正文
Hugging Face Blog·· 2026-05-25精選AI 評分60

AI 智能體中的 Harness、Scaffold 等術語解析

Harness, Scaffold, and the AI Agent Terms Worth Getting Right

AI 導讀

Hugging Face 梳理 AI 智能體常見術語,解釋 Model、Scaffolding、Harness、Agent 等概念及其區別。文中將 Harness 定義為調用模型、處理工具調用及決定何時停止的執行層,Scaffolding 則涵蓋系統提示詞、工具描述、回應解析和上下文管理等行為定義層。

推薦理由

文章以模型、Scaffolding、Harness 與 Agent 的分工建立實用心智模型,並把這套脈絡延伸至訓練術語,便於理解智能體系統的組成與相關討論。

正文 · 繁體中文

當一個領域快速發展,它的詞彙往往比業界的共同理解發展得更快。術語的含義開始模糊,在不同語境中被重複使用,或變成未有完整解釋的概念縮寫。AI Agent 領域正出現這種情況:不同概念混在一起,有些被重新命名,另一些則廣泛使用數月後悄然消失。

這可能令新手不知所措,即使是想跟上最新發展的實務工作者也會感到困難。ICLR 2026 後,我們其中一位作者(@ariG23498)提出一個問題,充分反映這種困惑:

「在 Agent 語境下,『harness』和『scaffold』是甚麼意思?我在 ICLR 期間聽過很多解釋,但不明白為甚麼它們未能收斂成同一個解釋。」

這份詞彙表嘗試釐清那些經常出現、卻缺乏清晰一致解釋的術語。它並非要收錄這個領域所有術語的完整字典,而是聚焦於經常混淆、被不同方式重複使用,或被誤以為不言自明的概念。

無論你是在建立或部署 Agent,還是隻使用 Claude Code、Codex 或 Hermes Agent 等工具,大部分術語都會出現。最後一節介紹一些模型訓練專用概念,對從事這方面工作的人更有關係。

很多術語目前尚未有公認定義,不同框架對同一詞語的用法亦不盡相同。本文目的不是強制規定唯一正確的詞彙,而是提供實用的思考框架,讓大家更容易理解相關討論。

開始吧。

目錄

模型

模型就是 LLM:輸入文字,再輸出文字(例如 Claude、Qwen、GPT、Kimi、DeepSeek……)。模型本身在不同呼叫之間沒有記憶,也不會進入循環。模型可以表達呼叫工具的意圖,但要實際執行,仍需要 harness。它會回應一個提示,然後停止。為它加入 scaffolding 和 harness,便會成為 Agent。

Scaffolding(支架層)

圍繞模型、用以界定行為的層:包括系統提示、工具描述、如何剖析模型回應,以及模型在不同步驟之間會記住甚麼(上下文管理)。無論訓練或推論期間,它都會塑造模型如何看待世界,以及如何在其中行動。

Claude Code、Codex 和 Antigravity CLI 等產品把整個系統稱為 harness。Claude Code 的官方文件直接指出:「Claude Code 是圍繞 Claude 建構的 Agent 執行框架。」這是較廣泛的用法:harness 指模型以外的一切。當你需要在訓練流程等情況下分開分析兩者時,scaffold 和 harness 的區別才最重要。你也會聽到有人更廣泛地以「scaffold」指 harness 所依賴的任何基礎設施,例如 hooks、執行環境設定,甚至目錄結構。

Claude Code 和 Codex 等部分產品與其供應商的模型緊密耦合;Antigravity CLI 和 Hermes Agent 等其他產品則容許接入任何模型。

Harness(執行框架)

Agent 內部負責執行的層:它呼叫模型、處理模型的工具呼叫,並決定何時停止。Harness 令 Agent 得以運作。上文定義的 scaffolding,則是模型據以工作的內容:模型的指令、工具和格式。

Harness engineering(執行框架工程)是妥善設計這一層的專業:決定 Agent 何時停止、如何處理錯誤,以及採用甚麼護欄讓它保持正軌。這適用於訓練和推論兩個階段。Addy Osmani 的文章和 OpenAI 關於使用 Codex 建構產品的説明,都從推論角度探討這個主題。

在評估階段,同一模式會以評估 harness的形式出現:它不會收集訓練數據,而是在模型檢查點上執行一組固定情境,記錄指標,而非更新權重。

有些框架以 orchestrator(協調器)指稱更高層的控制器,負責協調多個 Agent 的工作。Harness 會驅動模型完成執行循環;orchestrator 則把 Agent 視為獨立單位來管理,每個 Agent 都會運行自己的 harness(見下文「子 Agent」)。

Agent

這個詞源自強化學習;在該領域,Agent 簡單來説是一個接收觀察結果並傳回行動的函式。環境執行該行動並傳回新的觀察結果,然後重複這個循環。這個循環仍然是 LLM Agent 的核心。

在 LLM 領域,這個詞的含義已擴大。Agent 是模型加上週邊一切令它能採取行動的部分,而不只是作出回應。它把原始文字生成轉化為可以循環行動的系統:接收資訊、決定如何應對,然後根據結果採取行動。

以 coding agent 為具體例子:系統提示、工具描述及模型須遵循的輸出格式,合起來便是 scaffolding。呼叫模型、處理工具呼叫並決定何時停止的循環,就是 harness。在訓練階段,harness 亦會並行執行大量這類循環,並把結果送回去更新模型。

Agent diagram showing Harness, Scaffold, and Model as components inside Agent, with Sub-agent below

在社羣中,這通常概括為 Agent = Model + Harness(可參考 @Vtrivedy10 和 Will Brown 的帖文)。如果某部分不是模型,它就是 harness。上文兩節説明瞭 scaffold 與 harness 的細微差別,而這正是大部分混淆的來源。

談及 Claude Code、Codex 或 Cursor 等產品時,指的是建基於特定模型、並與模型一同設計和最佳化的特定 harness。即使兩個產品使用同一底層模型,因為 harness 採用不同設計,體驗也可能截然不同。另一方面,在同一 harness 中換用更好的模型,體驗亦會改變。模型、harness 和產品是三種不同事物。

上下文工程

設計放入 Agent 上下文視窗的內容:模型在每一步會看到甚麼,包括系統提示、工具描述、對話記錄及檢索到的知識。這不是一次性的決定:模型運行期間,先前的輪次會影響未來呼叫所包含的內容,而 harness 會在整個運行過程中主動管理上下文。這適用於訓練和推論,但出錯的代價很不一樣。訓練時,模型看到的內容會影響它學到甚麼;如果出錯,就要重新訓練。推論時,內容只是文字:修改提示,再重新部署即可。HF 上下文工程課程有深入講解。

記憶是這個概念的一部分。短期記憶是在單次運行期間留在上下文視窗中的內容:對話記錄、工具結果及先前推理。長期記憶則會跨工作階段保存,存放在外部,需要時才檢索,並在相關情況下重新注入上下文。

策略

策略是 Agent 遵循的行為模式:它會為任何情況下每個可能行動定義其發生機率。在 LLM 系統中,部分策略已在模型權重中學得,但行為亦取決於周邊的 scaffolding 和 harness。同一個模型會因提示、工具、記憶及執行循環不同而表現迥異。

策略並不等同 Agent。策略界定行為;Agent 則是整個在環境中行動的系統。為某個檢查點加入 scaffolding 和 harness,再部署出去,便得到一個 Agent,而它所呈現的行為就是該策略。

工具使用

Agent 用來與外界互動的方式:API、程式碼解譯器、資料庫、網絡搜尋及檔案系統。模型會以結構化格式表達使用工具的意圖。現代推論 API 會將此呈現為一級物件:harness 直接接收呼叫,並將其路由至正確函式。結果會送回上下文,循環繼續進行。

Skills(技能包)

可重用、經結構化整理的知識套件,能支援多步驟任務。工具是一個行動(「執行這個指令」);skill則打包完成目標所需的一切(「調查這個錯誤、提出假設、撰寫修正方案」)。Skills 可在不同 Agent 之間攜帶,並按需要載入。不同框架對工具、skill 和子 Agent 的界線各有不同。HF 上下文工程課程有深入講解 skills。

子 Agent

由另一個 Agent 呼叫、負責特定子任務的 Agent。它有自己的模型和 scaffold,可獨立推理並傳回結果。呼叫它的 Agent 不需要知道它內部如何運作。這就是子 Agent與工具(函式呼叫)或skill(打包的知識)不同之處:子 Agent 本身可以推理、使用工具,並呼叫更多子 Agent。呼叫子 Agent 的 Agent 有時稱為orchestrator(協調器)。

訓練

上述術語無論用於訓練或部署都適用。以下四個術語專指訓練:Agent 執行一連串任務、獲得評分,模型權重亦會隨之更新。所有 LLM 強化學習訓練系統都以相同流程為基礎:

RL training pipeline showing RL Environment, Trainer, and Reward connected by rollout and updated policy

強化學習環境

環境是任何可與之互動的對象:一個有狀態的物件,接收行動作為輸入、更新內部狀態,再傳回觀察結果。在 LLM 語境下,行動通常是工具呼叫。檔案系統就是一個簡單例子:執行 touch foo.txt 後會建立檔案以更新狀態,而觀察結果則可以是更新後的檔案清單。不同框架的定義各異。

我們最近發布了專門指南,為免在此作過度濃縮的介紹,請參閲《強化學習環境終極指南》,當中完整整理各種類型、框架和範例。

訓練器

訓練器負責提升 Agent 能力:它會執行大量 Agent 回合、評分結果,再用評分更新模型權重。TRL 的 GRPOTrainer就是一個具體例子:單一類別已涵蓋回合生成、獎勵評分及權重更新。

Rollout(運行軌跡)

Rollout 是 Agent 從頭到尾執行的一次完整運行:它每一步看到甚麼、做了甚麼,以及取得甚麼獎勵。按不同語境,亦稱為trajectory(軌跡)或 trace(執行記錄)。這是強化學習演算法用來學習的原始數據。

獎勵

獎勵是一個分數,告訴訓練演算法模型是否有所改善。獎勵可以是可驗證的(測試通過/失敗、答案是否吻合),或學得的(人類偏好、LLM 擔任評判);可以是稀疏的(一個回合結束時才給分),或密集的(每一步都給分)。訓練器會利用它實際更新模型權重。如需深入瞭解各種獎勵,請參閲獎勵架構一節,以及 Adithya 的指南。

評分規準會把獎勵拆分成具體維度並逐一設定權重,而非只用單一分數。OpenEnv 和 Verifiers 都把評分規準實作為可組合的物件(WeightedSum、Sequential、Gate)。

延伸閲讀

如果你覺得某個定義不夠準確,或遇到本文未提及的術語,我們很樂意聽取意見。

感謝 Pedro Cuenca、Quentin Gallouédec、Shaun Smith 和 Adithya S Kolavi 協助審閲本文。

來源:Hugging Face Blog · huggingface.co