【AI Agent 觀念理解 #2】prompt、context、harness：單一 agent 的三層工程

Mon, 03 Aug 2026 02:16:00 +0800

前言

剛開始接觸 AI 的時候，最常聽到的詞是 prompt engineering，
好像只要 prompt 下得夠好，什麼問題都能解決。

但真的天天用 agent 一陣子之後，我發現 prompt 只是最內層，
真正決定一個 agent 好不好用的東西，大部分在它外面 XD

這篇把我自己對「單一 agent 的優化」理解整理成三層，
由內到外：prompt、context、harness。

prompt 決定一次回答的品質，context 決定它知道什麼，harness 決定系統可不可靠。

第一層：Prompt engineering（這一句話怎麼問）

最內層，管的是「單次輸入的品質」。

心法其實就那幾條：

把角色、任務、限制、輸出格式講清楚
給 1~2 個範例（few-shot），通常比空口白話好很多

這層的效果立竿見影，投資報酬率很高，
但天花板也很明顯：再好的問法，也救不了模型根本不知道的事。

問一個它沒看過相關資料的問題，prompt 寫得再漂亮，
它還是只能憑「印象」回答，而憑印象回答就是幻覺的溫床。

第二層：Context engineering（模型此刻知道什麼）

往外一層，管的是「模型看到的世界」。

模型每次回答時，眼裡只有當下被塞進 context 的東西，
所以這層要解的問題是：怎麼讓它「此刻剛好知道該知道的事」。

我自己實際在用的做法有幾個：

餵對資料：回答要對得回資料來源，不讓模型憑記憶亂掰（RAG 是這個方向的代表作法，我自己建的是檔案型的出處鏈，同一個精神）
記憶分層與按需載入：常用的規則常駐、細節做成目錄按需要載入，不要什麼都一次塞進去（context 有限，塞爆了反而抓錯重點）
SSOT（單一真相源）：同一份知識只住在一個地方，其他地方只放指標。過時的複本就是幻覺溫床，模型讀到舊資料講出來的錯話，跟幻覺一樣難分辨

這層做好之後，agent 的回答品質會有感提升，
因為它不再「猜」，而是「查」。

第三層：Harness engineering（整套系統怎麼跑得穩）

最外層，也是我覺得最容易被略過、但最關鍵的一層。

prompt 跟 context 管的都是「這次回答好不好」，
harness 管的是「整套系統長期跑起來可不可靠」：

工具執行與權限：agent 能動哪些東西、不能動哪些東西，用規則跟環境約束住，不靠它自覺
靜態與動態驗證：產出用程式實際檢查（能執行的就真的跑跑看，執行結果是事實，不會幻覺）
SOP 規則與機械閘門：踩過的坑寫成規則自動載入，能程式檢查的就不靠自覺；agent 忘記是常態，閘門不會忘記
Human in the loop：不可逆的那一步（發布、刪除、對外送出）留給人把關

這層的核心思想是：
不要優化「它這次有沒有做對」，要優化「它做錯時系統會不會擋住」。

三層放在一起看

層	管什麼	一句話
Prompt	單次輸入的品質	這一句話怎麼問
Context	模型看到的世界	它此刻知道什麼
Harness	系統的可靠性	整套怎麼跑得穩

我自己的使用重心，是一路從內層往外層移動的：
一開始狂研究怎麼下 prompt，後來花更多時間整理知識庫跟記憶分層，
到現在大部分心力都放在 harness：寫規則、建閘門、設計驗證流程。

因為用得越深越發現，單次回答的品質有上限，系統的可靠性沒有，
每修一個坑，整套系統就永久性地變穩一點。

這篇講的是單一 agent 的內部分層，
至於「使用者跟 AI 的關係」怎麼分層（從聊天網頁到指揮多個 agent），
在上一篇：【AI Agent 觀念理解 #1】AI 使用的三個層級。

一樣是個人使用經驗的整理，不敢說是標準答案，
有不同的分法歡迎跟我分享！

【AI Agent 觀念理解 #1】AI 使用的三個層級：從聊天網頁到指揮一群 agent

Mon, 03 Aug 2026 02:15:00 +0800

前言

現在 AI 工具真的滿山滿谷，
但我觀察下來，大家用的模型其實都差不多（不外乎 ChatGPT、Claude、Gemini 那幾家），
用出來的效果卻天差地遠 🫠

想了一陣子之後，我覺得差距不在「用什麼」，而在「怎麼用」。

於是就想把我自己對 AI 使用方式的理解整理成筆記，
我目前大致把它分成三個層級 XD

模型大家都拿得到，差距在使用的層級。

Level 1：對話網頁（只有大腦，沒有手腳）

就是大家最熟悉的那種：開個 ChatGPT 網頁，打字、送出、看回答。

這一層的本質是：模型只有大腦，沒有手腳。
它能推理、能給建議，但它碰不到真實世界：
不能讀檔案、不能跑程式、不能幫忙改任何東西。

配上好的 prompt（角色、任務、限制、輸出格式講清楚），
確實能問得更專業，但再怎麼問，它仍然只能「聊」。

實際要動手的部分還是自己來：複製它的程式碼、自己貼上、自己跑、
錯了再貼回去問（這個循環大家應該都很熟XD）。

Level 2：AI agent（大腦加上手腳）

這一層的代表就是 Claude Code 這類 coding agent：
模型還是那個模型，但它多了「手腳」，
能讀寫檔案、執行指令、實際改動真實環境。

差別有多大？
Level 1 是「它告訴我怎麼做」，Level 2 是「它直接做完給我看結果」。

這層還有一個好用的概念是 skill：
把一套專業流程（步驟、規則、常踩的坑）包成可以重複使用的說明書，
之後遇到同類任務，一句話就能讓 agent 照整套流程跑。

用到這層之後就回不去了，
因為「思考」跟「動手」之間的搬運成本直接消失。

Level 3：Multi-agent（從操作變成派工與驗收）

再上去一層，就是一個人同時指揮多個 agent。

我自己平常的工作方式就在這層：
依照任務種類派給不同的 agent，它們各自有自己負責的知識體系，
需要時可以互相參照。

會這樣做而不是讓一個 agent 包山包海，最大的原因有兩個：

上下文限制：agent 的記憶（context）有限，什麼都塞給同一個，它遲早會「失憶」或抓錯重點
品質管控：產出者不自驗，重要的產出交給另一個獨立的 agent 查核，比讓原作者自己說「我檢查過了」可靠得多

到了這層，重點已經從「操作」變成「派工與驗收」：
下指令誰都會，真正的核心能力是驗收，
知道要驗什麼、拿什麼當基準、什麼情況該打回去重做。

小結

把三層排在一起看：

層級	型態	人的角色
Level 1	對話網頁	提問者
Level 2	AI agent	操作者
Level 3	Multi-agent	指揮官 + QA

層級越高，人的角色越像 QA 與指揮官，
花在「打字問問題」的時間越少，花在「驗收與把關」的時間越多。

另外補充，這篇講的是「使用者跟 AI 的關係」分層，
至於單一個 agent 的內部（prompt、context、harness）怎麼分層優化，
我另外寫了一篇：【AI Agent 觀念理解 #2】prompt、context、harness：單一 agent 的三層工程。

一樣，我盡力整理、但不能保證理解都正確，
有不同看法很歡迎跟我聊聊！

Agent on 嗡嗡的隨手筆記