情境，而非控制
你智能體提示中的每一條規則，最初都是因為出現了錯誤。
有人發現了不良行為，寫下一條規則，然後繼續前進。另一個人也這麼做。第三個人因為模型某個星期二做了奇怪的事，於是加上一條「絕不要做 X」。沒有人刪除任何東西。
六個月後，智能體用於瀏覽規則手冊的上下文視窗，比用於思考實際任務的還多。
這就是控制式思維。我認為這是團隊在打造智能體時最常犯的大設計錯誤之一。
一個小例子揭示更大的模式
我們遇到一個問題：一個由排程任務觸發的智能體，在執行過程中不斷建立新的排程任務。這是無限遞迴，而且會產生現實世界的副作用。
有兩種回應方式。
控制式： 禁止它。寫程式碼阻擋排程建立排程。加上一條提示規則：「絕不要在排程內建立排程。」然後上線。
情境式： 告訴智能體實際發生了什麼。
你是於太平洋時間 3:00 AM 由排程任務觸發。排程 ID：sched_29x8f。排程執行是一個獨立執行，具有使用者原本授權的明確範圍。建立新的排程任務會讓該範圍超出原始授權。
第一種方式修補了一個行為。第二種方式則讓智能體理解情境。
現在它也能推理相關問題：我應該在 3 AM 發送通知嗎？我應該建立使用者未明確要求的後續流程嗎？我應該修改會超出原始執行範圍的東西嗎？
不需要規則。智能體自己想通了。
許多團隊選擇控制，其實他們真正需要的是情境。
這種區別也出現在提示內部
這不只是系統層級的強制。情境與控制的分野也存在於提示內容中。
情境式提示： 以事實為主，意見最少：
你是因為排程任務而執行。 觸發時間為北京時間 3:00 AM。 任務 ID：sched_29x8f。 使用者已授權本次執行的特定範圍。
控制式提示： 帶有主觀意見，指令性強：
避免建立排程。 你應該用工具 X 通知使用者。 除非 Z，否則絕不要做 Y。
有時明確指示很有用。但往往這是在彌補缺失的事實。一旦你開始這麼補救，就會變得上癮。
提示如何變成官僚體系
這是更深層的失敗模式。
團隊發現問題就加一條規則。然後再加一條。然後又加一條。每一條都修補了局部問題，但合起來卻形成一個充滿代理的系統。
貝佐斯在他的 2016 股東信中描述過這種模式：好的流程是為了服務你，好讓你服務客戶。但如果不小心，流程就會變成目的本身。
這正是智能體系統中發生的事。
規則不是目的。規則只是你想要結果的代理。而代理會累積。一條規則產生例外，還需要更多規則。很快，智能體就要在層層疊加的歷史指令中推理，沒有人完全記得每條規則的由來。
在人類組織中，這會變成官僚體系。在智能體系統中，則變成充滿疤痕組織的巨大提示。
事實會老化，意見會腐敗
像「這次執行是由排程任務於 3 AM 觸發」這樣的事實是穩定的。不論是 Claude、GPT、Gemini 還是下季推出的新模型，這都是真實的。
像「你應該避免建立子排程」這種說法則很脆弱。它依賴於解讀。在某些情境下有用，卻可能在另一種情境下默默失效。
當你更換模型時，提示中的每一條意見都是潛在地雷。新模型的推理傾向不同，你精心調整的「避免」對它來說可能完全是另一回事。
但關於環境、權限、範圍和限制的具體事實，往往能跨模型、跨邊界情境通用。這就是為什麼事實才是更好的建材。
模型特性陷阱
這也許是控制問題最隱蔽的版本：團隊不斷把暫時的模型缺陷變成永久的系統結構。
模型在某個狹窄情境下表現不佳。團隊加上一道護欄：提示修補、程式檢查、只為阻止某個特定失敗模式而存在的奇怪分支。
這種修補等於賭這個特性會持續存在。但幾乎從未如此。
三個月後，模型變了。原本的行為消失了。但修補還在。沒有人想移除，因為也許它有其原因。
這就是系統提示變成遺留程式碼的過程。
抽象來說，我們很容易意識到這種危險。但實際上，一次又一次地修補 Sonnet 當前推理傾向，其實就是同樣的模式。
記錄穩定的系統行為很有價值。修補模型推理傾向則是跑步機。 模型變化的速度，遠超你維護修補的速度。
一個好測試案例：權限被拒
你可以在工具診斷中清楚看到這種區別。當智能體遇到權限錯誤時：
控制式：
TOKEN 遺失。執行「zero permissions request gmail.send」來修正。
很直接，但智能體什麼也沒學到。下次遇到不同的權限錯誤，它還是卡住。
情境式：
process.env.GMAIL_TOKEN → 存在 zero connectors inspect gmail → 已連接 zero permissions inspect gmail.send → 被拒
選項：
- 請求使用者批准 gmail.send
- 若已有授權路徑則使用之
現在智能體知道 token 存在、連接器可用、特定權限被拒。它理解系統狀態，能推理規則制定者未預料的新情境。
經驗法則
我總是回到這一點：
每當你準備在提示中寫下「不要」、「避免」或「絕不」時，停下來。問自己：這條規則是在彌補哪個缺失的事實？
通常是有個事實缺失。智能體不了解自己處於什麼環境、使用者授權了什麼、哪些行動不可逆、或為什麼這次執行不同於一般對話。
把那個事實寫下來。刪除那條規則。
有時你仍然需要約束，特別是涉及破壞性操作、金錢流動或安全邊界時。硬性控制仍然重要。
但許多提示規則並非真正的界線。它們只是彌補理解的不足。這些規則正是會堆積腐敗的那一類。
目標
目標不是讓智能體死記清單。
目標是讓智能體能充分理解情境，在明確界線內做出良好決策。
一種哲學是靠堆疊規則來控制行為。另一種則是讓世界變得可理解，從而改善行為。
前者導向官僚體系。後者導向理解。
建立情境。刪除疤痕組織。打造能思考的智能體。
