上下文與記憶

Context Engineering 脈絡工程是什麼?從寫提示詞升級到經營整個脈絡

Context Engineering(脈絡工程)是設計並管理模型在回答當下能看到的全部資訊。提示工程關心的是你怎麼問那一句,脈絡工程關心的是整個視野:系統提示、對話歷史、檢索到的文件、記憶、工具回傳的結果,以及它們的順序、份量與取捨。當應用從單次問答變成長流程與多輪協作,決定成敗的往往不是提問技巧,而是脈絡有沒有被安排好。
Context Engineering 脈絡工程是什麼?從寫提示詞升級到經營整個脈絡:文章重點卡

Context Engineering 脈絡工程是什麼?從寫提示詞升級到經營整個脈絡

同一句提問,貼在乾淨的新對話裡很好用,貼在聊了兩小時的對話裡就走鐘。問題不在那句話,在它周圍的東西。

當你開始做 Agent、做知識庫、做長流程,重點就會從「怎麼問」轉移到「它現在看得到什麼」。

你將學到什麼

定義

設計與管理模型在回答當下看得到的全部資訊。

白話比喻

不只交代任務,還負責準備他桌上那疊資料與可用工具。

管的是什麼

放什麼、放多少、放在哪個位置、什麼時候該清掉。

跟提示工程的關係

提示工程是其中一格,脈絡工程管的是整張桌子。

定義

脈絡工程是設計並管理模型在回答當下看得到的全部資訊。它處理的不是一句話,而是一整個視野。

這個視野通常由幾層組成:系統提示與角色設定、使用者的當前提問、對話歷史、檢索到的文件片段、長期記憶、工具回傳的結果。每一層都在跟其他層搶空間。

白話比喻

帶新人做事,光交代「幫我做一份報告」是不夠的。你還要把去年的版本、資料來源、可以用的工具,一份一份放到他桌上。

桌子就那麼大。放太多他會被淹沒,放錯的他會照著錯的做,放過期的更糟。脈絡工程就是決定那張桌子上該有什麼。

跟提示工程的差別

比較項提示工程脈絡工程
處理對象你送進去的那段指令模型看得到的全部資訊
關注重點怎麼問、怎麼描述任務放什麼、放多少、放哪裡、何時清
適用階段單次問答、日常使用應用系統、長流程、多輪協作
失敗長相答非所問、格式不對答案漂移、前後矛盾、成本失控

實際用例

做知識庫問答時,決定檢索回幾段、怎麼排序、要不要先摘要,這是脈絡工程。做 Agent 時,決定每一步要帶哪些前一步的結果進去,也是脈絡工程。

長對話的維護同樣屬於它:定期把前面的內容壓縮成摘要、把已完成的段落移除、必要時開新對話重置。相關概念可以看 Context Stack 上下文層級上下文容量上下文污染

常見誤解

最常見的誤解是以為上下文變長就不用管脈絡了。容量變大只是讓你能放更多,不代表放進去的每一句都會被好好讀到,反而更容易讓雜訊淹掉重點。

另一個誤解是把它當成工程師的事。決定「這一步該讓 AI 看到什麼」本質上是流程設計,做內容、做顧問、做教學的人一樣需要它。

本文源起本文為酒Ann 的 AI 名詞彙編系列,用白話把常見名詞一次講清楚。歡迎追蹤 酒Ann 的 Facebook

延伸學習

把這篇文章分享給需要的人FacebookLINEThreadsX

常見問答

脈絡工程跟提示工程是取代關係嗎?
不是,是包含關係。提示工程處理的是你送進去的那段指令怎麼寫;脈絡工程處理的是整個視野怎麼組成,指令只是其中一部分。單次問答用提示工程就夠,做應用系統就必須管脈絡。
為什麼不能把資料全部塞進去?
有三個代價。容量有限,塞滿就會擠掉別的東西;成本會隨長度上升,每一輪都重算一次;而且內容太長時中段的資訊容易被稀釋,重要的東西反而讀不到。塞得多不等於答得好。
實務上要管哪幾件事?
四件。第一,放什麼進去,只放這一步用得到的。第二,放多少,長文先摘要或只取相關段落。第三,放哪裡,關鍵指令與資料靠前或靠後,避開容易被忽略的中段。第四,什麼時候清掉,過期或已完成的內容要主動移除,避免污染後面的判斷。