Context Rot 脈絡衰退是什麼？聊越久品質越掉的那件事

同一個對話聊到第三十輪，你會有一種感覺：它變笨了。開頭交代的規則忘了，改過的東西又跑回來。

這不是錯覺，也不一定是容量爆掉。它有個名字叫脈絡衰退。

定義

脈絡衰退是指上下文越長，模型對其中資訊的掌握品質反而下降。它是一種漸進的退化，不是突然的失敗。

關鍵在於它發生在容量還沒滿的時候。你看用量還有一半，但回答已經開始漏東西了。

白話比喻

像一份改了三十版、但每一版的批註都還留在上面的文件。新的指示跟舊的指示混在一起，看的人得自己判斷哪一條才算數。

人會問一句「所以最後是哪個版本」，模型不會。它把全部都當成有效輸入，於是開始搖擺。

常見的三種症狀

第一，忘記開頭交代的規則。身分設定、格式要求這些通常放在最前面，越到後面權重越薄。

第二，中段的資訊抓不到。開頭與結尾比較容易被注意到，夾在中間的細節最容易被略過。

第三，被更正過的舊資訊又冒出來。這是最容易造成實際損失的一種，因為它看起來像新的答案。

跟相近名詞的差別

怎麼處理

三件事最有效。第一，定期請 AI 總結目前的重點，然後開新對話把摘要帶過去，等於把脈絡清洗一次。

第二，把長期不變的規則移出對話，放進自訂指令或知識庫。第三，一個對話只做一件事，主題換了就換視窗。