Context Window 上下文容量是什麼？AI 一次能記住多少內容

跟 AI 聊到一半，它突然忘記你前面說過的話，多半不是它變笨了，而是內容量已經超過它的上下文容量。

定義

Context Window（上下文容量或窗口）是 AI 模型在一次對話中能理解和處理的文字資料總量上限，這個總量包含你輸入的問題與文件，也包含 AI 已經回覆過的內容。

當累計的 Token 代幣 數超過這個上限，AI 就會看不到更早之前的內容，也就是俗稱的遺忘。

白話比喻

想像 AI 的大腦在一次對話中有一塊工作記憶空間，這塊空間的大小就是 Context Window。你輸入的問題、指令、文件，加上 AI 已經回覆的內容，一旦超過這個容量，AI 就無法再看見更早之前的資訊。

Context Window 越大，AI 能記住的內容越多，理解也越完整，但空間再大，也不是無限大。

常見模型的容量對照

實際用例

有效利用 Context Window 的方法包括精簡輸入、去除不必要的內容、只給完成任務所需的關鍵資訊，並善用摘要把長內容先摘要再放入對話。

長文件建議分段處理、逐步整合結果，並適時管理對話長度，避免過長累積影響效果，這樣才能讓有限的 Context Window 發揮最大效果。