生成與推論
Max Output Tokens 最大輸出長度是什麼?回答被砍斷通常就是它
Max Output Tokens 最大輸出長度是什麼?回答被砍斷通常就是它
AI 寫到一半突然停在句子中間,很多人以為是壞掉或當機。九成的情況是撞到最大輸出長度。
這個設定在 API 與大部分工具裡都調得到,知道它在哪,斷尾問題就結束了。
你將學到什麼
定義
限制 AI 這一次回答最多能生成幾個 Token,達到上限就強制停止。
白話比喻
像水桶的容量。水一直裝,裝到設定的水位就再也裝不下。
怎麼認出來
內容停在半句、清單只列到一半,而且沒有結尾語。
怎麼處理
調高上限,或直接請 AI「繼續未完的部分」。
定義
最大輸出長度是你設定的上限,限制 AI 這次最多能生成多少個 Token。達到上限,生成立刻停止。
它不是模型的能力上限,是你給的閘門。所以斷尾多半不是模型不會寫,而是你沒給它足夠的額度。
白話比喻
把它想成水桶的容量。AI 回答的時候不斷往桶裡裝水,也就是持續生成文字。
裝到你設定的水位就停。桶子沒滿的時候它會自己講完就收尾,滿了就是硬生生截斷。
跟上下文容量差在哪
| 名詞 | 管的是 | 撞到會怎樣 |
|---|---|---|
| Max Output Tokens | 這一次最多寫多少 | 回答被截斷,停在半句 |
| Context Window 上下文容量 | 一次最多讀進多少 | 前面的內容被擠掉,模型忘記早先講過的事 |
| Stop Sequences 停止序列 | 遇到指定字串就停 | 在指定的位置乾淨停下,是主動控制 |
三者都會讓輸出提早結束,但原因不同。斷在句中通常是最大輸出長度,答非所問或忘記前文比較像上下文被擠掉。
實際用例
同一個提示詞「介紹京都的必去景點與美食」,上限五十只寫得出兩個景點就斷;一百五十可以列到四五個;五百才寫得完景點加美食的完整版本。
實務上的判斷很簡單:先想清楚你要的是摘要還是完整內容,再回頭設定。要完整就給足,之後再嫌長也比補不回來容易處理。
最常見的誤解是把它跟上下文容量搞混,於是一直去換更長脈絡的模型,其實只要把輸出上限調高就好。
第二個誤解是以為 AI 會自己抓長度、寫到快滿就收尾。它不會預留結尾,是寫到哪裡斷到哪裡,所以輸出結構化格式時特別危險,斷掉的 JSON 直接解析失敗。
延伸學習
ChatGPT 很強,但真正讓你下班的是 Google
六小時完整實錄。從「AI 很厲害,為什麼你還是每天加班」這個問題出發,把 Google Workspace 當成真正的工作平台重新設計一次流程 ── Sheets 的資料結構、Drive 與 Docs 的文件流、Gmail 與 Calendar 的通知系統,再用 Apps Script 讓它自己跑起來,最後收斂成一張屬於你自己的 AI 工作能力地圖。
NT$ 4,599
做出你的第一個 Skill
一場快閃直播的完整重製。從搞懂 Skill 的五個層級開始,帶你把一件你每天在做的重複工作,寫成一支 AI 真的會照做的 Skill ── 命名、description、輸入拆解、Workflow 訪談、Output 與 Checks,最後組成一份能通過格式檢查的 SKILL.md。
NT$ 999

