易混淆對照
溫度 Temperature 跟 Top-P 差在哪?兩個旋鈕別一起亂轉
Temperature 溫度控制的是 AI 的想像力與冒險程度,數值越高越敢選不常用的詞;Top-P 核採樣控制的是候選字的範圍,只從累積機率前百分之多少的字池裡挑。Top-P 先決定能選哪些字,Temperature 再決定在這些字之間怎麼權衡。
溫度 Temperature 跟 Top-P 差在哪?兩個旋鈕別一起亂轉
這兩個參數在 API 介面上永遠並排出現,於是很多人習慣兩個一起往上拉,結果得到一段語無倫次的文字。
它們控制的其實是不同的東西,而且有明確的先後順序。搞懂順序,調參就不再靠運氣。
你將學到什麼
Temperature 溫度
控制想像力與情緒偏好。越低越保守理智,越高越有創意也越容易跑題。
Top-P 核採樣
控制候選字範圍。數值越低字池越小越保守,越高越有機會選到冷門字。
兩者的關係
Top-P 決定能選哪些字,Temperature 決定在這些字中如何權衡機率。
各自控制什麼
Temperature 溫度 控制的是想像力與情緒偏好。當 AI 在決定下一個字要吐出什麼時,溫度調得越低,AI 越保守、越理智;調得越高,越有創意、越敢冒險,會選一些平常不常用的詞彙。
Top-P 核採樣 控制的是候選字範圍。它讓 AI 在選字時,只從累積機率前百分之多少的字池裡挑。數值越低,字池越小越保守;數值越高,字池越大,越有機會選到冷門字。
白話比喻
把選字想成點菜。Top-P 決定菜單上有幾道菜可以點,Temperature 決定你在這幾道菜之間會不會冒險嘗鮮。
菜單只剩一道菜時,再愛冒險也只能點那道。菜單很長但你只點熟悉的那道,也一樣不會有驚喜。兩者要搭配得宜。
兩者對照
| 比較點 | Temperature 溫度 | Top-P 核採樣 |
|---|---|---|
| 控制什麼 | 在候選字中如何權衡機率 | 候選字池有多大 |
| 調低的效果 | 回答穩定一致、邏輯性高、不跑題 | 只從最高機率的少數字挑,變化最小 |
| 調高的效果 | 回答多樣、富創意,但可能偏題 | 連冷門字也考慮,創意高風險也大 |
| 先後順序 | 第二步,決定怎麼挑 | 第一步,決定能挑哪些 |
| 適合場景 | 程式碼、數學、摘要用低溫;文案、創意發想用高溫 | 精準問答用低值,創意寫作用高值 |
實際用例
標準問答、程式碼、數學與摘要這類要求精準的場景,溫度大約落在 0 到 0.2、Top-P 大約 0.1 到 0.3,追求穩定、準確、最少幻覺。
一般對話、客服與知識問答,溫度約 0.3 到 0.6、Top-P 約 0.7 到 0.9,兼顧自然與可靠。創意寫作與腦力激盪可以把溫度拉到 0.7 以上,但要注意跑題。
調參的順序建議:創意不夠就提高溫度或提高 Top-P;跑題太多就降低溫度或降低 Top-P。一次動一個,才知道是誰造成的改變。
常見誤解最大的誤解是把這兩個旋鈕當成同一件事的兩種寫法,於是一起往上拉。實際上想像力由溫度點火,安全邊界由 Top-P 劃定。另外,不同模型的最佳參數略有差異,建議實測後再定案。
本文源起本文內容出自酒Ann 的「AI 實戰陪跑班」課程教材,由酒Ann 編寫成彙編條目。想系統性搞懂 AI 名詞,歡迎追蹤 酒Ann 的 Facebook。
延伸學習
常見問答
兩個都調到最高會怎樣?
AI 會瘋掉:語無倫次、離題、幻覺暴增。這是最常見的新手誤區。
兩個都調到最低呢?
回答會變得死板、像機器人,缺乏靈性與變化。適合標準問答,不適合創意寫作。
那到底該調哪一個?
只調一個,另一個設合理值。實務建議是先固定 Top-P,再調 Temperature 找感覺,這樣效果通常更可控也更穩定。
