易混淆對照

溫度 Temperature 跟 Top-P 差在哪?兩個旋鈕別一起亂轉

Temperature 溫度控制的是 AI 的想像力與冒險程度,數值越高越敢選不常用的詞;Top-P 核採樣控制的是候選字的範圍,只從累積機率前百分之多少的字池裡挑。Top-P 先決定能選哪些字,Temperature 再決定在這些字之間怎麼權衡。
溫度 Temperature 跟 Top-P 差在哪?兩個旋鈕別一起亂轉:文章重點卡

溫度 Temperature 跟 Top-P 差在哪?兩個旋鈕別一起亂轉

這兩個參數在 API 介面上永遠並排出現,於是很多人習慣兩個一起往上拉,結果得到一段語無倫次的文字。

它們控制的其實是不同的東西,而且有明確的先後順序。搞懂順序,調參就不再靠運氣。

你將學到什麼

Temperature 溫度

控制想像力與情緒偏好。越低越保守理智,越高越有創意也越容易跑題。

Top-P 核採樣

控制候選字範圍。數值越低字池越小越保守,越高越有機會選到冷門字。

兩者的關係

Top-P 決定能選哪些字,Temperature 決定在這些字中如何權衡機率。

各自控制什麼

Temperature 溫度 控制的是想像力與情緒偏好。當 AI 在決定下一個字要吐出什麼時,溫度調得越低,AI 越保守、越理智;調得越高,越有創意、越敢冒險,會選一些平常不常用的詞彙。

Top-P 核採樣 控制的是候選字範圍。它讓 AI 在選字時,只從累積機率前百分之多少的字池裡挑。數值越低,字池越小越保守;數值越高,字池越大,越有機會選到冷門字。

白話比喻

把選字想成點菜。Top-P 決定菜單上有幾道菜可以點,Temperature 決定你在這幾道菜之間會不會冒險嘗鮮。

菜單只剩一道菜時,再愛冒險也只能點那道。菜單很長但你只點熟悉的那道,也一樣不會有驚喜。兩者要搭配得宜。

兩者對照

比較點Temperature 溫度Top-P 核採樣
控制什麼在候選字中如何權衡機率候選字池有多大
調低的效果回答穩定一致、邏輯性高、不跑題只從最高機率的少數字挑,變化最小
調高的效果回答多樣、富創意,但可能偏題連冷門字也考慮,創意高風險也大
先後順序第二步,決定怎麼挑第一步,決定能挑哪些
適合場景程式碼、數學、摘要用低溫;文案、創意發想用高溫精準問答用低值,創意寫作用高值

實際用例

標準問答、程式碼、數學與摘要這類要求精準的場景,溫度大約落在 0 到 0.2、Top-P 大約 0.1 到 0.3,追求穩定、準確、最少幻覺。

一般對話、客服與知識問答,溫度約 0.3 到 0.6、Top-P 約 0.7 到 0.9,兼顧自然與可靠。創意寫作與腦力激盪可以把溫度拉到 0.7 以上,但要注意跑題。

調參的順序建議:創意不夠就提高溫度或提高 Top-P;跑題太多就降低溫度或降低 Top-P。一次動一個,才知道是誰造成的改變。

常見誤解最大的誤解是把這兩個旋鈕當成同一件事的兩種寫法,於是一起往上拉。實際上想像力由溫度點火,安全邊界由 Top-P 劃定。另外,不同模型的最佳參數略有差異,建議實測後再定案。
本文源起本文內容出自酒Ann 的「AI 實戰陪跑班」課程教材,由酒Ann 編寫成彙編條目。想系統性搞懂 AI 名詞,歡迎追蹤 酒Ann 的 Facebook

延伸學習

把這篇文章分享給需要的人FacebookLINEThreadsX

常見問答

兩個都調到最高會怎樣?
AI 會瘋掉:語無倫次、離題、幻覺暴增。這是最常見的新手誤區。
兩個都調到最低呢?
回答會變得死板、像機器人,缺乏靈性與變化。適合標準問答,不適合創意寫作。
那到底該調哪一個?
只調一個,另一個設合理值。實務建議是先固定 Top-P,再調 Temperature 找感覺,這樣效果通常更可控也更穩定。