生成與推論

Temperature 溫度是什麼?決定 AI 有多敢亂想

Temperature(溫度)是控制 AI 回答隨機性與創造性的參數。AI 生成文字時,每一步都會預測下一個詞的多個可能性,溫度決定 AI 是保守選擇最可能的詞,還是大膽嘗試機率較低但更多樣的詞。溫度越低,回答越保守穩定,適合事實查詢;溫度越高,回答越有創意多樣,但也可能偏離事實或前後不一致。
Temperature 溫度是什麼?決定 AI 有多敢亂想:文章重點卡

Temperature 溫度是什麼?決定 AI 有多敢亂想

用 API 呼叫 AI 模型時,你常會看到一個叫 Temperature 的參數,數值多半在 0 到 2 之間。

調對它,你可以讓同一個模型時而像嚴謹的查證助理,時而像天馬行空的創意夥伴。

你將學到什麼

定義

控制 AI 生成文字時,選擇詞彙保守或大膽的參數。

白話比喻

溫度越低越像照本宣科,溫度越高越像自由發揮。

跟誰容易搞混

跟 Top P 都在調隨機性,但作法不同,常一起搭配使用。

定義

AI 生成文字時,每一步都會預測下一個詞的多種可能性,並附上機率。Temperature 決定 AI 在選擇時,是保守選最可能的詞,還是大膽嘗試更多可能。

白話比喻

同樣問「台灣的首都是哪裡」,溫度接近零會照本宣科回答台北市。溫度拉高後,AI 可能會多加一段充滿想像力的城市描述,但答案未必更準確。

不同溫度的效果對照

溫度區間特點適合場景
0 到 0.3最保守、最穩定,回答幾乎完全一致事實查詢、專業問答
0.3 到 0.6穩定與多樣兼具摘要整理、標準寫作
0.7 到 1.0較有創意、更多樣創意發想、內容行銷
1.0 以上高度創意與想像,但可能不準確故事創作、詩歌、劇本

跟相近名詞的差別

Top P 也是控制隨機性的參數,但作法不同,Temperature 調整的是機率分布的鬆緊,Top P 則是限制候選詞的範圍,兩者可以搭配使用,細節可參考 溫度與 Top P 差在哪

常見誤解常見誤解是認為溫度越高,AI 就越聰明或越好用。事實上高溫只是提高多樣性與不確定性,重要決策或事實性內容還是建議搭配低溫,並自行查證結果。
本文源起本文內容出自酒Ann 的「AI 實戰陪跑班」課程教材,由酒Ann 編寫成彙編條目。想系統性搞懂 AI 名詞,歡迎追蹤 酒Ann 的 Facebook

延伸學習

把這篇文章分享給需要的人FacebookLINEThreadsX

常見問答

Temperature 設多少比較好?
沒有統一答案,要看用途。事實查詢或專業問答建議 0 到 0.3 追求準確;一般寫作或摘要建議 0.3 到 0.6 求穩定又流暢;創意發想或故事創作可以拉到 0.7 以上,換取更多變化。
Temperature 越高,回答就越好嗎?
不是,溫度不是越高越好,要依需求調整。溫度太高可能讓 AI 生成不準確或前後不一致的內容,重要資訊還是要另外查證,不能只靠調高溫度來換取創意。
Temperature 跟 Top P 要一起用嗎?
可以一起搭配微調,但建議先固定一個,調整另一個,避免同時改變兩個參數,導致抓不出是哪個造成的效果差異。多數情況下,先從 0.3 到 0.7 開始嘗試即可。