生成與推論
Temperature 溫度是什麼?決定 AI 有多敢亂想
Temperature(溫度)是控制 AI 回答隨機性與創造性的參數。AI 生成文字時,每一步都會預測下一個詞的多個可能性,溫度決定 AI 是保守選擇最可能的詞,還是大膽嘗試機率較低但更多樣的詞。溫度越低,回答越保守穩定,適合事實查詢;溫度越高,回答越有創意多樣,但也可能偏離事實或前後不一致。
Temperature 溫度是什麼?決定 AI 有多敢亂想
用 API 呼叫 AI 模型時,你常會看到一個叫 Temperature 的參數,數值多半在 0 到 2 之間。
調對它,你可以讓同一個模型時而像嚴謹的查證助理,時而像天馬行空的創意夥伴。
你將學到什麼
定義
控制 AI 生成文字時,選擇詞彙保守或大膽的參數。
白話比喻
溫度越低越像照本宣科,溫度越高越像自由發揮。
跟誰容易搞混
跟 Top P 都在調隨機性,但作法不同,常一起搭配使用。
定義
AI 生成文字時,每一步都會預測下一個詞的多種可能性,並附上機率。Temperature 決定 AI 在選擇時,是保守選最可能的詞,還是大膽嘗試更多可能。
白話比喻
同樣問「台灣的首都是哪裡」,溫度接近零會照本宣科回答台北市。溫度拉高後,AI 可能會多加一段充滿想像力的城市描述,但答案未必更準確。
不同溫度的效果對照
| 溫度區間 | 特點 | 適合場景 |
|---|---|---|
| 0 到 0.3 | 最保守、最穩定,回答幾乎完全一致 | 事實查詢、專業問答 |
| 0.3 到 0.6 | 穩定與多樣兼具 | 摘要整理、標準寫作 |
| 0.7 到 1.0 | 較有創意、更多樣 | 創意發想、內容行銷 |
| 1.0 以上 | 高度創意與想像,但可能不準確 | 故事創作、詩歌、劇本 |
跟相近名詞的差別
Top P 也是控制隨機性的參數,但作法不同,Temperature 調整的是機率分布的鬆緊,Top P 則是限制候選詞的範圍,兩者可以搭配使用,細節可參考 溫度與 Top P 差在哪。
常見誤解常見誤解是認為溫度越高,AI 就越聰明或越好用。事實上高溫只是提高多樣性與不確定性,重要決策或事實性內容還是建議搭配低溫,並自行查證結果。
本文源起本文內容出自酒Ann 的「AI 實戰陪跑班」課程教材,由酒Ann 編寫成彙編條目。想系統性搞懂 AI 名詞,歡迎追蹤 酒Ann 的 Facebook。
延伸學習
常見問答
Temperature 設多少比較好?
沒有統一答案,要看用途。事實查詢或專業問答建議 0 到 0.3 追求準確;一般寫作或摘要建議 0.3 到 0.6 求穩定又流暢;創意發想或故事創作可以拉到 0.7 以上,換取更多變化。
Temperature 越高,回答就越好嗎?
不是,溫度不是越高越好,要依需求調整。溫度太高可能讓 AI 生成不準確或前後不一致的內容,重要資訊還是要另外查證,不能只靠調高溫度來換取創意。
Temperature 跟 Top P 要一起用嗎?
可以一起搭配微調,但建議先固定一個,調整另一個,避免同時改變兩個參數,導致抓不出是哪個造成的效果差異。多數情況下,先從 0.3 到 0.7 開始嘗試即可。
