文章名詞彙編
AI 名詞一詞一篇:定義、白話比喻、易混淆對照與實際用例,配酒Ann 的圖解。
累積機率達到 P 值的字詞才會被列入候選,再從中依機率抽樣,是比 Top K 更靈活的隨機性控制方式。
2026/8/28 生成與推論 約 4 分鐘
Top K 是在檢索或生成階段,依相關性挑出最高的 K 筆候選結果,用來平衡回答的品質與效率。
2026/8/28 生成與推論 約 4 分鐘
Temperature 是控制 AI 生成文字隨機性與創造性的參數,數值越低回答越保守穩定,數值越高越多樣有創意。
2026/8/28 生成與推論 約 3 分鐘
Parsing 是把複雜內容拆成有結構的小單位,例如句子、詞性、實體與關係,讓 AI 更容易理解、分析與應用。
2026/8/28 生成與推論 約 3 分鐘
AI 不是一個字一個字讀,而是把文字切成一串 Token 再處理,計價與長度上限也都以它為準。
2026/8/28 生成與推論 約 4 分鐘
Summarization 摘要是把長內容濃縮成核心重點,分成抽取式與生成式兩種,各有適合的情境與失真風險。
2026/8/28 生成與推論 約 4 分鐘
最大輸出長度限制 AI 這一次最多能寫多少內容,寫到上限就會被強制截斷。
2026/8/28 生成與推論 約 4 分鐘
Inference 推理是 AI 接收輸入後,透過模型內部運算逐步分析判斷,最後輸出最合理答案的整個過程。
2026/8/28 生成與推論 約 4 分鐘
Hallucination 幻覺是 AI 生成看似合理、實際上錯誤或不存在的資訊,而且講得非常有說服力。
2026/8/28 生成與推論 約 4 分鐘
Generation 生成是 AI 依照提示與條件,產出全新文字、圖片、程式碼、音訊或影片的動作。
2026/8/28 生成與推論 約 4 分鐘
從合約、新聞、發票這類非結構化內容裡,把指定的關鍵資訊抓出來,整理成表格或欄位。
2026/8/28 生成與推論 約 4 分鐘
分類是把內容依照特徵放進預先定義好的類別,是最容易自動化、最好驗收的一種 AI 任務。
2026/8/28 生成與推論 約 4 分鐘
批次推論是把大量請求打包送出、不要求即時回覆,用可以接受的延遲換到明顯更低的單位成本。
2026/8/28 生成與推論 約 4 分鐘
AIGC 是 AI Generated Content 的縮寫,指所有由 AI 生成的文字、圖片、影片、音樂與程式碼。
2026/8/22 生成與推論 約 4 分鐘
TTFT 是從你送出請求,到 AI 回傳第一個詞元所花的時間,決定使用者覺得 AI 反應快不快。
2026/8/3 生成與推論 約 4 分鐘
停止序列是一份字串清單,AI 生成時只要遇到清單裡任何一個字串,就立刻停止輸出。
2026/7/31 生成與推論 約 4 分鐘
延遲時間是從你按下送出,到 AI 吐出第一個字或整段回答結束所花的時間,決定互動的體感。
2026/7/25 生成與推論 約 3 分鐘
提示詞快取把重複出現的前綴存起來,下次命中就不必重算,首字時間變短、費用也通常降低。
2026/7/24 生成與推論 約 4 分鐘
KV Cache 是 AI 推理時的高速緩存記憶體,把前面聊過的語義特徵暫存起來,讓模型不必每次從頭重讀整條歷史。
2026/7/3 生成與推論 約 4 分鐘
隨機種子是決定 AI 隨機過程起點的數字。固定種子與其他參數,就有機會重現同一個結果。
2026/6/27 生成與推論 約 4 分鐘