文章名詞彙編
名詞彙編
AI 名詞一詞一篇：定義、白話比喻、易混淆對照與實際用例，配酒Ann 的圖解。
Top P 核採樣是什麼？另一種控制隨機性的旋鈕
累積機率達到 P 值的字詞才會被列入候選，再從中依機率抽樣，是比 Top K 更靈活的隨機性控制方式。
2026/8/28 生成與推論 約 4 分鐘
Top K 候選數是什麼？決定檢索與生成要挑幾個候選結果
Top K 是在檢索或生成階段，依相關性挑出最高的 K 筆候選結果，用來平衡回答的品質與效率。
2026/8/28 生成與推論 約 4 分鐘
Temperature 溫度是什麼？決定 AI 有多敢亂想
Temperature 是控制 AI 生成文字隨機性與創造性的參數，數值越低回答越保守穩定，數值越高越多樣有創意。
2026/8/28 生成與推論 約 3 分鐘
Parsing 內容拆解是什麼？讓 AI 先拆再懂
Parsing 是把複雜內容拆成有結構的小單位，例如句子、詞性、實體與關係，讓 AI 更容易理解、分析與應用。
2026/8/28 生成與推論 約 3 分鐘
Token 詞元是什麼？AI 眼中的最小文字單位
AI 不是一個字一個字讀，而是把文字切成一串 Token 再處理，計價與長度上限也都以它為準。
2026/8/28 生成與推論 約 4 分鐘
Summarization 摘要是什麼？把長內容濃縮成重點的取捨
Summarization 摘要是把長內容濃縮成核心重點，分成抽取式與生成式兩種，各有適合的情境與失真風險。
2026/8/28 生成與推論 約 4 分鐘
Max Output Tokens 最大輸出長度是什麼？回答被砍斷通常就是它
最大輸出長度限制 AI 這一次最多能寫多少內容，寫到上限就會被強制截斷。
2026/8/28 生成與推論 約 4 分鐘
Inference 推理過程是什麼？AI 每次回答都在做這件事
Inference 推理是 AI 接收輸入後，透過模型內部運算逐步分析判斷，最後輸出最合理答案的整個過程。
2026/8/28 生成與推論 約 4 分鐘
Hallucination 幻覺是什麼？AI 一本正經地說謊
Hallucination 幻覺是 AI 生成看似合理、實際上錯誤或不存在的資訊，而且講得非常有說服力。
2026/8/28 生成與推論 約 4 分鐘
Generation 生成是什麼？AI 從理解走到創造的那一步
Generation 生成是 AI 依照提示與條件，產出全新文字、圖片、程式碼、音訊或影片的動作。
2026/8/28 生成與推論 約 4 分鐘
Extraction 資訊擷取是什麼？把一堆文字變成能用的欄位
從合約、新聞、發票這類非結構化內容裡，把指定的關鍵資訊抓出來，整理成表格或欄位。
2026/8/28 生成與推論 約 4 分鐘
Classification 分類是什麼？讓 AI 幫你貼標籤
分類是把內容依照特徵放進預先定義好的類別，是最容易自動化、最好驗收的一種 AI 任務。
2026/8/28 生成與推論 約 4 分鐘
Batch Inference 批次推論是什麼？用等待換更低的成本
批次推論是把大量請求打包送出、不要求即時回覆，用可以接受的延遲換到明顯更低的單位成本。
2026/8/28 生成與推論 約 4 分鐘
AIGC 人工智慧生成內容是什麼？所有由 AI 創作出來的產出總稱
AIGC 是 AI Generated Content 的縮寫，指所有由 AI 生成的文字、圖片、影片、音樂與程式碼。
2026/8/22 生成與推論 約 4 分鐘
TTFT 首字時間是什麼？AI 開口說第一個字要多久
TTFT 是從你送出請求，到 AI 回傳第一個詞元所花的時間，決定使用者覺得 AI 反應快不快。
2026/8/3 生成與推論 約 4 分鐘
Stop Sequences 停止序列是什麼？叫 AI 說到這裡就閉嘴
停止序列是一份字串清單，AI 生成時只要遇到清單裡任何一個字串，就立刻停止輸出。
2026/7/31 生成與推論 約 4 分鐘
Latency 是什麼？使用者體感的快慢就看這個數字
延遲時間是從你按下送出，到 AI 吐出第一個字或整段回答結束所花的時間，決定互動的體感。
2026/7/25 生成與推論 約 3 分鐘
Prompt Caching 提示詞快取是什麼？重複的前綴不用重算
提示詞快取把重複出現的前綴存起來，下次命中就不必重算，首字時間變短、費用也通常降低。
2026/7/24 生成與推論 約 4 分鐘
KV Cache 鍵值快取是什麼？長對話為什麼越聊越吃記憶體
KV Cache 是 AI 推理時的高速緩存記憶體，把前面聊過的語義特徵暫存起來，讓模型不必每次從頭重讀整條歷史。
2026/7/3 生成與推論 約 4 分鐘
Seed 隨機種子是什麼？固定它就能重現同一個結果
隨機種子是決定 AI 隨機過程起點的數字。固定種子與其他參數，就有機會重現同一個結果。
2026/6/27 生成與推論 約 4 分鐘
Throughput 吞吐量是什麼？AI 每秒能產出多少字
吞吐量是 AI 每秒能處理或生成多少個 Token，數字越高代表回覆越流暢、整體效率越好。
2026/6/16 生成與推論 約 3 分鐘
Structured Output 結構化輸出是什麼？用一份 schema 綁住 AI 的回答格式
結構化輸出是先定義好資料結構，再要求模型嚴格照這個格式回答，讓輸出可以直接被程式接走。
2026/6/1 生成與推論 約 4 分鐘
Streaming 是什麼？讓第一個字先出來的那個設計
串流輸出是模型邊生成邊把文字送回畫面，總時間不變，但等待感會明顯下降。
2026/4/27 生成與推論 約 3 分鐘
JSON Mode 是什麼？讓 AI 只吐機器讀得懂的格式
JSON Mode 是一種輸出設定，強制模型只用合法的 JSON 回傳結果，不混入多餘文字，讓自動化流程不會解析失敗。
2026/3/13 生成與推論 約 4 分鐘
Speculative Decoding 投機解碼是什麼？小模型先猜大模型驗證
投機解碼讓小模型一次猜好幾個字、大模型批次驗證，在幾乎不犧牲品質的前提下大幅提升輸出速度。
2026/3/10 生成與推論 約 4 分鐘
Generative AI 生成式 AI 是什麼？從判斷對錯，變成自己寫出新東西
生成式 AI 是學習資料的模式之後，能創造出原本不存在的新內容的 AI 技術，涵蓋文字、圖片、音樂、程式碼與影片。
2026/2/2 生成與推論 約 4 分鐘