Streaming 是什麼？讓第一個字先出來的那個設計

你看到 AI 的字一個一個冒出來，那不是動畫效果，而是串流輸出。這個設計改變的不是速度，是感受。

定義

Streaming（串流輸出）是指模型一邊生成、一邊把已經產出的內容分段送回前端顯示，而不是等整段回答完成才一次呈現。

技術上，它是伺服器持續把片段推給瀏覽器的一種長連線做法。使用者看到的效果，就是文字一段一段冒出來。

白話比喻

它像餐廳先上前菜。廚房的總時間沒有變短，但你手上有東西了，就不會覺得自己被晾在那裡。

更實際的好處是：你看到前兩句就知道它有沒有理解你的問題，方向不對可以馬上停下來重問，不必等整段跑完。

跟相近名詞的差別

實際用例

聊天介面幾乎都開串流，因為對話最在意的就是即時感。長文生成也適合，使用者可以邊看邊判斷要不要中斷。

反過來說，如果你要拿完整結果去驗證格式、解析結構化資料或做安全檢查，關掉串流、等整段拿到再處理會單純得多。

串流也常跟成本控制放在一起討論。看到方向不對就提前中斷，等於少生成一段用不到的內容。