OpenAI Academy
天天用 ChatGPT 的人,該守住的三條線:查證、隱私、不外包判斷
天天用 ChatGPT 的人,該守住的三條線:查證、隱私、不外包判斷
工具用得越順手,人越容易鬆懈。第一個月用 ChatGPT,你對每句產出都半信半疑;第六個月,你可能已經複製貼上不眨眼。危險往往不是發生在不會用的時候,而是發生在用得太順的時候。
OpenAI Academy 給初學者的 AI Foundations 學習路徑,把「負責任地使用 AI」與基礎用法並列為必修,我認為這個安排很誠實:官方自己就告訴你,這個工具需要使用者把關。這篇文章整理負責任使用的三條線:查證、隱私、不外包判斷,寫給每一個天天在用的人。
你將學到什麼
為什麼要查證
幻覺不是故障,是這類模型的天性。
查證的做法
分級把關:越對外、越重大,查得越嚴。
隱私紅線
個資、客戶資料、公司機密不上傳。
不外包的事
重大決定與該你負的責任,留在自己手上。
先接受一件事:它會一本正經地講錯
要負責任地用一個工具,得先誠實認識它的短板。大型語言模型會產生幻覺(hallucination):內容流暢、細節具體、語氣篤定,但就是錯的。可能是張冠李戴的事實、不存在的書名與研究、算錯的數字。
重點是:幻覺不是偶發故障,而是這類模型的天性。它的原理是根據語言模式生成「最合理的下一個字」,通順是它的強項,真實則不在保證範圍。理解這一點,你就不會問「它怎麼可以騙我」,而會問對的問題:「我該在哪裡設查證的關卡」。
第一條線:查證,依風險分級把關
把所有產出都逐字查證不現實,正確做法是依風險分級:
- 必查級:對外發布的內容、給客戶的資訊、做決策依據的數字。名字、數據、日期、引用來源,逐一回到原始出處核實。
- 抽查級:內部參考的整理與摘要。重點抽查關鍵事實,尤其是「好得不像真的」的那幾條。
- 寬鬆級:腦力激盪、草稿起頭、改寫潤飾。本來就要再加工的內容,用你的專業直接把關。
另外兩個實用習慣:一,請它附上來源再驗來源,點進去確認真的存在、真的有講那件事,因為連來源本身都可能是編的。二,對重要的主題換個問法再問一次,兩次答案兜不攏,就是該去查原始資料的訊號。
第二條線:隱私,別把秘密貼進對話框
查證守的是「拿出來的東西」,隱私守的是「放進去的東西」。原則很簡單:凡是你不願意出現在自己掌控之外的資訊,就不要貼進對話。具體有三類:
- 個人資料:自己與他人的姓名、電話、地址、身分證字號、健康狀況。
- 客戶託付的資料:客戶名單、訂單、對話紀錄。那是別人基於信任交給你的。
- 公司機密:未公開的財務、策略、內部文件與程式碼。
需要處理這類內容怎麼辦?先去識別化:把「王小姐,電話 09 幾幾」換成「客戶 A」,把真實數字換成量級相近的假數,讓模型處理「形」,敏感的「實」留在你手上。另外,花三分鐘看一下你用的工具的資料設定,了解對話內容會被怎麼使用,該關的選項關掉。
第三條線:有些事,不該交給它
最後一條線關於分工。有些事 AI 可以「參與」,但不該「代替」:
- 重大專業判斷:醫療診斷、法律行動、投資決定。用它理解背景、整理要問專家的問題,可以;照它的回答行動,不行。
- 需要你負責的決定:錄取誰、給誰什麼評價、對誰說什麼重話。這些決定連著你的責任與關係,外包了判斷,卸不掉責任。
- 你的立場與心意:道歉、感謝、告別這類話,可以請它幫你修飾表達,但心意要是你自己的,對方值得收到真的你。
一句話總結這條線:AI 可以擴增你的能力,不能承接你的責任。署名是你,後果是你,最後那個點頭就必須是你。
界線不是煞車,是安全帶
有人覺得講這麼多規矩,會不會把工具用得綁手綁腳?我的經驗恰恰相反:界線清楚的人,用起來反而最大膽。因為你確切知道哪些事可以放心交給它衝,哪些事必須自己把關,就不會整天在「全信」與「全不信」之間搖擺。
查證、隱私、不外包判斷,這三條線畫好之後,剩下的空間都是你可以放手加速的地方。負責任的使用者不是用得最保守的人,是清楚知道自己在做什麼的人。
延伸學習
HE101|Harness Engineering Foundation(3 小時)
三小時的地圖課,不是操作課。把 Model 與 AI System 分開,拆解一套 AI Harness 的八個組成(Goal、Context、Knowledge、Rules、Tools、Workflow、Evaluation、Iteration),再帶你逆向拆解四個你已經在用的系統,最後畫出自己的第一張 Harness Blueprint。5 章 27 課,附學員講義 PDF 與術語速查表。
NT$ 2,599
ChatGPT 很強,但真正讓你下班的是 Google
六小時完整實錄。從「AI 很厲害,為什麼你還是每天加班」這個問題出發,把 Google Workspace 當成真正的工作平台重新設計一次流程 ── Sheets 的資料結構、Drive 與 Docs 的文件流、Gmail 與 Calendar 的通知系統,再用 Apps Script 讓它自己跑起來,最後收斂成一張屬於你自己的 AI 工作能力地圖。
NT$ 4,599

