Agent 與工作流

Computer Use 電腦操作是什麼?讓 AI 自己動滑鼠和鍵盤

Computer Use(電腦操作)是讓 AI 直接操作電腦的能力。它會擷取螢幕畫面當作輸入,判斷該點哪裡、輸入什麼,然後發出滑鼠移動、點擊、鍵盤輸入與捲動等指令,像人一樣一步一步把事情做完。它存在的理由是:很多軟體沒有提供 API,網頁也未必開放介面,這時唯一的通路就是那個人類在用的畫面。代價是慢、比較容易出錯,而且權限給得很大。
Computer Use 電腦操作是什麼?讓 AI 自己動滑鼠和鍵盤:文章重點卡

Computer Use 電腦操作是什麼?讓 AI 自己動滑鼠和鍵盤

有些系統老舊到沒有任何介面可以串,資料只能在畫面上一格一格看、一格一格填。這種活最耗人也最沒有價值。

電腦操作就是讓 AI 接手這種活。它看得到畫面,也按得下按鈕。

你將學到什麼

定義

AI 擷取螢幕畫面、判斷位置,直接發出點擊與輸入指令。

白話比喻

像一位遠端連線的助理,只能看你的螢幕、動你的滑鼠。

什麼時候才需要

沒有 API、沒有整合介面,只剩人類介面可走的時候。

最大風險

按錯就是替你做了一件你沒同意的事,而且通常無法復原。

定義

電腦操作是讓 AI 用人類的方式使用電腦。輸入是螢幕畫面,輸出是滑鼠與鍵盤動作。

每一輪的循環大致是:看畫面、判斷現在在哪一步、決定下一個動作、執行、再看一次結果。做錯了就從新的畫面重新判斷。

白話比喻

像你請一位助理遠端連線到你的電腦。他看得到螢幕,也能動你的滑鼠鍵盤,但他不知道你的系統內部是怎麼運作的。

他能做的每一件事,都是你在畫面上做得到的事。同樣的,他能按錯的每一顆按鈕,也都是你按得到的那幾顆。

跟其他做法怎麼選

做法走哪條路什麼時候用
API 串接系統的正式介面對方有開放介面,優先選這個
工具呼叫事先定義好的動作可以把能力包成明確的工具
網頁爬蟲讀網頁內容只需要取資料,不需要操作
電腦操作人類的圖形介面以上都行不通,只剩畫面可用

實際用例

典型場景是老舊的內部系統資料搬運、跨多個軟體的重複性流程、需要視覺確認的測試,以及那些「只有一個桌面程式、沒有任何介面」的工具。

上線前務必先在 沙盒 或受限帳號裡跑過,並且把不可逆的動作交給 人類參與循環 確認。

常見誤解

最常見的誤解是把它當成萬用解。它很慢、很貴、也比較容易出錯,只有在沒有更正規的通路時才值得用。

第二個誤解是低估權限風險。它拿到的等於你這台電腦的操作權,看得到畫面上的一切,也按得下刪除與送出。給它專用帳號、限制可存取的範圍,比事後補救便宜太多。

本文源起本文為酒Ann 的 AI 名詞彙編系列,用白話把常見名詞一次講清楚。歡迎追蹤 酒Ann 的 Facebook

延伸學習

把這篇文章分享給需要的人FacebookLINEThreadsX

常見問答

跟工具呼叫差在哪?
工具呼叫是走正門,系統事先定義好可以做哪些動作與參數,AI 呼叫哪一個都在預期範圍內,快又穩。電腦操作是走人類的門,任何畫面上按得到的東西它都按得到,彈性大但也危險。能用工具呼叫就別用電腦操作,這是選型的預設順序。
它會不會按錯東西?
會。畫面元素會移位、視窗會跳出、按鈕文字可能相似,這些都會造成誤判。實務上要做三層防護:只在受限的環境或帳號裡跑、對刪除與送出這類不可逆動作要求人工確認、把每一步操作記錄下來方便回溯。
它跟網頁爬蟲一樣嗎?
不一樣。爬蟲通常直接讀網頁原始碼取資料,速度快、成本低,但只能讀不能操作,遇到需要登入或互動的流程就卡住。電腦操作是模擬人在用,能完成整個流程,但慢得多,通常在爬蟲做不到的地方才登場。