重點速覽
AI 代理是讓大型語言模型自己決定下一步、使用工具,並依工具回傳的結果調整做法,反覆進行直到任務完成的系統;聊天機器人通常只在對話裡回覆文字。最簡單的判斷方法:看它能不能做出實際動作(讀檔案、執行指令),並根據動作的真實結果決定下一步。
AI 代理(AI Agent)是目前最常被提到、也最常被講得含糊的詞。它和平常在網頁上對話的聊天機器人(Chatbot,以對話方式回答問題的程式)有什麼不同?這篇文章給你一套不依賴產品名稱的判斷方法,產品功能再怎麼變,這套方法都可以直接用。
AI 代理是什麼?
Anthropic 的工程文章〈Building effective agents〉把兩種系統做了區分:
- 工作流(Workflow):大型語言模型與工具,依照事先寫好的程式路徑被串在一起。
- AI 代理:大型語言模型「動態地決定自己的流程與工具使用」。
換句話說,代理的關鍵是「下一步由模型決定」。而「大型語言模型」(LLM)是用大量文字訓練、能理解並產生自然語言的 AI 模型,詳見 大語言模型入門。
同一篇文章對代理的運作描述得很清楚:代理從你的指令或互動討論開始;任務明確之後,會自行規劃與執行;執行過程中,它需要在每一步從環境取得「真實結果」(Anthropic 稱為 ground truth,例如工具呼叫的結果或程式執行的結果)來判斷進度;遇到阻礙或需要判斷時,可以暫停下來向人詢問。原文也點出,代理的實作往往很單純:它通常只是「大型語言模型根據環境回饋,在一個迴圈中使用工具」。
代理迴圈:取得資訊、採取行動、檢查結果
Claude Code 的官方文件,把這個迴圈稱為代理迴圈(Agentic loop),分成三個階段:
- 取得資訊(gather context):讀檔案、搜尋,弄清楚現況。
- 採取行動(take action):修改檔案、執行指令。
- 檢查結果(verify results):跑測試、看輸出,確認有沒有達成目標。
這三個階段會彼此交錯、反覆進行,每一次工具回傳的結果,都會影響下一步怎麼做。官方文件舉的例子是「修好失敗的測試」:代理可能先執行測試看哪裡失敗,讀錯誤訊息,搜尋相關檔案,修改程式,再執行一次測試確認。而你可以在任何時間點打斷它、補充資訊或請它換個方向。
工具(Tool)是讓這個迴圈成立的關鍵。文件說:沒有工具,模型只能回覆文字;有了工具,才能讀你的程式、改檔案、執行指令、上網查資料,並把每次的結果回饋到下一個決定。讓模型能這樣請求外部功能的機制,一般稱為工具呼叫(Tool calling)。工具的種類越多、可以碰的範圍越大,代理就越能幹,同時風險也越高,這點在 讓 AI 代理安全操作電腦 會細談。
聊天機器人、固定流程與 AI 代理的比較
| 聊天機器人 | 固定流程(工作流) | AI 代理 | |
|---|---|---|---|
| 主要做的事 | 在對話中回覆文字 | 依你寫好的步驟呼叫模型與工具 | 自己選工具、決定步驟並檢查結果 |
| 誰決定下一步 | 你(每一輪對話) | 事先寫好的程式 | 模型 |
| 能不能動手做事 | 沒有工具時只能回覆文字 | 可以,由流程決定 | 可以,透過工具 |
| 可預測性 | 取決於你問什麼 | 高 | 較低 |
| 主要風險 | 回答不正確(幻覺) | 遇到流程沒預料的情況 | 成本較高、錯誤累積、誤操作 |
表中「可預測性」與「主要風險」是依上述 Anthropic 文章對工作流(可預測、一致)與代理(成本較高、錯誤可能累積)的描述所做的整理。
五個問題,判斷它算不算 AI 代理
這是本站整理的判斷方法,不是官方標準:
- 它有工具嗎? 能不能讀寫檔案、執行指令、查詢資料,而不只是產生文字。
- 它看得到動作的真實結果嗎? 例如指令的輸出、測試的通過或失敗。
- 下一步是誰決定? 程式照事先寫好的步驟走,還是模型依結果自行決定。
- 遇到阻礙時,它會停下來問你嗎? 能設定在哪些時刻需要人工核准。
- 它能碰到的範圍有多大? 能動哪些資料夾、能連哪些網路位置、能用哪些帳號。
前三題都是「是」,基本上就是 AI 代理。第 4、5 題不影響它算不算代理,但決定你能不能放心用。
一定要用 AI 代理嗎?
不一定,而且很多時候不該一開始就用。Anthropic 的建議是:找最簡單的解法,只在需要時才增加複雜度;因為代理常以延遲和成本換取更好的任務表現,而工作流對定義清楚的任務能提供可預測性與一致性。
簡單的判斷:步驟固定且事先知道,用固定流程;步驟數難以預測、要靠中間結果決定下一步,才考慮代理。完整的判斷與入門順序請看 AI 自動化是什麼。
接下來
- 想實際體驗一個 AI 代理:Claude Code 安裝教學(Claude Code 是跑在終端機裡的 AI 編程代理,先看 終端機基礎 會更順)
- 想讓代理做對事:AI 代理任務說明怎麼寫
- 想讓代理連到外部服務:MCP 是什麼
- 名詞不熟:名詞小辭典 有 AI 代理、工具呼叫、代理迴圈、聊天機器人 的簡短解釋。
常見問題
AI 代理和聊天機器人最大的差別是什麼?
聊天機器人主要是在對話中回覆文字;AI 代理則會使用工具(讀寫檔案、執行指令、查詢資料)去做事,並依結果決定下一步。Claude Code 的文件也說明,沒有工具時模型只能回覆文字,有了工具才能行動。
AI 代理比聊天機器人更聰明嗎?
不一定。兩者背後可以是同一類模型,差別在於代理多了工具,以及「取得資訊、採取行動、檢查結果」的反覆循環,而不是模型本身變聰明。
ChatGPT 是 AI 代理嗎?
產品的功能會不斷改變,與其看名字,不如用本文的五個問題自己檢查:它有沒有工具、看不看得到動作結果、下一步是誰決定。
AI 代理會不會失控?
會出錯,也可能做出你不想要的動作。Anthropic 指出代理的自主性代表更高的成本與錯誤累積的可能,建議在沙箱環境中充分測試並設下護欄。實務上要限制權限,並對難以復原的動作保留人工確認。
使用 AI 代理一定要會寫程式嗎?
不一定。像 Claude Code 這類工具可以用一般的中文描述需求,但它跑在終端機裡,會基本的終端機操作會比較順。
什麼情況下不需要 AI 代理?
步驟固定、事先就知道的任務,用固定流程就夠了,而且更好預測。Anthropic 的建議是先找最簡單的方案,真的需要才增加複雜度。
留言
用 GitHub 帳號登入就能留言,留言會公開顯示在 GitHub Discussions。留言前請先看社群規則。