定義
Agent 節點是一種「智能決策 + 工具調用」的組件,旨在讓大型語言模型 (LLM) 在工作流程中能根據定義的策略,自主選擇並靈活運用工具,以實現多步推理或操作。
- 透過掛載特定的「Agent 策略」,模型可以結合上下文指令、工具資訊和自身的推理結果,在每次執行回合中決定是否以及如何使用工具(包括系統工具、雲端工具等),並將工具返回的資料納入下一步的推理或輸出中,以形成更靈活的處理流程。
- 相比於僅使用簡單提示詞的 LLM 節點,Agent 節點可根據策略,多次循環「思考與執行」,因此適合需要調用外部資料或可執行操作的場景。

新增 Agent 節點
- 1. 打開工作流程編輯器
- 進入 GoInsight.AI 工作區,前往需要編輯的工作流程畫布。
- 2. 拖放節點
- 在畫布左側或上方的元件面板中,找到「Agent」節點,將其拖放至視覺化流程圖的合適位置,並連接前後節點。
- 3. 選擇 Agent 策略
- 在 Agent 節點的配置面板中,指定一種「Agent 策略」,用於定義模型如何執行多步推理、調用工具及生成結果。
- GoInsight.AI 提供兩種預設的 Agent 策略來源:
- 官方系統策略:由 GoInsight.AI 官方團隊開發並嵌入,適用於常見的多步推理或工具使用場景。
- 自定義 Agent 策略:企業團隊可在服務與工具模組中自行創建並發布自定義的 Agent 策略。
配置節點參數
根據所選的 Agent 策略,節點會顯示不同的參數或功能選項。以下為常見配置項目:
1. 模型
- 指定為 Agent 節點提供動力的 LLM。
2. 工具清單
- 新增或管理 Agent 節點可以調用的外部功能,例如應用程式或自定義工具。
- 點擊 + 選擇並新增應用程式或工具。
- 可啟用、停用或刪除新增的工具。
- 編輯所新增應用程式或工具的具體設置。
- 執行前需人工確認。
- 變數分配方法、憑證、預設值及其他設置。
- 停用參數:如果相關參數已停用,其結果將不會傳遞或返回至 LLM。


3. 指令
- 用於向 Agent 節點描述場景、目標或約束。
- 可在此處加入角色設定、任務需求或商業背景,確保 Agent 節點在多步推理中始終遵循這些指令。
4. 請求
- 通常對應於使用者輸入,或者來自上一節點的問題或需求內容。
- Agent 節點使用請求與指令進行推理、行動規劃或生成工具調用指令。
5. 最大迭代次數
- 為防止 Agent 節點在多步推理中無限循環,可設定執行回合的最大迭代次數。
- 當 Agent 節點執行次數超過上限仍未停止時,系統會自動結束,以避免無限呼叫。
6. 記憶體
- 啟用記憶體後,Agent 節點可以在多輪對話或重複指令調用中保留上下文,從而生成更連貫的回應。
- 歷史記錄:使用滑桿或設定數值,設置可追溯的歷史記錄範圍。這表示 Agent 節點可以回顧並參考過往互動的次數。
- 記憶體的優勢與考量。
- 上下文連貫性:啟用記憶體後,Agent 節點能夠根據先前的上下文正確理解人稱代詞、未明確指示的欄位名稱及後續相關內容。
- 準確性與性能:記憶體範圍越大,可能增加模型成本。需根據實際需要與呼叫成本加以權衡。
- 記憶體範圍:可將範圍設置為會話或目前節點。
7. 檔案
- 當使用多模態 LLM 時,您可透過此變數傳入圖片或檔案,使 LLM 能夠根據檔案內容理解並生成相應輸出。
- 啟用此功能需在起始節點中開啟 $UserFiles 變數以允許用戶上傳檔案。
8. 輸出
- 定義 Agent 節點的最終輸出數據結構。結果可傳遞到後續節點進一步處理。
- 輸出包括最終回應文字、工具調用結果或與多步推理相關的關鍵資訊。
9. 錯誤處理
- 當節點遇到錯誤時觸發的機制。
- 無處理:如果節點失敗,系統將回報錯誤並結束工作流程。
- 預設值:如果節點失敗,系統繼續執行並使用您指定的預設值作為輸出結果。
- 錯誤處理分支:如果節點失敗,工作流程將中斷當前路徑並導向您設定的錯誤處理分支。
查看執行日誌
Agent 節點在執行時會生成詳細的日誌,幫助您偵錯並了解模型的推理過程及工具呼叫歷程:
- 1. 基本資訊
- 顯示每次運行的輸入、輸出、執行時間、權杖消耗等資訊。
- 2. 詳盡迴合記錄
- 您可以檢視 Agent 節點的思考過程、工具調用、接收工具回應及後續推理,幫助分析推理邏輯和工具使用是否符合預期。
- 3. 錯誤診斷
- 如果 Agent 節點遇到調用失敗、超時或其他異常情況,特定原因也會在日誌中顯示。
開發與管理 Agent 策略
若內建的系統策略無法滿足特定的客製化需求,企業也可以開發並發布自己的自定義 Agent 策略。
詳細資訊請參閱:Agent 策略
總結
- Agent 節點賦予大型語言模型在工作流程執行中的「多步決策」及「自主選擇工具」能力,有效解決簡單對話節點無法處理的複雜場景。
- 您可以在節點配置中靈活組合模型、工具與策略,透過記憶體和日誌功能提升上下文連貫性與流程透明度。
- 若預設策略未能滿足業務需求,可在服務與工具模組中創建自定義策略,開發更適合特定企業或場景需求的智慧化工作流程。
發佈評論