定義
Agent節點是一個「智能決策 + 工具調用」的組件，旨在使大模型（LLM）在工作流程中能夠根據定義的策略，自主選擇並在運行時使用工具，促進多步推理或操作。
- 透過套用特定的「Agent 策略」，模型可以利用上下文指令、工具資訊及自身的推理結果，在每次執行回合中決定是否以及如何使用工具（系統工具、雲端工具等）。然後將從這些工具返回的數據納入到下一輪的推理或輸出中，實現更靈活的處理流程。
- 相較於使用簡單提示的LLM節點，Agent節點可以根據策略進行多輪「思考和執行」，適用於需要外部數據或可執行的操作場景。
新增Agent節點
- 1. 打開工作流程編輯器
- 在GoInsight.AI工作區中導航到您需要編輯的工作流程畫布。
- 2. 拖放節點
- 在畫布的左側或頂部組件面板中找到「Agent」節點。 將其拖曳到流程圖中的適當位置，並與前後節點連接。
- 3. 選擇Agent策略
- 在Agent節點的配置面板中，指定一個「Agent 策略」，以定義模型如何執行多步推理、調用工具並產生結果。
- GoInsight.AI提供兩個默認的Agent 策略來源：
- 官方系統策略：由GoInsight.AI官方團隊開發和內建，適用於常見的多步推理或工具應用場景。
- 自訂Agent策略：企業團隊可在「服務與工具」模組中創建並發布自己的Agent策略。
配置節點參數
根據選擇的Agent策略，Agent節點會顯示各種參數或功能選項。以下是一些常見的配置：
- 1. 模型
- 指定用於驅動Agent的大型語言模型（例如，您已在GoInsight.AI中配置的模型實例）。
- 2. 工具
- 在「工具」部分添加或管理Agent可調用的外部功能（如HTTP請求、資料庫查詢、搜尋外掛等）。
- 如果某些工具或插件已安裝，點擊「+」來添加它們。您可以啟用/禁用或刪除已添加的工具。
- 您還可以編輯工具的詳細設定：啟用或禁用輸入/輸出參數。如果您禁用了對應參數，則不會將相應的結果傳遞給或回傳給LLM。
- 在新增一個工具時，您可以提供授權資訊（如API金鑰或訪問權杖），並添加描述以幫助模型理解工具的功能和呼叫場景。
- 3. 指令
- 用於向Agent說明上下文、目標或限制。您可以在此部分中包括「角色設定」、「任務要求」或「業務背景」，確保Agent在多步推理過程中遵循這些指導方針。
- 4. Query
- 通常對應於從上游節點提供的用戶輸入或需求文字。
- Agent將通過結合Query和指令來進行推理並生成行動計畫或工具呼叫指令。
- 5. 最大迭代次數
- 為了防止Agent在多步推理中無限迴圈，您可以設定一個最大執行次數（迭代限制）。
- 如果代理超過此次數而未結束，將自動停止以避免無限次的呼叫回合。
- 6. 記憶
- 當啟用記憶時，Agent節點可以在多輪對話或重複指令的呼叫中保留上下文，從而生成連貫的回應。
- 歷史：可以使用滑塊或數值設定「歷史」的大小，表示Agent節點可以回溯並引用多少次歷史對話。
- 上下文連貫性：啟用記憶後，Agent節點可以通過將後續代詞、未明確提及的欄位名稱等與先前內容結合，正確理解後續的提及內容。
- 準確性和效能：較大的記憶視窗可能導致更高的模型負擔，因此需要在實際需求和呼叫成本之間取得平衡。
- 記憶範圍：設定記憶範圍為會話或此節點。
- 7. 輸出變數
- 定義Agent節點的最終輸出資料結構，使結果能夠傳遞到後續節點進行進一步處理。
- 這包括最終的回應內容、工具呼叫結果或與多輪推理相關的關鍵資訊。
- 8. 錯誤處理
- 在節點失敗時觸發的機制，包括：
- 無：當節點失敗時，回報錯誤並終止工作流程。
- 預設值：當節點失敗時，工作流程繼續並使用您指定的預設值作為輸出結果。
- 錯誤分支：當節點失敗時，工作流程中斷當前路徑並切換到您設置的錯誤處理分支。
查看執行日誌
Agent節點在執行期間會生成詳細的日誌，以幫助您調試和了解模型的推理過程和工具調用軌跡：
- 1. 基本資訊
- 顯示每次運行的輸入、輸出、執行時間、token 消耗等。
- 2. 詳細輪次記錄
- 您可以查看Agent節點的思考過程、工具呼叫、接收工具回覆、持續推理等，幫助您分析推理邏輯和工具運用是否符合預期。
- 3. 錯誤診斷
- 如果Agent節點遇到呼叫失敗、超時或其他異常情況，具體原因也將顯示在日誌中。
開發與管理Agent策略
如果內建的系統策略無法滿足特定的自訂需求，企業也可以開發並發布自己的自訂Agent策略。
如需更多詳細資訊，請參閱：Agent 策略
總結
- Agent節點使得在工作流程執行中賦予大型語言模型「多步決策」和「自主工具選擇」的能力，有效解決簡單對話節點無法處理的複雜場景。
- 您可以在節點配置過程中靈活地組合模型、工具和策略，並透過記憶和日誌記錄功能增強上下文的連貫性和過程透明度。
- 如果預設策略不能滿足業務需求，可以在「服務與工具」模組中創建自訂策略，以開發更好地符合特定企業或場景需求的智能工作流程。
發佈評論