定义
代理节点是一个“智能决策与工具调用”组件，旨在让大型语言模型（LLM）能够在工作流中，根据预设策略自主选择和使用工具，以实现多步骤推理或操作。
- 通过加载特定的“代理策略”，模型能够利用上下文指令、工具信息及自身的推理结果，在每一轮执行中自主决定是否以及如何调用工具（如系统工具、云端工具等）。随后，将工具返回的数据整合到下一轮推理或输出中，从而使处理流程更灵活。
- 相较于仅使用简单提示词的LLM节点，代理节点能根据策略进行多轮“思考与执行”，更适用于需要外部数据或可执行操作的场景。
添加代理节点
- 1. 打开工作流编辑器
- 在GoInsight.AI工作区中导航到您需要编辑的工作流画布。
- 2. 拖放节点
- 在画布左侧或顶部的组件面板中找到“代理”节点。将其拖动到可视化流程图的适当位置，并与前后节点连接。
- 3. 选择代理策略
- 在代理节点的配置面板中，指定一个“代理策略”，定义模型如何进行多步骤推理、调用工具并生成结果。
- GoInsight.AI提供两种默认的代理策略来源：
- 官方系统策略：由GoInsight.AI官方团队开发和嵌入，适用于常见的多步骤推理或工具使用场景。
- 自定义代理策略：企业团队可以在服务与工具模块中创建和发布自己的代理策略。
配置节点参数
根据选定的代理策略，代理节点将显示各种参数或功能选项。以下是一些常见的配置：
- 1. 模型
- 指定驱动代理的大型语言模型（例如，您已在GoInsight.AI中配置的模型实例）。
- 2. 工具
- 在“工具”部分添加或管理代理可调用的外部能力（如HTTP请求、数据库查询、搜索插件等）。
- 如果某些工具或插件已安装，点击“+”即可添加。您可以启用/禁用或删除已添加的工具。
- 您还可以编辑工具的具体设置，例如启用或禁用输入/输出参数。如果禁用相关参数，对应结果将不会传递给LLM或从LLM返回。
- 添加工具时，您可以提供授权信息（如API密钥或访问令牌），并包含描述以帮助模型理解工具的功能和调用场景。
- 3. 指令
- 用于告知代理上下文、目标或约束条件。
- 您可以在本节中包含“角色设置”、“任务需求”或“业务背景”，确保代理在多步骤推理中遵循这些指导原则。
- 4. Query
- 通常对应于从上游节点提供的用户输入或需求文本。代理将结合Query和指令进行推理并生成行动计划或工具调用指令。
- 5. 最大迭代次数
- 为了防止代理在多步骤推理中无限循环，您可以设置最大执行次数（迭代限制）。
- 如果代理在超过此次数后仍未结束，它将自动停止以避免无限调用轮次。
- 6. 记忆
- 启用记忆功能后，代理节点可在多轮对话或重复命令调用中保留上下文，从而生成连贯的响应。
- 历史记录：通过滑块或数值设置“历史记录”的大小，以指示代理节点可回溯并参考的历史交互数量。
- 上下文连贯性：启用记忆后，代理节点能够将后续提及的代词、字段名称与之前的内容结合，从而正确理解上下文。
- 准确性和性能：更大的记忆窗口可能导致更高的模型开销，因此需在实际需求与调用成本之间取得平衡。
- 记忆范围：可将会话或此节点设置为记忆范围。
- 7. 输出变量
- 定义代理节点的最终输出数据结构，以便将结果传递给后续节点进行进一步处理。
- 这包括最终响应文本、工具调用结果或与多轮推理相关的关键信息。
- 8. 错误处理
- 节点失败时触发的机制，包括：
- 无：节点失败时，将报告错误并终止工作流。
- 默认值：当节点失败时，流程继续并使用您指定的默认值作为输出结果。
- 错误分支：当节点失败时，工作流中断当前路径并切换到您设置的错误处理分支。
查看执行日志
代理节点在执行期间生成详细日志，帮助您调试并理解模型的推理过程和工具调用轨迹：
- 1. 基本信息
- 显示每次运行的输入、输出、执行时间、token消耗等信息。
- 2. 详细轮次记录
- 您可以查看代理节点每一轮的思考过程、工具调用情况、接收工具响应以及后续推理等，从而帮助您分析推理逻辑和工具使用是否符合预期。
- 2. 错误诊断
- 如果代理节点遇到调用失败、超时或其他异常，具体原因也会在日志中显示。
开发和管理代理策略
如果内置系统策略无法满足特定的定制化需求，企业也可以开发和发布自己的自定义代理策略。
有关更多详细信息，请参阅：代理策略
总结
- 代理节点为工作流中的大型语言模型赋予了“多步骤决策”和“自助工具选择”能力，能有效解决简单对话节点无法处理的复杂场景。
- 您可在节点配置中灵活结合模型、工具和策略，并通过记忆及日志功能增强上下文连贯性和流程透明度。
- 如果默认策略不符合业务需求，可以在服务与工具模块中创建自定义策略，以开发更适合特定企业或场景需求的智能工作流。