定义
智能代理节点是一种“智能决策+工具调用”组件,旨在使大型语言模型(LLM)在工作流中能够根据定义的策略,在运行时自主选择和使用工具,从而实现多步骤推理或操作。
- 通过配置特定的“代理策略”,模型可以利用上下文指令、工具信息及自身的推理结果,在每个执行轮次中自主决定是否以及如何调用工具(系统工具、云端工具等)。随后结合这些工具返回的数据,用于下一轮推理或生成输出,实现更灵活的处理流程。
- 与使用简单提示词的LLM节点相比,Agent节点能够根据策略进行多轮“思考与执行”,非常适合需要外部数据或可执行操作的场景。
添加智能代理节点
- 1. 打开工作流编辑器
- 在GoInsight.AI工作空间中,导航至您需要编辑的工作流画布。
- 2. 拖放节点
- 在画布左侧或顶部组件面板找到“Agent”节点,将其拖到可视化流程图中的适当位置,并将其与前后节点连接起来。
- 3. 选择代理策略
- 在Agent节点的配置面板中,选择一个“代理策略”,以定义模型如何执行多步骤推理、调用工具以及生成结果。
- GoInsight.AI提供两种默认的代理策略来源:
- 官方系统策略:由GoInsight.AI官方团队开发并内置,适用于常见的多步骤推理或工具使用场景。
- 自定义代理策略:企业团队可以在“服务与工具”模块中创建并发布自己的代理策略。
配置节点参数
根据所选的代理策略,节点会展示不同的参数或功能选项。以下是常见的通用配置项:
1. 模型
- 指定驱动Agent节点的LLM。
2. 工具列表
- 添加或管理Agent节点可调用的外部功能,例如应用和自定义工具。
- 单击+以选择并添加应用或工具。
- 您可以启用、禁用或删除已添加的工具。
- 编辑已添加应用或工具的具体设置。
- 执行前需手动确认。
- 变量赋值方法、凭证、默认值及其他设置。
- 禁用参数:如果相关参数被禁用,其对应的结果将不会返回或传递给LLM。
3. 指令
- 用于告知Agent节点关于场景、目标或约束的信息。
- 您可以在此放置角色设置、任务需求或业务上下文,以确保Agent节点在多步骤推理中始终遵循这些指令。
4. Query
- 通常对应用户输入或来自上游节点的问题或需求文本。
- Agent节点会结合Query和指令进行推理、行动规划或工具调用指令的生成。
5. 最大迭代次数
- 为防止Agent节点在多步骤推理中陷入无限循环,您可以设置执行轮次的最大次数(即迭代限制)。
- 当Agent节点未能在设定轮次内停止时,会自动终止迭代以避免无限循环。
6. 记忆
- 启用记忆功能后,Agent节点可在多轮对话或重复指令调用中保留上下文,从而生成更连贯的响应。
- 历史记录:通过滑块或数值设置历史记录的大小,表示Agent节点可以回溯并参考的交互历史轮次。
- 记忆的优势与注意事项。
- 上下文连贯性:启用记忆后,Agent节点能够通过使用先前的上下文,正确理解代词、省略字段名以及类似的后续内容。
- 准确性与性能:记忆窗口越大,潜在的模型调用成本越高。请根据实际需求和平衡成本进行设置。
- 记忆范围:可将记忆范围设置为会话或当前节点。
7. 文件
- 当使用多模态LLM时,可以通过此变量传递图片或文档,使LLM能够基于文件内容进行理解并生成输出。
- 要使用此功能,需在起始节点中启用$UserFiles变量,允许用户上传文件。
8. 输出
- 定义Agent节点的最终输出数据结构。输出结果可以传递到后续节点以进行进一步处理。
- 内容包括最终的响应文本、工具调用结果或与多步骤推理相关的关键信息。
9. 错误处理
- 节点遇到错误时触发的机制。
- 不处理:如果节点失败,则报告错误并结束工作流。
- 默认值:如果节点失败,工作流继续,并使用您指定的默认值作为输出结果。
- 错误处理分支:如果节点失败,工作流中断当前路径,跳转到您配置的错误处理分支。
查看执行日志
Agent节点在执行过程中生成详细日志,帮助您调试并了解模型推理过程和工具调用路径:
- 1. 基本信息
- 显示每次运行的输入、输出、执行时间、token消耗等。
- 2. 详细轮次记录
- 您可以看到Agent节点的思考过程、工具调用、接收工具响应、持续推理等,帮助分析推理逻辑与工具使用是否符合预期。
- 3. 错误诊断
- 如果Agent节点出现调用失败、超时或其他异常,日志中也会显示具体原因。
开发和管理代理策略
如果内置的系统策略无法满足具体的个性化需求,企业也可以开发并发布自己的自定义代理策略。
详细信息请参考:代理策略
总结
- Agent节点赋予大型语言模型在工作流执行中的“多步骤决策”和“自主工具选择”功能,能有效解决简单对话节点无法应对的复杂场景。
- 您可以在节点配置中灵活组合模型、工具和策略,并通过记忆和日志功能提升上下文连贯性及过程透明性。
- 如果默认策略无法满足业务需求,可在“服务与工具”模块中创建自定义策略,以开发更适合特定企业或场景需求的智能工作流。
发表评论.