知识聚焦大模型节点

定义

KnowledgeFocus LLM 是 GoInsight 中的预设大模型节点，包含问答模板，仅用于对话式工作流中。其内置默认系统提示词和限制，更适合构建基于知识库的聊天机器人。与通用大模型节点相比，KnowledgeFocus LLM 更加注重基于知识库内容作答，从而减少无关或偏离知识库的回复。

KnowledgeFocus LLM 与通用大模型节点的区别

KnowledgeFocus LLM 是内置模板和系统限制的大模型节点，更适合知识库问答场景。

通用大模型节点 则更加灵活，适用于用户自行编写指令、组织上下文并控制模型输出的场景。

简而言之：

• 如果您正在构建基于知识库的聊天机器人，推荐使用 KnowledgeFocus LLM。
• 如果您需要更大的自由度来设计模型行为和输出逻辑，可以选择通用大模型节点。

配置方法

在对话式工作流的编辑页面，右键单击画布或点击上一节点末尾的 + 图标，添加一个 KnowledgeFocus LLM 节点。

1. 模型

根据实际任务选择可用的模型。可用模型取决于管理员在模型管理中的配置，以及企业已接入的自定义模型。

2. 文档检索结果

文档检索结果 通常用于接收上游文档检索节点的输出，并将检索到的相关信息传递给 KnowledgeFocus LLM。

如果希望 KnowledgeFocus LLM 依据文档检索结果回答问题，需要将此变量插入到提示词中。否则，即使在文档检索结果中配置了变量，模型也不会自动将其用作回答上下文。

3. 用户

用户字段默认使用开始节点中的用户 Query，表示用户当前提出的问题。

4. 提示词和系统提示词

KnowledgeFocus LLM 节点包括 提示词 和 系统提示词。

提示词 用于补充聊天机器人的角色、技能、回复风格、业务需求等说明。用户可直接在提示词编辑器中编写，也可输入 / 或 { 插入特殊变量块或上游节点的变量。

如果不确定如何编写提示词，您可以使用 AI 写作 功能，让 AI 根据业务场景生成提示词。

系统提示词 用于控制聊天机器人的基本行为和回答范围。KnowledgeFocus LLM 内置系统指令，限制回答范围，使其更适合基于知识库内容的问答。

如果启用 覆盖默认指令，自定义系统提示词将覆盖默认系统指令。一旦启用，聊天机器人可能不再完全受原有知识库回答范围和安全限制的约束，因此请谨慎使用此选项。

5. 推荐相关查询

启用此选项后，KnowledgeFocus LLM 在回答用户时，可包含与当前问题相关的后续查询。这有助于用户继续提问或探索相关信息。

如果不需要在回答中显示后续查询，可以禁用此选项。

6. 令牌分配

令牌分配用于调整上下文内容和聊天机器人回答之间的令牌分配比例。

• 上下文：控制上下文内容可用的令牌数比例。
• 回答：控制聊天机器人回答可用的令牌数比例。

如果检索到的知识库内容较长，可根据需要增加上下文比例。如果希望聊天机器人生成更完整的回答，可根据需要增加回答比例。

7. 记忆

启用记忆后，KnowledgeFocus LLM 节点可在每次运行时包含历史对话内容。这有助于模型理解先前的上下文，从而提升多轮对话中的回答一致性。

对话历史支持两种配置方式：

• 指定方式：直接指定要引用的历史消息数量。
• 变量方式：通过变量传递历史消息。

8. 输出变量

KnowledgeFocus LLM 节点的输出通常连接到后续的回答输出节点或结束节点，将模型生成的内容返回给用户。

KnowledgeFocus LLM 也支持在提示词中引用上游节点的变量，例如文档检索节点的输出，为模型提供回答上下文。

9. 错误处理

KnowledgeFocus LLM 节点支持错误处理。

当节点执行过程中发生错误时，可选择以下几种处理方式之一：

• 不处理：节点失败时，工作流运行将中断。
• 默认值：节点失败时，工作流将继续运行，并使用配置的默认值作为节点输出。
• 错误处理分支：节点失败时，当前路径将被中断并重定向到配置的错误处理分支。

总结

KnowledgeFocus LLM 是一款专用于对话式工作流的知识库问答大模型节点。

它适用于构建基于企业知识库的聊天机器人。在配置时，请重点关注模型、文档检索结果、提示词、系统提示词、令牌分配、记忆和错误处理等设置。