定義：
KnowledgeFocus LLM 是 GoInsight 平台上一個預先配置的 LLM 節點，專為 InteractFlow 設計。它結合了安全性和知識庫的限制，成為通過引導設置過程來創建問答聊天機器人的基礎 LLM。其回應內容皆來自經核准的知識庫，有助於防止提供不相關的答案或越獄嘗試。
如何配置：
1. 模型
GoInsight 支援多種全球公認的模型，包括 Microsoft Azure GPT 系列（GPT-4o mini、GPT-4o、GPT-3.5-turbo）、OpenAI 的 GPT 系列、Claude 3.5 系列、DeepSeek 系列、Qwen-plus 等等。您可以根據需求調整模型溫度。為獲得最佳結果，請根據您的具體情境和任務需求選擇合適的模型。
2. 知識庫檢索
「上下文」是指提供給 KnowledgeFocus LLM 的背景資料，以提高其回應準確性。可將其視為 LLM 用於生成準確答案的輔助資訊。
3. User
「User」欄位會自動從起始節點擷取相同的查詢，因此無需手動輸入。
4. 提示詞
KnowledgeFocus LLM 節點使用兩種類型的提示來指導其回應：
- 用戶提示詞：給予 LLM 的自訂指令，與系統的預設指令結合。您也可以選擇替換系統的指令。
- 系統提示詞：這些內建的高級系統指令指導 LLM 如何回應。覆寫這些指令可能會降低回應準確度。
5. 權杖分配
控制權杖（詞或字元）在輸入（來源內容）和輸出（回應）之間的分配。分配給輸入的權杖越多，內容分析越深入；分配給輸出的權杖越多，則能提供更詳細的答案。
6. 記憶功能
啟用記憶功能後，每個輸入將包含對話中的對話歷史記錄（不支援節點記憶功能），以幫助 LLM 理解上下文並提高在對話互動中對問題的理解能力。
- 歷史記錄筆數：選擇 LLM 記住多少筆先前的訊息 [介於 1 到 50 之間]。
7. 輸出變數
文字（字串）：這是由 LLM 生成的最終文字結果，您可以在其他地方使用。
KnowledgeFocus LLM 節點與通用 LLM 節點的區別：
- 相似性：兩者都是生成文字回應的 大型語言模型 (LLM) 節點。
- 區別：KnowledgeFocus LLM 節點具有預設模板、安全規則，並受限於知識庫，僅能根據其內容進行回應。它非常適合基於文件的問答及利用其儲存知識庫的常見問題 (FAQ) 系統。通用 LLM 節點允許完全自訂指令和開放式提示詞。它最適合無需知識庫的創意任務，例如故事撰寫。
注意：
將 KnowledgeFocus LLM 用於涉及常見問題 (FAQ) 或其他知識型任務的工作流程中。但是，如果無需知識庫，則通用 LLM 節點會更適用。
發佈評論