該框架由幾個部分組成。

• LangChain 庫：Python 和 JavaScript 庫。包含無數(shù)組件的接口和集成、將這些組件組合成鏈和代理的基本運行時，以及鏈和代理的現(xiàn)成實現(xiàn)。
• LangChain 模板：一系列易于部署的參考架構，適用于各種任務。
• LangServe：用于將 LangChain 鏈部署為 REST API 的庫。
• LangSmith：一個開發(fā)者平臺，可讓您調試、測試、評估和監(jiān)控基于任何 LLM 框架構建的鏈，并與 LangChain 無縫集成。

LangChain能干什么？

LangChain的產品共同簡化了整個應用程序生命周期：

• 開發(fā)：在 LangChain/LangChain.js 中編寫您的應用程序。使用模板作為參考開始運行。
• Productionize：使用 LangSmith 檢查、測試和監(jiān)控您的鏈，以便您可以充滿信心地不斷改進和部署。
• 部署：使用 LangServe 將任何鏈轉換為 API。

LangChain 幾乎可以作為所有 LLM 的通用接口，為構建 LLM 應用程序并將其與外部數(shù)據(jù)源和軟件工作流程集成提供集中式開發(fā)環(huán)境。LangChain可以簡單理解為是 LLM 領域的 Spring。

LangChain的主要價值：

• 組件（Components）：用于處理語言模型的可組合工具和集成。無論您是否使用 LangChain 框架的其余部分，組件都是模塊化且易于使用的。
• 現(xiàn)成的鏈（Off-the-shelf chains）：用于完成更高級別任務的內置組件組合，約定大于配置，讓您可以輕松上手。

二、LangChain的原理

LangChain的工作流程：通過分塊和向量化數(shù)據(jù)源，優(yōu)化LLM的檢索與生成過程，實現(xiàn)高效、智能的文本處理。

1. 數(shù)據(jù)分塊與向量化：
   • LangChain首先將大型數(shù)據(jù)源（如50頁的PDF文件）分解成小塊信息。
   • 這些信息塊隨后被轉換成向量形式，并存儲在一個向量存儲（Vector Store）中。這個過程稱為向量化，它允許信息以數(shù)學上可比較和檢索的形式存在。
2. 與LLM的集成：
   • 當用戶向基于LangChain的聊天機器人輸入提示（prompt）時，系統(tǒng)會在向量存儲中查詢與提示相關的信息塊。
   • 這個查詢過程類似于在搜索引擎中搜索關鍵詞，但在這里，它是基于向量的相似度來進行的。
3. 生成答案：
   • 一旦找到相關信息塊，LangChain會將這些信息與原始提示一起提供給LLM。
   • LLM隨后利用這些信息來生成針對用戶輸入的回答或完成文本。

LangChain的核心組件：LangChain提供標準的、可擴展的接口和外部集成。

主要包括以下六個部分：

• 模型I/O（Model I/O）：負責與語言模型進行交互，處理輸入和輸出數(shù)據(jù)。
• 檢索（Retrieval）：從特定數(shù)據(jù)源檢索信息，如數(shù)據(jù)庫或API，為應用提供所需內容。
• 代理（Agents）：根據(jù)高級指令決定使用哪些工具或組件，協(xié)調應用內的操作和信息流。
• 鏈（Chains）：定義一系列有序步驟以完成特定任務。
• 內存（Memory）：在LangChain運行間保持應用狀態(tài)。
• 回調（Callbacks）：在LangChain的特定步驟觸發(fā)額外動作，如日志記錄或中間步驟的流式傳輸。

三、LangChain的應用

工具使用（Tool use）：LLM 的一個令人興奮的應用是為其他“工具”構建自然語言接口，無論是 API、函數(shù)、數(shù)據(jù)庫等。

LangChain 非常適合構建此類接口，因為它具有：

• 良好的模型輸出解析，可以輕松從模型輸出中提取 JSON、XML、OpenAI 函數(shù)調用等。
• 大量內置工具。
• 為您如何調用這些工具提供了很大的靈活性。

工具的使用方式主要有兩種：chains 和 agents。

方式一：chains?創(chuàng)建預定義的工具使用順序。

方式二：agents?讓模型循環(huán)使用工具，這樣它就可以決定使用工具的次數(shù)。

萃?。‥xtraction）：LLM 的另一個令人興奮的應用是從原始的 LLM 生成中獲得結構化的輸出。

假設需要 LLM 使用特定架構進行結構化輸出：

• 提取結構化行以插入數(shù)據(jù)庫
• 提取API參數(shù)
• 提取用戶查詢的不同部分（例如，語義搜索與關鍵字搜索）

文章轉自微信公眾號@架構師帶你玩轉AI

#你可能也喜歡這些API文章!

使用這些基本 REST API 最佳實踐構建出色的 API

如何使用API：初學者的分步教程

使用NestJS和Prisma構建REST API：身份驗證