一、Agents的本質

Agents是什么？

Agents 的核心概念是利用語言模型來選擇一系列要執行的動作。與傳統的硬編碼動作鏈不同，Agents 使用語言模型作為推理引擎來確定要執行哪些動作以及它們的執行順序。

• 基于語言模型的決策：LangChain Agents以語言模型為核心，使其能夠理解和執行自然語言或類似自然語言的指令。這種能力讓Agents可以靈活地適應不同的任務和環境，無需硬編碼特定的邏輯。
• 可組合性與擴展性：LangChain框架注重Agents的可組合性和系統的擴展性。Agents可以通過組合各種工具和模塊（如數據檢索、信息提取、API調用等）來擴展其功能。這種設計方式不僅簡化了維護和更新過程，還促進了代碼和知識的重用。
• 學習與適應性：結合機器學習技術（如強化學習），Agents可以從經驗中學習并優化其行為策略，以應對復雜和動態變化的環境，從而提高性能和效率。

Agents

The core idea of agents is to use a language model to choose a sequence of actions to take. In chains, a sequence of actions is hardcoded (in code). In agents, a language model is used as a reasoning engine to determine which actions to take and in which order.

Agents由幾個部分組成。

• 模式（Schema）：是一組規則和結構，定義了代理如何與外部工具進行交互、執行動作以及管理任務狀態，從而實現智能的多步驟推理和決策。主要包括AgentAction、Intermediate Steps、AgentFinish。
• 代理（Agent）: 負責決策下一個動作的實體。代理使用語言模型、提示和輸出解析器來支持其決策過程。主要包括Agent Inputs、Agent Outputs。
• 代理執行器（AgentExecutor）: 負責運行代理并管理其與外部工具的交互。執行器處理復雜性，如工具錯誤處理、日志記錄等。
• 工具（Tools）: 代理可以調用的函數或服務。每個工具都有一個輸入模式和一個關聯的函數，用于描述如何調用該工具以及實際執行的操作。
• 工具包（Toolkits）: 相關工具的集合，用于完成特定任務。例如，GitHub 工具包可能包含用于搜索問題、讀取文件、發表評論等的工具。

Agents 組成部分

Agents能干什么？

Agent System由多個協作的智能代理構成，這些代理能自主行動、響應環境、與其他代理或用戶交互，并根據目標、規則和知識執行任務或決策。

在Lilian Weng的博客中，她闡述了以LLM為核心的AI Agents系統，其中LLM負責推理、決策和生成語言，還需結合規劃、記憶和工具使用等關鍵組件來完善功能。

• 規劃（Planning）：規劃能力使得代理能夠將復雜的任務分解成更小、更可管理的子目標。這有助于代理在面對復雜任務時能夠有條不紊地執行。同時，代理還具備反思和細化的能力，可以從過去的經驗中學習并改進未來的行為。
• 記憶（Memory）：記憶能力是代理系統中的重要組成部分。短期記憶允許代理在處理任務時保持上下文信息的一致性，而長期記憶則使得代理能夠存儲和回憶以前的知識和經驗。這種記憶能力對于實現持續學習和適應新環境至關重要。
• 工具使用（Tool Use）：工具使用能力允許代理調用外部API來獲取額外信息或執行特定操作。這些信息可能是模型權重中缺少的，但對于完成任務至關重要。通過調用外部工具，代理可以擴展其功能并適應更廣泛的應用場景。

二、Agents的原理

Agents的工作流程：通過結合大型語言模型（LLM）的推理能力和外部工具的執行能力，接收任務后進行思考、行動、接收反饋并重復這些步驟，直至任務完成或達到終止條件。

Agents流程包含以下四個核心步驟：

• 接收任務：LLM Agent首先接收一個任務描述或問題。
• 思考：然后，它利用LLM進行推理和決策。例如，它可能會生成一個潛在的解決方案或行動計劃。
• 行動：接下來，LLM Agent會執行一些操作以完成任務。這些操作可能包括調用API獲取數據、查詢數據庫、執行計算等。
• 接收反饋：在執行操作后，LLM Agent會接收來自環境的反饋。這些反饋可能包括API的響應、數據庫查詢的結果等。

如果任務還沒有完成，LLM Agent會重復上述步驟，直到任務完成或達到某個終止條件。

Agents的工作流程

Agent Types：在LangChain中，Agent Types定義了不同類型的代理（Agents），這些代理使用不同的策略和方法來與用戶和工具進行交互，以完成各種任務。

• Zero-shot ReAct：
  這種Agent使用ReAct（Retrieve-and-Act）框架，該框架通過理解工具的描述來選擇最合適的工具執行任務。Zero-shot意味著Agent不需要針對特定任務進行訓練，而是可以基于工具的描述直接進行推斷。
• Structured tool chat：
  這種Agent支持使用具有復雜輸入參數的工具。通過定義args_schema，Agent可以理解每個工具所需輸入參數的結構和類型，從而與用戶進行更結構化的對話以收集必要的信息。這有助于確保與工具的交互是準確和一致的。
• Conversational：
  與標準ReAct Agent相比，Conversational Agent更注重與用戶進行自然對話。它的提示和響應設計得更加對話性，適合在聊天場景中使用。
• Self-ask with search：
  這種Agent類型集成了搜索功能，允許它自主地在搜索引擎中查找信息以回答問題。這增加了Agent的知識來源和回答問題的能力。
• ReAct document store：
  使用這種Agent，用戶可以與一個文檔存儲進行交互。該Agent包含兩個關鍵工具：“Search”用于在文檔存儲中搜索相關文檔，“Lookup”用于在最近找到的文檔中查找特定術語或信息。
• XML Agent：
  XML Agent專門用于處理XML格式的數據。它使用XML格式來解析工具調用和最終答案，這使得它特別適合與返回XML響應的工具或服務進行交互。

三、Agents的應用

Agents應用場景：在需要根據不同輸入動態決定工具使用次數和順序的復雜任務中，實現靈活智能的決策和處理。

工具鏈：有些任務的處理流程是固定的，我們可以預先設定一個工具鏈來按順序處理。

工具鏈

但有些任務的處理流程是動態的，需要根據輸入來決定使用哪些工具以及如何使用。

Agents是一種可以實現這種動態決策的機制，它可以根據輸入和當前狀態來選擇下一步的操作，從而實現更加靈活和智能的任務處理。

Agents應用創建：使用 LangChain 庫創建一個簡單的代理（agent），該代理能夠處理數學運算任務。

一、創建工具函數：通過裝飾器?@tool 創建了三個工具函數：multiply（乘法）、add（加法）和 exponentiate（指數運算）。這些函數接收整數作為參數，并返回運算結果。

@tool

1

2 def multiply(first_int: int, second_int: int) -> int: 

3 return first_int * second_int 

4

5 @tool 

6 def add(first_int: int, second_int: int) -> int: 

7 return first_int + second_int 

8

9 @tool 

10 def exponentiate(base: int, exponent: int) -> int:

11 return base ** exponent

創建工具函數

二、創建提示模板：從 LangChain Hub 中獲取一個提示模板。這個模板用于指導大型語言模型（LLM）如何生成響應。

from langchain import hubfrom langchain.agents import AgentExecutor, create openai tools agentfrom langchain openai import ChatOpenAI

# Get the prompt to use - you can modify this!prompt = hub.pull("hwchase17/openai-tools-agent"prompt.pretty_print()

創建提示模版

三、創建代理和執行器：選擇一個大型語言模型來驅動代理。使用所選的模型、工具函數和提示模板來構建 OpenAI Tools 代理。同時，創建一個代理執行器，將代理和工具函數傳遞給它。

model = ChatOpenAl(model="gpt-3.5-turbo-1106" temperature=0)agent = create openai tools agent(model, tools, prompt)agent executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

創建代理和執行器

四、調用代理：代理會根據輸入和提示模板動態地調用適當的工具函數來完成運算，并返回運算結果。

agent executor.invoke(

0

"input. "Take 3 to the fifth power and multiply that by the sum of twelve and three, then square tl

5

本文章轉載微信公眾號@架構師帶你玩轉AI

#你可能也喜歡這些API文章!

使用這些基本 REST API 最佳實踐構建出色的 API

如何使用API：初學者的分步教程

使用NestJS和Prisma構建REST API：身份驗證