又一突破！跨模型的Function_Calling来了

ermulong

发布于 2024-4-19 15:43

浏览

0收藏

介绍

大型语言模型（LLM）通过工具调用能够与外部数据源进行交互。这项技术让开发者能够利用LLM来获取、交互和操作外部资源（比如数据库、文件和API等）。

随着越来越多的LLM提供商开始提供工具调用功能，我们注意到市场上出现了多种多样的接口。为了解决这个问题，LangChain推出了一个标准化的接口，这样用户就可以轻松地在不同的LLM提供商之间进行切换。

又一突破！跨模型的Function_Calling来了-AI.x社区

这个标准化接口包括以下几个方面：

ChatModel.bind_tools：这个方法允许您将工具的定义附加到模型的调用过程中。
AIMessage.tool_calls：这是一个新增的属性，它使得从模型返回的 AIMessage 中获取工具调用变得更加简单。
create_tool_calling_agent：这是一个构建代理的函数，适用于任何实现了 bind_tools 并且能够返回 tool_calls 的模型。

下面，我们将详细解释这些组件。

ChatModel.bind_tools

为了让模型能够使用工具，我们需要告诉它哪些工具是可以使用的。这可以通过向模型提供一个包含工具定义的列表来实现，这些工具定义包括了工具参数的模式。不同的模型提供商可能需要不同的格式，但是 ChatModel.bind_tools 提供了一个统一的接口，让您可以指定哪些工具对模型来说是可用的。

这意味着，无论您使用的是哪种工具调用模型，代码的结构都将非常相似。

from langchain_anthropic import ChatAnthropic
from langchain_core.pydantic_v1 import BaseModel, Field
from langchain_core.tools import tool

# ✅ Pydantic 类
class multiply(BaseModel):
    """返回 'x' 和 'y' 的乘积。"""
    x: float = Field(..., descriptinotallow="第一个因子")
    y: float = Field(..., descriptinotallow="第二个因子")
    
# ✅ LangChain 工具
@tool
def exponentiate(x: float, y: float) -> float:
    """将 'x' 乘以 'y'。"""
    return x**y
    
# ✅ 函数

def subtract(x: float, y: float) -> float:
    """从 'y' 中减去 'x'。"""
    return y-x
    
# ✅ OpenAI 格式字典
# 还可以传入一个带有 "title" 和 "description" 的 JSON 模式
add = {
  "name": "add",
  "description": "将 'x' 和 'y' 相加。",
  "parameters": {
    "type": "object",
    "properties": {
      "x": {"type": "number", "description": "要相加的第一个数字"},
      "y": {"type": "number", "description": "要相加的第二个数字"}
    },
    "required": ["x", "y"]
  }
}

llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=0)

# 每当我们调用 `llm_with_tool` 时，这三个工具定义
# 都会被传递给模型。
llm_with_tools = llm.bind_tools([multiply, exponentiate, add, subtract])

如果我们想使用不同的工具调用模型，我们的代码看起来会非常相似：

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-4-turbo", temperature=0)
llm_with_tools = llm.bind_tools([multiply, exponentiate, add, subtract])

那么调用 llm_with_tools 会是什么样子呢？这就是 AIMessage.tool_calls 的用武之地。

AIMessage.tool_calls

在过去，当使用工具调用模型时，模型返回的工具调用可能会放在 AIMessage.additional_kwargs 或 AIMessage.content 中，这取决于模型提供商的API，并遵循特定于提供商的格式。现在，AIMessage.tool_calls 提供了一个标准化的接口来获取模型的工具调用。这样，在调用了绑定了工具的模型之后，您将得到一个包含 tool_calls 属性的输出，其中列出了所有的工具调用。

在调用了绑定工具的模型之后，您将得到以下形式的输出：

llm_with_tools.invoke([
 ("system", "你是一个有用的助手"), 
 ("human", "5 的 2.743 次方是多少"),
])

# 👀 注意 tool_calls 属性 👀

# -> AIMessage(
#    cnotallow=..., 
#    additional_kwargs={...},
#    tool_calls=[{'name': 'exponentiate', 'args': {'y': 2.743, 'x': 5.0}, 'id': '54c166b2-f81a-481a-9289-eea68fc84e4f'}]
#    response_metadata={...}, 
#    id='...'
#   )

其中 AIMessage 有一个 tool_calls: List[ToolCall] 属性，如果有工具调用，它将被填充，并将遵循工具调用的标准接口：

class ToolCall(TypedDict):
  name: str
  args: Dict[str, Any]
 id: Optional[str]

也就是说，无论您是在调用 Anthropic、OpenAI、Gemini 等，只要有工具调用，它将以 AIMessage.tool_calls 形式作为 ToolCall 出现。

我们还添加了一些其他属性，用于处理流式工具调用块和无效工具调用。有关这些的更多信息，请阅读工具调用文档这里。

create_tool_calling_agent

利用LLM的工具调用能力来构建代理是一个非常强大的应用场景。我们已经有了一个 create_openai_tools_agent() 构造函数，它可以方便地构建一个符合OpenAI工具调用API的代理。但是，这个构造函数并不适用于Anthropic和Gemini等模型。现在，有了 bind_tools() 和 tool_calls 这两个新接口，我们推出了 create_tool_calling_agent()，它能够与任何支持工具调用的模型一起工作。

from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import ConfigurableField
from langchain_core.tools import tool
from langchain.agents import create_tool_calling_agent, AgentExecutor

@tool
def multiply(x: float, y: float) -> float:
    """将 'x' 乘以 'y'。"""
    return x * y

@tool
def exponentiate(x: float, y: float) -> float:
    """将 'x' 乘以 'y' 的指数。"""
    return x**y

@tool
def add(x: float, y: float) -> float:
    """将 'x' 和 'y' 相加。"""
    return x + y

prompt = ChatPromptTemplate.from_messages([
    ("system", "你是一个有用的助手"), 
    ("human", "{input}"), 
    ("placeholder", "{agent_scratchpad}"),
])

tools = [multiply, exponentiate, add]

llm = ChatAnthropic(model="claude-3-sonnet-20240229", temperature=0)

agent = create_tool_calling_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})

我们可以使用 VertexAI 替代：

from langchain_google_vertexai import ChatVertexAI

llm = ChatVertexAI(
 model="gemini-pro", 
 temperature=0, 
 convert_system_message_to_human=True
)
agent = create_tool_calling_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})

或者 OpenAI：

llm = ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0)

agent = create_tool_calling_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

agent_executor.invoke({"input": "3 加上 5 的 2.743 次方是多少。还有 17.24 减去 918.1241 是多少。"})

等等。

有关新代理的完整文档，请查看 https://python.langchain.com/docs/modules/agents/agent_types/tool_calling。