LangChain实战 | Tool Calling ：让AI真正动起来的关键技术

发布于 2024-12-20 10:27

2088浏览

0收藏

近年来大模型发展过程中面临的几个核心挑战：静态知识的局限性、执行能力的缺失、与外部系统的割裂。为了应对这些挑战，推动大模型从单纯的语言生成工具演变为真正的任务执行引擎，Function calling 诞生了，成为大模型一项不可或缺的核心能力。

概念 Function calling 和 Tool Calling 会混用

我们在做应用开发的时候，大部分时候尽量避免直接耦合到OpenAI,会使得程序兼容性不好，这时只要面向 LangChain 开发就可以了。

LangChain 是一个灵活的框架，它提供了与多种大模型进行交互的能力。

它的设计允许集成和使用来自不同源的多种模型，包括但不限于OpenAl、Cohere和 Hugging Face 等模型库中的模型。这样，你不必拘泥于某种模型，而是为自己的应用选择最合适的模型。对于Tool Calling能力来说，LangChain 也做了抽象。

调用其他工具的 API(如：Database Tool) 通常需要特定的有效负载格式。可以使用 Tool Calling 来向模型请求与特定格式匹配的响应。随后可以使用这个响应作为负载去做“工具（Tool）实际的执行”。

LangChain实战 | Tool Calling ：让AI真正动起来的关键技术-AI.x社区

通俗来将就是：让大模型通过理解用户的提示词，来决定是否需要调用工具(如上图），

如果需要调用工具，会返回需要调用的工具名称和调用参数（不是直接执行工具），后续由代码去执行对应的工具（Tool）。

如果不需要调用工具，那么就直接回复自然语言（如：How can I assist you?）。

工具（Tool）

tool抽象在 LangChain 中将 Python函数与定义“函数名称、描述和预期参数”的schema 关联起来。

工具（Tool）可以传给支持 tool calling 的聊天模型，允许模型使用特定输入执行特定函数。

创建工具的推荐方法是使用@tool 装饰器。此装饰器旨在简化工具创建过程，在大多数情况下应使用它。定义函数后，可以使用@tool 对其进行装饰，以创建实现工具接口的工具。

代码如：

from langchain_core.tools import tool

@tool
def multiply(a: int, b: int) -> int:
   """两个数字相乘."""
   return a * b1.
2.
3.
4.
5.
6.

默认情况下，装饰器使用函数名称作为工具名称。

装饰器将使用函数的文档字符串作为工具的描述 —— 因此必须提供文档字符串。

定义工具后，可以通过调用直接使用它。

result = multiply.invoke({"a": 2, "b": 3})
print(result) 
# Output: 61.
2.
3.

也能直接看到工具的具体信息。

print(multiply.name)
print(multiply.description)
print(multiply.args)

# 输出
multiply
两个数字相乘.
{'a': {'title': 'A', 'type': 'integer'}, 'b': {'title': 'B', 'type': 'integer'}}1.
2.
3.
4.
5.
6.
7.
8.

通过参数自定义工具

@tool("multiplication-tool", args_schema=CalculatorInput, return_direct=True)

属性	类型	描述
名称	str	在提供给 LLM 或代理的一组工具中必须是唯一的。
描述	str	描述工具的作用。用作 LLM 或代理的上下文。
args_schema	pydantic.BaseModel	可选但推荐，如果使用回调处理程序则为必需。它可用于提供更多信息（例如，少量示例）或验证预期参数。
return_direct	布尔值	仅与agent相关。当为 True 时，在调用给定的工具后，代理将停止并将结果直接返回给用户。

代码如：

from pydantic import BaseModel, Field

class CalculatorInput(BaseModel):
   a: int = Field(descriptinotallow="第一个数字")
   b: int = Field(descriptinotallow="第二个数字")

# 通过参数自定义
@tool("multiplication-tool", args_schema=CalculatorInput, return_direct=True)
def multiply(a: int, b: int) -> int:
   """两个数字相乘."""
   return a * b

# 查看工具的具体信息
print(multiply.name)
print(multiply.description)
print(multiply.args)
print(multiply.return_direct)1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.

输出：

# 输出
multiplication-tool
两个数字相乘.
{'a': {'description': '第一个数字', 'title': 'A', 'type': 'integer'}, 'b': {'description': '第二个数字', 'title': 'B', 'type': 'integer'}}
True1.
2.
3.
4.
5.

通过解析文档字符串配置定义工具

@tool 可以选择性地解析Google Style 文档字符串，并将文档字符串组件（例如参数描述）与工具schame的相关部分关联起来。使用这种方法，需要指定 parse_docstring

代码如：

@tool(parse_docstring=True)  # 解析文档字符串
def multiply(a: int, b: int) -> int:
   """两个数字相乘.

   Args:
      a: 第一个数字
      b: 第二个数字

   Returns:
      两个数字相乘的结果
   """
   return a * b

# 查看工具的具体信息
print(multiply.name)
print(multiply.description)
print(multiply.args)
print(multiply.return_direct)1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.

结果：

# 输出
multiply
两个数字相乘.
{'a': {'description': '第一个数字', 'title': 'A', 'type': 'integer'}, 'b': {'description': '第二个数字', 'title': 'B', 'type': 'integer'}}
False1.
2.
3.
4.
5.

通过大模型的 Tool calling 调用工具

Tool calling 允许聊天模型通过“Tool calling”来响应给定的提示词。

虽然“Tool calling”这个名字暗示模型正在直接执行某些操作，但实际上并非如此！模型仅生成工具的参数，而是否运行工具（或不运行）取决于用户。

LangChain实战 | Tool Calling ：让AI真正动起来的关键技术-AI.x社区

Tool calling 可以从模型生成结构化输出，即使您不打算调用任何工具，也可以使用它。该技术是从非结构化文本中提取信息。

如下图，把用户输入的文本，通过大模型的Tool calling提取出了符合工具get_weather的信息。

LangChain实战 | Tool Calling ：让AI真正动起来的关键技术-AI.x社区

代码示例

第一步：定义工具

from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage

model = ChatOpenAI(
    api_key='hk-iwtb1e427',
    base_url='https://api.openai-hk.com/v1',
    temperature=0
)

print("第一步 ：定义工具")
@tool
def multiply(a: int, b: int) -> int:
    """两个数字相乘."""
    return a * b

tools = [multiply]1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.

第二步：把工具绑定到大模型

# Tool binding
print("第二步 ：把工具绑定到大模型")
model_with_tools = model.bind_tools(tools)1.
2.
3.

第三步：大模型 Tool calling

# Tool calling
print("第三步 ：大模型Tool calling")
query = "2乘以3"
messages = [HumanMessage(query)]
ai_msg = model_with_tools.invoke(messages)
print(ai_msg)
# 获取返回的response中工具名称和调用参数
print("大模型 Tool calling 返回结果 : ",ai_msg.tool_calls)
# [{'name': 'multiplication-tool', 'args': {'a': 2, 'b': 3}, 'id': 'call_2bJbBe74qhuDfg3ZGCu7p9e3', 'type': 'tool_call'}]
messages.append(ai_msg)1.
2.
3.
4.
5.
6.
7.
8.
9.
10.

第四步：工具的执行（Tool calling 返回需要执行的工具）

print("第四步 ：工具的执行")
# 定义所有的工具字典
all_tools = {
    "multiply": multiply
}

for tool_call in ai_msg .tool_calls:
    selected_tool = all_tools[tool_call["name"].lower()]
    tool_msg = selected_tool.invoke(tool_call)
    print("工具的执行 返回结果 : ",tool_msg)
    messages.append(tool_msg)
    # cnotallow='6' name='multiply' tool_call_id='call_CTCJAFlibfN3zhM9jMMStBlp'
print("聊天上下文 ：")
print(messages)1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.

第五步：大模型处理工具的返回结果

print("第五步：大模型处理工具的返回结果")
response = model_with_tools.invoke(messages)
print("大模型返回 ：",response.content)
# 大模型返回 ： 2乘以3的结果是6。1.
2.
3.
4.

用户输入：2乘以3

大模型返回： 2乘以3的结果是6。

日志：

LangChain实战 | Tool Calling ：让AI真正动起来的关键技术-AI.x社区

本文转载自 AI取经路，作者： AI取经路

标签

LangChain

语言

已于2024-12-20 10:45:27修改

51CTO

51CTO博客

51CTO学堂

LangChain实战 | Tool Calling ：让AI真正动起来的关键技术

工具（Tool）

通过参数自定义工具

通过解析文档字符串配置定义工具

通过大模型的 Tool calling 调用工具

代码示例

第一步：定义工具

第二步：把工具绑定到大模型

第三步：大模型 Tool calling

第四步：工具的执行（Tool calling 返回需要执行的工具）

第五步：大模型处理工具的返回结果

目录