大模型的“手和脚”——连接外部应用的通道函数调用(function calling)，AI Agent的实现方式之一原创

AI探索时代

发布于 2024-7-3 05:51

浏览

0收藏

“ AI Agent就是大模型通过外部接口构建的手脚健全的智能体”

怎么让大模型像真正的人类一样能够独立思考，使用外部工具；这是很多人都在考虑的问题，而这就是AI Agent(AI 代理)，一个类人的智能体。

但怎么实现AI Agent又是一个值得思考的问题，而今天就讲解一下通过调用外部工具实现AI Agent的方式——函数调用(function calling)。

01、什么是函数调用，为什么选择函数调用？

大模型作为人工智能最火的技术，从功能上来讲它更像一个“大脑”，它没有“手和脚”，因此它的能力范围很有限。

而且因为大模型无法获取实时信息，所以从这一点来说它和人的差距有点大。

但能不能让它具备人的能力呢？也就是通过外部工具获取实时信息，或者是它能力圈之外的事情。

大模型的“手和脚”——连接外部应用的通道函数调用(function calling)，AI Agent的实现方式之一-AI.x社区

举个例子，你问大模型今天的天气怎么样，温湿度是多少？这样的问题，即使是人也无法给出准确的回答，但可以通过天气APP获取到这些信息。

因此，只需要让大模型具有访问查询天气情况接口的能力，那么这个问题就可以被解决了，而类似于查询天气的这种接口，统一称为工具(tool)。

但大模型本身又不具备调用网络的能力，那么怎么才能实现这个功能呢？

这时函数调用的作用就体现出来了，所谓的函数就是一个能实现特定功能的代码段，它们有设定的输入参数和返回值，这样就可以使用函数调用各种工具实现大模型无法实现的功能。

之所以选择函数调用，原因就是因为函数调用比较简单，大模型只需要返回几个参数即可实现函数调用。

02、function call的实现过程

在正常的开发流程中，不论是函数调用还是API调用，都是开发者进行传参，然后获得返回值。

没了解过function call的人可能会认为，函数调用就是大模型调用python等语言的解释器，执行目标代码并获得结果。

事实上，在function call中，大模型并不负责函数的执行，大模型的作用是根据用户的问题，理解用户的需求，然后根据用户需求确定具体的回调函数以及函数所需要的参数。

openAI官方文档明确指出，大模型不会真正执行函数调用，而是由应用开发者根据大模型的返回进行具体的函数调用。

大模型的“手和脚”——连接外部应用的通道函数调用(function calling)，AI Agent的实现方式之一-AI.x社区

因此，在实现function call的过程中，应用开发者需要预先设定一个工具集，并负责工具集的实现。

# 定义工具集
tools = [
        {
            "type": "function",
            "function": {
                "name": "get_current_weather",
                "description": "Get the current weather in a given location",
                "parameters": {
                    "type": "object",
                    "properties": {
                        "location": {
                            "type": "string",
                            "description": "The city and state, e.g. San Francisco, CA",
                        },
                        "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},
                    },
                    "required": ["location"],
                },
            },
        }
    ]
    # 工具集函数d 实现
    def get_current_weather(location, unit="fahrenheit"):
    """Get the current weather in a given location"""
    if "tokyo" in location.lower():
        return json.dumps({"location": "Tokyo", "temperature": "10", "unit": unit})
    elif "san francisco" in location.lower():
        return json.dumps({"location": "San Francisco", "temperature": "72", "unit": unit})
    elif "paris" in location.lower():
        return json.dumps({"location": "Paris", "temperature": "22", "unit": unit})
    else:
        return json.dumps({"location": location, "temperature": "unknown"})

用户在调用大模型时，需要把当前工具集传给大模型。

# 在参数tools中传入工具集
response = client.chat.completions.create(
    model='gpt-4o', 
    messages=messages, 
    tools= tools, 
    tool_choice="auto"
)

这时，大模型就可以通过理解用户的输入，然后返回所需工具的名称和参数，然后就可以根据名称和参数调用具体的工具，如天气查询接口。

大模型函数调用的流程如下图所示，从下图可以看出，大模型使用工具需要两次输入。

# 大模型返回的需要调用的函数名称和参数
{"role": "assistant", "content": "", "tool_calls": [{"function": {"name": "get_current_weather", "arguments": "{\"properties\": {\"location\": {\"description\": \"北京市\", \"type\": \"string\"}}}"}, "id": "", "type": "function"}]}

第一次输入是用户提问，大模型根据提问内容解析出需要调用的函数；第二次是把函数的执行结果传入到模型中；最后，模型根据函数的执行结果返回给用户。

大模型的“手和脚”——连接外部应用的通道函数调用(function calling)，AI Agent的实现方式之一-AI.x社区