编辑 | 星璇
出品 | 51CTO技术栈(微信号:blog51cto)
OpenAI 终于又Open了一回!这次开源的对象,竟然轮到了多智能体框架!
图片
Swarm 开源后,X上立马引来开发者的的讨论,有网友表示这能帮助简化许多潜在的多智能体用例的工作流程。
图片
下面我们就来简单介绍一下这个开源项目。
一、Swarm是什么?
据github文当介绍,Swarm 是一个实验性质的多智能体框架,并不是为生产目的开发的,因此团队表示不会提供任何官方支持。
其中,Swarm 关注的重点是让智能体协作和执行变得轻量、高度可控且易于测试。
为此,它使用了两种原语抽象:智能体(agent)和交接(handoff)。其中,智能体包含指令和工具,并且在任何时间都可以选择将对话交接给另一个智能体。
该团队表示,这些原语很强大,「足以表达工具和智能体网络之间的丰富动态,让你可以针对真实世界问题构建可扩展的解决方案,同时避免陡峭的学习曲线。」
另外,该团队指出,请注意 Swarm 智能体与 Assistants API 中的 Assistants 无关。之所以名字相似,只是为了方便。Swarm 完全由 Chat Completions API 提供支持,因此在调用之间是无状态的。
二、为什么要使用 Swarm?
在设计上,Swarm 是轻量级、可扩展且高度可定制的。它最适合处理存在大量独立功能和指令的情况——这些功能和指令很难编码成单个提示词。
如果开发者想要寻求完全托管的线程以及内置的内存管理和检索,那么 Assistants API 就已经是很好的选择了。但如果开发者想要完全的透明度,并且能够细粒度地控制上下文、步骤和工具调用,那么 Swarm 才是最佳选择。Swarm (几乎)完全运行在客户端,与 Chat Completions API 非常相似,不会在调用之间存储状态。
该团队还展示了一个应用示例,包括天气查询智能体、用于在航空公司环境中处理不同客户服务请求的多智能体设置、客服机器人、可以帮助销售和退款的个人智能体等。具体示例请访问 Swarm 代码库。
图片
简单的天气查询智能体示例,问题先经过筛选智能体处理,再转交给天气智能体解答
我们先来看一个例子。首先安装 Swarm,很简单:
装好这个框架之后,用起来也很方便。以下代码定义了 2 个智能体,而用户的指令是与智能体 B 交谈:
输出消息:
三、Swarm 的核心组件
Swarm 的核心组件包括 client(客户端)、Agent(智能体)、Function(函数)。
运行 Swarm 就是从实例化一个 client 开始的(其就是在内部实例化一个 OpenAI 客户端)。
1. client.run()
Swarm 的 run() 函数类似于 Chat Completions API 中的 chat.completions.create() 函数——接收消息并返回消息,并且在调用之间不保存任何状态。但重点在于,它还处理 Agent 函数执行、交接、上下文变量引用,并且可以在返回给用户之前进行多轮执行。
究其核心,Swarm 的 client.run() 是实现以下循环:
- 先让当前智能体完成一个结果
- 执行工具调用并附加结果
- 如有必要,切换智能体
- 如有必要,更新上下文变量
- 如果没有新的函数调用,则返回
参数
client.run() 的参数包括:
图片
client.run() 完成后(可能进行过多次智能体和工具调用),会返回一个响应,其中包含所有相关的已更新状态。具体来说,即包含新消息、最后调用的智能体、最新的上下文变量。你可以将这些值(加上新的用户消息)传递给 client.run() 的下一次执行,以继续上次的交互——就像是 chat.completions.create()
响应字段
图片
2. Agent
Agent 就是将一组指令与一组函数封装在一起(再加上一些额外的设置),并且其有能力将执行过程交接给另一个 Agent。Agent 字段如下:
图片
指令(instructions)
Agent instructions 会直接转换成对话的系统提示词(作为第一条消息)。只有当前活动的 Agent 的指令会被使用(当发生智能体交接时,系统提示词会变化,但聊天历史不会)。
instructions 可以是常规字符串,也可以是返回字符串的函数。该函数可以选择性地接收 context_variables 参数,该参数将由传入 client.run() 的 context_variables 填充。
输出消息:
3. Function
- Swarm Agent 可以直接调用 Python 函数。
- 函数通常应返回一个字符串(数值会被转换为字符串)。
- 如果一个函数返回了一个 Agent,则执行过程将转交给该 Agent。
- 如果函数定义了 context_variables 参数,则它将由传递到 client.run() 的 context_variables 填充。
输出:
如果某个 Agent 函数调用出错(缺少函数、参数错误等),则会在聊天之中附加一条报错响应,以便 Agent 恢复正常。
如果 Ageny 调用多个函数,则按顺序执行它们。
交接和更新上下文变量
通过在返回的函数中包含一个 Agent,可将执行过程交接给这个 Agent。
输出:
它还可以通过返回更完整的 Result 对象来更新 context_variables。如果你希望用单个函数返回一个值、更新智能体并更新上下文变量(或三者中的任何组合),它还可以包含一个 value 和一个 agent。
输出:
注意:如果一个 Agent 调用了多个交接 Agent 的函数,则仅使用最后一个交接函数。
四、函数模式
Swarm 会自动将函数转换为 JSON 模式,然后将其传递给聊天补全工具。
- 文档字符串会转换为函数 description。
- 没有默认值的参数会设置为 required。
- 类型提示会映射到参数的 type(默认为 string)。
- 不明确支持对每个参数进行描述,但如果只是在文档字符串中添加,应该能以相似的方式工作。
五、流式处理
Swarm 也支持流式处理。
使用了与 Chat Completions API streaming 一样的事件,但添加了两个事件类型:
- {"delim":"start"} 和 {"delim":"start"},用于在 Agent 每次处理单个消息(响应或函数调用)时发出信号。这有助于识别 Agent 之间的切换。
- 为方便起见,{"response": Response} 将在流的末尾返回带有已聚合的(完整)响应的 Response 对象。
六、核心贡献者
Swarm 的核心贡献者均就职于 OpenAI,他们分别是(右侧为对应的 GitHub 用户名):
- Ilan Bigio - ibigio
- James Hills - jhills20
- Shyamal Anadkat - shyamal-anadkat
- Charu Jaiswal - charuj
- Colin Jarvis - colin-openai