从“聪明工具”到“万能助手”：全景解读AI Agents生态版图

随着生成式AI技术的全面爆发，AI Agents正成为人工智能应用的新宠。这些“智能代理”不仅能完成特定任务，还能像一位贴心助手般跨场景协作。那么，这些AI Agents背后的技术堆栈是如何构建的？它们的生态系统又如何助力开发者和企业高效落地应用？今天我们通过一张最新发布的《AI Agents Stack》图解，带您快速掌握这个领域的核心脉络！

1. 垂直代理：专业AI助手，解决具体问题

垂直代理是AI领域中最简单易懂的一类工具，它们就像是行业专家，可以在特定领域提供专业的服务。以下是几个垂直代理工具的详细介绍：

•Harvey：这是一个面向法律行业的AI助手。Harvey可以帮助律师自动起草法律文件、合同和法律意见书，甚至可以回答复杂的法律问题。它的核心优势在于通过对大量法律文本的分析，帮助减少律师的重复性工作，从而节省时间。

•Replit：这是一款面向编程的AI工具。Replit提供了一个在线编程环境，用户可以在其中编写代码并通过AI工具获得自动建议、错误检查以及代码补全。它特别适合编程初学者和开发者，能够帮助他们在编写代码时提高效率。

•Cognition：这款工具专注于帮助开发者加速软件开发流程。Cognition利用AI生成代码，减少开发者的编程负担，同时还可以进行代码审查，确保质量。

•Lindy：这是一款面向商务和个人工作的AI助手，能帮助用户进行时间管理、会议安排和邮件回复等任务。它的核心功能包括日程管理、智能提醒和文件整理等，适合用于提高办公效率。

•All Hands：这是一个团队协作工具，专注于帮助团队进行项目管理、任务分配和协作。它利用AI优化会议调度、任务跟踪和沟通流畅度，从而提高团队整体效率。

2. 代理托管与服务：让AI助手上线和运作

AI代理的托管与服务层是确保这些智能助手正常运行的技术平台，主要负责将AI代理从开发环境部署到生产环境，并确保其长期稳定运行。

•LangGraph：这是一款可以帮助开发者创建和管理多个AI代理的工具。它支持不同AI代理之间的协同工作，并能够在一个平台中集中管理、监控多个智能代理的状态。

•Letta：Letta是一个托管平台，专注于为AI开发者提供一站式服务，支持快速部署和灵活扩展。开发者可以在这个平台上托管自己开发的AI模型和代理，并且通过简单的API接口进行调用。

•LiveKit Agents：这是一个支持实时通讯的AI代理托管平台。它可以帮助开发者创建语音、视频和文字交互型AI代理，适合用在客服、教育等场景。

•Amazon Bedrock：作为AWS的服务之一，Amazon Bedrock提供了一整套AI开发工具，包括代理托管、训练、调优和API服务。开发者可以利用这个平台将AI模型从原型快速转换为可用的生产级服务。

3. 可观察性：实时监控和优化AI代理的表现

为了确保AI代理在实际应用中能够稳定和高效运行，开发者需要借助可观察性工具来监控代理的表现、收集数据并进行调优。

•LangSmith：LangSmith是一款用于记录和分析AI代理与用户互动数据的工具。它可以跟踪每次对话或任务执行的细节，帮助开发者找出可能存在的漏洞或性能瓶颈，进而进行优化。

•LangFuse：这是另一款监控工具，能够为AI代理提供“实时反馈”。它不仅可以记录用户和代理的交互，还能分析代理的反应和结果，以便开发者可以优化AI的表现。

•Arize：Arize提供端到端的AI监控服务，包括代理性能分析、错误报告和日志记录。它帮助开发者实时发现AI代理的任何异常情况，并提供数据驱动的解决方案。

•Weave：Weave是一款多功能的AI监控工具，主要用于分析代理执行任务时的成功率和准确性。它可以帮助开发者跟踪每个任务的完成情况，并为后续优化提供数据支持。

4. 代理框架：构建和管理AI代理的基础工具

代理框架是为开发者提供的开发工具，它们帮助开发者快速构建、定制和管理AI代理，降低开发门槛。

•Semantic Kernel：这是一个面向自然语言处理（NLP）的框架，它帮助AI理解和处理复杂的语义。开发者可以使用这个框架轻松创建一个能理解多层次含义的AI代理。

•AutoGen：AutoGen是一个AI代理生成工具，允许开发者通过简单的配置来自动化生成定制化的AI代理。它大大缩短了开发时间，让开发者能够快速实现智能助手的功能。

•LlamaIndex：这是一个强大的文档管理和检索工具，专注于帮助AI理解和处理大规模的文档数据。LlamaIndex能够根据用户输入的问题，从大量文档中检索相关信息，适用于知识库管理和信息查询场景。

5. 记忆模块：让AI代理记住你的信息

如果AI能记住你的需求和偏好，它将能提供更个性化的服务。这就是记忆模块（Memory）的作用。

•MemGPT：MemGPT将记忆功能集成到GPT（生成式预训练模型）中，让AI能够记住与用户的互动内容，并为未来的对话提供更加连贯和一致的体验。

•LangMem：这是一个让AI具备“记忆能力”的工具，能够存储和回顾历史对话信息。它的记忆功能使得AI能够在多次对话中跟踪和了解用户需求，从而提供更为个性化的服务。

•zep：zep是一个开放平台，允许开发者在AI代理中加入自定义的记忆模块。通过zep，开发者可以让AI记住重要的信息，比如用户的偏好、历史行为和常见任务。

•memo：memo提供了一种将记忆功能与AI对话系统结合的方式。它让AI可以保存用户提供的信息，以便后续的互动更加精准。

6. 工具库与沙盒：给AI代理扩展新技能

想要让AI代理更加强大，就需要为它配备更多的工具。工具库（Tool Libraries）和沙盒（Sandboxes）提供了灵活的扩展选项。

•Composio：这是一个模块化工具库，允许开发者给AI代理添加各种外部工具。无论是访问数据库、调用API，还是进行复杂的计算，Composio都能提供必要的支持。

•Browserbase：这是一个让AI可以访问和浏览互联网内容的工具。它使得AI能够在提供服务时，利用外部资源或即时信息，从而增强其应对未知问题的能力。

•E2B：E2B是一种沙盒技术，它为开发者提供一个安全的环境来测试AI代理的新功能。开发者可以在沙盒中进行调试，不会对实际应用造成影响。

•Modal：Modal为开发者提供了一个完整的沙盒环境，支持不同类型的AI任务实验。它帮助开发者在开发过程中有效避免潜在的风险，确保AI代理的功能完善。

7. 模型服务与存储：为AI提供强大的“后端支持”

AI的强大表现离不开高效的底层服务和存储技术。模型服务（Model Serving）和存储（Storage）是AI代理的“后台支撑”。

•OpenAI：OpenAI提供了一系列先进的生成式AI模型，如GPT系列，这些模型能赋予AI强大的自然语言理解和生成能力，支持各种智能任务。

•Anthropic：Anthropic开发的AI模型特别强调安全性和伦理性，旨在为企业提供更加可靠、可控的AI服务。它们可以应用于生成内容、分析数据等领域。

•Pinecone：Pinecone是一种向量数据库，用于存储AI在处理数据时生成的高维向量。它可以快速进行相似度检索，适用于搜索引擎、推荐系统等场景。

•Chroma：Chroma同样是一款向量数据库，专注于在大规模数据中快速进行向量搜索。它能够高效地处理来自多个来源的数据，为AI提供精准的检索能力。

AI Agents的生态系统由多个工具和技术组成，从垂直代理到底层存储，每一部分都在为提升AI智能助手的能力和用户体验发挥作用。无论你是开发者还是普通用户，都可以从中找到适合自己需求的工具，让AI代理更聪明、更高效。

AI Agents，未来已来！

本文转载自微信公众号「云原生AI百宝箱」，可以通过以下二维码关注。转载本文请联系云原生AI百宝箱公众号。

本文转载自 ​​云原生AI百宝箱​​，作者： OpenAI