AI.x社区

2025年将成为AI智能体之年。在本文的场景中，AI智能体是一套能够利用AI通过一系列步骤实现目标的系统，且具备就结果进行推理及更正的能力。在实践中，智能体遵循的步骤可总结成图表形式。我们将构建一款响应式应用（对来自用户的输入做出响应），帮助人们规划自己的完美假期。此智能体将根据用户指定的餐食、海滨和活动需求，在指定的国家地区内推荐最佳城市。智能体基本架构如下：在第一阶段，智能体将并行收集信息，根据单一...

本文将介绍提升扩散模型质量的六种方法，从而帮助终端用户达到画家级的精准作图水平。简介StableDiffusion模型1.52.02.1XL1.0版本、DALLE模型、Imagen模型……在过去几年中，扩散模型在图像生成方面展现出了惊人的质量。然而，虽然这些模型在通用概念上产生了高质量的图像，但它们却难以为更专业的查询生成高质量的图像，例如生成训练数据集中不常见的特定风格的图像。我们可以在大量图像上重新训练整个模型，从头开始解释解决...

本文聊聊事件驱动型设计如何协调多个AI智能体，进而建立起高效、可扩展的推理系统。大语言模型的能力上限止步于聊天机器人、问答系统、翻译等特定语言，要想进一步展现潜力、解决更广泛的问题，就必须想办法让它根据洞察力采取行动。换言之，只有掌握了推理的武器，大语言模型才算真正的完全体。这种推理智能体在AI研究领域有着悠久历史，他们能够对以往接触过的情况进行概括，再据此处理从未见过的情况。在此基础之上，只要能...

OpenAI公司推出o3mini推理模型，展示了更详细的思维链轨迹，并希望以更透明的方式弥合与显示其全部思维链的DeepSeekR1的竞争差距。生成式人工智能开发商OpenAI公司首席执行官SamAltman最近在​RedditAMA​​问答活动中承认，该公司在开源软件研究方面站在了“历史错误的一边”。尽管OpenAI公司尚未发布其开源模型，但已经迈出了提高透明度的第一步。正如该公司在其​X帐号​​上所宣布的那样，其最新的推理模型o3mini现在展示了...

大模型应用程序中的提示词重复率高达70%。前缀缓存机制能够将推理成本降低达90%，显著优化性能并节约资金。是不是总感觉ChatGPT响应缓慢？大家可能没有留意，大模型应用程序的提示词重复率高达70%，问天气、问翻译和问节日安排的内容大量出现，且每次都要消耗算力进行处理。这样的情况在分布式集群的各节点上被无数次放大，白白烧掉宝贵的能源和金钱。为此，Anthropic日前详细介绍了如何利用提示词缓存技术将推理成本降低90%。...

本文介绍了多代理微调的基本概念，框架组成，以及在实际应用中的优势。最近，麻省理工学院、哈佛大学、斯坦福大学以及DeepMind的研究人员联合提出了一种新技术，它使用​多个代理​​（MultipleAgents）来解决大语言模型（LLM）最紧迫的问题之一：缺乏高质量的训练数据。毕竟顶尖模型已经消耗了互联网上的大部分可用的内容，并让AI实验室已经用完了适合训练LLM的数据。解决这一瓶颈问题的一种方案是通过创建合成数据（Synthetic...

OpenAI发布全新AI智能体Operator，本文带你一探如何用它简化软件测试、减少工作量并提高准确性。测试是项既关键、又相当繁杂的过程。保障每项功能、每个流程和每种极端情况都能按预期运作往往要占用大量时间和人力。而手动测试虽然更全面，但却极易出现人为错误并影响效率。OpenAI最近发布一款先进AI智能体，有望为传统软件测试方法带来新的可能性。Operator是什么？Openrator是一款由AI驱动的智能体，旨在以拟人方式与数字系统...

生成式人工智能的应用需要构建坚实的数据基础。而构建健壮的数据基础、选择最佳模型、优化训练技术、部署策略及解决监控问题，是应用成功的关键。生成式人工智能（GenAI）正通过重塑创造力、内容及数据的管理方式，对商业世界产生深远影响。对于组织来说，为了有效地利用这项技术，他们必须构建坚实的数据基础，尤其是要确保数据的高质量。数据质量不佳可能导致偏见或产生误导性的结果，因此实现数据清洗和预处理措施（例如消除...

记忆感知训练（MAT）这种训练范式通过修改模型逻辑以防止机器学习模型学习虚假相关性，提高了泛化能力，缩小了平均准确率（AVG）和最差群组准确率（WGA）之间的差距。机器学习领域长期存在的问题之一是错误相关性的记忆。例如：假设开发人员正在开发一个深度神经网络对陆地鸟类和海洋鸟类的图像进行分类。他们使用数千张标记过的图像训练模型，这个模型在训练集和测试集上的表现都非常出色。然而，当向模型展示一张在兽医那里接...

本指南展示了如何使用HuggingFace的Transformer模型构建语义搜索引擎，以提供更精确、更贴合场景的搜索结果。你也许会好奇，像谷歌这样的搜索引擎是如何将“预算友好的度假胜地”（budgetfriendlyvacationspot）和“廉价的旅游地点”（cheapplacestotravel）等短语解释为基本相同的查询？这正是语义搜索的强大之处。传统搜索引擎严重依赖于精确的关键字匹配，它们只查找包含查询中输入的确切单词的文档或结果。例如，你如果搜索...

在本文中，我们将共同了解如何使用DeepSeekR1大模型构建智能简历分析应用，节约运营成本。DeepSeek开源大模型的发布已经在技术社区引发巨大轰动。如今，开发者们无需接入Claude、ChatGPT等在线AI模型，即可轻松实现本地应用程序构建。换言之，开源大模型准入门槛的持续降低，为企业应用程序与生成式AI的集成打通了机会之桥。在本文中，我们将学习如何在个人设备上本地运行开源模型，进而构建一款由React和NodeJS驱动的全栈应用...

在2025年当下，大语言模型（LLM）依旧无法获取用户的私有数据。当用户向其询问某些与个人相关的问题时，大语言模型要么凭借推测进行回应，要么给出错误的解答。这体现了大语言模型存在的固有局限性——它们仅基于公开信息进行训练，无法获取用户的私有上下文信息。内存代理（MemoryAgent）则通过实时且安全地将用户的私有数据与任意大语言模型进行链接，有效解决了上述问题。在本教程中，笔者将详细指导你如何借助Langbase（一...

本文中，我们将介绍如何使用开源的AI多代理框架AG2和开源的向量数据库ChromaDB构建一个多代理RAG系统。引言近年来，检索增强生成（RAG）系统得到了迅速改进。理想情况下，我们可以将其演变划分为三个阶段。第一阶段，即在LLM出现之前，信息检索系统主要依赖于传统的搜索算法和索引技术。这些系统在理解上下文和生成类似人类的响应方面的能力是非常有限的。第二阶段，出现了LLM（大型语言模型）阶段，导致了剧烈的范式转变。现在...

前言GPT4、PHI2、BERT和T5等大语言模型（LLM）的出现已彻底改变了自然语言处理，这些模型支持高端应用程序，包括聊天机器人、推荐系统和分析。然而，LLM中工作负载的规模和复杂性使得保证性能和可靠性成了一大挑战。在这种情况下，在使用Ray等框架部署工作负载的同时进行监控和观测显得非常必要。Ray是一种分布式计算框架，提供了一个强大的平台，可以跨集群有效地扩展LLM工作负载。因此，它成了托管、管理和观测LLM的一种出色...

如今，内容审核已经成为各类数字平台的重要组成部分，堪称用户信任与安全保障的前提。尽管人工审核能够处理部分任务，但随着平台规模的扩展，AI驱动的实时审核变得愈发重要。机器学习（ML）驱动的系统能够成规模且高效开展内容审核，同时将再训练与运营成本降低至最低。本份指南将为你概述部署AI驱动型实时审核系统的方法。实时审核系统的核心属性实时内容审核系统负责评估用户提交的内容（文本、图像、视频或其他格式的数据）...

本文旨在探讨基于Gemini2.0和LangGraph构建一个自主型多工具AI代理的关键过程，并提供示例程序的完整代码。简介当今，LLM应用非常出色——它们可以记住大量信息、回答一般知识问题、编写代码、生成故事，甚至还可以纠正语法错误，等等。然而，它们并非没有局限性。它们会产生幻觉，知识断点可能从几个月到几年不等，并且仅限于生成文本，无法与现实世界互动。显然，这限制了它们在需要实时数据、来源引用或文本生成以外功能的任...

现有的大模型无法解决我的问题，于是我自己构建了一个开源工具，用于高效地自动生成提案。最近，我没有像以前那样频繁地更新开源文章，倒不是由于我停止写文章，而是由于开源商业化方面的进展很大，没完没了地起草提案这项任务消耗了我的太多时间。作为一家本土的开源商业公司，WhaleOps雇佣的大多是工程师。要求这些开源贡献者编写提案浪费了他们的开发时间，他们的提案并不总是符合质量标准。与大公司的管理不同，身为初创公...

Meta发布的BLT架构为大模型扩展找到又一条出路，也开启了用patch方法取代token的全新可能性。开篇先提问：我们为什么非得把文本拆分成token？直接用原始字节怎么就不行？要回答这个问题，我们得先从大语言模型的文本处理方式入手。它们需要用关于常用词块的规则将文本拆分成一个个token，而这个标记化过程也一直面临质疑。无论模型的其余部分在训练期间如何学习和适应，标记化阶段的初始规则都始终保持不变。因此一旦相关语言的...

本文将和你探讨量子扩展的基本概念，它在机器学习中的优势，以及我们将如何从中获益。现如今，机器学习的速度比以往任何时候都快得多，也能够解决那些曾被认为完全无法解决的问题。将来，在量子计算潜力的驱动下，人工智能（AI）模型会越来越大、越来越强，甚至会超越我们对其训练的工具。说到模型训练，其计算和能源的消耗成本日趋高启。GPT4及其继任者的大规模训练所消耗的电力已与一个城市相当。此外，据报道，OpenAI的GPT3...

本文首先探索当前热门的大语言模型推理框架llama.cpp的内部架构，然后使用此框架实现了一个基本形式的聊天程序。简介当前，llama.cpp框架以其简单性被业界广泛采用，彻底改变了LLM推理领域。它支持企业和个人开发人员能够在从SBC到多GPU集群的各类型设备上部署机器学习大型语言模型。尽管llama.cpp的语言绑定方式使其使用方式变得容易，但是对于性能敏感或资源受限的情况，使用CC++编程方案可能是一个更为可行的选择。本文旨在...