AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
在离散域上求解抛物线偏微分方程的框架
最优传输距离数值求解拉格朗日成本下的神经最优传输一文中，笔者整理了三个要点：1.最优传输距离（也称推土距离）将统一深度学习概率分布距离计算2.大模型Transformer等价的重整化群流都将会沿着最优传输的方向进行3.拉格朗日成本处理神经网络最优传输能更有效地建模复杂的系统动力学文章提到最优传输距离目前受到数值计算效率的制约，影响了其广泛应用。这也是笔者一直关注的方向之一。文中介绍的纽约大学和Meta的AI学者创新的...框架抛物线偏微分方程大规模相似性搜索：原理、技术与 Faiss 实践
相似性搜索为何重要？人工智能和机器学习的兴起，催生了大量高维数据表示形式，即嵌入（embeddings），它们捕捉数据点之间的复杂关系，助力强大的分析与理解。然而，在大型数据集中查找相似嵌入是一项计算密集型任务。相似性搜索在检索增强生成（RetrievalAugmentedGeneration，RAG）领域引发了变革。RAG将传统信息检索与语言模型相结合，通过利用相似性搜索查找相关文档，使模型能访问更广泛的知识库，生成更具信息量和上下文...技术FaissIVFPQ微软开源小模型Phi系列：技术演进、能力突破与未来展望
社区头条1.引言近年来，大型语言模型（LargeLanguageModels,LLMs）的参数规模呈现指数级增长趋势，展现出强大的通用智能，在众多自然语言处理任务上取得了突破性进展。然而，这些庞大的模型也伴随着高昂的训练成本、巨大的计算资源需求以及难以部署等问题，极大地限制了其广泛应用。为了解决这些问题，业界开始探索更加高效、轻量化的模型架构和训练方法。在这样的背景下，微软研究院机器学习基础团队另辟蹊径，推出了一系列名为“Phi”...微软开源小模型Langbase：关于AI Agents的研究报告
2024年，AIAgents成为热门概念，2025年则有望成为其爆发元年。AIAgents在企业场景中的应用日益广泛，但在落地过程中也面临着诸多挑战。本文将基于Langbase的研究报告，探讨AIAgents的发展现状，包括LLM提供商的选择、应用场景、落地制约因素以及所需的配套基建等方面。1.研究背景与参与者Langbase对来自100多个国家的3400多位专业人士进行了调查，涵盖C级高管（46%）、工程师（26%）、客户支持（17%）、市场营销（8%）、IT（3%...LangbaseAILLM医学领域大模型与多模态大模型的综合调查
社区头条摘要自ChatGPT和GPT4发布以来，大型语言模型（LLMs）和多模态大型语言模型（MLLMs）因其在理解、推理和生成方面的卓越能力而受到广泛关注，为将人工智能整合到医学中引入了变革性范式。本调查全面概述了LLMs和MLLMs在医学中的发展、原理、应用场景、挑战和未来方向。具体而言，它首先考察了范式转变，追溯了从传统模型到LLMs和MLLMs的转变，并强调了这些LLMs和MLLMs在医学应用中的独特优势。接下来，调查回顾了现有的医学LLMs和...大模型多模态医学领域2025 年 AI 与数据工程领域十大趋势前瞻
原创 社区头条编者按：在这篇文章中，作者从行业趋势剖析的视角指出：当前AI领域正处于一个转折点，其发展虽然不如预期迅猛，但正在朝着更加务实和可持续的方向演进。文章深入探讨了AI和数据工程领域的十大关键趋势：从AI推理能力的局限性，到流程重于工具的重要性；从AI投资回报率的现状，到AI普及速度低于预期但领导者在静待时机；从小模型和专有模型之争，到分析师和工程师角色的融合；从合成数据的机遇与挑战，到非结构化数据技术栈的崛...AILLMs贾佳亚团队新作MagicMirror：生成身份一致且高质量个性化视频，效果惊艳！
社区头条文章链接：https:arxiv.orgpdf2501.03931项目链接：https:julianjuaner.github.ioprojectsMagicMirror亮点直击提出了MagicMirror，这是一种无需微调的新型框架，用于生成身份一致性的视频；设计了一种轻量级适配器，结合条件自适应归一化，实现面部嵌入在全注意力扩散Transformer架构中的有效融合；开发了一种数据集构建方法，通过合成数据生成和渐进式训练策略相结合，解决个性化视频生成中的数据稀缺问题。效果速览总结速览解...视频生成AI架构如何使用基于AI的 Suno创作自己的音乐？
原创 社区头条Suno将使用其AI技能根据你对音乐的特定流派和主题的描述来创作歌曲。你可能已经使用生成式AI来创建文本、图像甚至视频，但有没有用它来创作自己的音乐呢？几种不同的文本转音乐工具可以充当虚拟作曲家，不过值得一试的此类工具是Suno。通过专门的iPhone和安卓应用程序以及微软Copilot插件，Suno可以在网上使用，根据你的输入来创作和播放音乐。你可以描述想要的音乐的主题和风格，选择添加歌词和人声，把你的歌曲作为纯音乐或器...Suno生成式AIAI模型LLaVA系列算法架构演进：LLaVA（1.0->1.5->Next(1.6)->NeXT(Video)）
原创 社区头条LLaVA模型架构目标是结合预训练LLM和视觉模型的能力，llava使用Vicuna作为的LLM（语言解码器），CLIP作为视觉编码器。视觉编码器：使用预训练的CLIP视觉编码器ViTL14来提取图像特征。该编码器提供视觉特征。线性层：使用一个简单的线性层将图像特征转换为语言嵌入空间。应用一个可训练的投影矩阵W将Zv转换为语言嵌入标记Hv，其维度与语言模型中的词嵌入空间相同：序列生成：通过这种方式，得到了一个视觉标记序列Hv。该投影方案...LLaVA多模态大模型大模型神经网络之注意力机制——attention
原创“注意力机制是Transformer的核心，而注意力的目的却是特征提取”Transformer架构对从事大模型领域的人来说应该不是一个陌生的词汇，而且大家应该都知道Transformer架构的核心点就在于其selfattention自注意力机制；虽然说Transofrmer架构的自注意力机制大名鼎鼎，但真正了解注意力机制的人好像并不是很多，所以今天我们就来简单了解一下注意力机制。注意这里说的是注意力机制，不是自注意力机制。注意力机制先来思考一个问题，...大模型神经网络有把握收入从1亿做到数亿！李开复最新回应25年调整：大厂才烧得起超大模型；第一年的打法已不再适用
原创 社区头条编辑伊风出品51CTO技术栈（微信号：blog51cto）在零一万物深陷“收购风波”时，李开复第一时间在朋友圈进行了澄清。与此同时，他一口气接受了多个采访，通过披露更多信息来攻破谣言。图片关于零一万物预训练团队和Infra团队的去向已经明晰：愿意继续训练超大参数模型的成员，可以加入零一和阿里云合作成立的“产业大模型联合实验室”。这也意味着——李开复放弃了超大模型。这与他刚创办零一万物时的想法有很大不同，他最初的目...李开复AI应用模型智能体商用元年开启，2025年AI Agent行业发展十三大趋势
精华自2023年AutoGPT开启智能体序幕以来，AIAgent作为新一代智能交互范式，展现出前所未有的发展活力。2024年，这一领域的发展更是呈现出爆发式增长态势，从个人助手到企业级解决方案，从通用型Agent到垂直领域专家，AIAgent正在重塑数字世界的运作方式。这种增长不仅体现在技术突破上，更反映在实际应用场景的深度和广度方面。智能客服、金融交易、医疗诊断及市场营销、人力资源等领域对于智能体的尝试以及所取得的成果，彰显了AIA...智能体AIAgent基于多模态深度强化学习的投资组合优化
社区头条简介本文开发强化学习代理以支持投资组合管理和优化，结合股票定价数据和替代数据（如SEC文件和新闻头条）。强化学习适合在线环境，能够实时反馈和响应，提升决策效果。替代数据编码进状态矩阵，帮助代理更好地调整投资组合权重。强化学习模型基于马尔可夫决策过程，能够灵活定义不同的奖励函数以满足投资者偏好。主要算法为深度强化学习，利用深度神经网络学习最优策略，目标是最大化未来预期奖励。强调在状态空间、奖励函数...多模态深度强化组合优化传统的SaaS将在2025 Agent时代走向终结
社区头条随着AI，尤其是LLM的迅猛发展，AIAgent正成为变革性工具，重新定义SaaS（SoftwareasaService，软件即服务）平台的运营模式、价值交付以及用户交互方式。到2025年，AIAgent不仅会增强现有系统，还将推动全新商业模式的诞生。垂直AIAgent：超越传统SaaS的新范式近年来，垂直AIAgent（VerticalAIAgents）的概念备受关注。这些专为特定行业和场景设计的Agent，可能引发比传统SaaS更深远的转变。据YC的Lightcone播客指出，这一领域将...SaaSAgentAgentWord2vec算法原理详解
今天我们要讲解的算法是Word2vec。Word2vec（wordtovector）顾名思义，这是一个将单词转换成向量形式的工具。通过转换，可以把对文本内容的处理简化为向量空间中的向量运算，计算出向量空间上的相似度，来表示文本语义上的相似度。Word2vec主要分为CBOW（ContinuousBagofWords）又叫连续词袋和SkipGram两种模式，今天我们主要讲解的就是CBOW，接下来我们将从头到尾的详细讲解Word2vec算法流程。先来讲解一个背景知识：onehot向...Word2vec算法神经网络一篇综述：RAG复杂Query的4种优化方案
原创 社区头条QueryOptmization查询优化(QueryOptmization)旨在提高LLMs理解和回答查询的效率和质量，尤其是在涉及复杂查询的检索增强生成（RetrievalAugmentedGeneration,RAG）场景中。RAG通过动态检索和利用最新相关信息来弥补LLMs的局限性，从而提供一种成本效益高的解决方案，以应对LLMs可能产生看似合理但不准确回答的挑战。四种主要的查询优化方法介绍扩展（Expansion）通过内部扩展和外部扩展两种方式，增加查询的覆盖范围和上下文信...RAGQuery检索微软亚洲研究院2025六大预测：AI Agents 将颠覆传统工作模式
2025年伊始，AI驱动的代理（agent）将拥有更高的自主性来执行更多任务，从而提升人们的生活质量。AI在记忆与推理能力上的创新，也将助力人类社会寻找应对气候变化、医疗健康等重大挑战的新方法。在过去的2024年，各界商业领袖和AI决策者对GenAI的使用率就从55%激增至75%。新的AI工具预示着巨大的潜力。那么2025年及其后三年还将发生什么？值得商酌。以下是2025年值得我们关注的六大AI趋势，以及微软将在每个趋势上进行的创新方...微软亚洲研究院AI2024驾驭人工智能前沿：AI智能体的演进和影响白皮书
《2024驾驭人工智能前沿：AI智能体的演进和影响白皮书》由世界经济论坛和凯捷联合发布。报告聚焦于人工智能智能体，在大型语言和多模态模型快速发展的背景下，阐述其定义为能感知环境并自主行动实现目标的系统。梳理了其从简单规则系统到复杂模型的演进过程，包括关键技术趋势、多种类型及未来的多智能体系统发展方向。还分析了应用带来的生产力提升等好处，以及故障、恶意使用等风险，并针对风险从技术、社会经济和伦理等方面...AI智能体人工智能新来的妹子不懂大模型中的token！已劝退...
相信你只要了解过大模型，就听过token这个词儿，大家在用ChatGPT的API时，是按token计费的。例如，你提问消耗了100token，ChatGPT根据你的输入，回答了200token，那么一共消费的token数就是300。有时候看一些偏技术的文章，一些模型后面带着8k、32k，甚至100k，这也是指模型能处理的最大token长度。既然token在大模型领域这么高频出现，我们不禁要问：什么是token？它是怎么计算的？一个token是指一个字吗？中文和英文的token...ChatGPTtoken字符清华团队靠强化学习让 7B 模型打败 GPT-4o 数学推理
OpenAIo1和o3模型的发布证明了强化学习能够让大模型拥有像人一样的快速迭代试错、深度思考的高阶推理能力，在基于模仿学习的ScalingLaw逐渐受到质疑的今天，基于探索的强化学习有望带来新的ScalingLaw。近日，清华大学NLP实验室联合上海AILab，清华大学电子系及OpenBMB社区提出一种新的结合过程奖励的强化学习方法——PRIME（ProcessReinforcementthroughIMplicitREwards），采用PRIME方法，研究人员不依赖任何蒸馏数据和模仿学...AI智能体模型
