AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
mR^2AG：基于知识的多模态检索-反思增强生成方法浅尝
（a1）mR2AG带检索：这个过程包括：a）检索反思，用于确定是否需要检索；b）相关性反思，用于识别证据段落；c）对多个候选答案进行后处理。（a2）mR2AG不带检索：当不需要检索时的生成过程。（b）无反思的朴素mRAG：一种没有反思的基线方法。在基于知识的视觉问答（KnowledgebasedVQA）任务中，输入通常是一对图像和问题，并且依赖于可访问的知识库。文章提出的框架通过两个新颖的反思操作来解耦生成过程，从而提高答案的质量。...RAG多模态LLM对于行业术语出现幻觉怎么解？快来试试Golden Retriever 指代消歧
原创 精华今天来分享一篇深度好文：《GoldenRetriever:HighFidelityAgenticRetrievalAugmentedGenerationforIndustrialKnowledgeBase》，我们知道企业落地RAG系统有以下常见痛点：技术公司维护着大量的专有文档，如培训材料、设计文档和研究成果。工程师，尤其是新员工，需要快速查询这些文档或吸收其中的新知识。这些领域特定的文档通常包含许多技术社区特有的缩写和术语，使得导航变得复杂。而这篇文章提出了一个概念：GoldenRetriever...LLM对于Advanced RAG系统你不得不知道的三个阶段优化技巧
原创我阅读了一篇有关"AdvancedRAG"的论文，在阅读这篇论文后，我发现其中的一些概念和技术具有很高的实用价值。接下来，我将结合我在公司的实践经验，分享以下RAG系统的三个阶段的优化：预检索和数据索引技术检索技术检索后处理预检索和数据索引技术使⽤LLM增加信息密度如果来⾃异构数据源（例如PDF、抓取的⽹络数据、⾳频记录）的⾮结构化数据没有经过特定处理，信息密度比较低下，包含不相关的信息和或噪⾳，或者有很多信息重复...Advanced RAGRAG16帧1024×1024视频耗时仅16秒！64倍压缩助力高效视频生成：复旦&微软发布Reducio-DiT
文章链接：https:arxiv.orgpdf2411.13552项目链接：https:github.commicrosoftReducioVAE亮点直击将视频编码为极少量的运动隐变量和一个内容图像，其中设计的ReducioVAE可以将视频压缩到比常见的二维VAE小64倍的隐变量空间。基于ReducioVAE，通过结合额外的图像条件设计了一个名为ReducioDiT的扩散模型。实验表明，ReducioDiT可以显著加速生成过程，同时生成高质量的视频。总结速览解决的问题商用视频生成模型虽然能生成逼真的...视频生成AI成本降低1000倍！微软将开源超强RAG— LazyGraphRAG
今年7月，微软首次开源了超大知识索引GraphRAG，仅4个多月的时间在Github已超过19000颗星，成为目前最火的RAG框架之一。但GraphRAG在处理全局数据查询时成本非常高，尤其是应用在那些大参数的AI模型中格外明显，查询的过程中也存在延迟、不准确等问题。今天凌晨，微软研究院发布了GraphRAG迭代版本——LazyGraphRAG。这个RAG的最大亮点之一就是成本非常低，数据索引成本只有完整版GraphRAG的0.1%，同时采用了全新混合数据搜索方...微软开源AI时代必备技能！AI大神吴恩达教你如何写出完美的prompt提示词
原创作为一名资深博主和GraphRAG的贡献者之一，我最近深入探索了GraphRAG的源代码并提交了一些pr。在这个过程中，我发现prompt在知识图谱的生成以及最终问答效果方面起着决定性的影响。因此，我决定专门花时间来整理关于prompt提示的内容。这篇文章的主要参考是AI大师吴恩达的prompt提示工程总结。我们将会讨论如何正确使用ChatGPT，它所具有的常规能力等内容。值得注意的是，虽然任何人都可以编写prompt，但要编写出高效的prompt，...AI提示词ChatGPT生成式AI人机协同有哪几种模式？
原创
社区头条当今科技的浪潮席卷而来，生成式人工智能（AI）正成为这场数字革命的中坚力量。在这个迅速演进的领域中，我们见证了一个接一个的创新和人机交互方式的变革。人机协同(humanmachinesynergy)就是将人和机器组成一个团队，集成人类智能和人工智能，促进人机自主交互，协作共赢。人工智能研究的主要驱动力一直是机器与人类认知的协作与竞争，如机器在国际象棋中击败人类或者通过图灵测试，从而证明要么是机器比人类更好，要么是人类...生成式AI一文彻底搞懂深度学习 - 正则化（Regularization）
原创在深度学习中，正则化通过约束模型的复杂度来防止过拟合，提高模型的泛化能力、鲁棒性和解释性。在深度学习的实践中，可以根据具体问题和数据集的特点选择合适的正则化技术和参数设置。常用的正则化方法，包括L1正则化（LassoRegularization）、L2正则化（RidgeRegularization）和Dropout等。其中，L1正则化实现特征选择和模型稀疏化，L2正则化使权重值尽可能小，而Dropout则通过随机丢弃神经元来减少神经元之间的共适应性。R...深度学习正则化对抗生成网络GAN
原创 精华前言在前一阶段课程中，我们学习了图像分割中的语义分割、实例分割、旋转目标检测等。这些图像分割算法都是有监督学习，而GAN（生成对抗网络）是一种特别的学习策略，其核心思想非常值得借鉴，所以本章将以GAN网络的代码为切入口，了解掌握其核心思想。学习策略人工智能方面的学习策略有两种：有监督学习和无监督学习。有监督学习定义：有监督学习是使用带标签的数据集进行训练。每个输入数据都有对应的输出标签，模型通过学习...生成对抗网络GAN基于Agent的金融问答系统：RAG的检索增强之上下文重排和压缩
原创前言在上一章【项目实战】基于Agent的金融问答系统：RAG的检索增强之ElasticSearch中，我们在已经构建的Agent框架上，通过集成检索器将ES检索器和多路召回检索器集成进来，提升了检索的召回率。本章，我们将基于项目问题，进一步优化Agent的检索能力。问题随着该项目检索能力的增强，我们计划对天池大赛提供的1000个问题进行执行，依次评估我们的系统能力如何。在这个测试过程中，我们发现了多个待优化的问题，其中有2...AgentRAG基于Agent的金融问答系统：RAG的检索增强之ElasticSearch
原创前言本章内容，我们将在已经构建的agent框架基础上，优化检索器，为检索器搭建ElasticSearch服务，实现问答系统的检索增强。检索问题通过测试天池大赛数据集的前100个问题，我们发现有很多问题RAG检索不到，例如：•{"id":34,"question":"根据武汉兴图新科电子股份有限公司招股意向书，电子信息行业的上游涉及哪些企业？"}通过查看日志，检索器没有检索到相关信息：优化方案分析上述case原因，检索器太过简单所致。classSimpleR...AgentRAG如何在组织中启用机器学习
原创 社区头条构建机器学习产品需要不同类型的技能和流程，而这些技能和流程需要逐步被吸纳并融入组织的日常运作中。计划在组织内部引入人工智能机器学习的产品经理通常会提出这样一个问题：“我从哪里开始着手？”对于缺乏该领域经验的组织来说，深入研究人工智能机器学习可能会让人感到不知所措。构建机器学习产品需要不同类型的技能和流程，而这些技能和流程需要逐步被吸纳并融入组织的日常运作中。事实表明，成功的关键在于从小处着手，...机器学习人工智能大型语言模型DeepSeek首发国产类o1模型！人人可以免费使用！
社区头条20日晚8点，DeepSeek在自己官方公众号上放出了一个大杀器：全新自研的DeepSeekR1Lite预览版正式上线。据介绍，DeepSeekR1系列模型使用强化学习训练，推理过程包含大量反思和验证，思维链长度可达数万字。该系列模型在数学、代码以及各种复杂逻辑推理任务上，取得了媲美o1preview的推理效果，并为用户展现了o1没有公开的完整思考过程。图片等不及看下文的朋友，大家可以自行登录DeepSeek官网（chat.deepseek.com），前往体验与国...DeepSeeko1模型Suno AI v4：音乐创作人的饭碗正逐渐被提示词所取代
社区头条近日，AI音乐生成平台Suno正式发布了其第四代模型——Sunov4。本次升级在音质、歌词精准度和歌曲结构等方面都有显著提升，标志着AI音乐创作迈入了一个新的篇章。Sunov4利用深度学习技术，基于大量音乐数据进行训练，生成更加自然、丰富的音乐作品。与之前的版本相比，v4提供了更清晰的音频、更锐利的歌词以及更具动感的作品。此外，新模型能够生成多种风格的音乐，满足不同听众的需求，提供丰富多样的曲风。相比之下，Sunov3虽...AI提示词SunoGPT-4和GPT-4V能否像人类一样进行抽象推理
有关类似GPT4这样的大型语言模型（LLM）是否真正模拟人类逻辑和推理的辩论正在进行中。一些研究人员认为，随着规模的扩大，LLM可能会发展出对抽象推理、模式识别和类比制作的新能力。另一方面，一些人认为促使这些能力的内部机制尚未被解释清楚。一些实验证明，这些模型在其训练数据范围之外难以推广。"在创建和推理抽象表示方面的能力对于强大的泛化至关重要，因此有必要了解LLM在这方面已经取得了多大的能力，"圣塔菲研究所的...GPT-4GPT-4V性能微软发布Mora视频模型，吊打Sora？
微软与理海大学合作开发的多智能体视频生成框架Mora，近日正式亮相，标志着人工智能在视频创造领域的一次重大突破。Mora的问世不仅是对闭源的Sora模型的成功复现和扩展，更是向我们展示了AI技术向“去中心化”发展的可能性，为未来的AI系统架构、管理和伦理问题的讨论打开了新的篇章。体验网址：https:github.comlichaosunMoraMora框架的核心是整合了多个先进视觉AI智能体，模拟了Sora展现的通用视频生成能力，包括文本到视频生...微软Mora视频AI 赋能量子计算突破
一、量子计算薛定谔的爱情与狄拉克的996一文中笔者带大家领略了量子力学的魅力，并简单探讨了量子计算（QC:QuantumComputing）。QC处于技术创新的最前沿，业界期待其解决传统计算平台无法有效解决的复杂问题，特别是突破当下AI大模型遇到的算力瓶颈。另一方面，新的大模型机理具备更高维度的新颖性，可以通过揭示隐藏的联系建立更广泛有用的创新框架，成为科学和哲学探索的有力工具，包括QC。二、AI赋能QC牛津大学、NVIDIA、...AIQC驱动如何进行高效的LLM分布式推理
社区头条1.背景这次指的大型语言模型（LLMs）主要说的是采用Transformers架构的模型，该架构在训练阶段具有高度的并行性。然而，在实际应用中，高效地部署这些模型面临一些挑战。这是因为生成推理是逐个token进行的，而每个token的计算都依赖于先前生成的标记。因此，支持大规模训练的模型需要仔细考虑并行布局和内存优化，以实现所需的可扩展性和高效的低延迟推理。从而更好地支持大规模训练的模型在实际应用中实现高效的低延迟推理，...LLM分布式MQA关于自适应模态分解方法
依据基本原理、分解过程和分解特性，可以将自适应模式分解方法分为三类，分别是基于时域局部特征、基于频谱分割和基于时变滤波的信号分解方法。基于时域局部特征的多分量信号分解方法基于时域局部特征的多分量信号分解方法，依据信号特征自适应地将多分量信号分解为一组分量，为多分量信号的进一步分析提供了便利。对于分解到的分量，一方面可以运用：Hilbert变换、能量算子、归一化Hilbert变换、经验调幅调频分析、广义过零点...自适应模态Hilbert变换一夜小模型王座易主！英伟达发布超强小模型，性能、速率、缓存全面超越Llama3.2！
原创 社区头条编辑｜言征小模型王座一夜易主了！冷不防，英伟达就丢出了一个新混合架构，以后不再只是Transformer的天下了。日前，NVIDIA刚刚发布了Hymba1.5BBase，这是一个将Transformer注意力机制与状态空间模型（SSM）集成的小型语言模型。这种全新的混合架构只使用1.5T的Tokens进行训练，性能、速度却全面超越了市面上主流的所有小模型！英伟达的科学家兼研究经理PavloMolchanov在X上宣布了这一最新发展。图片HuggingFace的技术负责人及...Llama3.2！人工智能模型
