AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
KAG开源了，知识增强掀翻RAG，性能翻倍
KAG（KnowledgeAugmentedGeneration）框架早在9月份就已经发布，近期终于开源了，它的核心在于提出了：一种LLM友好的知识表示方法知识图谱与原始文本块之间的相互索引逻辑形式引导的混合推理引擎以及基于语义推理的知识对齐归功于在构建更有效的索引、知识对齐和混合解决库方面的创新，KAG框架在多跳问答任务中相比于现有的RAG方法有显著的性能提升，2wiki、MuSiQue数据集上的EM指标直接翻倍。此外，KAG框架在蚂蚁集团的电子政...KAG开源RAG图像编辑多任务一网打尽！PromptFix，新型扩散模型&大规模视觉指令数据集（罗切斯特大学&微软）
文章链接：https:arxiv.orgpdf2405.16785项目链接：https:www.yongshengyu.comPromptFixPage亮点直击提出了一个为七个图像处理任务量身定制的综合数据集。该数据集包含约101万对多样化的输入输出图像及其相应的图像编辑指令。提出了一种全新的指令引导扩散模型——PromptFix，用于低级图像处理任务。大量实验结果表明，PromptFix在各种图像处理任务中表现优于现有方法，并在零样本盲修复和组合任务中展现出更强的能力。为扩散模...AI图像生成谷歌与学术界联手，研究突破多智能体合作瓶颈的新算法
在人类的合作中，我们可能会遇到囚徒困境（SocialDilemmas）、悲剧的共有（TragedyoftheCommons）、公平分配问题（PublicGoodsGame）、猎人与收集者困境（StagHuntGame）、和合作网络（NetworkedCooperation）等诸多社会性合作困境，比如两个人必须决定是否与对方合作（相互协力）或是背叛（选择个人利益）。合作可以带来最大的集体收益，但个体背叛可能会导致更高的个人收益。这种情况下，我们需要在短期的个人利益和长期的集...谷歌学术界多智能灵活精确可控编辑！Dice:首个离散扩散模型精确反演方法！
文章链接：https:arxiv.orgpdf2410.08207项目链接：https:hexiaoxiaocs.github.ioDICE亮点直击引入了DICE，一种用于离散扩散模型（包括多项扩散和mask生成模型）的反演算法。通过记录并注入噪声序列或mask模式，DICE能够在无需预定义mask或注意力操作的情况下，实现对离散数据的精确重构和可控编辑。通过在图像和文本两种模态上的全面实验验证了DICE的有效性，展示了其在不同类型的离散生成模型中的通用性。证明了该方法可以将...模型算法昨天，国产大模型接管了人类的手机、电脑！
原创整理｜言征国产多模态、智能体版本的GPT4o终于来了！10月25日，国内大模型独角兽智谱连发两个大招，小编当时差点愣住，不愧国产大模型之光！废话不多说，直接上干货。这次智谱推出了一个模型GLM4Voice，一款应用AutoGLM。图片开源地址：https:github.comTHUDMGLM4VoiceGLM4Voice是智谱AI推出的端到端语音模型。GLM4Voice能够直接理解和生成中英文语音，进行实时语音对话，并且能够遵循用户的指令要求改变语音的情感、语调、语速...国产大模型手机黄仁勋和印度首富安巴尼对话：CPU摩尔定律已停滞，发现第二个缩放定律，不外包数据做AI
原创10月24号，英伟达创始人兼CEO黄仁勋现身印度孟买。在印度举办的NVidiaAISummit2024峰会上，黄教主一如既往的小跑登台，开场就是一声中气十足“hello，孟买”，不过很快他就发现自己高兴地甚至忘记了拿遥控笔，并解释道：这是我第一次遇到这种状况，不过小编看来，有可能是黄仁勋当天仅仅休息了3个半小时的原因。当然这些只是小插曲，因为接下来老黄的演讲内容以及与印度首富信实工业集团董事长穆克什·安巴尼之间的对话，更加让...英伟达AI黄仁勋智胜模仿学习：SkillMimicGen引领机器人技能学习新潮流
原创机器人操作领域一直致力于让机器人学会执行复杂任务，从模仿学习人类示范中汲取经验是一个重要方法。但收集大量人类示范数据成本高昂且耗时，尤其对于长周期任务而言，这一问题更为突出。为解决这一困境，NVIDIA的研究团队提出了SkillMimicGen（SkillGen）系统。该系统能够从少量人类示范中生成大量高质量的演示数据集，为机器人学习提供充足的数据支持。今天我们就一起来学习一下这篇论文吧！1.任务分解与技能抽象SkillGen的核...机器人SkillMimicGenRD-Agent：助力研发流程自动化的AI创新工具
原创在现代数据驱动的行业中，研发（R&D）流程的自动化已成为企业追求效率与创新的必然趋势。近期，微软推出了一款革新性的工具——RDAgent，致力于简化R&D流程中的繁琐任务。这一开源工具通过减少重复的手动操作，使研究人员、数据科学家和工程师能够更专注于核心研究，极大地提升了创新质量和效率。01RDAgent的革新使命RDAgent的诞生源自一个简单的目标：通过消除冗余的手动任务，将研究人员从繁琐的基础工作中解放出来，专注于更...RD-AgentAgent2024年AI代理的突破：CoAgents如何引领人机协同新潮流？
原创01概述现代大型语言模型（LLMs）的规模和能力，让我们仅仅将它们用于文本摘要、文本补全、代码补全等普通任务，似乎有些局限。它们的真正潜力在于围绕这些模型构建系统，让它们能够：访问、检索和过滤相关来源的数据，分析和处理这些数据以做出实时决策等。RAG（RetrievalAugmentedGeneration）是构建此类复合AI系统的一个重要步骤：但RAG遵循程序化流程（作为程序员，您定义步骤、要搜索的数据库、要检索的上下文等），它并未...RAGCoAgentsLLMsMeta AI发布全新量化版本Llama 3.2（1B & 3B）：推理速度提升2-4倍，模型大小减少56%
原创01概述在人工智能的世界里，大型语言模型（LLMs）的飞速发展无疑为各行各业带来了翻天覆地的变化。然而，这些模型的庞大身躯和对计算资源的渴求也给实际应用带来了不小的挑战。高昂的能源成本、漫长的训练周期以及对昂贵硬件的需求，都成了阻碍许多组织和研究者利用AI能力的门槛。这些挑战不仅对环境造成了影响，也在科技巨头与小型实体之间划出了一道鸿沟。02MetaAI的量化Llama3.2模型（1B和3B）最近，MetaAI发布了量化版本的L...Meta AI大语言模型#AIGC创新先锋者征文大赛# 怎样在 10k 个 H100 GPU 上训练模型？
原创 精华【本文正在参与AI.x社区AIGC创新先锋者征文大赛】https:www.51cto.comaigc2223.html编者按：怎样在10,000个H100GPU上训练大模型？如何充分利用每一块GPU的算力？如何在这个复杂的GPU网络中高效传递数据？当不可避免的硬件故障发生时，又该如何快速恢复训练进度？我们今天为大家带来的文章中，作者为我们揭示了应对这些挑战的关键策略。作者SoumithChintala编译岳扬我的好友FrancoisFleuret提出了上述问题。我迅...LLMAI有了大模型的应用经验之后，再谈对大模型的理解
原创“大模型的本质就是一段有输入和输出，并能使用某种算法达到某种目的得计算机程序”在刚开始接触大模型时，根本不明白大模型是个什么玩意，看着别人给出的定义一脸懵逼。不论是业内还是网上的文章，对大模型的普遍定义都是拥有巨大参数量和复杂计算的机器学习模型深度学习模型。从定义中能够看出哪些东西？巨大参数量，复杂计算，机器深度学习模型。说句实话，对大部分人来说看了这玩意有什么用，有谁能用自己的话说明白什么...模型大模型能力使用TAG和RAG实现摘要和标签的自动化来简化客户反馈分析
原创使用TAG和RAG可以简化客户反馈分析，从大型数据集中高效地提取见解，以增强决策并提高客户参与度。在当今数据驱动的环境中，企业通过评论、调查和社交媒体互动获得了大量的客户反馈。虽然这些信息可以产生宝贵的见解，但也提出了一个重大挑战：如何从大量的信息中提取有意义的数据。先进的分析技术正在彻底改变人们理解客户情绪的方法。其中最具创新性的是表格增强生成（TAG）和检索增强生成（RAG），它们使企业能够同时使用自...TAGRAG自然语言处理关于调用第三方大模型服务商接口的感受
原创“软件开发的原则之一——每引入一个模块风险就增大两分”大家都知道作者现在做的是基于大模型的上层应用开发，之前主要做的工作流和自己部署大模型；虽然操作起来很复杂也很困难，但从功能开发的角度来说定制化比较强，开发也比较简单。之前在搞工作流的时候感觉好复杂，主要时间都花在了运维上面，真正的功能开发时间并不长。这次有个功能需要用到第三方接口，本来以为不需要自己维护大模型能够减轻很多压力，只需要关注于...大模型能力大模型产品《Transformer 关键要素：非所有注意力皆必要》论文解读
摘要：随着基于Transformer的大型语言模型（LLMs）在各种任务中展现出强大性能，其规模的扩大也带来了冗余结构的问题。本文通过基于相似性的度量方法，研究了Transformer中不同模块（包括块、多层感知机（MLP）和注意力（Attention）层）的冗余情况。发现大量注意力层存在过高的相似性，可在不降低性能的情况下进行修剪，从而降低内存和计算成本。还提出了一种联合丢弃注意力和MLP层的方法，提高了性能和丢弃比例。一、研究背景...大型语言模型【学习挑战赛】任务进阶，完成就有奖品拿
精华邀请关注大模型、AIGC的开发者朋友们在此集结，参与社群打卡、直播周、技术沙龙、征文等多个活动。设置任务进阶奖励，完成任务就有奖品拿。此外还可参加抽奖、红包领取等各类活动。活动时间10.1510.26活动介绍基础任务，参与即获奖在社区帖子（点击直达）下点赞并评论区回复任何内容，即可获得一份大厂大模型实践干货资料。一花任务，新手友好预约任意一场“AIGC充电学习直播周”直播（点击直达）并在直播间提...挑战赛AIGC大模型解读AI大模型，从了解token开始
什么是Transformer？Transformer是一种新颖的神经网络架构，它在2017年由Google的研究人员提出，用于解决机器翻译等自然语言处理的任务。Transformer的特点是，它完全摒弃了传统的循环神经网络（RNN）和卷积神经网络（CNN），而是采用了一种称为自注意力机制（SelfAttention）的方法，来捕捉文本中的长距离依赖关系，提高了模型的效率和准确性。今天本文将围绕自注意力机制，介绍Transformer的三个主要概念，位置编码、注意力机...GPTTransformer模型Qwen2.5：13个新模型来袭！开源通用、编码、数学模型全解读，72B超越Llama 405B - 本地安装测试
Qwen刚刚发布了13个新模型，这些新模型被称为Qwen2.5。这次发布有三种类型的模型：通用任务模型、编码模型和数学模型。通用任务模型有七种尺寸：0.5B模型、1.5B模型、3B模型、7B模型、14B模型、32B模型和72B模型。编码模型有1.5B和7B尺寸，未来还会推出32B版本，但目前尚未提供。与此同时，数学模型有1.5B、7B和72B尺寸。这些模型都是开源的，并根据Apache2.0许可发布，除了3B和72B版本。他们还发布了Qwen2.5Plus和Turbo版本，...Qwen2.5新模型编码从传统 RAG 到图 RAG，赋予大型语言模型更强大的知识力量
大型语言模型(LLMs)在固定数据集上进行训练，其知识在最后一次训练更新时就已固定。ChatGPT的常规用户可能已经注意到其众所周知的局限性：“训练数据截止到2021年9月”。这种局限性会导致模型产生不准确或过时的响应，因为它们会“幻觉”信息。在不重新训练或微调的情况下，用新信息更新模型或增强其上下文理解能力，在资源和人力方面都极具挑战。检索增强生成(RAG)检索增强生成(简称RAG)是一种通过整合来自外部可靠知识库的信...RAGRAG语言模型大模型数学能力翻车实锤！Apple新研究暴露真相!
这篇文章的结论是：LLM无法进行真正的推理。并做出了一系列的实验论证，大模型仅仅是记住了目标序列。10月份有很多文章在论证这个事情。比如之前写过一篇推文介绍大模型在规划的能力上表现仍然非常糟糕（现实再次给大模型带来沉重打击）。后来在《PROCBENCH:BENCHMARKFORMULTISTEPREASONINGANDFOLLOWINGPROCEDURE》中验证了一个结论：在没有相关领域经验或知识的情况下，LLMLRM似乎无法遵循基本指令，尤其是在指令长度增加时。...大模型数学Apple
