AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
MLKV：跨层 KV Cache 共享，降低内存占用
一、背景LLM中KVCache占据的显存越来越大，有很多方案开始尝试跨层共享K和V，比如我们之前介绍的YOCO、CLA以及LayerCondensedKVCache等，本文介绍的方案也极其类似。对应的论文为：[2406.09297]MLKV:MultiLayerKeyValueHeadsforMemoryEfficientTransformerDecoding对应的代码库为：https:github.comzaydzuhripythiamlkvPS：感觉本文创新度明显不足，相关实验也非常少，只在一个160M模型测试，甚至没有测试7B模型。二、...KV共享MLKVScaling Law触礁「数据墙」？Epoch AI发文预测LLM到2028年耗尽所有文本数据
数据和算力，是AI大模型最重要的两把「铲子」。算力方面，英伟达的不断创新和各家代工厂的产能提高，让世界各处的数据中心拔地而起，研究人员暂时不用担心计算资源。然而，近些年来，数据成为愈发严峻的问题。根据华尔街日报的报道，OpenAI在训练GPT5时已经遇到了文本数据不足的问题，正在考虑使用Youtube公开视频转录出的文本。关于「数据耗尽」这个问题，非营利研究机构EpochAI在6月4日发布了一篇最新论文。根据他们的预测，...数据AI陶哲轩最新采访：AI将颠覆数学界！用Lean规模化，成百上千条定理一次秒杀
数学历来是一门孤独的科学。1986年，安德鲁·怀尔斯（AndrewWiles）为了证明费马大定理，遁入书斋长达七年之久。数学家苦心孤诣得到的证明往往让同行难以理解，有些证明至今仍有争议。但近年来，越来越多的数学领域被严格分解成各个组成部分，我们称之为「形式化」（formalized），这就可以让计算机来检查和验证数学证明。菲尔兹奖得主、加州大学洛杉矶分校教授陶哲轩坚信，这些方法为数学领域的合作开辟了全新的可能性。如果再...数学AI英伟达开源3400亿巨兽，98%合成数据训出最强开源通用模型！性能对标GPT-4o
就在刚刚，英伟达再一次证明了自己的AI创新领域的领导地位。它全新发布的Nemotron4340B，是一系列具有开创意义的开源模型，有可能彻底改变训练LLM的合成数据生成方式！论文地址：https:d1qx31qr3h6wln.cloudfront.netpublicationsNemotron4340B8T0.pdf这一突破性进展，标志着AI行业的一个重要里程碑——从此，各行各业都无需依赖大量昂贵的真实世界数据集了，用合成数据，就可以创建性能强大的特定领域大语言模型！现在，Nemotr...英伟达开源DR-RAG：理想汽车最新RAG研究成果，准确率和响应时间远超其他RAG框架
1.DRRAG有多厉害？图片图片上面两个表分别展示了DRRAG与其他几个当前流行的RAG框架对比的效果，特别是AdaptiveRAG。可以看到，在多个测试数据集上，DRRAG要比其他框架（比如：AdaptiveRAG和SelfRAG）准确率都要更高。而且在相同TopK参数的前提下，DRRAG的召回率更高，从而回答正确的比例也越高。图片上面这个图展示了DRRAG与AdaptiveRAG对比的一些例子，从例子里可以看出，DRRAG在一些问题上，比AdaptiveRAG回答的更准确。图片...RAGLLMs框架GPT-4不是世界模型，LeCun双手赞同！ACL力证LLM永远无法模拟世界
一直以来，对LLM的支持观点之一，就是模型可以集成海量事实知识，作为通往「世界模拟器」的基础。虽然也有不少人提出反对，但没有真凭实据。那么，LLM可以作为世界模拟器吗？最近，亚利桑那大学、微软、霍普金斯大学等机构联合发布了一篇论文，从实证的角度得出了否定的结论。最新研究已被ACL2024顶会接收。论文地址：https:arxiv.orgpdf2406.06485研究发现，GPT4在模拟基于常识任务的状态变化时，比如烧开水，准确度仅...LLM测试上科大、影眸联合提出DressCode：从文本生成3D服装板片
3D生成是生成式人工智能和计算机图形学领域最引人注目的话题之一，符合影视、游戏标准的3D生成尤其受产业界关注。在生产流程中，一般品类的3D资产往往通过手工建模或者扫描的方式制作。但作为3D资产的一个重要类别，服装资产的往往来源于平面板片与物理模拟等流程，而不是直接在3D上建模。上海科技大学、影眸科技与宾夕法尼亚大学联合提出DressCode，它是首个完全支持CG操作，能够兼容到工业流程的3D服装生成框架，并通过文本的...生成AI高质量3D生成最有希望的一集？GaussianCube在三维生成中全面超越NeRF
在三维生成建模的研究领域，现行的两大类3D表示方法要么基于拟合能力不足的隐式解码器，要么缺乏清晰定义的空间结构难以与主流的3D扩散技术融合。来自中科大、清华和微软亚洲研究院的研究人员提出了GaussianCube，这是一种具有强大拟合能力的显式结构化三维表示，并且可以无缝应用于目前主流的3D扩散模型中。GaussianCube首先采用一种新颖的密度约束高斯拟合算法，该算法能够对3D资产进行高精度拟合，同时确保使用固定数量的自...3D生成分分钟创建PPT的八个在线AI工具
原创PopAi、Beautiful.ai、Decktopus、Tome和Plus.ai是用于在线创建PowerPoint演示文稿的几个推荐的AI工具。微软推出了Copilot，将其集成到Microsoft365中，为用户提供更多的帮助，并通过自然语言处理增强可访问性。Copilot现在整合在熟悉的Office套件应用程序中，比如Word、Excel、PowerPoint、Outlook和Teams。尤其是对PowerPoint而言，Copilot充当了AI助手的角色，可以将想法轻松转化为精美的幻灯片，简化了演示文稿的创建。它...AI工具AI助手PowerPoint周鸿祎AI产品翻车事件始末，被群嘲后又惹上官司！被盗图者：我要的是公开道歉和1元RMB赔偿！
原创编辑伊风出品51CTO技术栈（微信号：blog51cto）周鸿祎的"局部重绘"不仅狠狠被嘲，更是惹上了一身官司！被盗图的创作者直接喊话“扫射”：你们AI圈这么无聊吗？这还要从6月6日，端午节放假前夕说起。360组织了一场AI新品发布暨开发者沟通会，并且高调发布了360AI甄选平台。但真正惹来大麻烦的，其实只是360AI浏览器的一个小功能——图片处理中的"局部重绘"。在演示过程中，周鸿祎以"性感"为提示词，对一张女性古装写真图片进行了...周鸿祎AI产品Netflix 机器学习科学家的提示词优化经验分享
原创 精华编者按：如何充分发挥大模型的潜能，用好大模型，关键在于如何优化向它们发送的提示词（prompt），是为提示词工程（promptengineering）。本文Netflix机器学习科学家CameronR.Wolfe的提示词优化经验分享，阐述了目前提示词的主要构成要素，介绍了与提示词相关的上下文窗口相关信息，并总结了一些行之有效的优化策略，如实事求是，实证为本、先从简单着手、若无必要，尽量简单明了、使用示例等，这些策略应能为在实践中优化提示...AILLM提示词Udio: AI音乐生成新工具教程
原创开始使用UdioUdio是一款位于人工智能驱动音乐制作前沿的创新平台，正在改变音乐的创作、分享和体验方式。用户只需注册并浏览其用户友好的界面，该界面旨在引导新手和专业人士完成音乐创作过程。该平台允许用户快速登录，通常使用现有的Google账户（我偏爱的方法），从而无缝进入AI音乐的世界。打造您的第一首AI歌曲使用Udio创作音乐是简单与复杂的融合。用户可以从选择流派或情绪开始，然后转到使用提示栏，他们可以输入对歌曲...UdioAI歌曲一个眨眼间的歌曲：Suno v3 彻底革新了人工智能音乐创作
原创 精华想象一下，在几秒钟内就能创作出一首完整、专业听起来的歌曲。不需要多年磨练音乐技艺，也不需要掌握复杂的音乐制作软件——只需要用几个词描述你的想法。这就是SunoAI提供的东西，这是一款开创性的平台，利用人工智能的力量来民主化音乐创作，特别是它的最新音乐生成器版本：Sunov3！释放创造力：SunoAI如何生成音乐Suno就像一个黑匣子：一个被神秘笼罩的文本到音乐的生成器……不是开源的。用户输入关键词或简要描述，然后就...Suno v3音乐创作Nature：通过在仿真中学习的无实验外骨骼辅助方法
原创外骨骼具有改善人类运动性能的巨大潜力。然而，它们的开发和广泛传播受到需要进行漫长人体测试和手工控制规则的限制。在这里，研究人员展示了一种在仿真中学习多功能控制策略的无实验方法。该仿真学习框架利用具有动力学感知的肌肉骨骼和外骨骼模型以及数据驱动的强化学习，弥合了仿真和现实之间的差距，避免了人体实验。学到的控制器被部署在定制的髋关节外骨骼上，通过降低行走、奔跑和爬楼梯的代谢率分别减少了24.3%、13.1%...NatureRAG全景图：从RAG启蒙到高级RAG之36技，再到终章Agentic RAG！
检索增强生成（RAG：RetrievalAugmentedGeneration）技术可追溯到2020年Facebook发表的一篇论文：“RetrievalAugmentedGenerationforKnowledgeIntensiveNLPTasks”。它结合了信息检索和生成模型技术，通过引入外部知识库信息，解决知识密集型NLP任务的效果：问答、文本摘要等。大模型RAG之启蒙大型语言模型（LLMs）虽然展现出了令人印象深刻的能力，但它们在处理特定领域或知识密集型任务时面临诸如产生幻觉（hallucination）、...RAG模型技术The Annotated GPT2注释加量版，读懂代码才算读懂了GPT
原创TheAnnotatedTransformer这篇文章从零复现了2017年那篇Transformer论文，TheAnnotatedTransformer注释加量版在此基础上追加注释和输出数据维度信息进一步揭开Transformer的一些细节，原始Transformer是一个EncoderDecoder架构的模型，今天我将用同样的方法继续学习GPT系列模型中最简单的GPT2，GPT是Decoderonly架构模型，所以，我们只需要关注Transformer的右侧部分。由于代码过长，所以没有把全部代码拷贝过来，建议打开下面代...GPTAI更适合前端开发者，UI不止是聊天机器人
原创编辑星璇出品51CTO技术栈（微信号：blog51cto）如果问，哪类开发者更适合探索人工智能如何为其工具增添价值，那么一定是前端程序员。可观测性平台Honeycomb的工程副总裁Nakashima非常笃定这一点。1.AI更适合前端开发者“前端生态系统发展得如此之快，从某种程度上讲，前端工程师比其他任何人都更擅长将AI引入他们的工具集，因为他们习惯于掌握新工具，并弄清楚如何整合和使用这些工具来汇集所有不同工作流程的精华，”Nakashima...AIUI机器人ChatGPT是第一个真正意义的人工通用智能
看到标题，很多专家可能马上想来争辩，别急，本文我们一步步推演。首先订正一个词：AGI,国外称ArtificialGeneralIntelligence，国内译作通用人工智能GeneralArtificialIntelligence,看似很小的一个顺序差异，实则谬以千里，大家多读英文几遍仔细体会。生命是什么薛定谔在1944年出版的书《WhatisLife》中阐述了他对生命的观点，生命是由负熵喂养大的，后来更正为，自由能才是生命的源泉。薛定谔眼里的生命就是一团活生生的自由能...ChatGPTAGIAIGPT的情感逻辑：从合作游戏中洞察AI决策，深入探索GPT在情感驱动决策中的表现
精华情感在人类决策中扮演着核心角色，它影响他们的选择、行为乃至生活的方方面面。当这一复杂的人类特质与LLMs相遇时，他们如何确保这些模型能够准确地反映出情感的影响？这不仅是技术上的挑战，更是对模型设计哲学的深刻考量。6月6日发表于学术平台arXiv热门论文《THEGOOD,THEBAD,ANDTHEHULKLIKEGPT:ANALYZINGEMOTIONALDECISIONSOFLARGELANGUAGEMODELSINCOOPERATIONANDBARGAININGGAMES》不仅探讨了LLMs在模拟情感决策时的表现，更...GPTAI决策LLM超长上下文查询-性能评估实战
在大型语言模型（LLM）的应用中，有几个场景需要以结构化的方式呈现数据，其中信息提取和查询分析是两个典型的例子。我们最近通过更新的文档和一个专门的代码仓库强调了信息提取的重要性。对于查询分析，我们同样更新了相关文档。在这些场景中，数据字段可能包括字符串、布尔值、整数等多种类型。而在这些类型中，处理高基数的分类值（即枚举类型）是最具挑战性的。所谓的“高基数分类值”，指的是那些必须从有限的选项中选择的...LLM分类值基准
