AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
RAG工程如何评测？
原创
社区头条本篇主要讲RAG工程的评测方法。本篇属于RAG系列，上一篇整理了RAG的基础，没看过的小伙伴也可以参考本篇来继续介绍RAG工程如何评测。下面是一个快捷目录。一、RAG评估方法二、RAG的关键指标和能力三、RAG的评估框架一、RAG评估方法有两种方法评估RAG：独立评估和端到端1.独立评估独立评估就是对检索模块和生成模型分布评估。1）检索模块评估RAG检索模块性能的指标主要用于衡量系统（如搜索引擎、推荐系统或信息检索系统），即...RAG面试干货注意力机制的变体之MLA
原创 社区头条本文介绍注意力机制的变体MLA。MLA(MultiheadLatentAttention)，是由杭州深度求索人工智能在DeepSeekV2提出的一种注意力机制变体。MLA主要旨在解决推理过程中由于attention机制中KVCache占用过多内存而导致的性能瓶颈问题。为此，MLA引入了低秩KV压缩技术，有效减少了KVCache的大小，从而缓解了这一问题。有兴趣小伙伴可以看官方技术报告的介绍：https:arxiv.orgpdf2405.04434v2原理介绍上图为MHA、GQA、MQA、MLA的原...人工智能大模型LLM实践系列-详谈Tokenizer训练细节
经过了数据收集、筛选、去重，马上就可以开始训练实验了。但是在实验之前，我们还需要先获取一个语言模型的基石：分词器（Tokenizer）。Tokenizer的作用是对一条文本数据进行切分、词表映射，得到这条文本的token序列。用开源Tokenizer还是自己训练Tokenizer可以自己训练，也可以从目前开源的模型中扒一个来用，用开源Tokenizer有几个点需要着重关注：压缩率：压缩率决定了文本向量化后的长度，压缩率越高，向量后数据越短，训...tokenLLM模型视频生成和具身智能强强联合！谷歌&卡内基梅隆&斯坦福发布Gen2Act：泛化超棒！
文章链接：https:arxiv.orgpdf2409.16283项目链接：https:homangab.github.iogen2act亮点直击人类视频生成引导机器人操作：通过生成零样本的人类视频并翻译成机器人执行策略，避免了直接生成机器人视频的复杂性，利用丰富的网络视频数据来提升泛化能力。现成模型与闭环策略结合：不需微调视频生成模型，直接使用现成模型生成视频，并通过结合机器人观察历史与点轨迹优化，确保策略能够动态调整，提升操作准确性。强大的泛化能力...视频生成如何使用NotebookLM制作YouTube视频学习指南？
原创 社区头条NotebookLM使用AI来总结和组织要点，可以轻松地用YouTube视频创建学习指南。只需上传视频链接，这个工具就可以帮助你将内容转换成结构化指南。用YouTube视频制作学习指南可能很花时间，但是NotebookLM简化了这项任务。NotebookLM是一个帮助你做笔记和总结的工具。它使用AI为你节省时间和精力，只需要几个步骤就可以把视频变成学习指南。这对学生或在线教学的人大有帮助。你可以用视频创建笔记、摘要和问题。在本文中，你将学习...NotebookLMAIYouTube视频制作DeepSeek LLM: 通过长期主义扩展开源语言模型
精华摘要：开源大型语言模型（LLMs）的快速发展确实令人瞩目。然而，先前文献中描述的扩展规律呈现出不同的结论，这为扩展LLMs蒙上了一层阴影。我们深入研究了扩展规律，并提出了我们独特的发现，这有助于在两种普遍使用的开源配置中扩展大规模模型，即7B和67B。在扩展规律的指导下，我们介绍了DeepSeekLLM，这是一个致力于从长远角度推进开源语言模型的项目。为了支持预训练阶段，我们已经开发了一个目前由2万亿个token组成的数...大模型ChatGLM: 从GLM-130B到GLM-4的系列大型语言模型
原创 社区头条摘要：我们介绍了ChatGLM，这是我们持续开发的大规模语言模型家族。本报告主要聚焦于GLM4系列语言模型，包括GLM4、GLM4Air和GLM49B。它们是我们最强大的模型，集成了前三代ChatGLM的所有经验和教训。迄今为止，GLM4模型在中文和英文的十万亿个标注符号上进行了预训练，并辅以来自24种语言的小型语料库，主要为中英文使用进行了对齐。高质量的对齐通过多阶段后训练过程实现，包括监督微调和从人类反馈中学习。评估表明，GLM4在...ChatGLM大型语言模型SELF-REFINE: 通过自反馈进行迭代优化
原创摘要：与人类类似，大型语言模型（LLMs）并不总是在第一次尝试时生成最佳输出。受人类改进书面文本方式的启发，我们提出了SELFREFINE，这是一种通过迭代反馈和优化来改进LLMs初始输出的方法。主要思想是首先使用LLM生成初始输出；然后，由同一个LLM对其输出提供反馈，并使用该反馈对其进行自我优化。SELFREFINE不需要任何监督训练数据、额外的训练或强化学习，而是使用单一的LLM作为生成器、优化器和反馈提供者。我们在7项不同...大型语言模型LLMsKimi又崩上热搜！全网蹲的探索版，今天全量上线！我们用Ta做了双十一薅羊毛指南
社区头条编辑伊风出品51CTO技术栈（微信号：blog51cto）终于来了！之前Kimi探索版发布的消息可谓铺天盖地，成为AI圈声量最猛的一波消息了。之前，作为内测功能，朋友们只能看着宣传眼馋。甚至，在灰色放量的阶段，热情的网友就让Kimi崩了，而且这件事直接火上了热搜！图片今天！Kimi探索版终于是全量上线，所有用户都能打开Kimi玩起来了！（可惜的是，有每天5次的限额，大家尝鲜也只能是“浅尝一下”，考虑到搜索增强后对算力的消耗，也...Kimi探索版模型如何基于一台MacBook搞定企业级大模型知识库部署
1、为什么要在MacBook上搭建知识库？最核心最重要的是我们手上的文档资料出于安全要求，不能随便上传到云服务，也就无法实际验证知识库的实际效用。另外对于IT同学来说，自己亲手搭建一个完整的方案、能灵活调整和对接各种不同的模型、评测各种模型不同的表现，也是出于对技术的探索本能使然。使用的MacBook配置如下，对大模型经过量化处理（比如：int8）后，可以流畅运行。2、知识库的架构设计基于一台MacBook搭建部署的架构设...大模型MacBook知识库首篇！全面系统解读高效SAM变体：各种加速策略和核心技术展示
精华文章链接：https:arxiv.orgpdf2410.04960亮点直击提供了一项系统的高效SAM变体全面回顾，旨在加速分割任务。介绍了一个结构良好的分类法，将这些方法根据其采用的加速策略进行分类。据我们所知，这是第一项专门关注该领域的调查。对这些变体的效率和准确性进行了全面的评估和比较，旨在帮助研究人员选择最能满足其性能和应用需求的模型。提出了几个未来研究的潜在方向，为读者提供启发，以推动该领域的持续发展。SegmentAnyth...AI模型大模型榜单还能信吗？一个假模型就能登顶排行榜
社区头条1.缘起目前评测大语言模型主要有两种方法：•通过人类投票来进行评估，比如：ChatbotArena，但是这种往往需要花费较长的时间。•为了降低人类标注的依赖，还有另外一种自动化的LLM基准测试。这种方法成本低、容易扩展。自动化基准测试也成为了众多模型的热门选择，而且测试中的高胜率往往能带来显著的宣传优势。但是，自动化基准测试的胜率可能会受到长度和风格偏见的影响。虽然大多数这种影响是来自训练数据集，但是这也导致存...模型榜单假模型大模型应用开发过程中主流架构模式——大模型+多个小模型
原创 社区头条“架构是灵活多变的，切勿钻牛角尖”在上一篇文章中讲到大模型的能力问题，虽然说经过这一两年时间的发展，大模型的能力已经得到巨大的提升，甚至有些模型已经超出了意料。但大模型在工程化落地中依然面临着很多问题，比如说成本问题，技术问题，以及能力问题，毕竟大模型并不是万能的，某些模型虽然在某些方面表现较强，但并不是无所不能的。因此，该怎么解决这个问题呢？这时通用大模型+多个垂直小模型的解决方案就出现了。大...大模型大模型架构Meta Movie Gen：新的 SOTA 视频生成模型-技术报告解读
社区头条一、背景前段时间Meta发布了对标OpenAISORA和快手可灵的视频生成模型MovieGen，这里我们进行相关的技术解读。本文主要聚焦在其图像和视频生成模型部分，进行详细介绍；然后对视频个性化、编辑和音频生成进行简单概述。对应的论文：MovieGen:ACastofMediaFoundationModels对应的Blog：HowMetaMovieGencouldusherinanewAIenablederaforcontentcreators更多的Video：MetaMovieGen我们在之前的文章中也详细介绍过各种文生图相关的技...SOTA视频生成模型AI数学天才还是数字骗子？GSM-Symbolic揭秘大语言模型的数学推理能力
1、AI模型升级有妙招！"废物利用"让大语言模型更强大想象一下，如果能把你的旧手机变成最新的智能设备，是不是很酷？在AI领域，研究人员就实现了类似的"魔法"！他们提出了一种叫做"upcycling"的方法，可以将现有的大语言模型（LLM）升级成更强大的"专家混合模型"（MoE）。这项技术不仅能提高模型性能，还能大幅节省训练成本和时间。那么，这种"升级魔法"是如何实现的呢？研究团队进行了大量实验，探索了各种升级技巧和参数设置...AI语言模型GSM自回归视觉生成里程碑！比ControlNet和T2I-Adapter 快五倍！北大&腾讯等重磅发布CAR
文章链接：https:arxiv.orgpdf2410.04671项目链接：https:github.comMiracleDanceCAR亮点直击CAR是首个为自回归模型家族设计的灵活、高效且即插即用的可控框架。CAR基于预训练的自回归模型，不仅保留了原有的生成能力，还能在有限资源的情况下实现可控生成——所用数据量不到预训练所需数据的10%。设计了一个通用框架来捕捉多尺度的控制表示，这些表示具有鲁棒性，并能无缝集成到预训练的基础模型中。大量实验表明，CAR在各种条...视觉模型LLM训练的隐秘危机：1%的合成数据或致模型崩溃 | 大模型的"内心戏"：LLM比你想象的更聪明，却在"装傻"？
1、LLM训练的隐秘危机：1%的合成数据或致模型崩溃在LLM快速发展的今天，一个令人担忧的现象正悄然出现——模型崩溃。研究发现，即便在训练数据中仅包含1%的合成数据，也可能导致LLM模型性能严重下降，无论如何增加训练数据量都无法提升效果。更令人意外的是，增加模型规模这一当前广泛采用的方法，非但不能缓解问题，反而可能加剧模型崩溃。研究团队通过理论分析和实验证明，在某些情况下，更大的模型可能会放大这种崩溃效应。...LLM训练模型清华大学提出视频去模糊领域适应方案，硬盘里的珍藏电影可以更清晰了
精华引言：视频动态场景中的模糊问题及其挑战这篇论文主要研究了动态场景视频去模糊技术，旨在消除拍摄过程中产生的不想要的模糊瑕疵。然而，尽管之前的视频去模糊方法取得了显著的成果，但由于训练和测试视频之间的域差距，导致在真实世界场景中的表现大幅下降。为了解决这个问题，作者提出了一种基于模糊模型的域自适应方案，通过测试时的模糊来实现去模糊模型在未知域的微调。首先，作者提出了一个相对清晰度检测模块，用于从模...视频模糊珍藏电影聊聊 KAN、KAN 卷积结合注意力机制！
第一类基础线性层替换KAN层替换线性层Linear：更新关于LSTM、TCN、Transformer模型中用KAN层替换线性层的故障分类模型。KAN的准确率要优于MLP，我们可以进一步尝试在常规模型的最后一层线性层都替换为KAN层来进行对比；KAN卷积比常规卷积准确率有略微的提升！第二类并行融合模型KAN卷积、GRU并行：故障信号同时送入并行模型，分支一经过KAN卷积进行学习，分支二利用GRU提取故障时域特征，然后并行特征进行堆叠融合，来增强故障...KANKAN卷积斯坦福大学和伦敦大学学院联合打造多智能体系统中的安全防线，应对大模型即时感染
精华 社区头条在多智能体系统中，LLM的应用变得越来越普遍，通过多个LLM协作来解决复杂任务的需求日益增加。然而随着这些技术的不断进步，新的安全威胁也随之而来。提示注入攻击是一种利用恶意提示来劫持模型执行非预期操作的攻击方式。在单智能体系统中，研究人员已经发现，这些攻击可以通过嵌入恶意提示在外部文档中，诱使模型执行未授权的指令，从而危及系统安全。但是在多智能体系统中，提示注入攻击变得更加复杂且难以防范。通过代理之...多智能体系安全
