AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
Auto-RAG开源，复杂多跳问题就这么解决了！
社区头条AutoRAG是一个以LLM强大的决策能力为核心的自主迭代检索模型，通过多轮对话的方式建立LLM与检索者之间的交互模型，通过迭代推理确定何时检索信息、检索什么内容，在获得足够的外部知识后停止迭代，并将答案提供给用户。一个具体的例子展示了AutoRAG如何处理复杂的多跳问题。AutoRAG进行迭代推理，策略性地规划检索，提取相关知识，精确识别信息需求，并为下一次检索细化查询，最终收敛到最终答案。在这个例子中，AutoRAG在与...AutoRAG开源中国国家自然科学基金资助项目：多智能体系统中的动态故障容错技术
精华
热门内容榜 • 最近上榜智能体故障对多智能体强化学习（MARL）算法的性能构成了显著威胁，主要带来两大挑战。智能体常常难以从由意外故障引发的混乱状态空间中提取关键信息。其次回放缓冲区中记录的故障前后转变不均衡，导致训练样本失衡问题。为了解决这些问题，来自清华大学自动化系和QiYuanLab（启源实验室）的联合团队通过结合优化的模型架构和定制的训练数据采样策略来增强MARL的故障容错能力。具体而言，研究团队在actor和critic网络中引入了注...多智能体系统故障如何生成Function Calling微调数据？
本文将深入探讨如何为functioncalling任务生成高质量的微调数据，并通过具体例子和实战步骤带领读者逐步理解这一技术核心。大型语言模型在函数调用中的关键能力在functioncalling微调过程中，模型需要掌握以下关键能力：准确的API选择：识别并选择最合适的API执行用户的查询。这要求模型具备强大的理解能力，能够分析用户的自然语言意图，并从多个可选的API中匹配到最相关的一个或多个。精确的参数映射：将用户的自然语言输入映...微调数据API推荐系统多场景预估建模2024大厂工作汇总
在大厂的推荐系统建模中，多场景建模是一个非常常见的业务场景。在很多app中，不同的场景都需要建模点击率、转化率等目标，以此进行排序给用户展现最感兴趣或最可能成交的候选。一种最简单的建模方法是每个场景分别训练一套模型，但是这种方式无法充分利用各个场景数据的共性信息，并且维护起来也非常麻烦。因此，如何有效联合多场景数据进行建模，或者进行多场景之间的知识迁移，是工业界推荐系统近两年研究的焦点。今天这篇文...推荐系统多场景INTELLECT-1：全球首个去中心化训练的 10B 参数大模型
热门内容榜 • 最近上榜近日，PrimeIntellect团队发布了全球首个由全球协作训练的10B参数语言模型——INTELLECT1。这一突破性成果不仅标志着大规模模型训练不再局限于大型企业，而是可以通过分布式、社区驱动的方式实现，为未来的AI发展开辟了新的道路。项目亮点INTELLECT1的成功训练涉及五大洲、五个国家，同时使用了112台H100GPU，由全球30位贡献者共同完成。这一壮举不仅展示了分布式训练的巨大潜力，还实现了高计算利用率：在美国境内达到96%，跨...中心化参数语言模型去噪步数减少50%，图像生成质量反而更好！西湖大学等提出TPDM：自适应噪声调度
文章链接：https:arxiv.orgpdf2412.01243亮点直击提出了时间预测扩散模型（TPDM），该模型可以在推理过程中自适应地调整噪声调度，实现图像质量和模型效率之间的平衡。为了训练TPDM，通过强化学习最大化图像质量，并根据去噪步骤数折扣，直接优化最终的性能和效率。模型在多个评估基准上表现优越，在减少推理步数的同时取得了更好的结果。总览全文扩散模型和流模型在文本到图像生成等多种应用中取得了显著成功。然而，这些模型...模型AI参数高效微调-Prefix Tuning、Adapter Tuning、LoRA
原创回顾一下三种参数高效微调方法PrefixTuning、AdapterTuning、LoRAPrefixTuningPrefixTuning在prefixtuning之前的工作主要是人工设计离散的template或者自动化搜索离散template，问题在于最终的性能对人工设计的template的特别敏感：加一个词或者少一个词，或者变动位置，都会造成很大的变化，所以这种离散化的token的搜索出来的结果可能并不是最优的。PrefixTuning方法使用连续的virtualtokenembedding来代替离散的token，且与F...LLMaiops第一名方案-EasyRAG：自动网络运营的高效检索增强生成框架
原创来看一个RAG比赛方案，提出了一个名为EasyRAG的框架，用于自动化网络操作的检索增强生成。该框架旨在解决网络操作中信息检索和生成效率低、准确性差的问题。研究难点包括：如何在保证准确性的前提下提高检索和生成的效率；如何实现简单快速的部署；如何在推理过程中显著减少延迟。比赛地址：competition.aiopschallenge.com方法整体包含两部分，数据处理工作流和RAG工作流EasyRAG框架数据处理工作流1.数据处理与文本分割对原始...RAG自然语言处理低资源场景下Text2SQL方法
原创SFT的text2sql方法SFT使模型能够遵循输入指令并根据预定义模板进行思考和响应。如上图，、和是用于通知模型在推理过程中响应角色的角色标签。后面的内容表示模型需要遵循的指令，而后面的内容传达了当前用户对模型的需求。后面的内容代表模型的预期输出，也可以定义为模型预测的标签。在监督微调期间，模型根据和中的内容预测后面的内容，然后将其与标签进行比较以计算损失函数。标记作为结束标记，以防止模型在后续推理阶段偏...Text2SQL一文彻底搞懂机器学习 - 分类（Classification）
原创 社区头条 热门内容榜 • 最近上榜分类（Classification）是机器学习中的一种有监督学习任务，其目标是根据输入数据的特征将数据点分配到预定义的类别中。二分类、多类分类、多标签分类和多输出分类是机器学习中的四种重要分类问题。其中二分类区分两个类别，多类分类选择多个类别中的一个，多标签分类允许一个样本拥有多个标签，而多输出分类则为每个类别提供独立的输出值或概率。Classification一、二分类二分类（BinaryClassification）是什么？二分类是机器...机器学习本地部署Qwen2.5-Coder大模型，打造你的专属编程助手
原创 社区头条 热门内容榜 • 最近上榜学习本地部署Qwen2.5Coder，提升编程效率。Qwen2.5Coder的推出，标志着智能代码语言模型进入了新的时代。这款模型具有高效性能和实用价值，不仅能够深入理解复杂的代码结构，还能提供精确的代码补全和错误检测，极大提升开发效率。本文详细介绍如何在本地系统上部署Qwen2.5Coder，以及其与Ollama的集成方案，希望为开发者带来更流畅的开发体验。1、Qwen2.5Coder架构概览Qwen2.5Coder的架构是在前代模型的基础上发展而来，在提升...Qwen2.5-Coder大模型LangChain生态全解析， LangGraph、LangFlow、LangSmith
原创随着GPT3、GPT4等基于变换器模型的强大语言模型的流行，对于简化语言应用开发和管理的框架需求不断上升。这些框架能够简化串联提示、检索文档和监控模型表现等复杂操作。LangChain生态工具之间存在差异，有的提供可视化界面以管理工作流，有的则强调高级调试和可观测性。1、LangGraph：构建可视化工作流LangGraph是为视觉化构建语言模型流程设计的新型框架，适合喜欢图形界面管理复杂工作流的开发者。它通过图形化展示帮助理解...LangGraphLangChainLangFlow大模型利用Milvus向量数据库，带你实现GraphRAG
原创教你如何结合Milvus向量数据库实现GraphRAG技术。GraphRAG技术借助知识图谱，给RAG应用注入了新的动力，使其能够在海量数据中精确检索所需信息。本文将带你了解GraphRAG的实现方法，包括如何创建索引以及如何利用Milvus向量数据库进行查询，助你在信息检索的道路上事半功倍。1、先决条件在运行本文中的代码之前，请确保已安装以下依赖项：pipinstallupgradepymilvuspipinstallgit+https:github.comzc277584121graphrag.git注意...GraphRAG向量数据库Milvus我们能完全解决GAN中的模式崩溃问题吗？
原创 社区头条模式崩溃会导致生成对抗网络（GAN）产生重复输出。尽管有一些解决方案，但并没有一种能够完全解决这个问题的方法。那么，研究人员将如何解决这个问题？事实上，生成式对抗网络（GAN）是人工智能领域中令人瞩目的应用之一。GAN风靡全球，凭借生成逼真的图像、深度伪造（Deepfake）视频、人工智能生成的艺术作品，甚至合成的生物数据，其能力让人们惊叹不已。但是GAN也有不为人知的秘密，这是工程师、人工智能爱好者和研究人员多...生成式对抗网络GAN人工智能预测未来模型能力！微调揭示LLM涌现能力的关键
原创预测未来模型能力！微调揭示LLM涌现能力的关键在加州大学伯克利分校的智慧殿堂中，一群天才研究者们正试图解开现代大型语言模型（LLM）扩展中的一个根本性难题：涌现能力的不可预测性。想象一下，你正在训练一个语言模型，它的预训练损失随着计算量的增加而可预测地下降，就像一个乖巧的学生按部就班地学习。但当涉及到下游任务时，情况就变得复杂了——有时模型会在某个看似随机的点上突然“开窍”，这种“涌现”现象让预测未...微调LLM高效抽取PDF文件打造RAG，从LlamaParse转向PymuPDF4llm
原创PymuPDF4llm：大型语言模型的高效PDF数据处理利器。PymuPDF4llm是专为大型语言模型设计的强大工具，能够将杂乱的PDF数据整理得井井有条，为你的AI项目提供有力支持。本文将带你深入了解PymuPDF4llm的功能和应用。1、从LamaParse到Pymupdf4llm过去，我们经常遇到PDF提取工具操作复杂、结果不准确的问题。LamaParse曾试图简化这一过程，但其免费资源消耗速度极快。现在，Pymupdf4llm作为一个开源工具，免费且专为大型语言模型定制...PymuPDF4llm大模型多模态RAG利器，带你跑通Qwen2-VL-7B-Instruct大模型
原创详解Qwen2VL7BInstruct模型，玩转多模态RAG。想要玩转人工智能，特别是多模态数据处理，Qwen2VL7BInstruct模型绝对是个得力助手。今天带你详细了解这个模型，并教你如何将其用在多模态RAG系统里，让信息检索和生成变得更加高效、准确。1、Qwen2VL7BInstruct：多模态AI的新高度Qwen2VL7BInstruct是一款先进的多模态AI模型，它在图像和视频的视觉理解与交互方面实现了重大突破。基于前代模型的优化，Qwen2VL7BInstruct增添了多项...RAG多模态RAG大模型使用Llama 3.2-Vision大模型，搭建本地Ollama OCR应用
原创 热门内容榜 • 最近上榜用Python和Ollama的Llama3.2Vision模型搭建自己的OCR应用。光学字符识别技术，简称OCR，目前是数字化印刷文本和提取图像信息的核心手段，其重要性正日益凸显。如今，有了AI的加持，尤其是像Llama3.2Vision这样的模型，OCR变得更加强大。本文教会大家用Python和Ollama的Llama3.2Vision模型，一步步搭建起自己的OCR应用。先决条件在开始之前，先确保已准备好以下条件：一台安装了Windows、macOS或Linux的电脑。稳定的互联网连接...LlamaOllama OCR大模型阿里巴巴研究院推出 XiYan-SQL：用于Text-to-SQL的多生成器集成人工智能框架
原创 社区头条 热门内容榜 • 最近上榜01、概述随着人工智能技术的迅速发展，如何让普通用户轻松查询复杂数据库成为一个备受关注的课题。最近，阿里巴巴研究院推出了一项突破性技术——XiYanSQL，它为自然语言到SQL（NL2SQL）的任务提供了全新解决方案。这项技术不仅提升了查询的精确度，还实现了跨数据库的高适配性，为大数据时代的信息挖掘带来了新契机。02、什么是NL2SQL？NL2SQL是一种自然语言处理（NLP）技术，可以将人类的自然语言查询转化为结构化查询语言（S...XiYan-SQL人工智能框架Fireworks AI 发布 f1：在硬编码、聊天和数学基准方面超过 GPT-4o 和 Claude 3.5 Sonnet
原创01、概述人工智能（AI）正在以前所未有的速度发展，但在面对复杂推理时，依然存在诸多挑战。即便是像GPT4和Claude3.5Sonnet这样的先进模型，依然在复杂编码、深度对话和数学推理等任务上存在局限性。单一模型的“盲点”和不足暴露了当前技术的瓶颈，而市场对于专用AI模型的需求却在日益增长。如何有效整合多个专业化模型，打破技术壁垒，成为AI发展的关键议题。在这一背景下，FireworksAI推出了全新的复合AI模型——f1，为复杂...Fireworks AI大语言模型
