AI.x社区

1.为什么要提出RARE问答（QA，QuestionAnswering）系统的目的以自然语言提出的问题生成答案，其涵盖的领域和类型极为广泛，从开放领域的QA到更为专业的领域，比如医疗QA。医疗QA要求模型能够掌握复杂的医学知识、解读临床场景，并选出正确且符合上下文的选项。和多数专业领域的QA类似，医疗QA也需要结构化的多步骤推理，从一系列连续的步骤中推理出答案。比如，依据患者信息给出恰当的初始治疗方案，模型首先要识别患者的状况，...

一、背景在之前的多篇文章中，我们曾零星提到过GPU利用率以及GPU异常引发的大规模任务失败问题。在本文中，我们将对这些内容进行更为系统的汇总，具体介绍常见的GPU监控指标及各种GPU异常情况。为了更好地说明问题，我们还将结合我们自己的实践经验以及其他相关论文中的案例进行分析和讨论。二、引言2.1MFU&HFU为了评估LLM训练时的效率，业界通常会使用ModelFLOPSUtilization（MFU）和HardwareFLOPSUtilization（HFU）两个关键...

大模型领域的发展日新月异，每天都有许多有趣的论文值得深入品读。下面是本期的论文：1、为什么Transformer难以学会搜索？一项新研究揭示关键原因图片搜索是许多重要任务（如推理、规划和导航）的核心能力，但最新研究表明，Transformer架构的大模型在搜索任务上表现不佳。那么，这是数据不足、模型参数不够，还是Transformer架构本身的限制？为探究这一问题，研究者采用了一个基础的图连通性问题作为测试平台，深入分析Transfo...

一、O3究竟是什么？1.名称由来为避免版权纠纷，OpenAI放弃了o2的命名，直接将其称为o3。图片2.编程能力在编程领域，o3取得了惊人的成绩。在人类在线编程竞技平台codeforces上，o3模型的Elo得分达到2727分，排名第175位。在168076名全球参赛程序员中，o3击败了99.9%的程序员，超越了此前的GPT4o和o1等模型。这意味着o3在编程竞技中已达到顶尖水平，甚至超越了许多大厂中众多程序员的实力。要知道，字节跳动、腾讯、阿里等大厂都...

还在为大模型推理速度慢、成本高而烦恼吗？这篇来自CMU和清华大学的论文给你带来了一个颠覆性的解决方案！他们发现，在推理大型语言模型时，“大力出奇迹”不再是真理！通过深入研究推理过程中的计算与性能关系，他们提出了“推理缩放定律”，并革命性地推出了一种名为REBASE的全新算法。REBASE就像一位聪明的向导，能够巧妙地利用奖励信号，指引模型在推理的迷宫中高效探索，避免了传统方法中耗时费力的盲目搜索。实验结果令人...

前言本文基于某时间序列分类任务数据集，介绍一种融合快速傅里叶变换FFT，基于时频特征融合的FFTCNNBiGRUAttention创新分类模型。1模型简介与创新点介绍1.1模型简介●数据集：时间序列分类任务数据集●环境框架：python3.9pytorch2.1及其以上版本均可运行●使用对象：入门学习，论文需求者●代码保证：代码注释详细、即拿即可跑通。●配套文件：详细的环境配置安装教程，模型、参数讲解文档1.2创新点介绍（1）快速傅里叶变换（F...

文章链接：https:arxiv.orgpdf2412.17098Github链接：https:zjbinxia.github.ioDreamOmniProjectPage亮点直击对现有的模型框架进行了分析，并基于不同任务的特点，提出了一种高效且强大的统一图像生成与编辑框架——DreamOmni。引入了一种合成拼贴数据pipeline，用以解决当前创建和筛选高质量编辑数据的低效性和困难。此外，还利用该合成拼贴数据pipeline来提高T2I模型输出的准确性。实验结果表明，合成数据是一种高效、优质且...

2024年成为生成式AI实现商业化落地的关键年，在各个行业中脱颖而出正在对全球经济产生难以置信的影响。而企业也在不断探索其应用潜力，开发出新的商业用例。例如，在电信领域，Lumen通过Copilot每周为销售人员节省平均四小时，相当于每年节省5000万美元。在医疗保健领域，奇美医疗中心的医生现在只需15分钟而不是一小时就能完成医疗报告的撰写，护士可以在不到5分钟内记录患者信息。为了指导组织在生成式AI转型旅程中的方向，微...

随着生成式人工智能（GenAI）铺天盖地的宣传，首席财务官们（CFO）往往按捺不住内心的焦虑，不得不关注GenAI的采用成本或其近期可能产生的影响。但我相信CFO一定会打破传统惯例，并成为组织内GenAI技术倡导者，原因有以下三个方面：CFO的角色正在从财务管理扩展到战略领导层；金融领域已经出现采用GenAI的商业案例；就像云技术那样，如果完全不采用GenAI可能会导致竞争风险，因为GenAI会很快从“个性品”演变为“必需品”。首席...

编辑言征出品51CTO技术栈（微信号：blog51cto）临近年尾，相信很多朋友都在盘点这一年。很多人都在有意无意地在围观大模型这场全明星球赛。OpenAI、谷歌、Anthropic、Meta，还有马斯克的XAI，以及AI应用层面比如Perplexity等一众新秀球员，究竟谁会技压群雄，赢得接下来的2025？这还得交给入局久的专业老球迷来做赛事的点评。12月初，在知名商业博客节目InvestLikeTheBest中，有两位大模型领域的老球迷对这一赛事做了很犀利全面...

​“向量数据库在召回效率与召回准确率之间，需要做一个业务平衡”RAG的核心技术点就在于召回数据的准确性，而在相似度搜索过程中，技术载体主要是以向量数据库为主；因此，怎么提升向量数据库的召回准确率就成了一个亟待解决的问题。在上一篇关于向量数据库的介绍中说，向量数据库不同于传统关系型数据的一点就是其使用的是向量度量的方式召回数据；而这一点就导致召回的数据在向量层面有关系，但在语义方面可能完全无关。就比...

编辑伊风出品51CTO技术栈（微信号：blog51cto）‍这可能是你今年看过最燃、最刺激的机器人影片！从悬崖边翻个跟头然后一路加速俯冲：图片狂奔到水库中，在水面上仍然全速前行：图片穿越杂草丛生的森林坡地：图片还能当坐骑，驮着成年人翻阅山丘！图片这个让人肾上腺素疯狂分泌的机器人，就是来自国内公司，宇树科技旗下的UnitreeB2W！团队很自豪地说，在量产一年后，Unitree的B2W工业轮升级了，拥有了更多令人兴奋的功能。还特...

在科技日新月异的今天，生成式人工智能（GenerativeAI）已成为备受瞩目的焦点。自2022年11月ChatGPT的火爆问世以来，各行各业纷纷投身于生成式AI的怀抱，探索其在内容生成、市场营销、工程研究及文档处理等方面的无限可能。本文旨在深入探讨生成式AI的本质、发展历程、工作原理、常见类型及其应用，同时剖析其面临的挑战与未来展望。一、生成式AI概述生成式AI是一种人工智能技术，它能够生成文本、图像或音频等形式的内容。通过...

PromptWizard(PW)旨在自动化和简化提示优化。它将LLM的迭代反馈与高效的探索和改进技术相结合，在几分钟内创建高效的prompts。PW的核心是其自我进化和自适应机制，LLM会同时迭代生成、评论和改进提示和示例。此过程通过反馈和综合确保持续改进，实现针对特定任务的整体优化。PromptWizard经过45多项任务的严格评估，涵盖了一般挑战和特定领域挑战。与最先进的技术（包括Instinct、InstructZero、APE、PromptBreeder、EvoPrompt...

一年多以来，强化学习（RL）在许多重要的顺序决策问题上取得了惊人的进展，随着问题的复杂性不断增加，研究领域也逐渐从单智能体强化学习算法转向多智能体强化学习（MARL）算法，这些算法在各种领域中发挥着越来越重要的作用，如无人驾驶飞机、工业机器人、相机网络和自动驾驶等。但是深度RL策略通常缺乏可解释性，使得人类很难理解和信任这些策略。在多智能体系统（MAS）中，由于智能体之间的交互和依赖性，这一问题更为突出。...

2024年即将结束，回顾这一年与大语言模型（LLMs）的共同进步，我们见证了许多令人振奋的变化。每个月，约有30,000名新用户加入了LangSmith，这让我们得以更清楚地观察到人工智能领域的变革。就像去年我们所做的那样，我们在此分享一些有趣的统计数据，揭示了产品使用模式的变化，以及人工智能生态系统的演变。特别是随着开发者利用LangSmith来跟踪、评估并迭代应用，观察到一些显著的趋势，包括开源模型的使用增长，以及从以检...

直接基于预训练的大语言模型（LLM）解决时间序列问题，是一个最近的重要研究点。之前的研究中，主要尝试用LLM进行zeroshotlearning，或者基于LLM的参数进行finetune。随着研究的深入，研究者发现，单独的一个LLM模型，或者单独的用LLM在时序数据上finetune，并不能取得最优的效果。因此除了上述优化之外，另一些工作尝试同时引入LLM构建文本模型和时序模型，并对两种模态的信息进行对齐，提升时序预测效果。今天就给大家总结几...

当前，向量数据库已经成了一个红海市场，新兴的还是传统数据库厂商都在做这方面的工作。然而，在嵌入式，端上的向量数据库比较少，chromaDB算是其中一个，但它不算是一个纯原生、深度优化的的嵌入式向量数据库，仍采用parquet格式（读一行数据需要读取整个块解压，比较慢，另外副本占用空间），功能也比较少，那有没有更好的选择呢？很多人自然想到关系型嵌入式数据库王者——Sqlite，奈何它的向量版本sqlitevec还处于开发中，...

我们都知道Cursor是一款智能编辑器，它和VSCode的关系是Cursor基于VSCode技术构建的一个分支，同时继承了VSCode的所有基础功能和用户界面，但惟独不同的就是专门针对Cursor增加了AI功能‌‌，这不仅提高了编程效率，还增加了开发体验。所以Cursor才会受到众多用户的喜爱。但Cursor并非是可以一直免费使用的，它有为期14天的试用期，所以想免费使用的用户。用完14天后，就要考虑新的方式进行继续使用。因此，我这边手撸文章，就...

在硅谷的人工智能领域，一场新的争论正在掀起波澜。Meta最近致信加州总检察长罗布·邦塔（RobBonta），呼吁阻止OpenAI从非营利组织转型为营利性公司的计划。值得注意的是，这次Meta与特斯拉及SpaceX创始人埃隆·马斯克（ElonMusk）站在了同一阵线，共同反对OpenAI的这一转型计划。OpenAI的商业化之路OpenAI成立于2015年，初衷是成为一家非营利性组织，致力于开发对人类有益的人工智能技术。通过开放研究成果和技术资源，OpenAI...