AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
深扒Ilya Sutskever：AI界的隐士大佬，但他究竟看到了什么？
要说AI界的风云人物，IlyaSutskever绝对是那个名字。作为OpenAI的联合创始人兼首席科学家，他简直是科技界的“扫地僧”，低调得不行，却在暗中搅动风云。今天就带大家来深扒一下这位AI界的超级大咖。从俄罗斯到多伦多：天才的成长之路IlyaSutskever出生于俄罗斯，后来移居加拿大，在多伦多大学完成了本科和硕士学位。说起他的导师，那可是“深度学习之父”GeoffreyHinton。想想也真是神奇，这对师徒组合简直就是“黄金搭档”，...AIOpenAI学术LLM | SimPO：使用无参考奖励的简单偏好优化
一、结论写在前面直接偏好优化（DPO）是一种广泛使用的离线偏好优化算法，它通过人类反馈（RLHIP）重新参数化强化学习中的奖励函数，以增强简单性和训练稳定性。论文提出了SimPO，一种更简单但更有效的方法。SimPO的有效性归功于一个关键设计：使用序列的平均对数概率作为隐式奖励。这种奖励形式更好地与模型生成对齐，并消除了对参考模型的需求，使其在计算和内存上更高效。此外，论文在BradleyTerry目标中引入了一个目标奖励...LLMSimPOGPUMeta 新作：FlashAttention 的数值偏差有多大？
一、背景最近Meta的研究员开发了一个新的框架来了解LLM训练中数值偏差的影响，并基于该框架评估了LLM中广泛采用的FlashAttention的数值偏差。对应的论文为：[2405.02803]IsFlashAttentionStablePS：其实论文很简单，结论也很简单：使用FlashAttention相比BaselineAttention确实会带来数值偏差。但带来的数值偏差比从FP32到FP16的数值偏差小得多，甚至小于不同初始化方法带来的偏差。吐槽一下，论文中的图都比较模糊。二、摘要LL...数值LLM训练AutoCoder：性能超越GPT-4o的模型，居然只有33B，还是开源！
比GPT4还要厉害的开源模型图片今天这篇论文介绍了一个最新的大语言模型AutoCoder，一个只有33B的大语言模型。AutoCoder33B在HumanEval基准测试中Pass1的达到90.9%，领先于当前所有顶级的代码生成大型语言模型。在HumanEval+上，它的Pass1为78%，仅次于GPT4Turbo和CodeQwen1.5Chat。模型下载地址：https:huggingface.coBin12345AutoCoder图片其中，尽管AutoCoderS只有6.7B参数，它在HumanEval和HumanEval+上的Pass1比率依然达到...性能GPT-4o模型ChemBench：大语言模型化学能力评测数据集
ChemBench是上海人工智能实验室AIforScience团队自建的化学语言模型评测数据集，实现了大模型能力在化学领域的全面评估。研究团队从互联网公开资源中采集并设计构建了4100多道多项选择题，每个选择题只有一个正确答案。覆盖了基于文本的分子生成、名称转换、性质预测、温度预测、分子描述、产率预测、溶剂预测、逆合成分析、产物预测九大化学任务。ChemBench评测任务介绍随着大语言模型的飞速发展，一系列特定领域的垂类模型也...语言模型化学能力数据集TigerGraph CoPilot如何实现图形增强式AI
原创通过对比其他商用LLM的缺陷，本文详细介绍了TigerGraphCoPilot的主要功能、优点、以及两个关键用例。近年来，数据作为一种生产要素，已经能够有能力为我们提供横跨不同行业的变革性商业见解了。不过，如何利用好可以获得的大数据，往往给我们带来了不小的挑战。一面是过载的数据，一面却是大量未被充分利用的数据孤岛。不少专业数据科学家和分析师亟待通过专业知识，让自己所在的组织能够在不牺牲性能和运营效率的情况下，及时...LLM生成式AIAI助手大模型的提示工程：提示是对程序的搜索
精华Google研究员FrançoisChollet是一位在机器学习和深度学习领域具有重要影响力的一线工程师。他以创建流行的开源机器学习库Keras而闻名,同时也是流行的机器学习实战书籍《DeepLearningwithPython(使用Python来深度学习)》的作者。不久前他发表博文：“HowIthinkaboutLLMpromptengineering（大模型的提示工程之我见）”，深入地探讨了大模型提示工程。Chollet从语言模型架构、学习机制和能力的演进来理解大模型的提示工程。他特别...模型程序搜索FlashRAG：5大组件、12种RAG技术、32个数据集的开源框架，比LangChain轻量！
FlashRAG是一个用于复制和开发检索增强生成（RAG）研究的Python工具包。它包括32个预处理的基准RAG数据集、13种最先进的RAG算法，5大RAG组件，包括检索器、重排器、生成器、精炼器、评测器。借助FlashRAG和提供的资源，可以轻松地复制RAG领域的现有SOTA（最先进）工作，或者实现自定义的RAG流程和组件，比LangChain和LlamaIndex轻量且易操作。FlashRAG概览12种RAG技术在三个数据集上进行的性能评估。优化组件表示该方法主要优化...FlashRAGRAG技术人工智能AI和数字化世界走向何方
原创2024年5月23日，美国众议院外交事务委员会以压倒性多数投票提交了一项法案，该法案将使拜登政府更容易限制AI系统的出口。该法案还将赋予美国商务部明确的权力，禁止美国人与外国人合作开发对美国国家安全构成威胁的AI系统。路透社本月报道称，拜登政府准备开辟一条新的战线，以保护美国AI避免落入他国之手，初步计划针对最先进的AI模型设置护栏。AI的你追我赶，堪比当年的太空竞赛。可以预见的是，未来50年人类生活将被人工智能...人工智能AITransformers学习上下文强化学习的时间差分方法
原创上下文学习指的是模型在推断时学习能力，而不需要调整其参数。模型（例如transformers）的输入包括上下文（即实例标签对）和查询实例（即提示）。然后，模型能够根据上下文在推断期间为查询实例输出一个标签。上下文学习的一个可能解释是，（线性）transformers的前向传播在上下文中实现了对实例标签对的梯度下降迭代。在本文中，研究人员通过构造证明了transformers在前向传播中也能实现时间差异（TD）学习，并将这一现象称为...Transformers上下文学习ICML 2024：从视觉语言基础模型反馈中进行强化学习
原创奖励工程长期以来一直是强化学习研究中的挑战，因为它通常需要大量人力投入。在本文中，研究人员提出了RLVLMF，它可以自动生成代理学习新任务的奖励函数，仅利用任务目标的文本描述和代理的视觉观察，通过利用视觉语言基础模型（VLMs）的反馈。该方法的关键在于查询这些模型，根据任务目标的文本描述对代理的图像观察对进行偏好，并从偏好标签中学习奖励函数。RLVLMF成功地在各种领域中产生了有效的奖励和策略，包括经典控制，...视觉语言基础模型【科技前沿】揭秘DeDoDe v2：如何革新关键点检测技术，让AI“眼”更明亮？
在人工智能领域，关键点检测技术一直是计算机视觉研究的重要课题。近期，来自Linköping大学、Chalmers大学、香港中文大学以及TexasA&M大学的科研团队，成功推出了DeDoDev2——一款革新性的关键点检测器。今天，就让我们一起揭开DeDoDev2的神秘面纱，看看它是如何引领科技前沿，让AI的“眼睛”更加明亮。一、技术革新，DeDoDev2应运而生在图像处理和计算机视觉领域，关键点检测是许多应用的基础，如目标识别、图像匹配、三维重...AIDeDoDe v2人工智能Meta等最新研究：多token预测，提升大模型推理效率
GPT4、Gemini系列、Llama3等开闭源大模型，通常使用的是下一个token预测（NexttokenPrediction）的损失函数进行预训练。这种方法虽然强大，但有很多局限性，例如，需要大量的训练数据才能使模型达到人类儿童的智商，并且随着模型参数的增大推理效率会变差。因此，Meta、巴黎理工大学和巴黎萨克雷大学提出了一种全新训练方法多token预测（MultitokenPrediction），在训练的过程中要求模型在每个位置上同时预测接下来的n个Token，...模型训练德勤：中国、印度等对ChatGPT等生成式AI应用，处领先地位
全球四大会计事务所之一的德勤（Deloitte）在官网发布了一份，名为《GenerativeAIinAsiaPacific:Youngemployeesleadasemployersplaycatchup》的深度调查报告。主要查看中国、澳大利亚、印度、日本、新加坡、韩国、中国台湾等亚太地区对ChatGPT、Gemini、Midjourney、Claude和GitHubCopilot等生成式AI（AIGC）的应用情况。本次调查对象一共有11900人，其中9000名为企业员工，2900名为在校学生。结果显示，亚太地区中的发展国家对...ChatGPT生成式AI陈丹琦团队新作：微调8B模型超越Claude3 Opus，背后是RLHF新平替
比斯坦福DPO（直接偏好优化）更简单的RLHF平替来了，来自陈丹琦团队。该方式在多项测试中性能都远超DPO，还能让8B模型战胜Claude3的超大杯Opus。而且与DPO相比，训练时间和GPU消耗也都大幅减少。这种方法叫做SimPO，Sim是Simple的简写，意在突出其简便性。与DPO相比，SimPO摆脱了对参考模型的需要，在简化训练流程的同时，还避免了训练和推理不一致的问题。对于这项成果，普林斯顿PLI主任SanjeevArora教授这样称赞：和（SimPO方...模型训练港大字节提出多模态大模型新范式，模拟人类先感知后认知，精确定位图中物体
当前，多模态大模型（MLLM）在多项视觉任务上展现出了强大的认知理解能力。然而大部分多模态大模型局限于单向的图像理解，难以将理解的内容映射回图像上。比如，模型能轻易说出图中有哪些物体，但无法将物体在图中准确标识出来。定位能力的缺失直接限制了多模态大模型在图像编辑，自动驾驶，机器人控制等下游领域的应用。针对这一问题，港大和字节跳动商业化团队的研究人员提出了一种新范式Groma——通过区域性图像编码来提升多...模型模拟探索LangGraph：构建多专家协作模型
探索LangGraph：如何创建一个既智能又可控的航空客服AI利用单一提示的方法确实能覆盖很广的应用场景。但是，如果想要为特定的用户需求提供稳定且出色的体验，仅靠这种方法就显得有些力不从心了。取而代之的是，我们可以通过识别用户的意图，并将其引导至相应的定制化流程或“技能”，来满足用户的具体需求。每个流程都可以专注于特定的领域，这样不仅可以实现各自领域的优化提升，还不会影响到整体助手的性能。在本节中，我们将...LangGraph协作模型又又又又翻车！谷歌新AI功能再遭公众批评，称前总统奥巴马是穆斯林，“承认谷歌违反反垄断法”
原创编辑｜星璇出品51CTO技术栈（微信号：blog51cto）谷歌近日在谷歌搜索中首次推出了“AIOverview”，上线还不到两周，就被爆料由于该AI功能中的查询返回了毫无意义或不准确的结果（并且没有任何选择退出的方式），公众的批评日益增多。AIOverview在Google搜索的最顶部显示搜索问题答案的简要摘要。例如，如果用户搜索清洁皮靴的最佳方法，结果页面可能会在顶部显示“AIOverview”，其中包含多步清洁过程，这些信息是从网络上综合...AI谷歌反垄断法KDD2024 | 解决时空建模异质问题——基于时空表征的个性化参数时空网络
今天给大家介绍一篇最近被KDD录用的时空预测建模工作。这篇文章重点解决在时空预测建模中，如何解决不同样本在时间和空间维度上的异质性，提出了一种基于时空表征的个性化参数建模方法。1、背景时空建模是一个常见问题，例如在交通预测中，预测每个位置每个时间步的流量等任务，需要同时考虑一个位置内时间维度的依赖关系，以及同一段时间不同位置建的空间依赖关系。关于时空建模，在【圆圆的算法笔记】知识星球中也详细整理了...Fareise 圆圆的用基础模型指导特征传播，首个泛化型图像匹配器OmniGlue搞定未见过域
对于想要获取两张图像之间的细粒度视觉对应关系而言，局部图像特征匹配技术是高不错的xuanz，对于实现准确的相机姿态估计和3D重建至关重要。过去十年见证了从手工制作到基于学习的图像特征的演变。最近，研究社区又提出了新颖的可学习图像匹配器，在传统基准上实现了性能的不断改进。尽管已经取得了长足的进步，但这些进展忽略了一个重要方面：图像匹配模型的泛化能力。如今，大多数局部特征匹配研究都集中在具有丰富训练数据的...模型图像
