AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
2024年大模型LLM还有哪些可研究的方向？听听大佬怎么说
问：2024年大模型LLM还有哪些可研究的方向？答：前言纯属brainstorm，欢迎大家一起探讨。想到哪里说到哪里，有遗漏的点欢迎大家在评论区中指出。个人认为现在LLM能做的点还很多，这个行业距离饱和还有一段距离。这里通过“输入、模型范式、输出、其他”几个方面来展开，个人觉得比较看好的方向加粗标出：输入数据优化RAG模型范式LLM+RoboticsAgent统一模态生成VisionLanguageModels架构设计输出生成内容安全问题评测问题其他NLP...LLM 大模型费米悖论与收益递减，超级人工智能与人类社会将会怎样相互作用
在探索宇宙生命的奥秘时，我们不禁会问：在这浩瀚的宇宙中，为什么我们还没有遇到其他文明的迹象？这个问题被称为费米悖论。而在人工智能领域，随着技术的飞速发展，超级AI——那些在智力上远超人类的机器智能——已不再是科幻小说的构想，而是未来可能迎来的现实。数学家DanielVallstrom同时是一位在人工智能和进化理论交叉领域进行深入研究的学者，他于4月4日在arXiv发表的论文《CooperativeEvolutionaryPressureandDiminishi...人工智能人类社会作用图像生成里程碑！VAR:自回归模型首超Diffusion Transformer！（北大&字节）
论文：https:arxiv.orgpdf2404.02905.pdf代码：https:github.comFoundationVisionVARdemo：https:var.vision视觉自回归建模（VAR），这是一种重新定义图像上的自回归学习的新一代范式。VAR将自回归学习视为粗到细的“下一尺度预测”或“下一分辨率预测”，与标准的光栅扫描“下一个token预测”有所不同。这种简单直观的方法使得自回归（AR）transformers能够快速学习视觉分布，并且具有良好的泛化能力：VAR首次使得类似GPT风格...新视觉 框架LLM超长上下文查询-性能评估实战
在大型语言模型（LLM）的应用中，有几个场景需要以结构化的方式呈现数据，其中信息提取和查询分析是两个典型的例子。我们最近通过更新的文档和一个专门的代码仓库强调了信息提取的重要性。对于查询分析，我们同样更新了相关文档。在这些场景中，数据字段可能包括字符串、布尔值、整数等多种类型。而在这些类型中，处理高基数的分类值（即枚举类型）是最具挑战性的。所谓的“高基数分类值”，指的是那些必须从有限的选项中选择的...LLM查询性能ICLR'24 | 对比学习引入全周期时间序列信息提升长周期时序预测效果
这篇文章给大家介绍一下ICLR2024中，用对比学习强化时间序列预测的一篇工作。这篇文章是韩国KAIST发表的工作，通过在时间序列预测中引入对比学习，实现对Encoder建模窗口以外全周期时间序列信息的应用。论文标题：SELFSUPERVISEDCONTRASTIVEFORECASTING下载地址：https:arxiv.orgpdf2402.02023v1.pdf1.背景长周期时间序列预测一直是业内研究的焦点，但是现有的方法，大多数都是在一个时间窗口内建模，即将原来的时间序...时序预测全周期当下最容易上手的大模型微调工具是谁？LLamaFactory或是其中之一
近日，国内的一款微调框架发布了自己的论文《LLAMAFACTORY:UnifiedEfficientFineTuningof100+LanguageModels》，对他们的框架做了系统性的总结。该框架自推出后迅速出圈，现已斩获15.6k的star，逐步成为当下微调的首选工具。https:arxiv.orgpdf2403.13372.pdf模型微调相较于上下文学习来讲，存在比较高的门槛，但又是模型专业化，领域化不可或缺的技术手段。而其复杂性突出表现在这些方面：1）理论基础，如果说基于大模...模型微调工具VideoMamba：用于高效视频理解的状态空间模型
我们提出了一个仅基于状态空间模型(SSM)的高效视频理解架构VideoMamba，并通过大量的实验证明了它具备一系列良好的特性，包括(1)VisualDomainScalability;(2)ShorttermActionSensitivity;(3)LongtermVideoSuperiority;(4)ModalityCompatibility。这使得VideoMamba在一系列视频benchmark上取得不俗的结果，尤其是长视频benchmark，为未来更全面的视频理解提供了更高效的方案。论文题目：VideoMamba:StateSpaceModelforEfficientV...VideoMamba视频模型大模型融合！最新「进化算法」全自动组合开源模型，刷榜多项基准测试
人类智慧的基础并不在于单个聪明的个体，而在于集体智慧。比如说，我们的社会和经济体系就是建立在由具有不同专业和专长的不同个人组成的许多机构的基础上的。SakanaAI团队相信，人工智能的发展也将遵循类似的集体道路。人工智能的未来不会是一个单一的、巨大的、无所不知的AI系统，需要巨大的能量来训练、运行和维护；而会是个由许多小型AI系统组成的广泛集合体，每个系统都有自己的专长，并相互连接，新的AI系统被开发来填补...模型 AI深度学习架构的超级英雄——BatchNorm2d
原创本文旨在探索2D批处理规范化在深度学习架构中的关键作用，并通过简单的例子来解释该技术的内部工作原理。由作者本人创建的图像深度学习（DL）已经改变了卷积神经网络（CNN）和生成式人工智能（GenAI）发展的游戏规则。这种深度学习模型可以从多维空间数据（如图像）中提取复杂的模式和特征，并进行预测。输入数据中的模式越复杂，模型架构就越复杂。尽管存在很多方法可以加速模型训练收敛并提高模型推理性能；但是，批量归一化2...深度学习BN2DDL模型GPT-4推理能力为0？开发者悬赏1万美金被打脸，神秘提示正确率直冲100%
ChatGPT，再一次打破人们对它的成见！它用自己的优秀表现证明了，很多时候自己看似失败的表现，只是因为人类不会正确地prompt而已。这位名叫Taelin的程序员、初创公司HigherOrder的创始人表示，下面这个脑筋急转弯，大多数孩子都能在一分钟内解决，然而所有的AI却都惨遭失败。这也就成了他给GPT「判死刑」的一个铁证——GPT模型在训练集之外，没有任何推理能力。GPT永远无法实现AGI。7万亿肯定是白烧的，是时候寻找新的算法了。...GPT AI超越GPT-4！最强大模型 Claude 3 完全解读
原创近日Anthropic公司发布了震撼消息：全新Claude3家族登场！据称，最强版本Claude3Opus在推理、数学、编码、多语言理解和视觉等领域已经超越了包括GPT4在内的所有大模型，展现出接近人类的理解能力。Claude3是AI独角兽Anthropic开发的大型语言模型（LLM），从技术上讲，Claude3覆盖了三种不同的模型：高级的Claude3Opus，第二梯队的Claude3Sonnet，以及尚未发布的Claude3Haiku。该公司不仅声称Claude3胜过了它的旧模型Claude2.1，...大模型Claude 3IP创作即将爆发！Midjourney最新功能来袭
原创使用StabilityAI、Midjourney、OpenAI等公司的图像生成工具时，用户经常发现要在生成的图像中维持角色的一致性是一项挑战。尽管重复使用相同的提示词，但AI每次都会根据新输入的提示生成新内容。这个功能对于需要保持叙事连续性的场景中显得尤为不足。特别是对于那些需要设计角色，并希望在不同场景中保持同一角色的面部表情和道具一致性的电影、小说或漫画书创作者来说，这一直是个难题。为了解决这个问题，Midjourney最近引入...Midjourney图像生成工具刚刚发布！一键生成动漫风格图片的开源模型
向大家介绍一个最新的AIGC开源项目——AnimagineXL3.1。这个项目是动漫主题文本到图像模型的最新迭代，旨在为用户提供更加优化和强大的动漫图像生成体验。在AnimagineXL3.1中，开发团队着重优化了几个关键方面，以确保模型在性能和功能上达到新的高度。首先，他们扩展了训练数据，不仅包括了之前版本中的游戏角色数据，还将许多其他知名动漫系列的数据纳入训练集中。这一举措大大丰富了模型的知识库，使其能够更全面地理解各种...Animagine开源玩转大模型！用Replicate一键部署
原创Replicate是一个云端的机器学习模型运行平台。它可以让用户使用云端API直接运行机器学习模型，而无需了解复杂的机器学习模型内部构造。Replicate允许用户在Python或JupyterNotebook中运行模型，并在云端进行模型的部署和调优。你可以用它运行他人发布的开源模型，也可以打包并发布自己的模型。使用Replicate，你只需一行代码就可以生成图像、运行和调优开源模型，以及部署自定义模型。通过在Python代码中调用Replicate的API，你...大模型Replicate超10秒高分辨率，北大Open Sora视频生成更强了，还支持华为芯片
OpenAI在今年年初扔出一项重大研究，Sora将视频生成带入一个新的高度，很多人表示，现在的OpenAI一出手就是王炸。然而，众多周知的是，OpenAI一向并不Open，关于Sora的更多细节我们无从得知。谁能率先发布类Sora研究成了一个热门话题。今年3月初，北大团队联合兔展启动了Sora复现计划——OpenSoraPlan，该项目希望通过开源社区的力量复现Sora。项目上线一个月，星标量已经达到6.6k。项目地址：https:github.comPKUYuanGroupOpen...AI 模型无需训练，这个新方法实现了生成图像尺寸、分辨率自由
近期，扩散模型凭借其出色的性能已超越GAN和自回归模型，成为生成式模型的主流选择。基于扩散模型的文本到图像生成模型（如SD、SDXL、Midjourney和Imagen）展现了生成高质量图像的惊人能力。通常，这些模型在特定分辨率下进行训练，以确保在现有硬件上实现高效处理和稳定的模型训练。图1:采用不同方法在SDXL1.0下生成2048×2048图像的对比。[1]然而，当这些预训练的扩散模型在超出训练分辨率时生成图像，通常会出现模式重复和严...训练 模型多模态大模型有了统一分割框架，华科PSALM多任务登顶，模型代码全开源
最近，多模态大模型（LMM）取得了一系列引人注目的成就，特别是在视觉语言任务上的表现令人瞩目。它们的成功不仅展现了多模态大模型在各个领域的实用性和灵活性，也为更多视觉场景下的应用探索了新的道路。尽管如此，在将LMM应用到计算机视觉任务上时，我们仍面临一个关键挑战：大多数LMM目前只限于文本输出，这限制了它们在处理更细粒度的视觉任务，如图像分割方面的能力。此外，图像分割领域内部的需求多样化，任务各异——实...AI 模型第一个能听懂人类语气的AI火了，网友：感觉在和真人交谈
第一个能听懂你说话的语气、有“情商”的AI火了！这个AI名为EVI（EmpathicVoiceInterface），它不仅能够能够理解用户的语气，还会为每个词增加意义。对话中的每句话，它都能可视化含惊讶量、含悲伤量、含兴奋量……然后根据用户的声音信号来变换自己的语音语调，给出高情商回答。EVI发布后，网友再次沸腾，称其为“语音交互的游戏规则改变者”。知名科技博主，曾是微软最著名博客人的RobertScoble也下场体验了，让EVI讲起了笑...AI人类“音乐版Sora”首批演示泄露，网友：比写《宫保鸡丁》的Suno好10倍
这两天，一个神秘的“音乐版Sora”产品被盛传即将发布，Suno和它比起来都不算什么。知情者评价belike：比Suno强两倍。模型相当强悍。人工智能音乐很快就会席卷全球。（Suno：刚刚火爆的一款AI音乐创作工具，火到200多名音乐人联名签公开信抗议）正当大家的胃口被吊得十足之时，这个神秘产品的首批演示泄露了。第一个demo由英伟达工程师BojanTunguz发布，随后很快删除，但手快的网友早已存档。第二个则来自匿名用户投稿。不得不...AI 音乐超越GPT4的Agent，我用代码实现了！
Agent开发的四种设计模式在吴恩达教授的演讲中，他提到了四种可以显著提升AI智能体性能的设计模式：反思（Reflection）：智能体审视自己的工作，并提出改进的方法。使用工具（Tooluse）：智能体利用网络搜索、代码执行等工具来收集信息、采取行动或处理数据。规划（Planning）：智能体制定并执行多步骤计划来达成目标。多智能体协作（Multiagentcollaboration）：多个智能体共同工作，通过分配任务和讨论来提出更优的解决方案。...GPT4Agent代码
