AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
史上最强文生图模型？谷歌Imagen3内部详细评估资料解读
精华文章链接：https:arxiv.orgpdf2408.07009亮点直击Imagen3，目前Google最好的文生图扩散模型，是一种潜在扩散模型，可以从文本提示生成高质量的图像。详细描述了Imagen3质量和责任评估，发现Imagen3相比其他SOTA模型更受欢迎。讨论了安全和表征问题，以及用于最小化本文模型潜在危害的方法。数据Imagen3模型在一个大型数据集上进行训练，该数据集包含图像、文本和相关注释。为了确保质量和安全标准，本文采用了多阶段的过滤过程...文生图模型具身智能成败之关键！干货长文首次全面回顾具身智能领域中的视觉-语言-动作模型！
文章链接：https:arxiv.orgpdf2405.14093亮点直击本综述是关于具身智能领域中新兴的视觉语言动作模型的首次全面回顾。全面回顾。对具身智能领域中涌现的VLA模型进行了全面回顾，涵盖了架构、训练目标和机器人任务等各个方面。分类法。引入了当前机器人系统的分层结构分类法，包含三个主要组件：预训练、控制策略和任务规划器。预训练技术旨在增强VLAs的特定方面，如视觉编码器或动力学模型。低层次控制策略根据指定的语言命令和...AI策略必须为孩子存下来的提示词，像玩RPG游戏一样学习
正如飞行员、医生、卡车司机和运动员通过在低风险环境中练习技能而提升表现，学生在被赋予探索、犯错并调整策略的机会时，也能更有效地学习。角色扮演情境，即学生扮演特定角色并尝试解决商业问题，提供了丰富的实践机会。这样的情境为学生提供了一个无风险的环境，让他们能够测试自己的知识和练习做出关键决策。然而，市面上现有的角色扮演材料，无论是线上还是纸质的，可能与我们课程的具体学习目标不完全一致，也无法适应不...RPGAI场景高维多变量下的Transformer时序预测建模方法
今天给大家介绍一篇CIKM2024中的时间序列预测工作，这篇文章针对高维多变量时序预测问题，提出了一种基于Transformer的建模方法。论文标题：ScalableTransformerforHighDimensionalMultivariateTimeSeriesForecasting下载地址：https:arxiv.orgpdf2408.04245v11.背景现在的时间序列预测主要研究点都是如何扩长能够建模的历史长度和未来长度，也就是时间维度上的扩展。比较少的工作研究如何建模变量维度上的扩展。在多变...Transformer时序预测Gamma创始人畅谈现象级AI+PPT产品是怎么做出来的？
最近，现象级AI+PPT产品Gamma的创始人GrantLee和JonNoronha在一次深入访谈中，分享了他们公司的成长历程、产品理念、市场战略，以及他们对人工智能的深刻见解。Gamma的创始团队成功地将生成式AI技术应用于幻灯片制作，自公司成立以来，已在全球范围内吸引了2000万用户。这一成就不仅令人瞩目，而且其背后的经验教训也极具借鉴价值。在访谈中，他们回顾了创业的初衷，讲述了产品从诞生到成熟的成长历程，以及如何利用AI技术克...AIPPT产品你知道大模型能做哪些事情吗？——大模型的任务类型以及应用场景
原创“不熟悉大模型技术与业务场景的情况下，怎么构建一款大模型的产品”现在大模型技术发展的日新月异，但市面上关于大模型的教程基本上都集中在技术实现以及基础使用。不知道你是否思考过，如果自己想用大模型解决某个领域的问题应该怎么做？大模型能解决那些问题，该怎么解决这些问题？也可以理解为大模型有哪些任务类型，不同的任务类型能解决那些应用场景的问题？大模型任务与场景的结合以深度学习为基础的生成式预训练模型(如...大模型揭开神秘面纱：深入了解语音识别算法
原创本文将探索使语音识别成为可能的机制，了解日益普及的用于应用人工智能的语音用户界面(VUI)可能带来的优势。如今，似乎每一款商用设备都具备某种形式的语音识别功能，或者至少尝试过实现这一功能。从跨平台的语音助手到转录服务和辅助工具，再到最近成为大型语言模型(LLM)差异化的关键要素——语音输入已成为日常的用户界面。根据预测，语音用户界面(VUI)的市场规模将从2023年至2028年以23.39%的复合年增长率增长，可以预见将有...人工智能大型语言模型LLM理性看待、正确理解AI中的 Scaling “laws”
原创编者按：LLMs规模和性能的不断提升，让人们不禁产生疑问：这种趋势是否能一直持续下去？我们是否能通过不断扩大模型规模最终实现通用人工智能（AGI）？回答这些问题对于理解AI的未来发展轨迹至关重要。在这篇深度分析文章中，作者提出了一个令人深思的观点：单单依靠扩大模型规模来实现AGI的可能性几乎为零。这篇文章为我们提供了一个清醒的视角，提醒我们在预测AI未来发展时需要保持谨慎和理性。它挑战了业界普遍接受的观点，...AILLMs人工智能简洁思考：输出长度对大型语言模型推理和成本的影响
原创一、结论写在前面论文标题：ConciseThoughts:ImpactofOutputLengthonLLMReasoningandCost论文链接：https:arxiv.orgpdf2407.19825当今的大型语言模型（LLMs）能够解决具有挑战性的问答任务，而诸如思维链（CoT）等提示工程技术因其增强输出解释和正确性而受到关注。然而，模型生成附带详细推理细节的答案需要大量时间。为了解决这一问题，本文分析了输出长度对LLM推理管道的影响，并提出了新的指标来评估其正确简洁性。...大型语言模语言模型的神秘面纱：小学数学与隐含推理过程
一、结论写在前面论文标题：PhysicsofLanguageModels:Part2.1,GradeSchoolMathandtheHiddenReasoningProcess论文链接：https:arxiv.orgpdf2407.20311预览页面视频：https:physics.allenzhu.compart2gradeschoolmathpart21语言模型的最新进展展示了其在解决数学推理问题上的能力，达到了接近完美的准确率，如GSM8K等小学水平数学基准测试。论文研究了语言模型如何解决这些问题。论文设计了一系列控制实验来回答...LLM语言模型大模型技术学习之——大模型常用架构以及技术难点
原创“不同的架构，适合不同的任务”很多人对人工智能以及大模型都有一定的误解，那就是弄不明白其中各种专业名词，以及关系。甚至很多人认为大模型就是人工智能，人工智能就是大模型。也有人认为只有transformer架构的才是大模型，因此，今天就来了解一下模型的架构。大模型的架构及优缺点首先，人工智能(AI)有多种实现方式，而机器学习是其中的一种；而基于机器学习又延伸出了深度学习，深度学习的思想就是分层，通过多个层的叠加...大模型即插即用，效率远超ControlNet！贾佳亚团队重磅开源ControlNeXt：超强图像视频生成方法
文章链接：https:arxiv.orgpdf2408.06070git链接：https:github.comdvlabresearchControlNeXt项目链接：https:pbihao.github.ioprojectscontrolnextindex.html亮点直击提出了ControlNeXt，这是一种强大且高效的图像和视频生成方法，大幅减少了延迟开销和参数量。引入了交叉归一化（CrossNormalization）用于微调预训练的大型模型，从而促进高效且稳定的训练收敛。ControlNeXt可以作为一个轻量级的即插即用模块，可以与其他LoR...视频生成英伟达开源新大模型：训练数据减少40倍，算力节省1.8倍
全球AI领导者英伟达（Nvidia）开源了最新大模型Nemotron4Minitron4B和Nemotron4Minitron8B。据悉这两个模型是基于Meta开源的Llama3.18B，但英伟达使用了两种高效的训练方法结构化剪枝和知识蒸馏。相比从头训练，每个额外模型所需的训练token数据更少，仅需大约1000亿token，最多减少40倍，算力成本可节省1.8倍。性能却依然媲美Llama3.18B、Mistral7B、Gemma7B等知名模型，而这些模型是在高达15万亿token数据训练而成。4B开源地...模型开源半监督学习：如何克服数据标签缺乏问题
原创本文将深入理解半监督学习的概念，探索其原理、应用以及彻底改变人们处理数据密集型机器学习任务的方式的潜力。所有成功实施的机器学习模型都至少由两个强大的组件支持：数据和模型。一些机器学习工程师表示，他们宁愿把时间花费在模型开发上，也不愿将大量的时间用于数据准备上，其中包括监督学习中的数据标签。当已解决大多数问题时，对大量数据添加标签的难度远远超过最初获取数据的难度。无标签数据在训练过程中无法达到所...机器学习数据标签缺乏半监督学习大模型学习方法之——大模型技术学习路线
原创“技术学习无非涵盖三个方面，理论，实践和应用”大模型技术爆火至今已经有两年的时间了，而且大模型技术的发展潜力也不言而喻。因此，很多人打算学习大模型，但又不知道该怎么入手，因此今天就来了解一下大模型的学习路线。丁元英说：“透视社会有三个层面，技术，制度与文化”；同样的，技术学习同样有三个层面，理论，实践和应用，三者相辅相成，缺一不可。技术的意义在于解决问题大模型技术学习的理论，实践与应用学习大模...大模型REGMIX: 作为语言模型预训练的回归数据配比
原创一、结论写在前面论文标题：RegMix:DataMixtureasRegressionforLanguageModelPretraining论文链接：https:arxiv.orgpdf2407.01492代码：https:github.comsailsgregmix大型语言模型预训练中的数据配比对性能有显著影响，但如何确定有效的配比仍不明确。论文提出REGMIX，通过将数据配比问题形式化为回归任务，自动识别高性能的数据配比。REGMIX包括使用多种数据配比训练一组小型模型，并拟合一个回归模型来预测给...LLM从原理到挑战，梳理AI智能体应用
原创智能体应用：融合前沿AI技术，提供自主决策和复杂任务处理的智能化解决方案。1引言智能体应用，依托人工智能技术，能够根据用户的输入和环境变化，独立自主地执行任务并做出决策。这些应用配备了尖端算法和工具，不仅能够制定行动计划，还能即时优化策略。智能体应用通过整合访问工具、逻辑推理和即时响应等功能，能够构建并推进复杂的工作流程，为用户带来智能化的解决方案。在理论探讨和未来预测方面，该领域更倾向于通过原...AI智能体深入浅出孪生神经网络，手把手教你搭建起来
原创使用孪生神经网络在PyTorch中实现签名验证的方法，以及在数据有限的情况下如何高效训练模型。在深度学习的领域里，神经网络几乎能处理各种任务，但通常需要依赖于海量数据来达到最佳效果。然而，对于像面部识别和签名验证这类任务，我们不可能总是有大量的数据可用。由此产生了一种新型的神经网络架构，称为孪生网络。孪生神经网络能够基于少量数据实现精准预测。本文介绍孪生神经网络的基本概念，教读者如何用PyTorch来搭建一...孪生神经网络清华唐杰团队新作：一口气生成2万字，大模型开卷长输出
精华一口气生成2万字，大模型输出也卷起来了！清华&智谱AI最新研究，成功让GLM4、Llama3.1输出长度都暴增。相同问题下，输出结果直接从1800字增加到7800字，翻4倍。要知道，目前大模型的生成长度普遍在2k以下。这对于内容创作、问题回答等都存在影响，可能导致模型回答问题不全面、创造性降低等。该研究由智谱AI创始人、清华大学教授李涓子和唐杰共同领衔。论文及代码都已放在GitHub上开源。有网友已经抢先体验。LongWriterllama3.1...模型生成非Transformer模型终于来了！
原创FalconMamba7B强大的新AI架构为transformer模型提供了替代方案8月12日，阿布扎比技术创新研究所（TII）发布了一款名为FalconMamba7B的新开源模型。同时，这款模型已经放在了HuggingFace平台。Mamba7B采用了一种新颖的Mamba状态空间语言模型（SSLM）架构来处理各种文本生成任务，并在选定基准测试中优于其尺寸类别中的主流模型，包括Meta的Llama38B、Llama3.18B和Mistral7B。尽管，它是继Falcon180B、Falcon40B和Falcon2之后TII...Transformer模型
