AI.x社区

大家好，我是HxShine今天我们将介绍EMNLP2023的一篇大模型（LLMs）生成文本分类任务合成数据的文章，标题是《SyntheticDataGenerationwithLargeLanguageModelsforTextClassification:PotentialandLimitations》。实际落地中，高质量训练数据的收集和筛选既耗费时间又成本昂贵，研究人员探索使用LLMs生成合成数据作为替代方法。然而，LLMs生成的合成数据在支持不同文本分类任务的模型训练上效果有好有差。本文试图分析不同因素如...

4月17日，OpenAI在社交平台宣布，在API仪表盘中新增“项目”管理功能，帮助企业、个人开发者更精细化的管理、跟踪模型。项目的功能包括，模型的选择、功能、线程、助手、模型微调、数据存储等，同时可以将创建的API项目与团队中的其他成员共享。该功能对于那些想精细化管理模型使用，以及员工人数非常多且部门复杂的企业来说帮助很大。如何创建API项目​1）单击左上角的组织名称。2）选择“创建项目”。3）输入一个名称，开始创...

当我们使用Midjourney、DALL·E3、StableDifusion等模型生成图片后，想在保留主体大框架的情况下改变图片的样式，最直接的方法就是通过PS、AdobeLightroom、DxOPhotoLab等专业修图软件。但这对于很多人来说不太方便，也不符合AI时代的高效率处理方法。所以，「AIGC开放社区」就为大家介绍一款最近公测的高效图片无限重生样式的免费试用AI平台——Freepik。你只需要把图片上传到Freepik，选择3D、绘画、怀旧、卡通、超现实等样式...

前言本文基于前期介绍的电力变压器（文末附数据集），介绍一种基于TCNSENet+BiGRUGlobalAttention并行预测模型，以提高时间序列数据的预测性能。电力变压器数据集的详细介绍可以参考下文：​​电力变压器数据集介绍和预处理​​1模型整体结构模型整体结构如下所示:分支一：通过基于通道注意力机制(SENet)的TCN模型网络，来自适应地调整通道特征的权重，使模型能够自动学习到不同通道的重要性，提取了多特征序列中与预测目标相关...

论文链接：https:arxiv.orgpdf2404.01143.pdf项目链接：​​https:github.commithanlabefficientvit​​今天和大家一起学习条件感知神经网络（CAN），这是一种向图像生成模型添加控制的新方法。与先前的条件控制方法并行，CAN通过动态调整神经网络的权重来控制图像生成过程。这是通过引入一个条件感知权重生成模块来实现的，该模块根据输入条件生成卷积线性层的条件权重。本文在ImageNet上进行了类别条件图像生成以及在COCO上进...

随着人工智能技术的不断发展，多模态成为了一个备受关注的研究方向。多模态技术旨在将不同类型的数据和信息进行融合，以实现更加准确、高效的人工智能应用。本文将详细介绍多模态的概念、研究内容和应用场景，并探讨人工智能领域多模态的未来发展趋势。一、多模态的概念多模态（Multimodality）是指同时使用两种或多种感官进行信息交互的方式。在人工智能领域，多模态技术是指将不同类型的数据和信息进行融合，以实现更加准确、...

还没等OpenAI公开Sora，却等来了Adobe官宣。一早，Adobe官方称，Sora、Gen2、Pika等一系列生成式AI工具将在PremierePro推出。一大批网友激动表示，终于能用上Sora了。根据官方演示，借助这些AI视频模型，可以在Adobe实现诸多能力。一位男子走向窗前，正在看整座城市的夜景。Sora出战后，立即根据文本生成了雨中城市夜景的视频。同样，Runway的Gen2模型也可以根据提示，生成以司机角度看夜景的内容。你甚至，可以用Pika模型生成...

随着人工智能技术的不断突破，我们正站在一个新时代的门槛上。在这个即将到来的时代，技术的力量将被极大地民主化，每个人都将成为创造者。这一激动人心的愿景在Create2024百度AI开发者大会上李彦宏的演讲中得到展现。接下来重点讲解李彦宏在本次大会上关于AI的一些重要观点，对于百度一些工具的介绍就不做过多解读。一、自然语言编程的崛起李彦宏在演讲中提出了一个颠覆传统编程观念的观点：未来，自然语言将成为新的通用编程...

一般来讲，让大模型应用到具体的行业领域，那就必须让大模型懂得行业里的知识。这种知识的导入一般有三种方法，一种是在预训练阶段喂给模型一些领域的文档和知识，扩充一些领域词表的方式解决。而更为常用的是另外两种做法，微调或者RAG，其中微调是以问答对的方式将领域知识训练到模型中，而RAG则是通过在Prompt中增加领域知识上下文的方式让大模型获得相关领域知识进而回答领域问题。有一个形象的比喻是，微调的方式相当于是...

何谓MusicLM？MusicLM是谷歌公司开发的文本到音乐人工智能中的旗舰产品，最初发布于2023年初。即使是在其基础版本阶段，它也代表着一个重大突破，并让音乐行业大吃一惊。然而，几周前，MusicLM进行了一次重要的更新。以下给出的是针对两个挑选的提示句子的并排比较情况：Prompt:“Dancemusicwithamelodicsynthlineandarpeggiation”:中文意思：“带有旋律合成并伴有琶音的舞曲”：老版本MusicLM：​https:googleresearch.github...

出品51CTO技术栈（微信号：blog51cto）2024，大家不再卷参数卷测评了，开始卷应用了。但，谁又知道AI原生应用什么样？怎么做？这个学费不好交。令人兴奋地是，AI大佬李彦宏今天终于现身说法。4月16日，李彦宏轻装上阵，在百度AI开发者大会一股脑将百度过去一年实践出来的、开发AI原生应用的具体思路和工具全都放出来了。Robin一口气接连放出了百度三大AI原生应用的开发利器：ModelBuilder、AgentBuilder、AppBuilder，可以说这...

从国际顶流GPT4128K、Claude200K到国内「当红炸子鸡」支持200万字上下文的KimiChat，大语言模型（LLM）在长上下文技术上不约而同地卷起来了。当全世界最聪明的头脑都在卷一件事的时候，这件事的重要性和难度就自然不言自明。极长的上下文可以极大拓展大模型的生产力价值。随着AI的普及，用户已经不再满足于调戏大模型几个脑筋急转弯，用户开始渴望利用大模型来真正提高生产力。毕竟从前花一周憋出来的PPT，现在只需要喂给大模型...

说起近两年最热门的话题，那一定非大模型莫属了。众所周知，伴随着ChatGPT的强势出圈，全球范围内掀起了一波人工智能热潮，国内外的诸多企业都开足马力，推出了自己的大模型产品。而AI大模型产品的不断问世，也上演了一番“百模大战”的盛况。随着越来越多AI大模型产品的相继推出，AI大模型的落地应用也逐渐提上了日程，成为了各行各业的重点关注方向。值得注意的是，除了通用大模型之外，针对细分行业的垂直大模型数量也日渐增...

Transformer的重要性无需多言，目前也有很多研究团队致力于改进这种变革性技术，其中一个重要的改进方向是提升Transformer的效率，比如让其具备自适应计算能力，从而可以节省下不必要的计算。正如不久前Transformer架构的提出之一、NEARProtocol联合创始人IlliyaPolosukhin在与黄仁勋的对话中说到的那样：「自适应计算是接下来必须出现的。我们要关注，在特定问题上具体要花费多少计算资源。」其实人类就天生具备自适应计算的能...

随着扩散模型的不断创新，文生图领域出现了Midjourney、StableDiffusion、DALLE3等一系列知名产品。但在文本生成多视角3D图像方面一直存在诸多技术难点，Meta和德国慕尼黑工业大学的研究人员联合开发了创新模型——ViewDiff。用户通过文本、图像或二者结合使用，就能生成高质量多视角3D图像，可帮助游戏开发、元宇宙等行业快速构建模型。根据测试数据显示，ViewDiff生成的图像在一致性和视觉质量方面非常出色，并将FID、KID的数...

论文链接：https:arxiv.orgpdf2404.07949.pdf工程链接：https:chengzhag.github.iopublicationpanfusion生成模型，例如StableDiffusion模型，已经使从文本prompt生成逼真图像成为可能。然而，从文本生成360度全景图仍然是一项挑战，特别是由于缺乏成对的文本全景数据和全景与透视图之间的领域差异。本文介绍了一种名为PanFusion的新型双分支扩散模型，用于从文本prompt生成360度图像。本文利用StableDiffusion模型作为一个分支...

论文标题：ASPEN:HighThroughputLoRAFineTuningofLargeLanguageModelswithaSingleGPU论文地址：​​https:arxiv.orgabs2312.02515​​论文翻译https:arxivtools.blob.core.windows.netxueshuxiangzipaperhtml20231262312.02515.pdf参考代码：https:github.comTUDBLabsmultilorafinetune摘要基于transformer的LLM在不同领域表现出出色的性能，特别是针对特定领域进行微调时。微调LLM所需的资源可以通过低秩自适应（LoRA）等高效...

直接偏好优化（DirectPreferenceOptimization，DPO）已成为对大模型进行微调的基本方式。著名的Mistral公司开发的Mixtral8x7B模型，即稀疏专家混合模型（SparseMixtureofExperts），通过使用DPO，能够以显著较少的参数达到LLaMa70B级别的性能。自然而然地，这一成功促使社区中许多人开始使用DPO对自己的模型进行微调。目标一旦你将一个模型预训练得具有强大的生成能力，通常希望以某种方式控制其输出。无论是将其优化为在对话中...

文章链接：https:arxiv.orgpdf2404.07178扩散模型生成的图像质量达到了前所未有的水平，但我们如何自由重新排列图像布局呢？最近的研究通过学习空间解耦的潜在编码生成可控场景，但由于扩散模型的固定前向过程，这些方法并不适用。在这项工作中，本文提出了SceneDiffusion，在扩散采样过程中优化分层场景表示。本文的关键洞察是，通过联合去噪不同空间布局的场景渲染，可以获得空间解耦。生成的场景支持各种空间编辑操作，包括...

人工智能驱动的内容创作领域正在迅速发展，视频生成也不例外。Haiper.ai登场了，这是一款新晋免费AI视频生成工具，正引起轰动。然而，像Sora这样的老牌玩家已经占据了市场，Haiper能否真正达到预期？什么是Haiper.ai？Haiper是一款由强大的感知基础模型驱动的人工智能，旨在开辟通往通用人工智能（AGI）的新路径。我们不仅构建了少数空间内很少有人能够实现的专有模型，而且还在不断成长、演化，并与创作者社区保持一致。由Goog...