AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
在OpenAI，苹果一分没花，就办完了微软130亿元做成的事
原创出品51CTO技术栈（微信号：blog51cto）苹果不只要分文不花地获得Intelligence，还要OpenAI的话语权。根据彭博社报道，苹果公司将在OpenAI董事会上获得观察员角色，要知道，这是微软花费130亿美元才达成的！知情人士透露，苹果应用商店负责人、前营销主管菲尔·席勒（PhilSchiller）被选为这一职位。图片作为董事会观察员，他不会担任完全的董事。观察员虽然可以参加董事会会议，了解公司决策过程和内部运作，但他们不具备投票权...OpenAI苹果微软检索生成(RAG) vs 长文本大模型：实际应用中如何选择？
原创编者按：大模型的上下文理解能力直接影响到LLMs在复杂任务和长对话中的表现。本期内容聚焦于两种主流技术：长上下文(LargeContextWindows)和检索增强生成(RAG)。这两种技术各有何优势？在实际应用中，我们又该如何权衡选择？文章不仅详细阐述了这两种技术的工作原理，还深入分析了它们在效率、准确性和实施成本等方面的差异。文章特别提到了在执行重复性任务时使用ContextCaching优化长上下文的优势，然而，缓存策略的效果很大...LLMsRAG长上下文Context CachingACL2024 | NLP-KG：一个比Google Scholar更强大的NLP文献搜索工具
今天分享一篇来自慕尼黑工业大学的文章，Title:"NLPKG:ASystem)forExploratorySearchofScientificLiteratureinNaturalLanguageProcessing"。传统的文献搜索工具例如googlescholar在学术资源的搜索上做的并不是很好，其大多利用关键词来进行搜索。而本文提出的NLPKG方法，借助了大量自然语言处理的工具，对现有的文章进行概念抽取，综述分类等，提供层次化的结构图，方便用户快速定位到相关领域和paper。同时结合LLM提供文章chat...NLP知识图谱语义搜索从零开始，用英伟达T4、A10训练小型文生视频模型，几小时搞定！
精华OpenAI的Sora、StabilityAI的StableVideoDiffusion以及许多其他已经发布或未来将出现的文本生成视频模型，是继大语言模型(LLM)之后2024年最流行的AI趋势之一。在这篇博客中，作者将展示如何将从头开始构建一个小规模的文本生成视频模型，涵盖了从理解理论概念、到编写整个架构再到生成最终结果的所有内容。由于作者没有大算力的GPU，所以仅编写了小规模架构。以下是在不同处理器上训练模型所需时间的比较。作者表示，在CPU上运...架构训练我们一起聊聊基于 KAN、KAN卷积的轴承故障诊断模型
前言本文基于凯斯西储大学（CWRU）轴承数据，先经过数据预处理进行数据集的制作和加载，最后通过Pytorch实现优化的KAN模型和KAN卷积模型对故障数据的分类。1、KAN网络介绍1.1KAN网络三大特征数学上有据可依准确性高可解释性强1.2传统MLP的本质多层感知机（MLPs），也称为全连接前馈神经网络，是深度学习模型的基础构建块。MLPs的重要性不言而喻，因为它们是机器学习中用于逼近非线性函数的默认模型，其表达能力由普适逼近定理保...KAN卷积KAN如何使用HippoRAG增强LLM的记忆
原创译者李睿审校重楼大型语言模型（LLM）已经证明是一种非常宝贵的思考工具。经过大量文本、代码和其他媒体数据集的训练，它们能够创作出接近人类水平的文章、翻译语言、生成图像，还能以信息丰富的方式回答人们提出的问题，甚至可以编写不同类型的创意内容。但是，尽管它们功能强大，即使是最先进的LLM也有一个基本的限制：知识的时效性。它们所“知道”的一切知识都是由所接受的训练数据决定的，这使它们无法适应新的信息，也无...LLM人工智能HippoRAGDreamTech联合南大和牛津发布最强3D内容生成大模型——Direct3D
文章链接：https:arxiv.orgpdf2405.14832github链接：https:nju3dv.github.ioprojectsDirect3D从文本和图像生成高质量的3D资产一直是一项挑战，主要是由于缺乏能够捕捉复杂几何分布的可扩展3D表示。在这项工作中，介绍了Direct3D，这是一种可扩展到inthewild输入图像的原生3D生成模型，不需要多视角扩散模型或SDS优化。方法包括两个主要组件：Direct3DVariationalAutoEncoder（D3DVAE）和Direct3DDiffusionTransformer（D3DDiT...3D模型LazyLLM：低代码构建多Agent大模型应用的开源项目
LazyLLM是一款低代码构建多Agent大模型应用的开发工具，协助开发者用极低的成本构建复杂的AI应用，可以持续的迭代优化效果。提供了便捷的搭建应用的workflow，为应用开发过程中的各个环节提供了大量的标准流程和工具。基于LazyLLM的AI应用构建流程：原型搭建>数据回流>迭代优化，可以先基于LazyLLM快速跑通应用的原型，再结合场景任务数据进行badcase分析，然后对应用中的关键环节进行算法迭代和模型微调，进而逐步提升整个应用...Agent模型项目一文详解大语言模型的流行架构与训练技术
这篇博客全面介绍了大型语言模型（LLMs）的构建流程，从流行架构的选择到实际建模的每个关键步骤。文章首先探讨了LLMs的模型架构，然后详细阐述了数据准备过程，包括数据的收集、清洗和去重，接着是关于如何进行有效标记化的讨论。在模型构建方面，博客详细解释了采用自监督学习方法的预训练过程，以及对模型进行指令微调和对齐的重要性。每个环节都被细致地讲解，使读者能够深入理解LLMs的构建和优化过程。这篇博客为那些对LLM...模型AIAI首次实时生成视频！尤洋团队新作，网友：这是新纪元
尤洋团队新作，首个基于DiT的实时视频生成方法来了！先来直观感受一下效果（右侧为新方法）：这是团队在OpenSora上，使用5个4s（192帧）480p分辨率视频进行的测试。新方法名为PyramidAttentionBroadcast（PAB），由新加坡国立大学尤洋以及3位学生推出。具体来说，PAB通过减少冗余注意力计算，可实现高达21.6FPS和10.6倍加速，并且不会牺牲基于DiT的流行视频生成模型（包括OpenSora、OpenSoraPlan和Latte）的质量。作为一种免...AI生成视频视觉文本视频生成最强方案！Text-Animator效果确实好！
文章链接：https:arxiv.orgpdf2406.17777github链接：laulampaul.github.iotextanimator.html视频生成在游戏、电子商务和广告等各行业中都是一个具有挑战性但至关重要的任务。在文本到视频（T2V）生成领域中，有效地在生成的视频中视觉文本是一个尚未解决的重要方面。尽管在文本到视频生成方面取得了一些进展，但现有的方法仍然无法直接在视频中有效地视觉文本，因为它们主要集中在总结语义场景信息、理解和描绘动作。虽然最近...视觉文本视频生成新智能模型可能颠覆生物学、遗传学、医学和人工智能
精华一个新兴的智能模型发现在细胞及其以上层次存在灵活的问题解决能力，这不仅威胁到生物学和遗传学，还涉及医学、人工智能和意识研究等多个领域的颠覆。这可能是合法科学研究中最有趣、最具颠覆性和哲学深度的研究。MichaelLevin在细胞智能、生物电通讯和具身心智方面的工作“将颠覆一切”。这些想法确实非常疯狂，所以在我们开始之前，重要的是要知道MichaelLevin并不是民科或怪人。他是塔夫茨大学艾伦探索发现中心的主任，也是...模型人工智能AI行动、变化与智能：人工智能中的推理机制
在人工智能的研究领域中，行动与变化推理（ReasoningaboutActionandChange）占据了一个不可或缺的地位。它涉及的是智能体如何在一个动态变化的环境中做出决策，以及如何根据行动的潜在后果来规划未来的行为。6月28日，一篇重温《人工智能研究导览》一书中关于行动和变化的推理一章的公认手稿的论文《ReasoningaboutActionandChange》深入探讨了这一主题，提供了对智能系统如何处理复杂决策过程的全面解读，引起业内关注。论文的...人工智能推理机制计算机全新发布：LangGraph开启认知架构新纪元
LangGraph：自定义认知架构的革新LangGraph是什么？它是一个用于构建和管理复杂Agent的框架，允许开发者通过直观的编程接口控制Agent的行为。LangGraph的核心设计理念是帮助开发者在Agent工作流中增加更好的精度和控制，以适用于现实世界系统的复杂性。LangGraph的核心优势在于：可控性：LangGraph提供了对代码流、提示词以及大型语言模型（LLM）调用的低级控制，赋予开发者对认知架构的精细控制能力。可靠性：通过添加审核和质...LangGraph架构AI预训练大语言模型对时间序列预测真的有用吗？去掉预训练LLM效果反而提升
今天给大家介绍一篇关于大模型在时间序列应用探讨的工作。这篇文章质疑大语言模型在时间序列预测中是否有效，并对目前最先进的3个基于大语言模型的时间序列预测模型进行实验，发现去掉大语言模型部分，改成一个attention网络，也能取得相同甚至更优的效果。论文标题：AreLanguageModelsActuallyUsefulforTimeSeriesForecasting下载地址：https:arxiv.orgpdf2406.16964v11、背景随着大语言模型的兴起，一些工作也将其应...语言模型预测LLMKAM-CoT：知识增强多模态链式思维推理
原创摘要：大型语言模型（LLM）通过利用链式思维（CoT）实现逐步思考，在自然语言处理任务中展示了令人印象深刻的表现。将LLM扩展到多模态能力是近期的研究热点，但这会带来计算成本并需要大量硬件资源。为了解决这些挑战，我们提出了KAMCoT，一个将CoT推理、知识图谱（KG）和多种模态集成起来的框架，以全面理解多模态任务。KAMCoT采用了一个包含KG基础的两阶段训练过程，以生成有效的推理和答案。通过在推理过程中引入来自KG的外...大模型思维链LLMs并非智能思考者：引入数学主题树基准来全面评估LLMs
原创 精华摘要：大型语言模型（LLMs）在数学推理方面展示了令人印象深刻的能力。然而，尽管取得了这些成就，当前的评估主要限于特定的数学主题，尚不清楚LLMs是否真正参与了推理。为了解决这些问题，我们提出了数学主题树（MaTT）基准，一个具有挑战性和结构化的基准，涵盖了广泛的数学科目，提供了1958个问题，每个问题都配有详细的分层主题链。在使用MaTT基准评估不同的LLMs后，我们发现最先进的模型GPT4在多项选择题中仅取得了54%的准...大模型多模态思维链推理在语言模型中的应用
原创摘要：大型语言模型(LLMs)通过利用思维链(CoT)提示生成中间推理链作为推断答案的理由，在复杂推理方面展现出了令人印象深刻的表现。然而，现有的CoT研究一直专注于语言模态。我们提出了多模态CoT，它将语言(文本)和视觉(图像)模态结合到一个两阶段框架中，该框架将理由生成和答案推断分开。通过这种方式，答案推断可以利用基于多模态信息更好地生成的理由。使用多模态CoT，我们的模型在1亿参数以下的情况下，比以前最先进的LL...思维链大模型什么是超参数？大模型的超参数是做什么用的？超参数和大模型参数有什么关系？
原创“超参数是指由开发者设置的参数，而不是由模型训练得到的参数”对了解过机器学习模型的人来说，应该都知道模型训练的过程就是不断调整模型参数的过程。调整方式就是通过正反向传播以及损失差的计算和优化器对参数进行调整，不懂得可以看一下文章大模型的参数什么。而超参数又是什么呢今天就来介绍一下超参数。01、什么是超参数用一句话来说，超参数就是模型开发者设置的参数，而不是由模型通过训练学习到的参数。怎么理解这句...大模型超参数大模型的“手和脚”——连接外部应用的通道函数调用(function calling)，AI Agent的实现方式之一
原创“AIAgent就是大模型通过外部接口构建的手脚健全的智能体”怎么让大模型像真正的人类一样能够独立思考，使用外部工具；这是很多人都在考虑的问题，而这就是AIAgent(AI代理)，一个类人的智能体。但怎么实现AIAgent又是一个值得思考的问题，而今天就讲解一下通过调用外部工具实现AIAgent的方式——函数调用(functioncalling)。01、什么是函数调用，为什么选择函数调用？大模型作为人工智能最火的技术，从功能上来讲它更像一个“大...AI Agent
