AI.x社区

大型语言模型（LLMs）如GPT4、Claude和Llama等已经展示了令人瞩目的能力，这些模型不仅能够生成流畅的文本，还能在各种任务中表现出色，如翻译、摘要、问答等。尽管这些模型在许多方面表现出色，它们在逻辑推理，特别是条件推理和模态推理方面的能力仍然存在争议。条件推理和模态推理是逻辑学和认知科学中的核心研究领域。条件推理，即“如果…那么…”的推理形式，是人类思维中最基本的逻辑结构之一。例如，“如果下雨，那么地...

了解小智的粉丝相信对ZhipuAI都不陌生，在往期LangChain教程里，小智已经通过GLM4的超强能力搭建了众多的Agent智能体应用。最近AI又悄摸上线了GLM4AlltoolsAPI能力，今天我就带大家来盘一盘！GLM4更新了什么？老规矩，先放大纲，带大家看看GLM4AlltoolsAPI更新了哪些功能。如图所示，以下就是Alltools所有新增的能力。我将其分为了四块，一站式检索，一站式智能编程，企业私域增强，多模态四个部分。想要用上这些新的功能也十分...

Transformer在时间序列中已经应用比较广泛。但是最近一些针对Transformer的研究工作指出，Transformer的selfattention机制在建模序列数据时，比较倾向于学习低频的信息，而忽略了高频信息，造成频率偏差问题，影响了预测效果。在时间序列预测中，这个问题也存在，为了解决这个问题，在KDD2024上，大阪大学发表了一篇相关工作Fredformer，对Transfomrer在时间序列预测中的这种问题进行了解决。论文标题：Fredformer:FrequencyDeb...

当下，以ChatGPT为代表的大模型AI应用都采用对话式的交互形态。各种各样的应用都被改造成自然对话的方式，LUI以及对话式的交互形态俨然已经成了是不是一个AI应用的标志。那么，LUI就一定是最佳的形态吗？不一定，不可否认聊天的方式与大模型交互非常的自然，门槛也足够低，这对于一些目标清晰，步骤简单的任务非常有效。但是，遇到了一些复杂的，难以通过简单语言表达的复杂任务就很困难，想象一下，通过对话，让大模型生成一个...

本文介绍了使用FastAPI和Docker生成一个随时可用的HuggingFace模型。​想象一下，利用HuggingFace模型来确定评论的情绪。在过去，第一步是制作这样一个模型，并确保它正常工作。然而，今天的预训练模型让我们只需花很少的精力，就能准备好这样的大语言模型(LLM)。一旦我们准备好使用这个模型，主要目标是让公司的同事能够使用这个模型，而不需要下载或从头开始实现它。为此，我们将创建一个端点API，使用户能够独立地调用和使用...

文章链接：https:arxiv.orgpdf2407.07614github链接：https:github.comfusiming3MARS亮点直击MARS，一个从自回归预训练LLM中改编而来的创新框架，专用于文本到图像（T2I）生成任务。为了确保保留NLP能力，同时为模型配备先进的视觉生成和理解能力，设计了一个名为SemVIE的模块，该模块在预训练LLM的注意力块中添加了并行的视觉专家。MARS放大了自回归方法在T2I生成和联合图像文本合成中的灵活性，并具有扩展到任何任务的潜力。...

本文作者蒋楠是北京大学智能学院二年级博士生，指导教师朱毅鑫教授，与北京通用人工智能研究院黄思远博士联合开展研究工作。他的研究重点是人物交互理解和数字人的动作生成，并于ICCV，CVPR和ECCV等顶会发表多篇论文。近年来，人物动作生成的研究取得了显著的进展，在众多领域，如计算机视觉、计算机图形学、机器人技术以及人机交互等方面获得广泛的关注。然而，现有工作大多只关注动作本身，以场景和动作类别同时作为约束条件...

ControlNet作者LvminZhang又开始整活了！这次瞄准绘画领域。新项目PaintsUndo刚上线不久，就收获1.4kstar（还在疯狂涨）。项目地址：https:github.comlllyasvielPaintsUNDO通过该项目，用户输入一张静态图像，PaintsUndo就能自动帮你生成整个绘画的全过程视频，从线稿到成品都有迹可循。绘制过程，线条变化多端甚是神奇，最终视频结果和原图像非常相似：我们再来看一个完整的绘画过程。PaintsUndo先是用简单的线条勾勒出人物主...

“监督学习，无监督学习与神经网络既有联系，又有区别”在学习机器学习的过程中，监督学习，无监督学习和深度学习是我们经常碰到几个名词。但很多人弄明白它们之间的关系，也不知道它们都能解决什么问题。01、什么是监督学习，无监督学习和深度学习？机器学习是实现人工智能的一种方式，今天只从机器学习的角度来讨论监督学习，无监督学习和深度学习的关系。简单来说，机器学习从学习方式来说，分为监督学习，无监督学习，半监...

“神经网络模型核心有三步，模型搭建，数据处理，模型训练评估”今天总结一下神经网络模型的通用训练步骤和流程，以及其作用。模型通用训练流程从功能上来说，所有基于神经网络搭建的模型都要经过以下三个步骤：模型搭建数据处理模型训练及评估模型搭建需要经过以下几个步骤：模型定义根据任务需求，可以设计不同的网络层，比如嵌入层，卷积层等。一般的神经网络模型都由多层网络层组成。网络层实现了对输入信号的处理，比如卷...

“预训练(pre+train)+微调(fine+tuning)，是目前主流的范式”在学习大模型的过程中，怎么设计神经网络和怎么训练模型是一个重要又基础的操作。但与之对应的微调也是一个非常重要的手段，这里就着重讲一下为什么要微调，其优点是什么以及微调的本质。01、什么是微调？学习一门技术不但要知其然，也要知其所以然。想了解为什么要微调，首先要知道什么是微调？我们常说的大模型，指的是具有大量参数的神经网络模型，具体的可以看之...

原文题目：ThePowerofScaleforParameterEffificientPromptTuning，规模的力量：参数高效的提示调整摘要:在这项工作中，我们探索了“提示调整”（prompttuning），这是一种简单但有效的机制，用于学习“软提示”（softprompts），以调节冻结的语言模型，使其执行特定的下游任务。与GPT3使用的离散文本提示不同，软提示是通过反向传播学习得到的，并且可以调整以纳入任意数量的标记示例信号。我们的端到端学习方法在性能上大幅度...

​摘要——基础模型，如大型语言模型（LLMs），可以在不进行任何任务特定的数据收集或模型训练的情况下响应各种无格式查询，为大规模电力系统的建模和运行创造了各种研究和应用机会。在本文中，我们概述了如何开发诸如GPT4之类的大型基础模型，并讨论了它们如何在具有挑战性的电力和能源系统任务中发挥作用。我们首先通过验证其在电力系统领域四个代表性任务中的性能来调查现有基础模型的潜力，包括最优潮流（OPF）、电动汽车（...

摘要——大型语言模型（LLM）是人工智能（AI）领域的一项重大突破，并且在智能电网中的应用具有很大的潜力。然而，正如之前的文献所示，AI技术容易受到各种类型的攻击。因此，在将LLM部署到智能电网等关键基础设施之前，研究和评估相关风险是至关重要的。本文系统评估了LLM的漏洞，并识别出两种与智能电网LLM应用相关的主要攻击类型，同时提出了相应的威胁模型。我们随后使用真实的智能电网数据，对这些攻击进行了验证。验证结...

作者DevinColdewey编译伊风前OpenAI员工LeopoldAschenbrenner，最近在一档播客中暗示OpenAI曾被黑客成功入侵。随后，《纽约时报》对这次攻击进行了更详细的报道。2023年初，一名黑客成功入侵了OpenAI的内部通信系统，并进入了内部员工的在线社区，平台中包含公司最新人工智能技术的讨论。2023年4月，OpenAI的高管向员工和董事会披露了这一事件，但由于没有客户或合作伙伴的相关数据被泄露，OpenAI决定不将其公之于众。领导层认...

在数据洪流不断涌来的今天，如何高效且精准地从浩瀚的信息海洋中提炼出有价值的资讯，成为了自然语言处理领域待解决的关键问题。传统的检索增强生成（RAG）架构，以其独特的检索与生成结合的方式，在一定程度上满足了这一需求，为信息处理带来了便捷。然而，随着应用场景的复杂化，传统RAG在处理全局性、深层次语义信息上的局限性逐渐显现。正是在这样的背景下，微软创新性地推出了GraphRAG（图的检索增强生成）架构，它不仅保...

大多数现有方法仅从检索语料库中检索短的连续块，限制了对整个文档上下文的整体理解。RAPTOR（RecursiveAbstractiveProcessingforTreeOrganizedRetrieval）引入了一种新方法，即递归嵌入、聚类和总结文本块，从下往上构建具有不同总结级别的树。在推理时，RAPTOR模型从这棵树中检索，整合不同抽象级别的长文档中的信息。RAPTOR（RecursiveAbstractiveProcessingforTreeOrganizedRetrieval）比传统的检索增强型LM性能与绝对准确...

模拟在推动机器人学习方面发挥了重要作用，通过提供一个受控而多变的环境来开发和测试算法。特别是数据驱动方法通常将机器人部署到仿真环境中，在各种多样化和随机化的设置中进行广泛训练，以实现可泛化和适应性强的行为。通过随机化物体形状、纹理和动态特性，机器人学习取得了显著进展。然而，尽管物体属性是一个关键因素，但物体布局仍然具有挑战性，难以实现完全开放式的随机化。与可以在不干扰其他物体的情况下轻松指定范...

编辑伊风马斯克和甲骨文公司（Oracle）有个百亿的大订单谈崩了！双方互相甩锅了一波。马斯克嫌弃甲骨文速度太慢，认为对方没有以可行的速度构建计算集群。而甲骨文则觉得xAI选的建超级计算机的地方跟本供不上这么多电！随着百亿订单的谈判破裂，xAI和甲骨文停止了讨论扩大现有合作的可能性，只保留了当前合约的安排——xAI将继续租用从甲骨文提供的约16,000颗Nvidia芯片。xAI目前正在田纳西州孟菲斯市建设自己的人工智能数据中...

阿联酋阿布扎比技术创新研究所（TII）在官网宣布，开源全新大模型Falcon2。Falcon2有110亿参数共有两个版本，一个是高效、易于部署的基础模型，使用了5.5万亿tokens数据进行预训练，可以生成文本、代码、总结内容等。另外一个是带有视觉转换功能的VLM模型，可以将图片的信息转换成文本数据，也是极少数支持视觉转换的开源大模型。开源地址：https:huggingface.cotiiuaefalcon11BTII表示，在多个维权测试排行榜中显示，Falcon211...