AI.x社区

01、概述随着开源推理模型如DeepSeekR1的崛起，开发者可以在本地运行强大的AI，而不再依赖于云服务。这一技术的出现引发了不小的网络热议，或许你也在好奇如何利用这一模型在本地搭建自己的AI系统。本指南将带你了解两种关键的使用场景：普通用户：创建一个ChatGPT风格的界面开发者：通过API集成模型到应用中在开始之前，如果你有兴趣深入了解DeepSeekR1的背景，以便更好地理解接下来的过程，可以参考我的文章《DeepSeekR1理论...

生成式人工智能的应用需要构建坚实的数据基础。而构建健壮的数据基础、选择最佳模型、优化训练技术、部署策略及解决监控问题，是应用成功的关键。生成式人工智能（GenAI）正通过重塑创造力、内容及数据的管理方式，对商业世界产生深远影响。对于组织来说，为了有效地利用这项技术，他们必须构建坚实的数据基础，尤其是要确保数据的高质量。数据质量不佳可能导致偏见或产生误导性的结果，因此实现数据清洗和预处理措施（例如消除...

在金融领域，评估投资绩效的关键在于平衡风险与回报。Sharpe比率是评估风险与回报的重要指标，但存在局限性，需开发更稳健的金融绩效指标。本文提出AlphaSharpe框架，利用大语言模型（LLMs）优化金融指标，提升风险收益评估。通过对美国15年历史股票数据进行实验，AlphaSharpe投资组合在风险调整和回撤调整表现上优于传统策略，Sharpe比率提高71.04%，Calmar比率提高116.31%。论文地址：https:arxiv.orgpdf2502.00029v2摘要本文...

随着LLM应用的广泛普及，如何提高模型的推理效率并降低资源消耗成为了技术发展中的一大挑战。Unsloth通过引入多个强化学习（RL）算法和最新的量化技术，显著提高了LLM在推理和微调过程中的性能，并大幅降低了显存消耗。DeepSeek的研究人员在用纯强化学习（RL）训练R1Zero时观察到了一个“灵光一现”的时刻。模型学会了通过重新评估最初的思路来延长思考时间，而无需任何人工指导或预定义指令。Unsloth对整个GRPO过程进行了增强...

今天我们来讲一讲神经网络的参数到底是如何更新的！我们先来看看如下神经网络中的最后一个参数b3是怎样进行更新的。后面的章节再来讲w1w2w3b1b2是如何更新的。我们先假设w1w2w3b1b2参数均已得到最优解，分别如上图中绿色数据所示。假设我们要拟合的曲线如下图所示：我们先给b3赋一个默认的初始值0。假设最上面的绿色曲线是我们要拟合的真实曲线，最下面的绿色曲线是当前的预测曲线。我们先来求一个残差平方和，即对于所有的输入...

最近DeepseekR1大火，标题党纷纷凑热闹，s1真的有这么牛吗？下面，我们来解读一下S1S1用了不到50美元，训练出了媲美Deepseek的原因微调样本量小，所需训练资源少：构造微调样本时，精心挑选了1000个问题，通过GeminiThinkingExperimental中提取这些问题的推理轨迹和答案。实验中发现，随机选择、选择具有最长推理轨迹的样本或仅选择最大多样性的样本，都会导致性能显著下降。因此，使用59K个示例的完整数据池（s1K的超集）进行...

目前OfficeAI自带以下大模型引擎，这些大模型引擎均面向个人用户免费使用：Office插件WordAI插件,在打开文档时,以插件形式在word或WPS中使用ExcelAI插件,在打开表格时使用一、word首先把officeAI插件【文末获取】下载到电脑上，下载完成双击安装插件。安装完成后我们打开word，在word界面中就会多出一个officeAI的选项卡。点击选项卡，点击设置>大模型设置，打开本地部署开关，点击APIKEY。在大模型下来菜单中选择deepseek，模...

在科技飞速发展的今天，未来的技术走向始终是人们关注的焦点。IEEE技术专家们汇聚智慧，发布了60页的《IEEE：2025年顶级技术预测报告》，揭示了22项有望重塑行业、塑造未来世界的突破性技术。这些技术涵盖多个领域，从人工智能到能源，从医疗健康到网络安全，它们的发展不仅会改变我们的生活方式，还将对全球经济和社会产生深远影响。下面，就让我们深入了解这些令人期待的技术趋势。一、LLM部署：语言模型的多元化拓展大语言模...

文本相似计算介绍有一些工作需要评估出两个字符串之间的相似程度。比如，要评估大模型生成的结果，与预设定的答案之间的相似程度。本文介绍三类方法用于评估两个字符串的相似程度：规则、向量、大模型裁判。规则：基于字符ngram的相似计算，常用算法，ROUGE、BLEU;向量：使用热门的嵌入模型(Jina)，把字符串编码为向量，计算两个向量之间的相似度；大模型裁判：使用大模型评估两个字符串之间的相关性；摘要介绍了三种方法，评估...

出品51CTO技术栈（微信号：blog51cto）马斯克与与奥特曼的激烈争斗已经从法律诉讼升级成收购商战！据《华尔街日报》报道，马斯克的律师马克·托贝罗夫周一提交了对OpenAI管理公司的收购出价：974亿美元。收购主体是一个由马斯克牵头的财团，目的也很明确：寻求控制OpenAI。根据收购计划，交易达成后马斯克会将OpenAI与旗下的xAI合并。这一举动加剧了马斯克与OpenAI首席执行官奥特曼之间现有的紧张关系。马斯克继续施压收购OpenA...

论文链接：https:arxiv.orgpdf2502.03206项目链接：https:hugwbc.github.io亮点直击一个扩展的通用指令空间，结合高级训练技术，以实现细粒度的人形机器人步态控制。在单一策略下（除单脚跳步态外），可精准跟踪四种不同步态下的八种不同指令。一个基础的人形机器人控制器，支持外部上半身干预，并能够执行更广泛的运动操作一体化（locomanipulation）任务。总结速览解决的问题当前的人形机器人行走系统单一、被动，缺乏可扩展...

论文链接：https:arxiv.orgpdf2502.04299git链接：https:motioncanvas25.github.io亮点直击将电影镜头设计引入图像到视频的合成过程中。推出了MotionCanvas，这是一种简化的视频合成系统，用于电影镜头设计，提供整体运动控制，以场景感知的方式联合操控相机和对象的运动。设计了专门的运动条件机制，以控制信号引导基于DiT的视频扩散模型，这些信号捕捉相机和对象的运动。结合了一个运动信号翻译模块，将描绘的场景空间运动意...

企业知识库中的模态数据不止文本一个模态，传统的RAG无法解决多模态场景下的问答，问题提出：如何检索到与用户问题相关且有用的多模态数据？以及如何将这些数据整合成一个连贯的多模态答案？来看一个简单有效的多模态RAG框架MuRAR。MuRAR框架在MuRAR框架的设计中，目标是生成一个高质量的多模态答案（multimodalanswer），该答案通过整合与用户问题相关的多模态数据来提供连贯且信息丰富的内容。用户界面设计：用户输入问题；显...

MLA是MHA的变体，因此先来看看MHA。MHA（多头注意力）MHA通过将输入向量分割成多个并行的注意力“头”，每个头独立地计算注意力权重并产生输出，然后将这些输出通过拼接和线性变换进行合并以生成最终的注意力表示。Transformer编码器块内的缩放点积注意力机制和多头注意力机制MHA计算过程MHA能够理解输入不同部分之间的关系。然而，这种复杂性是有代价的——对内存带宽的需求很大，尤其是在解码器推理期间。主要问题的关键在于...

笔者在前期一个系列分享了各种文档智能相关的技术方法，可以参考《​​文档智能系列栏目​​》，涵盖各种常见方法。下面直接看看这个端到端的文档智能结构化方法，供参考。方法一、架构红色三部分组成的模型结构ECLAIR采用了一个较大的视觉编码器（657M参数ViTH16）和一个较轻量级的解码器（279M参数mBART）组成端到端的模型，主要为了在推理时提高效率。ECLAIR包括以下几个组件：视觉编码器（VisionEncoder）ECLAIR的视觉编码...

这个春节，DeepSeek实在太火了，无须赘述。今天要向大家推荐一个极具实用价值的开源项目——MiniMind。这个项目使得我们只需利用普通电脑，就能在短短3小时内打造出一个精简版的DeepSeek！为了避免误解，特别说明一下，“最快3小时”是基于你的硬件配置优于我本人的情况下。具体的硬件规格要求将在下文中详细说明。1、为什么这个项目这么特别？市场上的大语言模型（LLM）通常拥有上百亿参数，其训练成本相当高昂。对于想要学习...

最近大火的国产AI大模型Deepseek大家应该都不陌生。除了在手机上安装APP或通过官网在线体验，其实我们完全可以在Windows电脑上进行本地部署，从而带来更加便捷的使用体验。本地部署AI模型有很多好处，比如：隐私安全——所有数据都保存在本地，不用担心泄露敏感信息；响应速度快——官方或第三方服务由于访问量大，常常会导致卡顿，而本地部署能避免这种延迟问题。否则，突然火得一塌糊涂，谁也扛不住，经常发个提问：得益于其...

记忆感知训练（MAT）这种训练范式通过修改模型逻辑以防止机器学习模型学习虚假相关性，提高了泛化能力，缩小了平均准确率（AVG）和最差群组准确率（WGA）之间的差距。机器学习领域长期存在的问题之一是错误相关性的记忆。例如：假设开发人员正在开发一个深度神经网络对陆地鸟类和海洋鸟类的图像进行分类。他们使用数千张标记过的图像训练模型，这个模型在训练集和测试集上的表现都非常出色。然而，当向模型展示一张在兽医那里接...

当前AI在推理能力提升上遇到了诸多瓶颈，这在一定程度上限制了其进一步发展和广泛应用。在传统的AI训练中，模型对大量监督数据的依赖是一个显著问题。监督学习需要大量带有标注的数据来训练模型，使其能够对新的数据进行准确的分类或预测。然而，获取高质量的标注数据往往需要耗费大量的人力、物力和时间。以图像识别为例，为了训练一个能够准确识别各种动物的AI模型，需要人工对大量的动物图像进行标注，标记出图像中动物的种...

在当今数字化转型的时代，大型语言模型（LLMs）已经成为了不可或缺的工具，它们在自然语言理解、生成和推理方面展现了非凡的能力。然而，这些模型普遍采用的是“一刀切”的方式，即对于相同的输入给予所有用户相似的响应。这种方式虽然能够满足大多数情况下的需求，但在需要根据个人偏好定制内容的情境下就显得力不从心了。为了解决这个问题，来自中国人民大学高瓴人工智能学院与百度公司的研究团队提出了一种名为PPlug的新颖个...