AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
Grok 3两周内发布，要夺回大模型王座；DeepSeek现象后，AI会改变方向…李彦宏大佬们在迪拜峰会说了啥
原创
社区头条2025年世界政府峰会于2月11日在阿联酋迪拜开幕，不少科技大佬都参与了峰会，并表达了自己的真知灼见。在这个关口谈论科技创新，AI无可避免地成为了绝对的主角。马斯克吹捧Grok3将成为有史以来最聪明的AI，“这（指新模型发布之前）可能是其他模型最后一次超过Grok”。而阿里蔡崇信在谈AI竞赛时则说，“下一个发布的模型会比某些模型更好，但不一定比其他的好。总会有其他人推出比你更好的东西。”但大佬们的观点也有共识，技术...Grok 3DeepSeekAI综述 DeepSeek R1、LIMO、S1 等 6 篇文章的关键结论
社区头条一、背景上一篇文章中我们具体介绍了DeepSeekR1系列模型的构建流程和关键技术点，考虑到最近出现了许多相关工作，也分别得出了各种不同的结论，与此同时还出现了大量的误解。本文中，我们整理了DeepSeekR1等6篇Reasoning相关文章的关键结论，以便相互验证和对比。如下图所示为这些文章中的一些关键指标：相关工作可以参考我们之前的文章：DeepSeekR1论文解读&关键技术点梳理DeepSeekV3详细解读：模型&Infra建...DeepSeek R1LIMOS1人工智能基础：Softmax 函数和分类交叉熵损失的导数
图片1、为什么我们需要更强大的AI推理能力？在当今时代，人工智能不仅要能够处理简单的对话和生成任务，更要具备像人类一样的推理能力。无论是解决复杂的数学问题，还是编写高质量的代码，甚至是进行科学推理，这些都需要AI具备强大的推理能力。而今天要介绍的OpenThinker32B，正是在这个方向上取得的重要突破。图片2、OpenThinker32B：开源推理的新标杆这个模型最令人兴奋的地方在于它的开放性和强大性能。研究团队通过三个关...闭源大模型推理模型s1-32B 模型：超越 o1-preview，一起探索其原因
原文链接：https:arxiv.orgabs2501.19393代码链接：https:github.comsimplescalings1Testtimescaling是一种语言建模方法，它利用额外的测试时计算资源来提升性能，OpenAI的o1模型近期也证实了这一方法的有效性。本文旨在探寻实现Testtimescaling以及强大推理性能的最简途径。主要贡献精心策划小型数据集s1K：该数据集包含1000个问题，并配有推理过程，其构建基于难度、多样性和质量这三个标准，且通...s1-32B模型o1-preview2W8000字深度剖析25种RAG变体：全网最全没有之一
精华 社区头条主流RAG框架可以分为以下五个主要的进化方向：成本控制型（适合初创公司）、实时互动型（适用于财经新闻场景）、域专家类型、认知增强型、安全与合规类型。接下来，让我们详细了解一下这25种RAG变体。1.标准RAG一个基本的RAG系统由检索模块和生成模块组成。系统会对查询进行编码，检索相关的文档块，然后为基于transformer的LLM构建丰富的提示。查询编码器：使用预训练的转换器（例如DPR）生成密集的查询嵌入。代码实现如下：fr...RAG变体结构化DeepSeek-R1技术大揭秘：论文核心原理拆解与模型性能突破关键
社区头条今天分享DeepSeekR1，Title:DeepSeekR1:IncentivizingReasoningCapabilityinLLMsviaReinforcementLearning：通过强化学习激励LLM的推理能力。这篇文章介绍了DeepSeek的第一代推理模型DeepSeekR1Zero和DeepSeekR1。DeepSeekR1Zero模型通过大规模强化学习(RL)训练，没有监督微调(SFT)作为初步步骤，展示了RL的潜力及其带来的卓越的推理能力。通过强化学习，DeepSeekR1Zero自然而然地涌现出许多强大而有趣的推理行为。为了进一步优...DeepSeek模型性能一区直接写！CEEMDAN + SSA-TCN-BiLSTM-Attention预测模型
前言本文基于前期介绍的电力变压器（文末附数据集），介绍一种综合应用完备集合经验模态分解CEEMDAN与基于麻雀优化算法的SSATCNBiLSTMAttention预测模型，以提高时间序列数据的预测性能。该方法的核心是使用CEEMDAN算法对时间序列进行分解，接着利用麻雀优化算法对TCNBiLSTMAttention模型进行优化，通过对分解后的数据进行建模，来实现精准预测。1.数据CEEMDAN分解与可视化1.1导入数据1.2CEEMDAN分解根据分解结果看，CEEMDAN一...CEEMDANSSA模型比GraphRAG更懂“思考”，微软又开源PIKE-RAG：主打复杂私域知识理解和推理
继GraphRAG之后，微软又发布PIKERAG，主打在复杂企业场景中私域知识提取、推理和应用能力，PIKERAG已在工业制造、采矿、制药等领域进行了测试，显著提升了问答准确率。demo示例：多层次异构的知识库构建与检索+自我进化的领域知识学习RAG系统在满足现实世界应用的复杂和多样化需求方面仍然面临挑战。仅依靠直接检索不足以从专业语料库中提取深度领域特定知识并进行逻辑推理。企业场景复杂多样的Query基于此，微软亚洲研究院提出...GraphRAG开源RAG达摩院开源VideoLLaMA3：仅7B大小，视频理解拿下SOTA | 在线可玩
7B大小的视频理解模型中的新SOTA，来了！它就是由达摩院出品的VideoLLaMA3，以图像为中心构建的新一代多模态视频语言模型。在通用视频理解、时间推理和长视频理解三个核心维度进行评估的过程中，VideoLLaMA3均取得优异成绩，超越多数基线模型。不仅如此，适用于端侧的2B大小的VideoLLaMA3，在图像理解上的表现也是较为出色。在涵盖文档图表场景文本理解、数学推理、多图像理解和常识问答等多个维度的基准测试，如在InfoVQA中超...模型开源视频Claude 4被曝发布在即！DeepSeek把大招都给逼出来了
终于！终于！Claude4被曝将在未来几周内发布！高亮重点，最新的它采取了一个与之前模型路线不同的办法：是个混合型大模型。简单来说，就是既带有推理能力，会使用更多的算力来思考和解决难题；在面对简单问题的时候，又能像传统大模型一样短平快地轻巧处理，无需多费不必要的功夫。怎么样，听起来是不是和昨天奥特曼透露的GPT5非常类似（doge）。都是不再把传统通用模型和推理模型分开推出，直接融合在一起。据透露，Anthropic...DeepSeek模型AI编程不再是专业技能！Replit「Agent」引爆编程革命，零基础也能轻松上手
Replit「Agent」正以迅猛之势，推动着编程行业的深刻变革。Masad于2016年创立了Replit，成立以来一直积极拥抱AI技术，近年来推出了一系列自动化编程产品。回顾Masad近年的言论，会发现「Agent」的实现速度远超他之前的预期。他曾断言「Agent」在2030年之前很难达成。促使这一转变发生的关键因素，是Anthropic推出的新模型：Claude3.5Sonnet。此前，Replit一直专注于构建自有模型，期望凭借专有数据形成独特优势。然而，Claude3....AI编程训练Anthropic秘密「混合模型」 Claude 4首曝细节，硬刚GPT-5！深度推理模型来了
精华 社区头条Anthropic终于要开始搞点事情啦！近期的「推理模型」热潮中，Anthropic除了其CEO打了几个嘴炮外，还没有掏出一个拿得出手的产品。在这样下去，可能要退出AI一线模型玩家行列了。Anthropic自己显然不想看到这种情况发生。就在刚刚，有消息称，Anthropic会在未来几周内发布其全新的「混合AI」模型。Anthropic版「推理模型」，测试时计算完全掌控在OpenAI去年秋季发布其「推理模型」后，谷歌以及国内众多AI公司纷纷推出了自己的模...AI模型数据苹果也在蒸馏大模型，给出了蒸馏Scaling Laws
众所周知，知识蒸馏技术当前正被大模型领域广泛使用，它可以在大幅压缩模型体量的同时保持一定的性能、降低模型时延、提升模型精度，与此同时还能对知识域进行集成和迁移。近日，苹果研究人员提出了一种蒸馏扩展定律（DistillationScalingLaws），基于计算预算及其在学生和教师之间的分配，我们现在开始可以估算蒸馏模型的性能了。图1.蒸馏扩展定律的外推。蒸馏扩展定律适用于一系列损失为LT的教师的弱学生模型（LS>2.3）。实线...模型苹果算法斯坦福大学团队使用多智能体强化学习训练社交推理语言模型
社交推理游戏是一类需要玩家通过交流和推理来达成目标的游戏，典型的例子是我们熟悉的《狼人杀》，这些游戏要求玩家在有限的信息下，通过与其他玩家的交流和互动，推断出某个隐藏角色的身份。假如让多智能体玩狼人杀，这些智能体可以合作、竞争或者两者兼而有之。研究多智能体环境不仅有助于理解智能体之间的互动，还能为开发更智能、更协调的系统提供理论基础。在多智能体环境中，使用自然语言进行交流是一种强大的工具。它不...多智能工具自然语言啊！DeepSeek-R1、o3-mini能解奥数题却算不了多位数乘法？
精华我们都知道，普通大模型的数学能力并不好，甚至可能会搞不清楚9.8和9.11哪个大。但随着o1、o3以及DeepSeekR1等推理模型的到来，情况正在发生变化。比如DeepSeekR1在竞赛数学基准AIME2024上达到了79.8%的准确度，成就了自己头号开源推理模型的地位。而根据OpenAI发布的数据，o3mini(high)在AIME2024上的准确度更是达到了87.3%，预计o3满血版的成绩还会更好。但即便如此，这些强大的推理模型却依然常常在一类看起来相当简单的数学...AI模型DeepSeek从《你所需要的就是注意力》到《你所需要的就是多头潜在注意力》，TransMLA开启AI技术新篇章
自2017年谷歌提出了Transformer架构，以及那篇著名的论文《AttentionIsAllYouNeed》后，注意力机制迅速成为自然语言处理领域的核心技术。大型语言模型（LLMs）借助Transformer的自注意力机制，实现了对复杂语言模式的捕捉，在机器翻译、文本生成、对话系统等领域取得了革命性的突破。它们不仅改变了学术研究的方向，更深刻地影响了生产力工具的发展，提高了人们的工作效率和生活质量。随着模型规模和数据量的不断增长，LLMs面临...TransMLAAI技术初创公司使用 AI “码农” Devin 一个月的体验
原创 精华 社区头条编者按：Devin真的能像人类软件工程师那样工作吗？作为2024年备受瞩目的AIAgent产品，它的实际表现如何？我们今天为大家带来的文章中，作者通过一个月的实际使用体验，发现Devin在处理简单、明确的编程任务时表现不错，但距离达到初级软件工程师的水平还有很长的路要走。文章详细介绍了Devin的使用体验，包括其出色的上手流程设计、与GitHub的便捷集成，以及实时代码审查功能。在处理范围狭窄、定义明确的代码修改时，特别是前...LLMsAI多代理微调如何克服 LLM 的数据瓶颈
原创 社区头条本文介绍了多代理微调的基本概念，框架组成，以及在实际应用中的优势。最近，麻省理工学院、哈佛大学、斯坦福大学以及DeepMind的研究人员联合提出了一种新技术，它使用多个代理（MultipleAgents）来解决大语言模型（LLM）最紧迫的问题之一：缺乏高质量的训练数据。毕竟顶尖模型已经消耗了互联网上的大部分可用的内容，并让AI实验室已经用完了适合训练LLM的数据。解决这一瓶颈问题的一种方案是通过创建合成数据（Synthetic...LLM大语言模型多代理微调DeepSeek R1不编程就能生成GPU内核，比熟练工程师好，惊到了英伟达
DeepSeek引爆AI社区后，人们都在尝试本地部署和各领域应用，在新模型基础上持续改进的方向也被不断提出。与此同时，英伟达却在尝试用DeepSeek给大模型pipeline本身搞自动化。本周三，英伟达在博客中介绍了利用DeepSeekR1和推理时扩展技术来自动生成优化GPU内核的最新研究成果，效果异常的好。对此有人评价道：难不成英伟达在自拆护城河？也有人已经开始担心自己的工作会不会被AI代替了。随着AI大模型规模不断扩展，能力持续进步...DeepSeek编程模型奥特曼再谈DeepSeek：每天醒来都有压力
关乎当红炸子鸡DeepSeek，奥特曼最新观点出炉：对DeepSeek的出现并不意外，而且类似的情况会越来越多。这就是奥特曼在最新一期《泰晤士报》科技播客节目中所提及的内容之一。并且在被问及是否担心OpenAI会成为AI界的Napster（首个P2P音乐共享平台，后因商业压力以失败告终）时，他表示：唯一不让这种事发生的方法就是每天都为此担心。我觉得这种事不会发生在我们身上的原因就是我们一直都在为此感到压力。是有一种没有压力就没...AI模型DeepSeek
