AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
浅谈国产化AI芯片模型部署实践
社区头条国产化AI芯片的发展已经成为国内信息技术产业的一个重要领域，它的发展始于对高性能计算需求的崛起，尤其是在人工智能和大数据领域，国内的科研机构和高新技术企业开始投入大量资源用于AI芯片的研发，以满足国内应用的需求。并且随着中国在各个高新领域的不断发力与国外AI芯片技术近年来不断加深的制裁，各个行业的企业也开始合作，以共同推动AI芯片的研发和应用，包括通信、云计算、智能制造、自动驾驶等领域。国内市场对AI芯...国产化AI芯片OpenAI自爆：GPT-4.5 并非前沿模型！奥特曼称OpenAI的GPU已用光，还透露了一个“转型”思路？
社区头条编辑伊风出品51CTO技术栈（微信号：blog51cto）"GPT4.5并非前沿模型，但它是OpenAI最大的LLM，比GPT4的计算效率提高了10倍以上"。图片这句话就这么水灵灵地出现在GPT4.5官方给的SystemCard（系统卡）中。https:cdn.openai.comgpt45systemcard.pdf从2023年3月14日的GPT4,等了两年，竟然等来一句“不是前沿模型”这么让人失望的话。大了10倍的GPT4.5确实不是卷榜单排名的学霸：编码方面，GPT4.5在编码问题上的得分率为79%...OpenAIGPT-4.5模型DeepSeek第五天开源猛料，3FS并行文件系统榨干SSD！6.6 TiB/s吞吐量堪比光速
最后一天，DeepSeek开源了全生命周期数据访问引擎FireFlyerFileSystem（3FS），以及基于3FS的数据处理框架Smallpond。3FS（萤火虫文件系统）是一个充分利用现代SSD和RDMA网络带宽的并行文件系统，其特点是：在180节点集群中实现了6.6TiBs的总读取吞吐量在25节点集群的GraySort基准测试中达到了3.66TiBmin的吞吐量每个客户端节点的KVCache查询峰值吞吐量超过40+GiBs采用分离式架构，确保了强一致性全面支持V3R1的训练数据预处理...DeepSeek开源模型DeepSeek太给力了！自家的大模型秘方开源到底！国产大模型雄起
原创 社区头条出品51CTO技术栈（微信号：blog51cto）DeepSeek“开源周”第五天，依旧保持了一如既往地“务实”风，满满的诚意。先来回忆下前四天，源神的慷慨发布——第一天，2月24日，最为外界称道的MLA技术率先开源，这项解码加速器FlashMLA技术能够让英伟达Hopper架构GPU跑得更快，效果更好！紧接着，25日，直接亮出首个面向MoE模型的开源专家并行通信库DeepEP，实现了MoE训练推理的全栈优化；第三天，则进一步祭出一项跨时代的发布：FP8...大模型DeepSeek存储白话DeepSeek R1的GRPO强化学习算法：原理、图解、视频
社区头条
热门内容榜 • 最近上榜GRPO(GroupRelativePolicyOptimization)算法核心思想：想象一下，老师在教一个学生写作文。传统的强化学习方法（比如PPO）会给学生的每一句话打分，告诉他这句好，那句不好。但GRPO不这么做，它更像是一位“佛系”老师：不看过程，看结果：GRPO不会逐句指导学生，而是让学生一口气写完几篇不同的作文（一组作文）。几篇作文一起比较：然后，老师把这几篇作文放在一起比较，根据一个预先定好的规则（基于规则的奖励模型），评判...DeepSeekGRPO算法全场景AI革命！DeepSeek官方开源生态工具库「狂飙」指南
热门内容榜 • 最近上榜一、项目定位：AI生态的“连接器”awesomedeepseekintegration是DeepSeek官方在GitHub上推出的开源集成资源库，旨在构建一个覆盖全场景的AI工具生态系统。该项目通过聚合300+第三方工具与应用，打通了从个人用户到企业开发者的需求链路，实现“一站式”接入DeepSeek大模型能力。截至2025年2月，该项目已收获超过20KStar，成为国内AI工具集成领域的标杆项目。二、核心功能与技术亮点全场景工具整合1.类功能模块：涵盖开发框架（...全场景AI工具Grok 3 与 DeepSeek-R1 是怎么学会思考的？
你是否思考过：大模型是如何做到既能到出口成章又能演算数学题的呢？今天，让我们用实例来揭开大模型中「思维链」的神秘面纱。1、什么是思维链技术？简而言之，思维链技术就是让大模型在回答问题时，不再只给你一个冰冷的答案，而是会抽丝剥茧般地一步步展示它是如何找到答案的。要知道，传统LLM的训练目标是预测下一个token，而不是系统地推理数学问题。它们在庞大的文本语料库中学到了各种模式，但「数学公式的严谨推演」并非...Grok 3DeepSeek-R1符号推理阿里发布通义万相2.1 :最佳视频生成模型
原创 社区头条 热门内容榜 • 最近上榜01、概述随着人工智能技术的不断发展，视频生成领域也迎来了革命性的进步。阿里云推出的通义万相2.1，正是这一突破的代表，它是一款集高质量、精准运动生成与多语言支持于一身的先进视频生成模型。今天，我们将带你了解这款引领行业的技术产品，以及它如何通过尖端创新，帮助各行各业实现更高效、更智能的视频创作。02、什么是通义万相2.1？通义万相2.1由阿里云通义万相AI团队开发，旨在通过将文本描述转化为高质量视频，带来前...通义万相2.1视频生成AI视频创作阿里云绕过 RAG 实时检索瓶颈，缓存增强生成（CAG）如何助力性能突破？
原创 精华编者按：你是否曾经遇到过这样的困扰：在开发基于RAG的应用时，实时检索的延迟让用户体验大打折扣？或者在处理复杂查询时，检索结果的不准确导致回答质量不尽如人意？在当前大语言模型应用大规模落地的背景下，这些挑战正成为制约产品竞争力的关键瓶颈。传统RAG方案中的检索延迟、准确性波动以及系统复杂度，都在考验着开发者的耐心和智慧。缓存增强生成（CAG）技术巧妙地利用了新一代大语言模型处理长上下文的能力，通过预加载...CAGLLMsICLR 2025 | 视频编辑最新SOTA！VideoGrain零样本实现多粒度控制，精准到像素级
社区头条论文链接：https:arxiv.orgpdf2502.17258git链接：https:knightyxp.github.ioVideoGrainprojectpage亮点直击首次尝试多粒度视频编辑的方法。支持类别级、实例级和局部级的编辑。提出了一个新颖的框架，称为VideoGrain，该框架通过调节时空跨注意力和自注意力，实现文本到区域的控制以及区域间特征的分离。在无需调整任何参数的情况下，在现有基准测试和真实世界视频上都取得了定性和定量的最新成果。总结速览解决的问题多粒度视...AI视频生成Claude 3.7 Sonnet：AI推理的新进展，开发者与企业的智能助手
原创01、概述在AI领域，推理能力一直是衡量模型智能的重要标准。而今天，我们迎来了一个里程碑式的产品——Claude3.7Sonnet。它不仅是最智能的模型，更是市场上首个混合推理模型。这意味着，它既能像普通大语言模型（LLM）一样快速响应，也能像人类一样进行深度思考，甚至将思考过程可视化呈现给用户。对于开发者来说，Claude3.7Sonnet的推出不仅是一次技术升级，更是一场效率革命。无论是前端开发、代码生成，还是复杂任务的自动化...Claude 3.7 Sonne混合推理模型AI推理Claude Code英伟达发布天气模型CorrDiff，预测效率大涨
在全球极端天气事件愈发频繁的当下，从暴雨洪涝引发的城市内涝，到飓风肆虐造成的巨大破坏，精准的气象预测成为了保障社会安全与经济稳定发展的关键环节，也是AI应用的重要领域之一。所以，英伟达的研究人员发布了最新天气预测模型CorrDiff，能将分辨率为25公里的大气数据细化至2公里，大幅提升了气象预测的精度，并且能预测输入数据中未包含的相关变量，例如，雷达反射率，这对于判断降雨位置和强度极为关键。此外，相比传统使...AI模型预测多智能体强化学习如何让AI回答更精准？MMOA-RAG的突破性进展
原创 精华01、概述近年来，大型语言模型（LLMs）在自然语言处理领域掀起了一场革命，从智能聊天机器人到知识检索系统，LLMs的应用无处不在。然而，这些模型生成的答案有时会过时，甚至出现“幻觉”（即生成不准确或无依据的内容）。为了解决这一问题，检索增强生成（RetrievalAugmentedGeneration,RAG）应运而生。RAG通过引入外部知识库来增强LLMs的表现，但如何优化复杂的RAG系统仍然是一个巨大的挑战。传统的优化方法通常将RAG的各个模...智能体AIRAG优化MMOA-RAGLLM增强OpenAI发布GPT-4.5：功能非常特殊，推理很贵
精华 社区头条 热门内容榜 • 最近上榜今天凌晨4点，OpenAI进行了在线技术直播，发布了最新模型GPT4.5。GPT4.5与之前的模型相比，本次最大的亮点是加上了“情商”，这也是目前所有大模型最缺、最难的功能。此外，GPT4.5在SimpleQA上的测试数据显示，超过OpenAIo1、OpenAIo3mini并且幻觉非常低，是目前OpenAI最强大模型之一。OpenAI联合创始人兼首席执行官SamAltman特意发文对GPT4.5进行了详细解读。对我来说，GPT4.5是第一个让我感觉像是在和一个有思想的人对话的模...模型OpenAI数据关于生成式人工智能训练的综合指南
原创 社区头条本文讲述LLM开发生命周期的详细技术指南，涉及原始文本预训练、指令调整及人类校准。大语言模型（LLM）通过引入文本生成、摘要和会话式人工智能等高级应用程序，对自然语言处理（NLP）产生了影响。像ChatGPT这样的模型使用一种叫做“Transformer”的特定神经结构来预测序列中的下一个单词，通过自注意（Selfattention）机制从大量的文本数据集中学习。本指南分解了训练生成式人工智能模型的逐步建立过程，包括预训练，微调，对...LLM大语言模型人工智能你为什么要用GraphGAG？
其实我这个问题不算瞎问。在你的项目里，你是真觉得GraphRAG有用，还是就图个新鲜劲，这个是非常重要的思考。RAG能干啥，其实不用复杂的解释了。传统的方式就是基于向量余弦近似度的查找，当然BM25其实也是传统RAG（别把它当新东西），常见一点的基本都有向量查找，或者向量+BM25关键字集成查找，为了方便我就画向量的了。如下图：通用LLM里不太存在专用领域的知识，RAG可以作为外挂知识库的补充，补充新的知识，另外有些问题，...GraphGAGGTMVectorDB国产AI甩出王炸！DeepSeek开源FlashMLA，小白也能看懂的GPU黑科技
各位小伙伴，大家好，我是Baoxing，见字欢喜！今天是个值得骄傲的日子！上周，DeepSeek在推特发帖，说将从本周开始，陆续开源五个软件库（Repos），也将本周定义为了开源周（OpenSourceWeek），开源在技术圈是个“大杀器”，意味着要把自己辛苦研发的技术分享给大家，让大家都能用上。就在今天上午9点，DeepSeek开源周第一天（Day1），直接扔出来个王炸——FlashMLA！作为AI技术的爱好者，写这篇文章心里都是满满的自豪感，Deep...DeepSeek开源FlashMLA大模型面经：目前不同阶段的scaling law之间的区别和联系是什么？
原创本篇主要总结目前三种scalinglaw：Pretrain、RL、TestTime相关的内容。现在关于scalinglaw是否“撞墙”的讨论越来越多，ChinchillaScalingLaw推断，"即使没有新数据，也并不意味着模型效果提不上去了，很简单，只要增加基座模型尺寸，效果仍然会提高，只是从付出的算力和获得的效果提升来说很不合算，性价比过低"。这也是为什么大家由PretrainScalingLaw转到RLScalingLaw和TestTimeScalingLaw的原因。本篇就来以面经的形式整理...大模型scaling law面试干货强化学习与软件工程：开源软件奖励演化的强化学习
SWERL:AdvancingLLMReasoningviaReinforcementLearningonOpenSoftwareEvolution20250225｜MetaFAIR,UIUC,MetaGenAI,CMU🔺37http:arxiv.orgabs2502.18449v1https:huggingface.copapers2502.18449https:github.comfacebookresearchswerl研究背景与意义近年来，大型语言模型（LLMs）在软件工程（SE）任务中的应用引起了广泛关注。研究者们探索了LLMs在自动化复杂SE任务中的潜力，例如...强化学习LLMsSWE-RLMLLMs人类偏好增强对齐，自然图像和数据图表分离；视觉感知标记，模型自主决定感知内容
OmniAlignV:TowardsEnhancedAlignmentofMLLMswithHumanPreference20250225｜SJTU,ShanghaiAILab,NJU,FDU,ZJU🔺54http:arxiv.orgabs2502.18411v1https:huggingface.copapers2502.18411https:github.comPhoenixZ810OmniAlignV研究背景与意义随着多模态大语言模型（MLLMs）的快速发展，现有的研究主要集中在提升模型的基础能力，如物体识别、OCR等，而在与人类偏好对齐方面存在显著差...MLLMsMLLM视觉
