AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
一文看懂：四种多Agent范式哪种最好
精华
社区头条MultiAgentLargeLanguageModelsforConversationalTaskSolving在单个大型语言模型多年来主宰人工智能领域的时代，多智能体系统在对话任务解决中崭露头角。此前的研究虽已展现出其在推理任务和创新尝试方面的潜力，但对于其在对话范式方面的局限以及个体智能体的影响，却缺乏分析。多智能体讨论在不同复杂程度任务中的表现怎样，以及这些对话的结构如何影响进程，都尚不明确。为填补这一空缺，本文对各种讨论范式下的多智能体系统...Agent范式人工智能美团 Flash Communication：LLM 推理的 AllReduce 通信优化
一、背景前段时间的文章里我们刚刚介绍过两个对LLM分布式推理场景中AllReduce的优化工作，一个是NVIDIATensorRTLLM中的MultiShot无损优化，另一个是Recogni提出的基于量化压缩实现的AllReduce加速方案。本文中我们继续介绍美团新发表的AllReduce量化压缩优化方案。对应的论文为：[2412.04964]FlashCommunication:ReducingTensorParallelizationBottleneckforFastLargeLanguageModelInference[1]二、摘要随着LLM规模的不断增长，...LLMAllReduce通信让AI自主进化：语言代理的适配机制激活新范式 | OmniDocBench：为PDF文档解析设立多维“标杆”
大模型领域的发展日新月异，每天都有许多有趣的论文值得深入品读。下面是本期的论文：1、让AI自主进化：语言代理的适配机制激活新范式2、OmniDocBench：为PDF文档解析设立多维“标杆”1、让AI自主进化：语言代理的适配机制激活新范式图片人工智能代理是否可以像人类一样，根据任务需求自主调整自己的工作方式？现有语言代理（LanguageAgents，LAs）通常依赖固定的机制或预设顺序来完成任务，但这限制了它们在开放世界场景中的灵...AI语言代理自主进化ICLR 2025惊现满分论文，ControlNet作者再出佳作
精华 社区头条近日，ICLR2025评审结果揭晓，一篇论文脱颖而出，获得了罕见的[10,10,10,10]满分成绩。这篇论文便是ControlNet作者张吕敏的新作ICLight。在平均分仅为4.76的ICLR会议中，满分论文的出现无疑引起了学术界和业界的广泛关注。论文标题：ScalingIntheWildTrainingforDiffusionbasedIlluminationHarmonizationandEditingbyImposingConsistentLightTransport论文链接：https:openreview.netpdfidu1cQYxRI1H项目成果展示在向ICLR投稿前...编辑模型性能ICLR 2023 | ReAct：首次结合Thought和Action提升大模型解决问题的能力
大家好，我是HxShine。今天分享一篇普林斯顿大学和GoogleResearch,BrainTeam合作的一篇文章，REACT:SYNERGIZINGREASONINGANDACTINGINLANGUAGEMODELS[1]：在语言模型中协同Reasoning推理和Action行动。其在大语言模型中将Thought推理过程和Action行动结合，一方面可以通过Action从外部获取额外信息，另一方面可以通过Thought过程，细化任务，搜索有用信息，过滤无用信息，从而来提高大模型的表现。一、概述Title：REACT:SYNERG...ReActThoughtAction本地构建Llama 3.2-Vision多模态LLM聊天应用实战
原创 社区头条本文将以实战案例探讨如何在类似聊天的模式下从本地构建Llama3.2Vision模型，并在Colab笔记本上探索其多模态技能。简介视觉功能与大型语言模型（LLM）的集成正在通过多模态LLM（MLLM）彻底改变计算机视觉领域。这些模型结合了文本和视觉输入，在图像理解和推理方面表现出令人印象深刻的能力。虽然这些模型以前只能通过API访问，但是最近发布的一些开源项目已经支持在本地执行，这使得它们对生产环境中一线应用更具吸引力。在本...大型语言模型MetaAILLM国产万卡系统究竟怎么样了？中国工程院院士郑纬民：国产万卡很重要，但也很难，异地卡联合训练不太可行
原创 社区头条编辑言征出品51CTO技术栈（微信号：blog51cto）临近年底，业内曝出了不少大新闻，比如大模型撞墙、谷歌的Gemini2Flash和量子芯片Willow，再比如英伟达面临着中国反垄断调查的危机等，所有这些，让国产AI算力的话题再次成为圈内的热议点。那么，国产算力中心构建究竟什么情况？背后支撑大模型训练和推理的计算机系统现在都面临着怎样的难题？为什么包括ChatGPT在内的大模型时不时就会出现宕机的情况？“为什么异地卡联合训练很难...国产万卡系统芯片为什么某些 batch size 会突然导致性能下降？
原创 社区头条编者按：你是否曾在优化深度学习模型时感到困惑，明明增加了batchsize，GPU利用率却没有如预期提升？在实际项目中，这个问题可能导致资源浪费、训练效率低下，甚至影响整个AI产品的交付周期。本文作者深入剖析了现代GPU批处理的工作原理，揭示了内存带宽与计算能力之间的微妙关系。通过建立理论模型并结合实际实验，作者不仅解释了为什么某些batchsize会突然导致性能下降，还提供了如何找到最佳batchsize的方法。作者FinbarrTim...LLMs批处理AIMeta AI 发布 Llama Guard 3-1B-INT4：用于人机对话的紧凑型高性能 AI 审核模型
原创 精华01、概述在生成式AI的浪潮中，我们见证了人与技术交互方式的颠覆性变革。然而，强大的自然语言处理能力与内容生成技术背后，也隐藏着不容忽视的安全隐患。如何确保生成内容符合伦理、避免不当信息传播，成为技术发展的关键挑战。而Meta推出的LlamaGuard31BINT4模型，正是在这一背景下应运而生。生成式AI的安全挑战生成式AI能够快速生成海量内容，但其输出可能包含不安全或违反政策的内容。为此，安全审查工具的研发显得尤为重要...Meta AI生成式AI首次实现8K图像生成！FreeScale让扩散模型解锁更高分辨率！
精华文章链接：https:arxiv.orgpdf2412.09626项目链接：http:haonanqiu.comprojectsFreeScale.html亮点直击提出了FreeScale，一种无需微调的推理范式，通过融合不同尺度的信息，使预训练的扩散模型能够生成生动的高分辨率结果。在文本生成图像模型和文本生成视频模型上对该方法进行了实证评估，证明了其有效性。首次实现了8K分辨率图像的生成。与其他最新的无需微调方法相比，FreeScale以更少的推理时间获得了更高质量的视觉效果。...模型AI实测来了！Kimi发布k1视觉思考模型，实力颠覆K12教育赛道，涌现能力强得可怕，免费可用！网友：国产之光！
原创 社区头条编辑言征出品51CTO技术栈（微信号：blog51cto）Kimi最近太猛了！所有的教育产品感觉都要被颠覆了。今天，Kimi上线发布一款相当炸裂的AI功能——视觉思考模型k1。可以说颠覆了“K12赛道”的传统搜题解题的产品！小编惊呼：有了Kimi，学生们还需要手机里安装各种拍照搜题找答案的软件吗？可以预想到，从幼儿园到大学，整个教育赛道恐怕要掀起一股惊涛骇浪！Kimi，果真越来越“学霸”了！话不多说，直接上干货。光看这个名字“k1”...Kimi模型tokenHugging Face 发布 SmolVLM：用于设备端推理的 2B 参数视觉语言模型
原创01、概述在人工智能的浪潮中，我们越来越渴望拥有既能处理视觉和语言任务，又不依赖于庞大基础设施的机器学习模型。特别是对于笔记本电脑、消费级GPU或移动设备等设备，如何在性能和资源需求之间找到平衡点，成为了一个挑战。今天，我们要聊的就是这样一个“小而美”的解决方案——SmolVLM，一个由HuggingFace推出的2B参数视觉语言模型，专为设备端推理而设计。02、性能与资源的平衡艺术在视觉语言模型（VLMs）的世界里，许多模...大语言模型计算机视觉PydanticAI：一个基于 Python 的新代理框架，用于构建生产级 LLM 支持的应用程序
01、概述在AI技术飞速发展的今天，越来越多的应用程序开始依赖大语言模型（LLM）来提供智能化功能。然而，将LLM应用于实际生产环境并非易事。开发者往往会面临如下挑战：模型响应不一致，无法始终保证输出的准确性。缺乏稳健性，在高并发场景下难以保持系统稳定。类型安全性薄弱，导致数据结构不符合预期。在这种背景下，如何开发一款能够为用户提供可靠、精准且上下文适宜的输出的LLM应用，成为了开发者的首要任务。传统方法在...PydanticAIPythonLLM为什么分块在RAG技术中很重要？但又很没有存在感？
原创“RAG技术是一项系统化的工程，由多个重要环节组成，而不是单一的技术实体”RAG技术作为目前大模型应用比较火的一个领域，怎么做好一个RAG系统一直是很多人和企业都在思考的一个问题；但RAG并不是一个独立的技术，而是一个技术的集合体，涉及到多个不同的技术；比如说向量数据库，embedding，语义分析，搜索技术等等。而在RAG技术中有一个不被大家所重视的一点就是——分块(chunk)；什么是分块？举个例子，西游记作为我国的四大...RAG关于大模型的幻觉问题，大模型有可能做到百分之百的准确率吗？
原创“大模型的幻觉是一把双刃剑，并不是非黑即白”大模型技术经过这几年的发展，已经可以算是小有成就；虽然大模型已经开始融入到部分企业应用场景中，但不得不说在应用中大模型还存在很多问题；特别是在一些要求比较严格的应用场景中，甚至都不太敢使用大模型；比如说医疗，自动驾驶等领域。原因就在于大模型的不确定性，毕竟大模型的幻觉问题一直没有被解决；所以这就带来一个问题，大模型能彻底解决幻觉问题吗？也就是说大模...大模型幻觉RAG微软发布Phi-4，最强小模型！参数极小、超GPT-4o
微软研究院发布了最强小参数模型——Phi4。Phi系列模型自今已经发布了5代，Phi4也延续了之前的小参数模式只有140亿。但在GPQA研究生水平、MATH数学基准中，分别达到了56.1和80.4超过了GPT4o，同时也超过了同类型的开源模型Qwen2.514B和Llama3.370B。而在美国数学竞赛AMC的测试中，Phi4达到了惊人的91.8分，再次超过了GeminiPro1.5、GPT4o、Claude3.5Sonnet、Qwen2.5等知名开闭源模型，甚至整体性能可以与4050亿参数的Llama3.1相...编程 开源 代码RAG检索增强生成和大模型微调的抉择
原创“RAG和微调即相似，又不完全相同，它们在能力上是互补的。”很多人会奇怪RAG和微调有什么关系，而对RAG和微调了解的人应该都明白为什么会把RAG和微调放在一块讨论。有些人说有了RAG就不需要微调，而另一些人说有了微调就不需要RAG，这到底是怎么回事？RAG和微调之间到底存在什么样的恩恩怨怨？RAG与微调作者在第一次看到RAG和微调的标题时，也是一脸懵逼；RAG和微调有什么关系，它们完全是两种不同的技术，为什么会被放在一...微调RAG我们一起聊聊基于快速傅里叶卷积（FFC） 的故障诊断模型
本期推出一种基于快速傅里叶卷积的FFCResNet的网络模型，通过把ResNet中常规卷积替换为快速傅里叶卷积，提升了卷积神经网络（CNN）的性能，并应用在轴承故障诊断任务上，取得了不错的效果！通过巧妙融合快速傅里叶变换（FFT）的卓越性能，快速傅里叶卷积（FFC）成为了执行卷积操作的高效利器，尤其是在渴求全局性上下文理解与跨尺度特征无缝融合的场景下展现出了非凡优势。这种创新性的频域处理手段，不仅显著提升了特征提取的...神经网络CNNFFCDeepSeek-VL2开源，VLM迈入MoE时代！
DeepSeekVL2：一个先进的大型混合专家（MoE）视觉语言模型系列，它显著改进了其前身DeepSeekVL。DeepSeekVL2在多种任务上展现出卓越的能力，包括视觉问题回答、光学字符识别、文档表格图表理解以及视觉定位。图片包括三个变体：DeepSeekVL2Tiny、DeepSeekVL2Small和DeepSeekVL2，分别拥有10亿、28亿和45亿激活参数。与现有的开源密集型和基于MoE的模型相比，DeepSeekVL2在相似或更少的激活参数下实现了竞争性或最先进的性能。...DeepSeek-VL2开源VLM从数据集到模型：视频和音频情绪分析的综合研究
情绪分析作为自然语言处理和人工智能领域的重要研究方向，近年来受到了广泛关注。情绪分析技术能够自动识别和理解文本、音频、视频等多种数据中的情绪信息，在社交媒体监控、客户服务、心理健康评估等多个领域具有重要应用价值。例如，通过情绪分析，企业可以更好地了解客户反馈，改进产品和服务；心理健康专家可以通过分析患者的情绪变化，提供更精确的诊断和治疗建议。然而，单一模态的情绪分析（如纯文本或纯音频）存在一定...数据集模型音频
