AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
惊掉下巴！o3像是一个弥天大谎！基准构建者Epoch AI发长文认错曝猛料：OpenAI竟独家访问数据集，问题和答案
原创
社区头条出品51CTO技术栈（微信号：blog51cto）惊天大瓜来了！去年年底OpenAI推出o3推理，在数学、编码、通用AGI方面都取得了令人的难以置信的类人甚至超人的进展。但就在昨天，大洋彼岸的一众人工智能专家开始对“o3”的这些数据表示严重的怀疑，甚至将之比作“Theranos”时刻（一家建立在巨大谎言之上的公司，项目参与人员被迫保密，外界却被蒙在鼓里）。因为事实证明，o3的发布者OpenAI恰恰资助了FrontierMath，同时可以访问大部分数...o3OpenAIGSM8KFineMedLM-o1: 基于监督微调与测试时训练的医学推理增强型大语言模型
精华
热门内容榜 • 最近上榜一、研究背景与意义近年来，大语言模型(LLMs)在医疗领域的应用展现出巨大潜力，特别是在疾病诊断和治疗规划等方面。然而，现有的医学大语言模型在处理复杂临床场景时，往往难以进行深度推理，尤其是在差异化诊断和个性化治疗建议等方面存在明显短板。本研究提出的FineMedLMo1模型，通过创新性地结合高质量合成医学数据和长格式推理数据，采用监督微调(SFT)和直接偏好优化(DPO)技术，显著提升了模型的医学推理能力。二、技术创新...大语言模型数据合成机器学习|从0开始大模型之位置编码
1、什么是位置编码在语言中，一句话是由词组成的，词与词之间是有顺序的，如果顺序乱了或者重排，其实整个句子的意思就变了，所以词与词之间是有顺序的。在循环神经网络中，序列与序列之间也是有顺序的，所以循环神经网络中，序列与序列之间也是有顺序的，不需要处理这种问题。但是在Transformer中，每个词是独立的，所以需要将词的位置信息添加到模型中，让模型维护顺序关系。位置编码位置编码就是将helloworld!的token和位置...机器学习大模型位置编码大模型厂商视角的AI Agent综述，Anthropic图文并茂多个案例教你构建有效智能体
社区头条 热门内容榜 • 最近上榜如何建立有效的智能体？来自anthropic的官方AIAgent构建指南一文了解大模型厂商眼中的智能体，来自anthropic的AIAgent年度性总结到底什么是智能体？一篇anthropic官方AIAgent综述看明白工作流和Agent有何区别？应该什么时候用工作流和Agent？Anthropic官方指南来了构建AIAgent用框架还是用工作流？Anthropic年度综述智能体构建指北大模型厂商视角的AIAgent综述，Anthropic图文并茂多个案例教你构建有效智能体最近两个月，全球大...AIAgent智能体LLM架构从基础到精通之门控循环单元（GRUs）
在之前对循环神经网络（RNNs）和长短期记忆网络（LSTMs）的深入探讨中，我们了解了它们在处理序列数据方面的强大能力以及应对挑战的独特方式。接下来，我们将聚焦于另一种重要的神经网络架构——门控循环单元（GRUs），它在解决标准RNN面临的问题上展现出了独特的优势。12.门控循环单元（GRUs）门控循环单元（GRU）由Cho等人在2014年提出，旨在解决标准循环神经网络（RNN）面临的梯度消失问题。GRU与长短期记忆网络（LSTM）有许...LLM架构循环单元处女座 (Virgo)：基于文本指令微调的多模态慢思考推理系统
1.引言近年来，随着深度学习技术的飞速发展，人工智能(AI)在诸多领域取得了突破性进展。然而，传统的深度学习模型在处理需要复杂推理的任务时仍然面临挑战。例如，在面对数学题、逻辑谜题或科学问题时，简单地依靠模式识别和函数拟合难以获得令人满意的结果。为了解决这个问题，研究人员开始探索将深度学习与符号推理相结合，从而赋予AI系统更强的推理能力，即慢思考推理。慢思考推理强调对问题进行深入分析和逐步求解，而非仅...多模态推理系统人工智能清华&人大：search-o1 让推理模型具有主动能力
1.背景大型推理模型如OpenAIo1、QwenQwQ等通过大规模强化学习，在科学、数学、编码等复杂领域展现出了强大的逐步推理能力。它们以“慢思考”模式生成长思维链条，有效解决复杂问题，增强了推理的逻辑性和可解释性。然而，这也带来了显著弊端，在长链式推理过程中，模型常常遭遇知识不足的困境。这使得推理链条容易出现错误传播，严重影响最终答案的质量。例如，在处理一些复杂的科学问题时，模型可能会因为对某些关键知识点的缺...Search - o1框架模型FLUX加持大幅提升渲染质量和控制能力！浙大&哈佛提出3DIS升级版3DIS-FLUX
文章链接：https:arxiv.orgpdf2501.05131项目链接：https:limuloo.github.io3DIS亮点直击3DIS的创新：通过深度驱动的解耦生成框架，大大降低了对计算资源的需求，并解决了适配器方法的重新训练问题。FLUX的集成：3DISFLUX利用FLUX模型提升了渲染质量和控制能力，超越了传统的UNet架构。训练free细节渲染：通过细致控制FLUX模型中的Attention机制，成功实现了对每个实例细节的精确渲染，避免了额外的训练负担。性能与质量双重提...3D模型生成BiomedGPT：一种用于多样化生物医学任务的通用型跨模态基础模型 - 宾州Lehigh大学、佐治亚大学、哈佛医学院
摘要传统的生物医学人工智能（AI）模型，针对特定任务或模式设计，在实际应用中往往表现出有限的灵活性，并且难以利用整体信息。通用型AI由于其解释不同数据类型的能力以及为多样化需求生成定制输出的能力，具有解决这些限制的潜力。然而，现有的生物医学通用型AI解决方案通常对研究人员、从业者和患者而言是重量级且闭源的。在这里，我们提出了BiomedGPT，第一个开源且轻量级的视觉语言基础模型，旨在作为一个能够执行各种生物...通用型跨模态MLM基于深度强化学习的投资组合配置动态优化
投资组合优化是金融中的核心挑战，涉及资金在多个资产间的动态配置，传统方法存在假设限制和适应性不足的问题。本研究探讨深度强化学习在投资组合优化中的应用。结果表明，深度强化学习（DRL）模型在投资组合优化中表现优异，年化平均回报率为19.56%，夏普比率为1.5550，显示出卓越的风险调整回报。论文地址：https:arxiv.orgpdf2412.18563摘要人工智能正在改变金融投资决策，深度强化学习（DRL）在机器人顾问服务中展现出应用...深度强化配置动态大语言模型推理框架llama.cpp开发实战
原创 社区头条本文首先探索当前热门的大语言模型推理框架llama.cpp的内部架构，然后使用此框架实现了一个基本形式的聊天程序。简介当前，llama.cpp框架以其简单性被业界广泛采用，彻底改变了LLM推理领域。它支持企业和个人开发人员能够在从SBC到多GPU集群的各类型设备上部署机器学习大型语言模型。尽管llama.cpp的语言绑定方式使其使用方式变得容易，但是对于性能敏感或资源受限的情况，使用CC++编程方案可能是一个更为可行的选择。本文旨在...大语言模型llama.cpp框架LLMAIGC人工智能如何赋能汽车行业
原创 社区头条 热门内容榜 • 最近上榜在全球经济的数字化浪潮中，汽车行业正经历着前所未有的变革。在整体经济下行的背景下，企业内功修炼成为重中之重，为实现经济转型与高质量发展，数字化转型发挥着关键支撑的作用。这一趋势在内卷淘汰赛进入下半场阶段的汽车行业尤其凸显，数字化转型助力企业运营的优化与升级，为企业创造更多附加值。在汽车智能制造领域，AI与机器视觉技术结合，可以实现更精准的质量追溯和管理，与传统的人工质检方式相比，这很大程度提高了...AIGC汽车行业AI Agent 智能体开发工作手册详细指南
原创 社区头条 热门内容榜 • 最近上榜AIAgent智能体，目前更具体地指的是LLMAgent。这是一种程序，其执行逻辑受其底层大模型（LLM）的操控。与少样本提示（Fewshot）或固定工作流（Workflow）等手段相比，LLMAgent的独特之处在于它能定义并调整执行用户查询所需的步骤。若能访问一系列工具（例如：代码执行或网络搜索），AIAgent智能体能够决定采用何种工具、如何运用它，并根据输出结果进行迭代优化。这种灵活性使得系统能以最低限度的配置应对多样化的应用场景。A...AI Agent智能体大模型前置处理之——特征提取
原创 社区头条“特征提取是机器学习模型中的重要前置环境，特征提取的效果直接影响到模型的性能”在学习大模型技术的过程中，每个人应该都听过特征提取；但大部分人可能并不了解什么是特征提取，以及特征提取的方法和作用。所以，今天我们就来介绍一下大模型的前置处理——特征提取。特征提取背景有很多人认为，特征提取是由神经网络发展而来；但事实上，在机器学习发展之出，甚至可以说在人工智能技术发展之初，特征提取就已经出现了，只不...大模型特征提取神经网络神经网络之损失函数与优化函数——梯度下降
原创“损失函数和梯度下降是神经网络中仅次于神经网络模型本身的两个函数，甚至神经网络模型的性能就是由其所决定的”今天我们来介绍一下神经网络模型中非常重要的两个知识点，损失函数与优化函数。了解过神经网络模型基础运作流程的应该都知道这两个重要函数，可以说一个神经网络设计的怎么样是一方面，但怎么让神经网络表现更好，就看这两个函数的质量了。损失函数与优化函数神经网络训练流程在现有的神经网络体系中，神经网...神经网络损失函数优化函数关于神经网络的输入格式——数据集的处理，关于神经网络模型的结构说明
原创“外部数据需要经过嵌入——Embedding转换成神经网络可以识别的向量格式的数据”开发一个大模型或者说神经网络需要经过以下几个大致步骤：1.数据集的处理2.神经网络模型设计3.神经网络模型训练前向传播损失计算优化器反向传播可能很多人觉得神经网络模型很复杂，也看不懂啥是啥；比如说很多人还分不清pytorch和Transformer的区别，也看不明白Transformer的结构图是什么。所以，今天我们以Transformer架构为例，详细梳理一下神经...神经网络大模型RAG从入门到精通系列：基础RAG
社区头条LLM（LargeLanguageModel，大型语言模型）是一个功能强大的新平台，但它们并不总是使用与我们的任务相关的数据或者是最新的数据进行训练。RAG（RetrievalAugmentedGeneration，检索增强生成）是一种将LLM与外部数据源（例如私有数据或最新数据）连接的通用方法。它允许LLM使用外部数据来生成其输出。要想真正掌握RAG，我们需要学习下图所示的技术（技巧）：图片这个图看起来很让人头大，但是不用担心，你来对地方了。本系列教程...RAG语言模型深度学习训练崩溃的真凶：梯度消失与梯度爆炸背后的秘密
社区头条梯度消失（VanishingGradient）与梯度爆炸（ExplodingGradient）梯度消失和梯度爆炸是深度神经网络训练中经常遇到的两个重要问题，尤其是在训练较深的网络时。这两个问题都会影响网络的训练效率，甚至导致训练失败。下面小A将详细讲解这两个问题。一.梯度消失概念梯度消失是指在训练深度神经网络时，反向传播过程中的梯度逐渐变小，最终导致梯度接近于零的现象。这使得神经网络的权重更新非常缓慢，甚至导致某些层的权重根本不...深度学习梯度消失神经网络PlanRAG：商业决策驱动
在商业环境中，决策过程通常涉及数据分析，以选择最合适的方案来实现特定目标。例如，制药公司Pfizer可能需要决定哪些工厂应该运营或停止，以及每个工厂应该雇佣多少员工，以最小化生产成本并保持准时交付。这一过程通常分为三个步骤：制定分析计划、检索必要数据、基于数据做出决策。其中最困难的部分就是，人类需要制定分析决策planRAG的目标是用LLM替代人类角色，实现整个决策过程的自动化。PlanRAG决策问答（DecisionQA）任...PlanRAGNLPCVTasks 先行，OpenAI Agent ：Operator即将发布！
OpenAI推出一项名为Tasks的测试版功能。图片无论是任何任务，只需要向它说明需求和时间，它就能实现自动化处理。“任务”（Tasks）功能的推出可能是“Operator”的前兆。之前，在SamAltman博客“反思”文章中，OpenAI的全新子域名operator被挖掘出来，这个就是，2025年1月即将发布的第一个AIAgent。图片operator预计会集成在ChatGPT中，可以自动化编码、内容等多种业务场景，与第三方应用API交互，实现自动化。根据OpenAI的设想...TasksOpenAIAgent
