AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
刷屏了！Genie 2开启文生游戏时代，可交互的世界模型震撼登场！背后团队曝光；12天直播能否截胡老对手
社区头条编辑伊风出品51CTO技术栈（微信号：blog51cto）AI公司年底要冲业绩了！一觉醒来，OpenAI宣布了未来12天的直播活动，而老对手谷歌直接发布了Genie2，宣布在世界模型方面又迈出重要一步！图片但，至少今天是谷歌更胜一筹——Genie2是在太令人印象深刻了！用GoogleDeepMind首席执行官DemisHassabis话来说：“世界模型正在成形。”图片给Genie2一张照片，它给你一个可以交互的世界！无论是创造一个飞船上的游戏世界，还是想变身行走...Genie 2OpenAI模型吴恩达开源AISuite，简单高效调用多个大模型
AISuite是个Python库，能让你通过单一接口轻松接入多家生成式AI服务。今天带大家一步步了解如何安装和配置AISuite，并使用它与各种AI模型进行高效互动。1安装AISuiteAISuite托管在GitHub上，可以通过pip安装。运行以下命令：pipinstallaisuite此命令将获取并安装该库及其依赖项。2设置API密钥要与生成式AI提供商交互，需要从计划使用的提供商那里获取API密钥。AISuite支持多个提供商，例如：OpenAI，Anthropic，Azure，Google，...吴恩达开源AISuite优雅谈大模型：神经网络与矩阵
1.向量与矩阵上个章节的神经网络是为了解Transformer或者Mamba做好铺垫，在和后辈交流过程中发现有个障碍，那就是向量和矩阵。其实向量和矩阵的表达方式不是所有人都很习惯。在继续下面的章节之前小编认为有必要将向量、矩阵和神经网络做下补充解释。向量是具有方向和大小的量，用箭头表示。向量具有下面的性质：有好事者翻出来内积的几何含义，其实就是两个向量的长度乘以它们的夹角，那么上面代数的表达方式和下面的带有cosθ...大模型神经网络矩阵M3DocRAG：文档问答用哪个多模态大模型效果最好？
1.文档视觉问答现状文档视觉问答（DocVQA）是通过解读文档图像所含信息来回答文本问题的多模态任务。精准高效地回答众多冗长且布局繁杂的文档中的问题，会给金融、医疗保健和法律等诸多领域带来极大益处，在这些领域，文档AI助手能够简化大量文档的日常处理，提升生产力，助力更快、更明智的决策。现有的DocVQA任务，主要有以下两种方案：•1.聚焦于单页文档的视觉问答，如下图。图片•2.从文档中提取文本（比如OCR或PDF文本提...M3DocRAG多模态大模型一文彻底搞懂机器学习 - 回归（Regression）
原创 社区头条回归（Regression）是机器学习中的一种基本方法，其目标是通过分析自变量与因变量之间的关系，建立一个数学模型来预测因变量的值。线性回归、多项式回归、正则化线性回归是机器学习中常用的回归分析方法。其中线性回归用直线拟合数据关系，多项式回归用曲线拟合复杂关系，正则化线性回归通过加约束来防止模型过于复杂。Regression一、线性回归线性回归（LinearRegression）是什么？线性回归是一种统计方法，用于建模两个或多个...机器学习DHelix：跨 Micro-Batch 的通信隐藏，SOTA LLM 训练性能
一、背景我们在之前的文章中提到过，在A100上进行大规模LLM训练的MFU（模型浮点运算利用率）通常可以达到50%60%，而在H100上往往只有40%50%，为什么会存在这样的现象，能否进一提升对应的性能呢？比如在H100中是否可以达到60%的MFU？今天介绍一篇新的文章，其采用了一种新的双链技术，可以更好实现通信与计算的Overlap，为实现上述目标提供了更多可能。对应的论文为：[2411.15871]HidingCommunicationCostinDistributedLLMTrain...DHelix通信性能阿里巴巴Qwen团队发布QwQ-32B-Preview：包含320亿参数的开放模型，专为解决高级推理任务而设计
原创
热门内容榜 • 最近上榜01、概述近年来，随着人工智能技术的飞速发展，大型语言模型（LLMs）如GPT4在各类应用中表现出色。然而，这些模型在面对复杂推理任务时，依然暴露出显著不足。无论是解决数学难题、处理复杂编程任务，还是应对细致入微的逻辑推理，这些模型常常力不从心。模型在训练数据之外的泛化能力有限，且需要大量任务特定信息来解决抽象问题。这种局限性在科学研究、工程开发等领域尤为突出，也阻碍了AI真正成为人类强有力的助手。为解决...阿里巴巴大型语言模型亚马逊Nova大模型家族：AI技术的新里程碑 | 1000个人的数字分身：AI如何精准模拟人类行为？
精华大模型领域的发展日新月异，每天都有许多有趣的论文值得深入品读。下面是本期觉得比较有意思的论文：1、亚马逊Nova大模型家族：AI技术的新里程碑2、1000个人的数字分身：AI如何精准模拟人类行为？1、亚马逊Nova大模型家族：AI技术的新里程碑图片亚马逊发布了Nova模型家族，与传统模型不同，Nova不仅仅是又一个AI模型，而是一个全面的、定制化的智能解决方案生态系统。该家族包括Pro、Lite、Micro、Canvas和Reel五个不同定位的模...亚马逊Nova大模型腾讯发布全新混元大模型Hunyuan-Large：全球最大开源Transformer模型，助力AI发展新高度
原创 社区头条01、概述近年来，大型语言模型（LLM）已成为许多人工智能系统的核心支撑，从自然语言处理（NLP）到计算机视觉，再到科学研究领域，LLM的应用无处不在。然而，伴随着AI需求的激增，LLM的规模和计算需求也迅速增加。这些庞大的模型在训练和推理时资源消耗极大，推动研究者们不断探索更高效的模型架构。在此背景下，专家混合模型（MixtureofExperts,MoE）成为了备受关注的解决方案，它通过选择性地激活不同的模型部分以提升性能。...大模型开源Transformer模型清华团队提出精确学习新方法，提升AI泛化能力
社区头条引言：探索精确学习的重要性在少样本学习领域，如何使模型从有限的数据中学习到精确且具有泛化能力的知识，是一个挑战也是研究的热点。传统的元学习方法，如模型无关的元学习（MAML）及其变体，虽然在快速适应新任务方面表现出色，但仍存在一些问题，如模型倾向于学习简单的、直接的特征（如颜色、背景等），这些特征在元训练阶段足以区分极少数的类别，但却不利于模型的泛化能力。为了解决这一问题，本文提出了“精确学习”的...AI泛化能力MSDBlack Forest Labs 发布 FLUX.1 工具，旨在为基本文本到图像模型 FLUX.1 添加控制和可操纵性
原创01、概述在这个视觉内容愈发重要的时代，能精准且富有创意地创造和编辑图像已成为一项无价的能力。BlackForestLabs推出的FLUX.1Tools，为文本生成图像的技术注入了更多灵活性与可控性。这套工具建立在基础模型FLUX.1之上，为创作者提供了多种强大功能，不仅能生成图像，还能对生成的内容进行编辑与重塑。接下来，我们将一起探索FLUX.1Tools如何提升生成式艺术和创意工作流程。02、FLUX.1Tools：为图像生成带来更多可能传统的文...大语言模型手势图像识别实战(LeNet模型)
原创前言上一章内容我们初步了解了卷积、卷积神经网络、卷积神经网络的搭建过程以及经典的LeNet网络结构，本篇内容将基于LeNet网络结构，实现手势识别。手势识别数据集介绍在开展手势识别之前，我们需要先下载并初步了解数据集的情况。数据下载地址下载地址：手势识别数据集├──train训练集├──G0手势0├──IMG1118.jpg手势0的图片├──...├──G1手势1├──IMG1119.jpg├──...├──...├──G9手势9├──test测试集├...手势图像识别计算机视觉大模型体验之Qwen2模型
原创前言在上一章【大模型的三大架构及T5体验】中，我们体验了EncoderDecoder架构的T5模型。本章内容，我们将以DecoderOnly架构的Qwen模型入手，了解Qwen模型结构、聊天模板的概念以及通过大模型进行翻译、信息抽取等任务的尝试。模型选择访问ModelScope官网，在模型库搜索Qwen2。补充说明：Qwen27B是一个通用的Base模型。Qwen27BInstruct是经过监督微调SFT的模型，在处理指令时的表现通常会更好。Qwen模型简介Qwen...大模型Qwen2模型大模型的三大架构及T5体验
原创 社区头条 热门内容榜 • 最近上榜前言本篇我们将对大模型的训练阶段进行初步了解，同时部署一个T5模型进行试用体验。大模型的三大架构大模型（如大型语言模型）的架构通常有多种类型，以下是三种主要的架构：EncoderDecoder架构架构：由两个主要部分组成：编码器（Encoder）和解码器（Decoder），即Transformer架构。它先理解输入的信息（Encoder部分），然后基于这个理解生成新的、相关的内容（Decoder部分）。特点：这种架构就像...大模型架构如何使用AutoGen AI技术实现多代理对话
原创 社区头条本文将介绍一个实验，展示多个人工智能代理如何通过群聊方式进行互动，并根据具体的业务需求协同工作，共同生成解决方案的架构。本文介绍如何使用DatabricksCommunityEdition(CE)（一个免费的基于云的平台）运行一些基本的人工智能Python代码。因为只处理开源库，所以这个实验可以很容易地在任何PythonPySpark环境中复现。AutoGen和可对话代理简介AutoGen是一个开源平台，使开发人员能够创建协作人工智能代理。这些代...人工智能AutoGen大型语言模型大模型超长窗口上下文与检索增强生成——RAG
原创 社区头条“怎么解决大模型的记忆问题，以及保证结果的准确性，目前还是大模型应用中一个亟待解决的问题”看过作者文章的人对RAG技术应该有了初步的了解，但不知道是否了解大模型的窗口大小；即使没有研究过大模型的窗口，但也应该听过每次大模型输入的内容是有限的；而这个有限就是因为大模型窗口的限制。那么，大模型窗口与检索增强的关系是什么样的？怎么解决长对话问题，随着大模型窗口的增加，RAG会死吗？大模型窗口与RAGRAG——检...RAG大模型腾讯出手了！开源最大AI视频模型，130亿参数，性能媲美闭源，击败Runway Gen-3、Luma 1.6
原创 社区头条编辑伊风出品51CTO技术栈（微信号：blog51cto）AI视频领域持续不断有新玩家入局！12月3日，腾讯出手了，不仅在元宝APP里上线AI视频功能，还直接开源了混元视频模型！图片（打开元宝APP，若没有找到入口的话，可以检查是否更新到了最新版本，目前可能会有排队时间。）腾讯一来就干了票大的：直接开源了AI视频里最大的模型——130亿参数！开源地址：https:github.comTencentHunyuanVideo混元团队对HunyuanVideo的性能也很有信心，...腾讯参数语言Kaggle大模型竞赛优胜方案总结与思考
社区头条 热门内容榜 • 最近上榜大家好，我是HxShine。LLM的Reward模型该如何训练呢？今天对KaggleLLM比赛LLMScienceExam的一些优胜方法做一个总结，这是Kaggle竞赛平台第一次举办LLM相关比赛，赛题就是探索如何训练一个sciencebasedRewardModel。优胜方案中，如何利用RAG（检索增强）方法提高模型的上限，如何通过传统方法以及向量检索方法提高检索知识的质量，如何使用LoRA，QLoRA等技术对LLaMa2等系列进行微调，甚至在16GB内存的GPU上对70B大小的LLM进行推...kaggle大模型方案聊聊基于 Python 优化算法的创新预测模型
前言本文基于前期介绍的电力变压器，介绍一种综合应用完备集合经验模态分解CEEMDAN与基于麻雀优化算法的SSATCNBiLSTMAttention预测模型，以提高时间序列数据的预测性能。该方法的核心是使用CEEMDAN算法对时间序列进行分解，接着利用麻雀优化算法对TCNBiLSTMAttention模型进行优化，通过对分解后的数据进行建模，来实现精准预测。1数据CEEMDAN分解与可视化1.1导入数据1.2CEEMDAN分解根据分解结果看，CEEMDAN一共分解出11个分量，...Python算法模型【深度探索】FlashAttention-3：深度学习注意力机制的再进化
一、引言在深度学习技术的浪潮中，Transformer模型凭借其强大的自注意力机制，在自然语言处理、计算机视觉等多个领域取得了显著成效。然而，随着数据规模的增大和模型复杂度的提升，Transformer模型的计算效率和内存占用问题日益凸显。为了应对这一挑战，研究人员不断探索更加高效、精确的注意力机制。今天，我们将为大家介绍一项最新的研究成果——FlashAttention3，它通过创新的算法设计和硬件加速技术，实现了深度学习注意力...FlashAttention-3深度学习机制
