AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
开发一款大模型需要经过哪些步骤？开发一款大模型的完整流程
原创“打造一款模型是一件非常复杂的事情，设计的问题也非常非常多，因此大家要做好心理准备”这段时间写的文章主要都在讲大模型的应用问题，以及自己在工作中遇到的一些问题；而今天我们就从大模型服务的角度，来思考一下打造一款大模型需要经过哪些步骤，也就是怎么打造一款大模型。怎么打造一款大模型？可能不同的人对大模型有不同的理解，不同的企业实现大模型的方式可能也不太一样；但其大体上的步骤和过程还是差不多的。打...大模型设计大模型技术在家中完成LLM微调高效指南（上）
原创 精华编辑言征出品51CTO技术栈（微信号：blog51cto）LLM在生成文本和理解信息方面非常有效，但它们最终受限于训练数据的语料库。例如，如果你让一个通用的预训练模型回答与你的业务特定流程或操作有关的问题，最好的结果是它拒绝，最坏的情况是它会信誓旦旦地给出一个看似合理但错误的答案。当然，你可以通过自己训练一个模型来解决这个问题，但所需的资源往往超出实际可行的范围。例如，训练Meta的相对小的Llama38B模型需要约130万G...LLM微调GPUDeepSeek AI发布Janus：一款拥有图像生成能力的1.3B多模态模型
原创01、概述在当今人工智能的浪潮中，多模态模型的崛起为我们带来了前所未有的创新可能性。最近，DeepSeekAI推出了其最新力作——Janus，这是一款具备强大图像生成能力的多模态模型，拥有13亿参数。这款模型的问世，将进一步推动AI在多个领域的应用，本文将带您深入了解Janus的独特之处及其广泛的应用前景。02、JanusJanus的命名灵感源于罗马神话中的双面神Janus，象征着过渡与共存。这一命名不仅体现了模型的双重功能，还反映了其...大预言模型深度解析 REAcT Agent 的实现：利用 LlamaIndex 和 Gemini 提升智能代理工作流
原创 精华01、概述在过去的两三年中，人工智能领域经历了令人瞩目的发展，尤其是在大语言模型、扩散模型和多模态技术等方面。其中，我对智能代理工作流产生了浓厚的兴趣。今年初，Coursera的创始人、深度学习先锋AndrewNg发了一条推特：“智能工作流将推动今年的AI巨大发展”。自那时起，智能代理领域的进展令人惊叹，许多人开始构建自主代理和多代理架构。02、什么是REAcT提示？REAcT代表Reasoning（推理）、Acting（行动）和Thinking（...Agent使用结构化和非结构化数据增强大型语言模型(LLM)
原创01、概述在过去的几年中，大型语言模型（LLMs）引领了人工智能领域的革命。然而，尽管这些模型在理解和生成语言方面表现出色，它们仍然存在一些固有的局限性。主要包括知识截止日期带来的信息更新滞后、生成貌似正确但实际上错误的信息，以及知识库中可能存在的不准确信息和偏见。这些问题使得我们必须寻找解决方案，以提升LLMs的性能，特别是在特定领域的应用上。02、LLM的微调（FineTuning）为了应对上述问题，微调LLM是一种...大预言模型人工智能什么是多模态AI 如何融合和对齐？
原创
社区头条近年来，大型语言模型LargeLanguageModels（LLM）的研究取得了显著的进展（例如GPT3，LLaMa，ChatGPT，GPT4），这些模型在各项自然语言处理（NLP）任务上展现了出色的性能。通过在海量数据上预训练，LLM获得了丰富的知识以及强大的推理能力。只需要输入一些用户指令，这些模型就可以解析指令、进行推理并给出符合用户预期的回答。这些能力背后蕴含着众多关键思想和技术，包括指令微调（InstructionTuning），上下文学习（InCont...人工智能大模型多模态你的LoRA需要更新了！科大讯飞等提出MiLoRA：新颖且高效的LoRA变体
论文链接：https:arxiv.orgpdf2410.18035低秩适应（LoRA）及其专家混合（MOE）变体是非常有效的参数高效微调（PEFT）方法。然而，由于在Transformer层中添加了LoRA模块和MOErouters，这些方法在多租户环境中引入了显著的延迟。为了解决这个问题，本文提出了低秩适应的混合（MiLoRA），一种新颖且高效的LoRA变体。MiLoRA与之前的MOE风格LoRA方法不同之处在于将每个LoRA模块视为一个专家，并采用了一种基于提示的router机制。该机...模型训练谷歌&Mistral AI发布TIPS：具有空间意识的文本-图像预训练（适配各种计算机视觉任务）
文章链接：https:arxiv.orgpdf2410.16512亮点直击通用图像表示模型：TIPS结合图像文本和自监督学习的优势，适用于密集和全局预测任务，实现了广泛的下游应用。增强的文本监督信号：利用合成生成的图像描述标签，提升了模型对图像内容和空间关系的理解，尤其有利于密集视觉任务。双重标签对比损失：通过合成和噪声标签分别训练模型，使其在密集和全局任务上均表现优异。空间一致性与多任务性能：TIPS通过自蒸馏和掩码图像建模技...模型图像生成OpenAI奥特曼最新对话：将很快进入智能体阶段；OpenAI最初三个目标一个已失效；智慧和能源可解锁AGI
原创 社区头条编辑言征出品51CTO技术栈（微信号：blog51cto）2025，OpenAI会有哪些动作？SamAltman定下了哪些目标？如何看待自“宫斗”后相创始员工离职潮，以及大模型创业公司的壁垒和未来在哪里？近日，YC总裁GarryTan与OpenAICEOSamAltman展开了一场创业对话，Sam回忆了自己当年险些被YC创始人拒之门外的那场趣谈，强调了当前AI技术的发展还远未达到顶峰，当然也提及了当下OpenAI正处于转型过度期的阵痛，不过在Sam看来，OpenAI已经找到了...OpenAI奥特曼AGI最小化的递归神经网络RNN为Transformer提供了快速高效的替代方案
原创 社区头条本文介绍了长短期记忆网络（LSTM）和门控循环单元（GRU）这两种流行的RNN变体的最小化版本——minLSTM和minGRU，这两个模型在训练期间可以完全并行，并且使用的参数显著减少，使它们成为Tansformer的快速和有效的替代方案。Transformer如今已经成为大型语言模型（LLM）和其他序列处理应用程序的主要架构。然而，它们固有的二次方计算复杂性成为了将Transformer扩展至超长序列时的巨大障碍，显著增加了成本。这引发了人们对具有...神经网络大型语言模型LLM《解读论文：A Simple Framework for Contrastive Learning of Visual Representations》
社区头条谢邀，人在美国，刚下飞机。最近读到一篇很有价值的论文《ASimpleFrameworkforContrastiveLearningofVisualRepresentations》，下面就为大家详细解读一下这篇论文。一、论文背景与概述在计算机视觉领域，学习有效的视觉表示一直是一个核心问题。传统的有监督学习方法需要大量的标注数据，而获取标注数据往往是昂贵和耗时的。对比学习作为一种无监督学习方法，近年来受到了广泛关注。本文提出了一个简单的对比学习框架，旨在从大...机器视觉一篇大模型RAG最新综述
社区头条好久没分享过综述了，今天分享一个最新的RAG综述，来自卡内基梅隆大学。标题：AComprehensiveSurveyofRetrievalAugmentedGeneration(RAG):Evolution,CurrentLandscapeandFutureDirections1.引言1.1RAG技术概述检索增强生成技术（RAG）主要由两个关键部分构成：其一是检索组件，主要职责是从外部数据库（如维基百科或私有库）中提取相关信息，通过密集向量表征进行文档识别；其二是生成组件，基于transformer结构，对获取的信息...RAG大模型检索探索 Zerox OCR：创新引领光学字符识别新境界
在数字化信息飞速发展的当今时代，光学字符识别（OCR）技术成为了连接纸质与数字世界的重要桥梁。它能够将各种文档中的文字快速准确地转换为可编辑的电子文本，极大地提高了工作效率和信息利用价值。在众多OCR工具中，ZeroxOCR以其独特的特性和优势脱颖而出，为用户带来了全新的体验和更高的效率。本文将深入探讨ZeroxOCR的相关内容，包括其原理、特点、应用场景等。一、ZeroxOCR的基本原理ZeroxOCR的核心原理是利用先进的技术...ZeroxOCR字符Agent也有快慢脑了！这次真的不一样
在与用户进行自然对话交互时，智能体需要完成两个核心任务：一是进行对话交流，二是执行推理与规划。智能体在对话过程中，需要综合利用所有可获取的信息来做出回应，同时其行为要始终围绕目标展开。这种对话交互与多步推理规划的双重模式，与卡尼曼所描述的人类快速和缓慢思维系统颇为相似。基于这一理念，DeepMind团队开发了一个双系统框架，称为TalkerReasoner，旨在模仿人类的这两种思维模式。为了实现智能体与用户之间的自...Agent智能体TalkerCrawl4AI，智能体网络自动采集利器
社区头条Crawl是一款免费的开源工具，利用AI技术简化网络爬取和数据提取，提高信息收集与分析的效率。它智能识别网页内容，并将数据转换为易于处理的格式，功能全面且操作简便。1使用Crawl的步骤步骤1：安装与设置pipinstall“crawl4aigit+https:github.comunclecodecrawl4ai.git"transformerstorchnltk步骤2：数据提取创建Python脚本，启动网络爬虫并从URL提取数据：fromcrawl4aiimportWebCrawler创建WebCrawler的实例crawlerWebCrawle...Crawl4AI智能体网络Cephalo：专门用于仿生设计的多模态视觉大型语言模型
原创 精华 社区头条材料科学侧重于研究和开发具有特定性能和应用的材料。该领域的研究人员旨在了解材料的结构、性能和性能，以创新和改进现有技术，并为各种应用创造新材料。该学科结合了化学、物理和工程原理，以应对挑战并改进航空航天、汽车、电子和医疗保健中使用的材料。材料科学面临的一个重大挑战是整合来自科学文献的大量视觉和文本数据，传统方法通常无法有效地组合这些数据类型，从而限制了生成全面见解和解决方案的能力。难点在于从图...Cephalo多模态视觉经典图像模型解读之Swin-Transformer
原创本文介绍经典模型之SwinTransformer。SwinTransformer是一种经典的视觉Transformer架构，专为计算机视觉任务设计，通过层次化的特征表达和创新的移位窗口自注意力机制，有效地处理高分辨率图像，具有通用性和灵活性，适用于图像分类、目标检测和语义分割等多种视觉任务。感兴趣的小伙伴可以看看论文：https:arxiv.orgabs2103.14030模型介绍上图为SwinTransformer模型图。整个模型采取层次化的设计，一共包含4个Stage，...计算机视觉Transformer英伟达稳坐全球第一，成为新霸主！回顾这波AI潮的起源：辛顿、黄仁勋、李飞飞的历史交汇
原创 社区头条出品51CTO技术栈（微信号：blog51cto）“过去12年的AI热潮得益于三位在面对广泛批评时依然追求非传统理念的先驱。一位是多伦多大学的GeoffreyHinton，他几十年如一日地推广神经网络，尽管几乎所有人都怀疑它。第二位是Nvidia的CEO黄仁勋，他早早意识到GPU不仅仅能用于图形处理。第三位是李飞飞，她创建了一个在大多数同行看来荒谬庞大的图像数据集，最终证明了使用GPU训练的神经网络的潜力。”UnderstandingAI社区上的这篇《为...英伟达AI辛顿谷歌大牛呼吁：老板们应该倾听开发者心声，现在的AI代码生成器操之过急，风险太大！
社区头条编译言征出品51CTO技术栈（微信号：blog51cto）对于“AI帮助生产力提高”这件事情上，开发人员与他们的老板，意见其实非常不一致。最近，AtlassianDXDevEx进行了一项现状调查，结果非常有意思——调查结果显示，公司老板们认为AI是提高开发人员生产力和满意度的最有效方法，但高达三分之二的开发人员却不这么想，他们认为实际上没有任何显著的AI生产力提升。众所周知，目前最热门的软件开发AI用例属于代码生成。但是，开发人员...AI谷歌代码拥抱Data+AI｜玩家去哪儿了？解码Data+AI如何助力游戏日志智能分析
导语本文为数据库「拥抱[Data+AI](https:www.aliyun.comactivitydatabasedb4aispma2c6h.13046898.publisharticle.26.31126ffaDzM3iS)」系列连载第2篇，该系列是阿里云瑶池数据库面向各行业[Data+AI]([Data+AI]([Data+AI]([请添加链接描述]([Data+AI](https:www.aliyun.comactivitydatabasedb4aispma2c6h.13046898.publisharticle.26.31126ffaDzM3iS)www.aliyun.comactivitydatabasedb4aispma2c6h.13046898.publisharticle.26.31...人工智能
