AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
10.1k高星 GitHub 库：告别JSON错误：Outlines如何提升大模型的结构化输出
社区头条在人工智能和大语言模型（LLM）的应用中，如何高效、可靠地从模型输出中提取结构化数据，成为了一个至关重要的课题。本篇文章将介绍GitHub高星开源库Outlines，并分析它如何帮助开发者解决大模型在生成结构化数据时面临的挑战。我们将探讨大模型的非结构化输出给AI应用带来的问题、结构化输出的好处，以及Outlines如何有效地提升模型的可靠性和性能。在这里插入图片描述1.大模型的非结构化输出带来的问题1.1问题大语言模型（LLM...JSON大模型结构化深度学习的Batchsize必须是2的n次方吗？
大家或多或少都已经默认了，batchsize一般都是2，8，36，64，128...因为基本上所有论文都是这么设置默认超参数，大家久而久之就习惯了，至少这样设置总不会错吧。其实我也有这么一个迷思，如果不设置为2的n次方会怎么样？效果变差？效率变低？还是...基本理论一般而言，选择batchsize为2的幂背后的主要思想来自于：内存对齐和浮点效率。内存对齐将batchsize选择为2的幂的主要论点之一是CPU和GPU内存架构是以2的幂组织的。有一个...Batchsize参数验证OpenAI CPO 谈做AI产品的几个理念，深受启发！
精华
热门内容榜 • 最近上榜前言在微博看到有i陆三金大佬发了OpenAI、Anthropic两家公司的首席产品官的同台访谈，看俩人讨论如何在生成式AI的不确定性下做产品。提取了一下要点，有兴趣可以去看原视频：在模型被训练出来之前，每个人都不知道模型会怎么样，会涌现哪些能力，研究团队也不知道，它的性能是60%、90%还是99%，而基于每一种情况去构建产品又很不一样。OpenAICPO：很多事情在60%的情况下已经可以做，只是你要针对性的做产品。AnthropicCPO：与客...AI产品OpenAI英伟达NVLM多模态大模型细节和数据集
原创前期笔者介绍了OCRfree的多模态大模型，可以参考：【多模态&文档智能】OCRfree感知多模态大模型技术链路及训练数据细节，其更偏向于训练模型对于密集文本的感知能力。本文看一看英伟达出品的多模态大模型NVLM1.0系列，虽然暂未开源，但该文章给出了NVLM的详细细节，值得一读。NVLM1.0方法NVLM1.0包括三种不同的架构：NVLMD，一种解码器架构；NVLMX，一种基于交叉注意力（Xattention）的架构；NVLMH，一种混合架构。共享...多模态LLM推进医疗人工智能：评估 OpenAI 的 o1-Preview 模型并优化推理策略
原创 社区头条01、概述近年来，人工智能在医疗领域的应用迎来了新的突破。传统上，高性能的专业领域模型需要大量的领域特定预训练，例如PubMedBERT和BioGPT。然而，随着GPT4等通用大模型的崛起，这一模式正在被打破。尤其是像Medprompt这样的运行时引导策略（runtimesteering），在无需重新训练模型的情况下，就能让通用模型在特定领域内达到媲美甚至超越专业模型的表现。本文将带你深入了解Medprompt及其背后的运行机制，同时揭示OpenAI最新...医疗人工智能OpenAI大模型Cohere AI 推出 Rerank 3.5：搜索技术的新时代
原创01、概述在信息爆炸的时代，企业对搜索技术的依赖已不仅仅是为了找到内容，而是为了提升效率和生产力。然而，传统搜索模型往往难以真正理解用户意图，导致搜索结果不准确、不相关甚至不完整。这种体验不仅让用户倍感挫败，还可能拖累企业的运转效率，甚至影响收入增长。在这样的背景下，CohereAI推出了全新的Rerank3.5。这一搜索基础模型重新定义了搜索系统如何理解和排序结果，弥补了当前模型的关键缺陷。它通过对用户查询进行...人工智能大预言模型机械鹦鹉与真正的智能：大语言模型推理能力的迷思
原创 精华编者按：大语言模型真的具备推理能力吗？我们是否误解了"智能"的本质，将模式匹配误认为是真正的推理？本文深入探讨了大语言模型（LLMs）是否真正具备推理能力这一前沿科学问题，作者的核心观点是：LLMs本质上是高级的模式识别机器，而非真正具备逻辑推理能力。首先，作者指出，尽管大语言模型在各类推理能力基准测试中表现出色，但其性能实际上高度依赖于训练数据中的模式识别，而非真正的逻辑推理。其次，文章质疑了目前广泛...AILLMs大模型Hugging Face 发布免费开放课程，微调本地LLMs模型
原创01、概述如今，人工智能（AI）技术正在迅速发展，但与之相伴的教育资源却并不平等。想要踏入这一领域，通常需要深厚的专业背景和昂贵的资源支持。然而，HuggingFace正在改变这一现状。近日，该公司推出了一门免费且开放的机器学习课程，旨在让每个人都能接触到这一尖端技术。这门课程名为SmolCourse（取“小”之意），将引导学员从零开始，逐步掌握机器学习模型的构建、训练与微调。02、Smolcourse课程亮点揭秘SmolCourse以Hugg...微调LLMs大模型之深入探索RAG流程
原创前言在上一章【大模型之初识RAG】中，我们初步了解了RAG的基本概念和原理，并通过代码实践了一个简单的RAG流程。本章我们将基于RAG的基本流程，深入了解文档读取(LOAD)、文档切分(SPLIT)、向量化(EMBED)和存储(STORE)的每个环节，并结合代码进行常见场景的实践。RAG流程回顾回顾RAG的流程如上所示，具体代码见RAG代码，本章不再赘述。文档读取(LOAD)简介：由于我们的知识广泛存在各类文...大模型RAG大模型之初识RAG
原创 社区头条前言通过前几章的学习，我们已经掌握连接一个第三方大模型，使用LangChain与大模型建立交互，并且通过Prompt进行提问，得到相应的回答。本章我们将开始了解RAG（检索增强生成）技术，了解RAG的技术原理以及基本使用方法。RAG概述产生背景随着信息量的急剧增加，单纯依靠模型内置的知识进行生成已无法满足需求，比如：大模型的公共知识都是陈旧的！部分私有的知识大模型没有学习过.....RAG（检索增强生成）技术的出现是...大模型RAG大模型之Agent的初步了解
原创前言电影《钢铁侠》中的智能助手J.A.R.V.I.S.是一位得力的助手，它不但有强大的理解能力，而且还具备执行行动的能力。随着技术的不断进步，类似于贾维斯的Agent正在逐步从银幕走进现实。本文将探讨Agent的产生背景，并结合一些代码示例理解Agent。Agent的产生背景一个例子引入Qwen大模型fromutilsimportgetqwenmodelsllm,chat,getqwenmodels()chat.invoke("现在几点了？")运行结果：AIMessage(content'我是一个AI模型，无法实时...大模型Agent大规模情感分析：将NLP应用于多语言和特定领域的文本
原创 社区头条探讨大规模情感分析对于分析多语言和特定领域大量文本数据的重要性。情感分析，也称为意见挖掘，是自然语言处理（NLP）技术中的一个强大概念，用于解释和分类文本数据中表达的情感。当然，它可以确定情绪是积极的、消极的还是中性的。有了这样的结果，每个企业和研究人员都能理解顾客的意见、市场趋势和社会态度。通过分析从社交媒体、评论和调查等来源收集的数据，情感分析可以提供强大的、可操作的见解，推动决策，提高客户满...自然语言处理NLP深度学习视觉自回归建模（VAR）：通过下一尺度预测实现可扩展的图像生成（NIPS2024best)
原创 精华图1：从在ImageNet上训练的视觉自回归(VAR)Transformer生成的样本。展示了512×512的生成样本（顶部）、256×256的生成样本（中部）以及零样本图像编辑结果（底部）。摘要:我们提出了一种新的生成范式——视觉自回归建模（VAR），将图像上的自回归学习重新定义为从粗到精的“下一尺度预测”或“下一分辨率预测”，区别于传统的光栅扫描式“下一个标记预测”。这种简单直观的方法使自回归（AR）Transformer能够更快地学习视觉分...VAR模型大语言模型什么是相似性搜索？大模型的底座技术
原创“语义分析是人工智能实现的基础，而语义分析实现的基础却是向量”说到相似性搜索可能有些人听说过这个词，而有些人可能都没听过这个词；相似性搜索可能很多人都不清楚，但语义搜索应该很多人都听说过；在某种条件下，可以把相似性搜索等价于语义搜索；但相似性搜索又不完全等价于语义搜索。今天，我们就来一起聊一下什么是相似性搜索，这个RAG技术中的大杀器，也是人工智能时代不可或缺的一个技术。相似性搜索在传统的计算机技...相似性搜索大模型大模型超强内存优化：成本削减高达75%，性能不减弱！成果出自日本一初创AI公司之手；网友：电力可能够用了
原创 社区头条出品51CTO技术栈（微信号：blog51cto）一项逆天的大模型优化技术来了！东京初创公司SakanaAI的研究人员开发了一种新技术，让大模型能够更有效地使用内存，不仅最多节省75%的内存占用，还甚至性能也有所提升！这种名为“通用Transformer内存”的技术使用特殊的神经网络优化LLM，保留重要的信息并丢弃冗余的细节。这项技术旨在帮助企业降低基于大模型和其他基于Transformer的模型构建应用程序的成本。这项技术在HackerNews上也被...大模型AILLM国产开源模型顶流「通义」，被曝应用团队已“离开”阿里云，并入阿里智能信息事业群！
原创 社区头条 热门内容榜 • 最近上榜编辑伊风出品51CTO技术栈（微信号：blog51cto）媒体爆料了阿里系大模型“通义”的大新闻：近期，AI应用“通义”已经从阿里云被分拆出来，并入到阿里智能信息事业群！乍一看有点懵，因为被分拆出来的不是全部的“通义”，而是ToC的应用层“通义”。而模型层的“通义”大模型家族相关业务，仍然保留在阿里云体系内的通义实验室中。这显然是阿里系AI发力C端的强烈信号。有知情人士透露，此次调整包括通义ToC方向的产品经理，以及相...国产开源模型图像修复和编辑大一统 | 腾讯&北大等联合提出BrushEdit：BrushNet进阶版来了
社区头条文章链接：https:arxiv.orgpdf2412.10316项目链接：https:liyaoweistu.github.ioprojectBrushEdit亮点直击提出了BrushEdit，这是先前BrushNet模型的高级迭代版本。BrushEdit通过开创基于修复（inpainting）的图像编辑方法，扩展了可控图像生成的能力。该统一模型支持指令引导的图像编辑和修复，提供了用户友好的、自由形式的、多轮交互编辑体验。通过集成现有的预训练多模态大语言模型和视觉理解模型，BrushEdit显著提高了语言...AI模型Ilya Sutskever：基于神经网络的序列到序列学习，十年回顾
精华会议：NeurIPS2024时间：December14,2024发言人：IlyaSutskever主题：SequencetoSequenceLearningwithNeuralNetworks:WhataDecadeIlyaSutskever是论文《基于神经网络的序列到序列学习》（SequencetoSequenceLearningwithNeuralNetworks）的第一作者。该论文荣获了NeurIPS2024的“TestofTime”论文奖。该奖项旨在表彰在2014年NeurIPS会议上发表、对研究领域产生了重大影响并经得起时间考验的论文。自发布以来，该论文已被引用...神经网络序列AI漫画 Transformer：手把手用数学公式推导
精华我学习的时候总有个执念：这个背后的底层原理是什么？这个执念经常会让我在理解新的知识的时候，造成很大的障碍。如果我不能理解它的底层原理，我就很难去理解在它基础上构建的知识。GPT正属于这类型。我曾经看了不下于几十篇关于Tranformer的视频、教程，但是最后特别是对于Q、K、V非常迷惑。这篇文章完全解开了我之前的困惑。所以希望大家一定耐心看完。纽约的Transformer（由PhotoFunia创建）第一步定义数据集用于创建ChatGP...TransformerepochPythonTEN Agent 一键让 Coze Bot 开口说话，这下AI助手终于能跟我聊天了
最近在刷技术社区的时候,发现了一个超级有意思的更新TENAgent悄悄地支持CozeBot了!它可以让CozeBot直接开口说话了！这个消息对我来说是意外之喜。之前我写过一个文章是搭建实时语音助手，用到的实时语音助手官网也是有工作流和知识库支持的，但扣子这个AI智能体平台无疑是当前NO.1。TENAgent与Coze结合是一个很好的选择，落地方向有很多。现在,不需要复杂的代码,不用纠结技术细节,只要简单三步就能搞定。只需要在TENAgent界面输...AI助手API
