AI.x社区

模型概述Megrez3BOmni是由无问芯穹研发的端侧全模态理解模型，基于无问大语言模型Megrez3BInstruct扩展，同时具备图片、文本、音频三种模态数据的理解分析能力，具体模型参数如下表所示。Megrez3BOmni在并未牺牲模型的文本处理能力的前提下，在三个模态上相较于同等参数模型，均取得较好的效果。图源：https:internvl.github.ioblog20241205InternVL2.5注意：下面的文本、图像、语音评测均基于https:huggingface.cospacesInfini...

在看了OpenAI的直播，精读了字节论文，以及和知乎真中合欢激烈辩论后。我对RFT(ReinforcementFineTuning)也有了一些自己的认知，这篇文章给大家分享一下我的理解。首先给出我的结论：RFT并不是新的技术范式，而是PPO技术范式下的新应用范式，RFT相比于传统PPO的创新点是rulebasedrewardmodel。叠甲声明：RFT属于应用范式，RFT依赖的是rulebasedrewardmodel，这两个观点属于个人看法，如有不对，还望轻喷。至于“dozensofdata”...

晚上发现kimi也更新了，之前网上流传的kimi在数学上对标o1的模型，可以测试了。感觉有点迫于deepseek的压力了，本来应该是国内第一个的，长推理、类o1的模型，现在变成了第二个。模型版本叫k0math，在数学上的效果也是对标openaio1，官方也仅仅表示说在数学能力上较强。来自官方帖子https:mp.weixin.qq.comsg4DltigncX4sfaQ6Qn1zA但我非要测试看看在文本推理上的效果如何。测试界面是侧边栏的小眼镜图标，进来直接就可以测试，...

最近学强化的过程中，总是遇到“拒绝采样”这个概念，我尝试科普一下，争取用最大白话的方式让每个感兴趣的同学都理解其中思想。拒绝采样是LLM从统计学借鉴过来的一个概念。其实大家很早就接触过这个概念，每个刷过leetcode的同学大概率都遇到过这样一个问题：“如何用一枚骰子获得17的概率？”答案很简单：把骰子扔两次，获得6636种可能的结果，丢弃最后一个结果，剩下的35个结果平分成7份，对应的概率值便为17。使用这种思想...

今天给大家带来一篇《简单实现一个ChatGPT驱动的游戏》文章，来自知乎九号（已授权）。今年四月份读了斯坦福GenerativeAgent的论文，觉得特别好玩，花几天时间实现了这个demo。后来拿着这个demo去参加hackathon，竟然拿了二等奖还帮我赢了1300多刀。最近提到这个demo，同事表示很有兴趣，于是仔细整理了一下，分享给大家。知乎：https:zhuanlan.zhihu.comp664009161Github：https:github.comliyucheng09ChatGPTAgent0.让LLM驱动...

今天突然发现腾讯开源混元大模型，十分震惊，腾讯也来挤开源赛道了，只能说大模型开源越来越繁华了。这次开源的主要是MoE模型，有Base模型和Instruct模型，总参数量389B，激活参数52B，支持最大上下文256K。Github:https:github.comTencentTencentHunyuanLargePaper:https:arxiv.orgpdf2411.02265HF:https:huggingface.cotencentTencentHunyuanLarge由于时间关系，还没仔细的阅读paper，扫了一眼指标，不知道为啥没跟Qwen2.572B...

写在前面前一阵子的开源和闭源之争炒的比较火热，之前一直想写点什么，由于太懒就没写，但是最近开源模型真的太火爆了，前有Grok1、Mistral8x22、Llama3，后有Yi1.5、DeepseekV2、Qwen1.5110B，开源模型现在真的卷到飞起。今天简单聊聊下面的几点内容，欢迎大家拍砖，给出不同看法：开源模型有哪些优势开源模型与闭源模型的差距会越大还是越小开源模型哪家强开源模型有哪些优势个人认为，开源大模型是让大模型行业卷起来的根源...

写在前面今天智谱开了GLM49B的模型，不是6B，是9B。一共开源了四个模型，Base版本模型（GLM49B）、Chat版本模型（GLM49BChat和GLM49BChat1M）和多模态模型（GLM4V9BChat）。其中，模型为多语言模型除了支持中文、英文之外，还支持日语，韩语，德语在内的26种语言；Chat系列模型支持网页浏览、代码执行、自定义工具调用（FunctionCall）的能力；GLM4V9B模型支持中英双语多轮对话能力。Github:https:github.comTHUDMGLM4HF:https:...

以chatgpt为起始节点的大模型技术经过了两年左右的发展，大致沉淀了一些较为确定的研究领域。首先是基座大模型的研究，主要是国内外大厂集中大量财力、人力、算力进行大模型军备竞赛，企图将大模型的基础能力（包括推理能力）上限逐步提升到更高的层次。当然也有一些研究机构致力于改进transformer的架构或者提出其他更先进的基础模型结构，在性能或者效率上做文章，例如MOE，Mamba等；多模态模型，让大模型同时能够理解并生成...

经过了数据收集、筛选、去重，马上就可以开始训练实验了。但是在实验之前，我们还需要先获取一个语言模型的基石：分词器（Tokenizer）。Tokenizer的作用是对一条文本数据进行切分、词表映射，得到这条文本的token序列。用开源Tokenizer还是自己训练Tokenizer可以自己训练，也可以从目前开源的模型中扒一个来用，用开源Tokenizer有几个点需要着重关注：压缩率：压缩率决定了文本向量化后的长度，压缩率越高，向量后数据越短，训...

今天智谱开了GLM49B的模型，不是6B，是9B。一共开源了四个模型，Base版本模型（GLM49B）、Chat版本模型（GLM49BChat和GLM49BChat1M）和多模态模型（GLM4V9BChat）。其中，模型为多语言模型除了支持中文、英文之外，还支持日语，韩语，德语在内的26种语言；Chat系列模型支持网页浏览、代码执行、自定义工具调用（FunctionCall）的能力；GLM4V9B模型支持中英双语多轮对话能力。Github:https:github.comTHUDMGLM4HF:https:huggingf...

早上起来发现，MetaAI又开源模型，文本模型开源了端侧小模型1B和3B模型，也是首次开源了多模态大模型11B和90B两个版本；同时还开源了一个LlamaStack项目。Blog:https:ai.meta.comblogllama32connect2024visionedgemobiledevicesHF:https:huggingface.cocollectionsmetallamallama3266f448ffc8c32f949b04c8cf其中Llama3.2多模态模型在图像识别和一系列视觉理解任务方面效果优于Claude3Haiku和GPT4omini。文本模型Llama3.23B模型...

Ta来了，Ta来了，Ta带着7个Size的开源模型迎面走来了。是的，期待已久的Qwen2.5开源了，共有7个尺寸规模，包括：0.5B、1.5B、3B、7B、14B、32B和72B，分别有Base模型和Instruct模型。本次全是Dense模型，没有MoE模型。同时还开源了Qwen2.5Coder模型和Qwen2.5Math模型。还开了GGUF、GPTQ和AWQ3种量化模型，别问，就是服务到位，主打一个“全”。你有Llama3.1，我有Qwen2.5，请问阁下如何应对。下面从模型说明、效果说明、Qwen2.5...

这篇主要会回答下面的问题（toolong，don'tread）：什么是OpenAIo1？——一个擅长数学物理化学生物编程等问题的理科学霸大模型OpenAIo1最大的技术特征是什么？——RL训练和推理，在传统COT之外隐藏了一个很长的内在COT，满足scalinglawOpenAIo1到底有多强？——断崖碾压GPT4o，达到人类竞赛选手，以及博士生水平。人们更喜欢GPT4o还是OpenAIo1——文科方面o1没有优势，理工科方面碾压GPT4oOpenAIo1的安全性怎么样？——相比4o优...

之前很多研究都是生成、发现、过滤高质量的通用指令微调数据，而大家对代码任务的越发关注，如何构建更好的代码指令调整数据也越发重要。下面给大家带来一篇筛选高质量代码指令微调数据的文章，主要基于指令的复杂性、回复质量和指令的多样性三个维度来进行样本的筛选，同时也指出了当前部分代码指令数据在HumanEval上存在严重的数据泄露。Paper:https:arxiv.orgabs2409.03810Github:https:github.combanksy23XCoderDataHF:http...

面壁一直都在做端侧大模型，之前有文本系列MiniCPM2B模型，还有多模态系列的MiniCPMV系列模型，今天又开源了MiniCPM34B模型，真是端侧一路走到低。这次MiniCPM34B也是在效果上有了巨大的提升，超过Phi3.5miniInstruct模型，肩比Llama3.18BInstruct、GLM49BChat、Qwen27BInstruct等一众模型，堪称小模型之王。之前的MiniCPM2B模型报告也是干活满满，详见：https:shengdinghu.notion.siteMiniCPMc805a17c5c8046398914e47f0542095a...

大家好，我是刘聪NLP。今天给大家带来一篇大模型微调相关的最新综述，主要大模型微调归纳为7个阶段分别为数据准备、模型初始化、训练环境配置、模型微调、模型评估与验证、模型部署以及模型监控与维护。Paper:https:arxiv.orgabs2408.13296模型微调（FineTuning）就是以预训练模型为基础，通过相对较少的特定数据集进行的进一步训练，主要是在模型预先存在的知识之上用过减少数据和计算成本来提高特定任务的效果。模型预训练与...

大家好，我是刘聪NLP。大模型已经展现出了较强的文本生成能力，但随着使用场景变得越加复杂和严格，除了避免生成误导或不当言论内容外，往往还希望可以满足用户的特殊需求。而可控文本生成就是为了在保持文本生成有用性、流畅性和多样性的同时，保证文本符合预定的控制条件，例如安全性、主题一致性、语言风格等。今天给大家带来一篇综述，介绍大模型可控文本生成（ControllableTextGeneration,CTG）的相关技术。Paper:https:ar...

我个人对llm是一种很复杂的态度。毕竟，它真的击碎了我2023年之前所有的技术积累，以前在nlp苦心钻研的训练经验、模型结构、不同任务类型的不同处理技巧，好像在ChatGPT面前显得一文不值。不过，事情都有两面性。与我的技术一起被击碎的，还有我那一潭死水的工作内容。我不再是特征工程师——“花了几个月的时间，就只为了构造某个能力的数据特征，然后想办法加入到模型网络中”。当领导又想让模型有一个新的能力怎么办，重复这...

首先，我们思考一个问题，为什么qwen2基本上是当下最受欢迎的开源模型？说实话，相比于deepseek、llama、minicpm这些诚意满满的技术报告，qwen2的技术报告稍显一些“小家子气”，并没有提及到关键的技术细节。然而，qwen2提供给开源社区的“全家桶”套餐，又是多长的技术报告也比不上的。对llm的研究者来说，用相同tokenizer，相同的7Tpretraindata得到的“一簇小llm”，其研究价值远远超过Qwen272B本身！知乎:https:zhuanlan.z...