AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
LLM最喜欢的随机数是什么？答案竟是ta！
精华计算机程序中，「随机」是一个常见的概念。由于生成真正的随机数过于昂贵，所以Python、Java等语言都内置了「伪随机数生成算法」。虽然生成的数字序列是完全可预测的，但它看起来就像是真正的随机数。一个好的随机数生成器会以相等的概率选择给定范围内的所有数字。这和人类选择随机数的思维过程完全不同。比如，我们会故意避开5和10的倍数，也不会选择66和99这样重复的数字，而且几乎从不选择0、1和100，因为它们看起来「不够...LLM模型首个多模态视频竞技场Video-MME来了！Gemini全面超越GPT-4o，Jeff Dean连转三次
大模型性能哪家强？GPT4一家常霸榜。基准测试全擅长，竞技场上见真章。不过近日，谷歌的Gemini终于扬眉吐气了一把，在全新的、更复杂的多模态考试中大获全胜，全面超越了GPT4o。JeffDean表示：已阅，很赞。这就是来自中科大，厦大，港大，北大，港中文和华师大的研究者联合奉献的，世界上首个多模态LLM视频分析综合评估基准——VideoMME。论文地址：https:arxiv.orgpdf2405.21075项目地址：https:videomme.github.io在前往AGI的...Gemini模型深度解析LeCun：不要盲目研究LLM？
在人工智能（AI）的浪潮中，大语言模型（LLM）如GPT、BERT等无疑是近年来最引人注目的技术之一。然而，就在这一领域如火如荼的发展之际，Meta首席AI科学家、图灵奖获得者、纽约大学教授YannLeCun却多次公开发声，表达了对LLM的质疑，甚至直言“不要研究LLM”。这一观点无疑在AI界引起了广泛的讨论和关注。本文将结合LeCun的观点，对LLM进行深度解析，探讨为何不要盲目研究LLM，以及如何更好地发展人工智能技术。一、LLM的局限性...LeCunLLM人工智能开源的金融分析工具，Llama3-70B-Instruct模型编织开放的金融智能网
在自然语言处理（NLP）领域的持续进步中，大型语言模型（LLMs）的领域适应模型变得越来越重要。针对特定任务优化的模型能够提供清晰、简洁和正确的信息，这是商业和最终用户都需要的用例。从医疗诊断到法律咨询，再到金融分析，LLMs正在逐步改变我们与信息互动的方式。然而随着这些模型在特定领域的应用越来越广泛，领域适应性的挑战也随之而来。特别是在金融领域，对于精确性和可靠性的需求尤为重要。领域适应性指的是模型在特...开源Llama3模型世界上第一个聊天机器人并非旨在成为聊天机器人
ELIZA，这个被广泛认为是世界上第一个聊天机器人的程序，由JosephWeizenbaum于1960年代初在麻省理工学院开发。它通过模拟罗杰斯心理治疗师的非指导性咨询方式，与用户进行交流，其表面的简单性背后却隐藏着对人类交流本质的深刻探索。Weizenbaum的初衷是创建一个研究自然语言通信的平台，而不是一个与人类用户进行对话的程序。他选择了罗杰斯心理分析师和患者之间的对话作为模拟背景，因为这种设置可以简单地创造出“相互理解的...聊天机器人项目Suno惹祸了！唱片界“三巨头”组团对狙AI音乐生成“双骄”,Suno CEO：直接法庭上见，对方不给解释的机会！
原创整理丨诺亚出品51CTO技术栈（微信号：blog51cto）曾经，Suno的惊艳问世在各大社交网络平台掀起了关于AI在音乐创作领域应用的热议。即使是音乐小白，利用该工具，只需简单输入关键词，短短几秒钟后即可获得长达2分钟的听感也不错的音乐作品。但最近，Suno却惹上了麻烦。截图：来自Suno官网据路透社报道，唱片界三巨头——环球音乐集团、索尼音乐和华纳唱片已对人工智能音乐合成公司Udio和Suno提起诉讼，指控它们未经许可使用受版...SunoAI音乐全面对标GPT-4 Turbo，讯飞星火V4.0 重磅发布！
原创出品51CTO技术栈（微信号：blog51cto）讯飞星火终于交卷了！6月27日，讯飞星火V4.0发布，在8个国际主流测试集中排名第一，以一份惹眼的成绩单，成为国内大模型的先行者：七大核心能力持续突破，全面对标GPT4Turbo。1.8个国际权威测试集测评第一星火V4.0全面对标GPT4Turbo基于全国首个国产万卡算力集群“飞星一号”，讯飞星火大模型V4.0不仅实现对标GPT4Turbo，更是在文本生成、语言理解、知识问答、逻辑推理、数学能力等方面实...GPT-4讯飞星火个性化将图像自动文本化，图像描述质量更高、更准确了
皮仁杰：香港科技大学博士三年级学生，师从张潼教授和周晓方教授。于2024年获得苹果奖学金。目前主要研究方向是多模态大语言模型和数据为中心的AI。张鉴殊：武汉大学本科三年级学生，目前在张潼教授的指导下担任研究实习生，主要研究方向是大语言模型，多模态大语言模型以及持续学习。当下在寻找2025fall博士入学机会。在当今的多模态大模型的发展中，模型的性能和训练数据的质量关系十分紧密，可以说是“数据赋予了模型的绝...模型数据ICML 2024 | 揭示非线形Transformer在上下文学习中学习和泛化的机制
本文作者李宏康，美国伦斯勒理工大学电气、计算机与系统工程系在读博士生，本科毕业于中国科学技术大学。研究方向包括深度学习理论，大语言模型理论，统计机器学习等等。目前已在ICLRICMLNeurips等AI顶会发表多篇论文。上下文学习(incontextlearning,简写为ICL)已经在很多LLM有关的应用中展现了强大的能力，但是对其理论的分析仍然比较有限。人们依然试图理解为什么基于Transformer架构的LLM可以展现出ICL的能力。近期，一个来...LLM模型史上首个实时AI视频生成技术：DiT通用，速度提升10.6倍
精华实时AI视频生成来了！本周三，新加坡国立大学尤洋团队提出了业内第一种可以实时输出的，基于DiT的视频生成方法。该技术名为PyramidAttentionBroadcast（PAB）。通过减少冗余注意力计算，PAB实现了高达21.6FPS的帧率和10.6倍的加速，同时不会牺牲包括OpenSora、OpenSoraPlan和Latte在内的流行基于DiT的视频生成模型的质量。值得注意的是，作为一种不需要训练的方法，PAB可以为任何未来基于DiT的视频生成模型提供加速，让其具备实...AI视频生成最全梳理多模态大模型近期进展（26个最佳方案汇总）
精华paper：https:arxiv.orgabs2401.13601一篇比较不错的综述型文章梳理了多模态大型语言模型(MMLLM)的近期进展总结了MMLLM的模型架构和训练流程梳理了26个当前最佳的MMLLM模型MMLLM的时间线主要模型架构模型架构模态编码器（ModalityEncoderME）：图像：NFNetF6、ViT、CLIPViT等。视频：通常将视频均匀采样成5帧，经过与图像相同的预处理。音频：CFormer、HuBERT、BEATs等。3D点云：ULIP2与PointBERT后端。负责将不同模态的输入编...大模型发展大模型应用落地：如何选择合适的 Embedding 模型？
原创0、背景落地在生成式人工智能(GenAI)领域，检索增强生成(RAG)作为一种策略脱颖而出，它通过集成外部数据来扩充像ChatGPT这样的大型语言模型(LLM)的现有知识库。RAG系统核心涉及三种关键的人工智能模型组件：嵌入(Embedding)模型负责将信息转化为数学向量，重排名(Reranker)模型则用于优化搜索结果，而强大的基础语言模型确保了丰富的语境理解和生成。本篇文章旨在指导您依据数据特性及目标领域，比如：金融专业，来挑选最合适的...Embedding模型GenAIRAG从零实现大模型-RLHF：Reinforcement Learning from Human Feedback
原创从零实现大模型多头注意力和Transformer从零实现大模型GPT2预训练从零实现大模型GPT2指令微调通过前面的预训练和指令微调，我们得到了既能续写文本，又能遵守指令的GPT2模型。但从GPT的演进路线来看，要达到ChatGPT的水平，除了增加模型参数、使用更多的数据预训练、更高质量的监督数据指令微调外，还需要一个重要的技术手段，那就是RLHF。(RLHF：ReinforcementLearningfromHumanFeedback)：即基于人类...大模型只需微调，大幅提升人脸生成质量！上交联合OPPO发布新标准和新方法
文章链接：https:arxiv.orgpdf2406.17100今天和大家一起学习的是对现实生活中生成的人脸细节进行优化的工作。扩散模型（DMs）在根据文本描述生成想象力丰富的图像方面取得了显著的成功。然而，在处理现实生活中复杂细节的场景时，它们很可能会表现不佳。文本到图像生成中低质量、不真实的人脸是其中最突出的问题之一，这限制了DMs在实际应用中的广泛应用。为了解决这一问题，本文首先通过人类标注者评估了几种流行预训练DM生成...模型图像生成式AI多代理系统：技术团队的秘密武器
原创译者布加迪审校重楼如今，许多开发人员和产品团队使用生成式人工智能（GenAI）代理来帮助构建软件或应用程序——真正的创新出现在多代理系统上。就像管弦乐队可以演奏出丰富复杂的交响乐，独奏音乐家只能在一个维度发出声音，多代理系统不仅限于以任务为导向的角色，真正助力开发和战略团队。比如说，梅奥诊所、沃达丰和ADT等不同公司的开发人员使用谷歌的GenAI代理构建器在多代理环境中创建应用程序。使用多代理系统（下面会详...生成式人工智能人工智能TASK-ME-ANYTHING：一个多模态benchmark生成引擎
一、结论写在前面论文标题：TaskMeAnything论文链接：https:arxiv.orgpdf2406.11775项目链接：https:www.taskmeanything.org大多模态语言模型（MLMs）的基准现在同时评估模型的通用能力，而不是针对特定能力的评估。因此，当开发者想要确定哪些模型适用于他们的应用时，他们会被众多的基准所淹没，并且不确定哪个基准的结果最能反映他们的具体用例。论文介绍了TASKMEANYTHING，一个基准生成引擎，它能够根据用...TASKbenchmark引擎阿里 HPN：针对大规模 LLM 训练的万卡集群
一、背景之前的文章中我们具体介绍了万卡GPU集群中的网络拓扑以及在万卡GPU集群中进行大规模LLM训练面对的挑战和解决方案；也进一步介绍了阿里云的集合通信调度框架C4和C4底层的阿里云新一代智算集群网络架构HPN7.0。不过上述HPN7.0的相关介绍都是基于阿里官网或者之前的公开分享，最近阿里正式公布了HPN相应的Paper，与我们之前了解到的稍有不同，此处进行相应补充。有关双上联、双平面介绍这里不再赘述。对应的论文：http...HPNLLM训练CodeRAG-Bench：RAG遇到了Coder，哪个模型在RAG的加持下最会写代码？
1.CodeRAGBench是什么？图片CodeRAGBench是本文作者为检索增强代码生成（RetrievalAugmentCodeGeneration，RACG）任务设计的一个测试评估基准。构建理念来自三个核心要素：•任务多样性：代码生成任务覆盖了从代码行到函数再到整个代码库的不同层面，以及封闭与开放的不同领域。•严谨且可复现的评估机制：提供了精确的文档标注，以支持检索评估。•统一的接口设计：尽管现有数据集采用了多样化的处理流程，代码库提供了一个统...CodeRAGRACG探讨 | 大模型在传统NLP任务的使用姿势
写在前面以chatgpt为起始节点的大模型技术经过了两年左右的发展，大致沉淀了一些较为确定的研究领域。首先是基座大模型的研究，主要是国内外大厂集中大量财力、人力、算力进行大模型军备竞赛，企图将大模型的基础能力（包括推理能力）上限逐步提升到更高的层次。当然也有一些研究机构致力于改进transformer的架构或者提出其他更先进的基础模型结构，在性能或者效率上做文章，例如MOE，Mamba等；多模态模型，让大模型同时能够理...NLP任务模式俯视LLM的灵魂：一文搞懂稀疏自动编码器
原创 精华稀疏自动编码器（SAE）最近因机器学习模型的可解释性而变得流行（尽管SAE自1997年以来一直存在）。机器学习模型正在使LLMs变得越来越强大和有用，但它们仍然是黑匣子，如何看穿LLM的灵魂，且若能理解它们是如何工作的，那对于大模型的进化有足够的帮助和启示意义。使用SAE，可以开始将模型的计算分解为可理解的组件。本文将简介的介绍下SAE的工作原理，然后读者可以回头去温习“大模型的灵魂解读：AnthropicAI的Claude3Sonnet可...LLM自动编码器
