AI.x社区

随着人工智能的发展，语言模型和生成模型获得了大量的成功并且在设计模型的过程中，模型的参数量也越来越大。对于细粒度理解任务，模型参数量也同样在增加。然而目前现有的数据集存在规模和精度的矛盾，例如SA1B数据集中99.1%的mask都是机器生成的，但没有赋予语义的标签，而其他一些公开数据集也同样存在精度问题并且这些数据集的规模一般都比较小。近期，字节跳动提出了新一代细粒度理解的数据集，针对当代深度学习模型的设计...

在这个大模型不断创造新成就的时代，我们通常对机器学习模型有一个直观认知：越大越好。但事实果真如此吗？近日，GoogleResearch一个团队基于隐扩散模型（LDM）进行了大量实验研究，得出了一个结论：更大并不总是更好（BiggerisnotAlwaysBetter），尤其是在预算有限时。论文标题：BiggerisnotAlwaysBetter:ScalingPropertiesofLatentDiffusionModels论文地址：https:arxiv.orgpdf2404.01367.pdf近段时间，隐扩散模型和广义上的...

「别让YannLeCun看见了。」YannLeCun表示太迟了，他已经看到了。今天要介绍的这篇「LeCun非要看」的论文探讨的问题是：Transformer是深谋远虑的语言模型吗？当它在某个位置执行推理时，它会预先考虑后面的位置吗？这项研究得出的结论是：Transformer有能力这样做，但在实践中不会这样做。我们都知道，人类会思而后言。数十年的语言学研究表明：人类在使用语言时，内心会预测即将出现的语言输入、词或句子。不同于人类，现在的语...

Meta突然官宣了Llama3，把开源模型的实力又往上提了一截。Llama3总共有三个版本——8B、70B和405B。其中，8B和70B版本已经开源，405B版本仍在训练中。根据现有的评测数据，405B版本的性能已经逼近GPT4（参见《​​​开源大模型Llama3王者归来！最大底牌4000亿参数，性能直逼GPT4​​》）。这可能促使OpenAI尽早发布下一代模型，从而保持其最强AI模型的地位。那么，这个还没有亮相的Llama3405B大模型将带来哪些惊喜？Meta会继续...

编译伊风出品51CTO技术栈（微信号：blog51cto）在人工智能领域的竞争中，科技巨头们一直在竞相构建越来越大的语言模型。ScalingLaw信仰随着模型规模的增加，其性能会指数提升，展现出更好的泛化能力，甚至在某些情况下展现出“涌现”的能力。然而，一个令人惊讶的新趋势正在浮现：小即是新大。随着大型语言模型（LLMs）的进步显示出一些趋于平稳的迹象，研究人员和开发者越来越多地将注意力转向小型语言模型（SLMs）。这些紧凑...

编译丨诺亚出品51CTO技术栈（微信号：blog51cto）今年是美国大选年，两党的对决仿佛“昨日再现”，特朗普和拜登再次站在了擂台之上。选举效应从来牵连甚广，而蝴蝶的翅膀已然影响到科技圈。随着总选举的临近，众多科技企业在推出AI系统和大模型时都“拘谨”了不少。这种保守态度并不出人意料，万一有人蓄意利用这些技术进行错误信息传播，甚至对选举流程或成果产生影响，那么必会招致政府的严格监管。OpenAI首席技术官MiraMurat...

为了提高企业组织碳排放报告信誉度，国际标准化组织（ISO）发布了ISO14064标准（全称：《ISO140641组织层次上对温室气体排放和清除的量化和报告的规范及指南》），报告中详细规定了公司温室气体清单的原则和要求、量化组织的温室气体排放方法及原则、明确改进措施、报告内容及规范。本文意在详细介绍该标准要点，标准大体内容及流程如图所示。一、原则相关性、完整性、一致性、透明度、准确性。这些原则指出标准的目的和遵循方...

现在，AI系统的预测准确率达到甚至超过了人群。在不断发展的人工智能（AI）领域，语言模型已取得了重大进展，实现了曾经被认为人类认知才能实现的非凡成就。比如说，Anthropic新的Claude3语言模型似乎能够意识到它被测试或被评估，这为AI领域原本惹人瞩目的进步另外增添了一层复杂性。这个进展特别值得注意的一个新领域是预测领域——对未来事件做出准确预测的能力。我们在这篇博文中将深入研究一篇突破性的研究论文（​https:a...

每年，人工智能指数都会带着更强大的影响力登陆我们的虚拟桌面。今年，它厚厚的393页不仅仅是数字的堆砌——它预示着2023年将是人工智能领域的一个里程碑。今年的AIIndex报告由斯坦福大学以人为本的人工智能研究所（HAI）发布，新增了关于负责任人工智能的深入章节，以及科学和医学领域人工智能应用的新内容。还包括了对研发、技术性能、经济、教育、政策和治理、多样性以及公众舆论的全面分析。4月16日，斯坦福HAI研究所发布了...

介绍大型语言模型（LLM）通过工具调用能够与外部数据源进行交互。这项技术让开发者能够利用LLM来获取、交互和操作外部资源（比如数据库、文件和API等）。随着越来越多的LLM提供商开始提供工具调用功能，我们注意到市场上出现了多种多样的接口。为了解决这个问题，LangChain推出了一个标准化的接口，这样用户就可以轻松地在不同的LLM提供商之间进行切换。这个标准化接口包括以下几个方面：ChatModel.bindtools：这个方法允许您将...

编辑伊风、诺亚出品51CTO技术栈（微信号：blog51cto）Meta麾下“羊驼”一路狂奔在开源的大道上。在过去的一年里，Llama系列可以说开辟了开源LLM的半壁江山。嫌弃开源模型能力只有GPT3.5,不够用如今Llama3发布，又是一石激起千层浪。粗看其基础benchmark，足以让国内外一众大模型公司瑟瑟发抖。借用一句业内人士的话，“性能上来说感觉就是GPT3.7的水平。一己之力急速拉高了开源水位”。首先从数据层面看，Llama3在15Ttokens上进...

编译言征出品51CTO技术栈（微信号：blog51cto）K8s和大模型真的搭吗？本文抛出了一个问题，但答案仍有待验证。1.K8s迎来了新的受众群体假设一位机器学习研究人员阅读了一篇研究论文，并想在PyTorch环境中使用基于Python的GPU进行测试。她要求她的工程团队访问一个带有两个GPU的Jupyter笔记本和她的所有库。工程团队告诉她：这需要三天时间。他们必须获取GPU的来源，创建一个堆栈，然后授予对JupyterHub的访问权限。“这正是DevO...

AIAgent作为具备感知环境、做出决策和执行动作能力的智能实体，正在成为人工智能领域的关键发展动向。随着大型语言模型（LLM）技术的持续进步，AIAgent的潜力正被逐步揭示，它们不仅能够完成基于指令的任务，还能表现出更高水平的自主性和主动性。在最近的红杉AIAscent2024活动中，人工智能领域的杰出人物吴恩达教授发表了一场关于AIAgent的富有洞见的演讲。他深入探讨了AIAgent的最新发展趋势和设计模式，为参与者提供了关于人...

1、背景在大算力的数字化时代下，大语言模型（LLM）以其令人瞩目的发展速度，正引领着技术的潮流。基于它们强大的文本理解和生成能力，各大研究机构正在探索如何将这些能力扩展至视觉领域，构建一个能够理解和生成多模态内容的超级智能体——多模态大语言模型（MLLMs）。在追求通用视觉性能的道路上，社区内已经涌现出众多精心设计的测评benchmark。它们通常使用贴近日常生活的自然图片作为样例，为MLLMs的视觉能力提供全面的评...

自ChatGPT问世以来，OpenAI一直被认为是全球生成式大模型的领导者。2023年3月，OpenAI官方宣布，开发者可以通过API将ChatGPT和Whisper模型集成到他们的应用程序和产品中。在GPT4发布的同时OpenAI也开放了其API。一年过去了，OpenAI的大模型使用体验究竟如何，行业内的开发者怎么评价？最近，初创公司Truss的CTOKenKantzer发布了一篇题为《LessonsafterahalfbillionGPTtokens》的博客，阐述了在使用OpenAI的模型（85%GPT4、15%GP...

来自香港科技大学，清华大学的研究者提出了「GenN2N」，一个统一的生成式NeRFtoNeRF转换框架，适用于各种NeRF转换任务，例如文字驱动的NeRF编辑、着色、超分辨率、修复等，性能均表现极其出色！论文地址：https:arxiv.orgabs2404.02788论文主页：https:xiangyueliu.github.ioGenN2NGithub地址：https:github.comLxiangyueGenN2N论文标题：GenN2N:GenerativeNeRF2NeRFTranslation​近年来，神经辐射场（NeRF）因其紧凑、高质量、...

引言产品同质化严重，竞争的焦点从产品转向服务，企业的管理模式也要相应转变。那么如何打造围绕服务的核心竞争力？相信以下案例会给大家一些启发。项目背景：售后服务在市场竞争中的作用凸显A公司是一家医疗器械生产制造企业。随着市场竞争不断演变和科技水平日益发达，同类产品间的差异越来越小，产品同质化越来越严重，企业在质量、价格、品牌上越来越难分高下，企业营销的威力被大大削弱。于是，市场竞争越来越体现在服务领...

如今，大型语言模型（LLM）已经成为了我们生活中的好帮手。当用户使用大模型时，模型首先会将输入的内容拆分成一个个的词元（token），通过分析这些词元来生成答案，为我们解答疑惑、提供建议、翻译外语、撰写报告······但是，你能想象大模型也会出错吗？想象一下，你正在使用最新款的智能手机，它快速、聪明、几乎可以做任何你想要的事情。但偶尔，你发现手机的一两个按键不按常理出牌——比如说，你按下「S」，它偏偏跳...

AI时代的风口在哪里？吴恩达认为，AIAgent将在今年推动人工智能的大规模进步。——甚至，有可能超过下一代基础模型所带来的影响。他希望所有从事人工智能工作的人，都能关注AI智能体的发展。AndrewNg大佬「退役」后，作为专业的「教书先生」，仍然孜孜不倦，授业传道解惑。最近在工作之余，吴恩达连续分享了很多关于智能体的见解，并定义了AIAgent的四大设计模式，Reflection（反思）、Tooluse（工具使用）、Planning（规划）和...

ChatGPT的推出引起了全球关注，标志着生成人工智能领域的一个重要里程碑。尽管生成人工智能在过去十年中一直存在，但ChatGPT的引入引发了人工智能领域的新一轮研究和创新浪潮。这种兴趣的激增导致了许多先进工具的开发和发布，如Bard、StableDiffusion、DALLE、MakeAVideo、RunwayML和Jukebox等。这些工具展示了卓越的能力，涵盖了从文本生成和音乐创作，图像创建，视频制作，代码生成，甚至科学工作等各种任务。它们建立在各种...