AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
用Ray观测和监控大语言模型工作负载
原创
社区头条前言GPT4、PHI2、BERT和T5等大语言模型（LLM）的出现已彻底改变了自然语言处理，这些模型支持高端应用程序，包括聊天机器人、推荐系统和分析。然而，LLM中工作负载的规模和复杂性使得保证性能和可靠性成了一大挑战。在这种情况下，在使用Ray等框架部署工作负载的同时进行监控和观测显得非常必要。Ray是一种分布式计算框架，提供了一个强大的平台，可以跨集群有效地扩展LLM工作负载。因此，它成了托管、管理和观测LLM的一种出色...大语言模型LLMRayKimik1.5、DeepSeek-V3 大战 OpenAI o1，谁能笑到最后？
精华 社区头条
热门内容榜 • TOP8最近，国内大模型界可谓是“风起云涌”，kimik1.5和DeepSeekV3这两位“大侠”横空出世，一路“杀疯了”，不断向OpenAI和其他海外大模型的霸主地位发起挑战。这不禁让人想起了那句网络梗：“一山更比一山高，一模更比一模强！”今天，咱们就来好好对比一下这两位国内大模型界的“当红炸子鸡”，看看它们到底有何不同，顺便再和海外顶尖的OpenAIo1对比一下，看看咱们离国际顶尖水平还有多远。接下来，咱们就来详细对比一下这三位...Kimik1.5OpenAI o1DeepSeekText2SQL 已过时？TAG 如何一统 AI 与数据库江湖！
精华 热门内容榜 • 最近上榜1.引言语言模型的发展使得用户期望能通过自然语言对数据进行查询，从而引发了Text2SQL和RAG等方法的大量研究。但在实际应用中，用户的问题往往超出这些方法的能力范围。例如，企业用户的问题常涉及领域知识、世界知识、精确计算和语义推理的复杂组合。数据库虽能提供领域知识和大规模精确计算能力，但在语义推理方面较弱；而语言模型虽擅长语义推理和利用世界知识，却在精确计算和大规模数据处理效率上存在不足。像Text2SQL方法...Text2SQLAI数据库一个强大的集成学习算法：随机森林
社区头条 热门内容榜 • 最近上榜一、算法介绍随机森林属于集成学习（EnsembleLearning）中的一种，它是通过构建多个决策树，并综合这些决策树的预测结果来进行最终的预测。就好比一群经验丰富的专家（各个决策树）共同商讨一件事，然后汇总大家的意见（预测结果）得出最终结论，往往这样综合考量后的结果会更加准确可靠。随机森林可以用于解决分类问题，比如判断一封邮件是垃圾邮件还是正常邮件；也能处理回归问题，例如预测某地区的房价走势等。它具有以下优...集成学习算法随机森林爆！2024‘Meta 推出CTR集成框架 CETNet，多 CTR 模型集成大幅提升预测精度
社区头条1.Kimik1.5:ScalingReinforcementLearningwithLLMs语言模型预训练时，通过预测下一个词来提升计算量的方法效果不错，可训练数据量却限制了它的进一步发展。强化学习（RL）的拓展则为人工智能持续进步提供了新途径，让大语言模型（LLMs）有机会通过学习探索扩充训练数据。不过，之前相关研究成果都不太理想，没有特别突出的。基于这样的情况，我们来分享Kimik1.5的训练过程。这是我们新研发的多模态LLM，使用RL训练。我们会讲讲R...RL框架OpenAI O12025年值得入坑AI Agent智能体的五大框架
原创 热门内容榜 • 最近上榜1、五大AIAgent多智能体开发框架在AI大模型新时代，AIAgent多智能体系统（MultiAgent）技术正日益受到众多科技巨头的瞩目。伴随着OpenAI的Swarm、微软的MagenticOne等框架的推出，这一领域的发展变得更为错综复杂。面对众多的选项，选择一个最匹配自身需求的MultiAgent框架成为了众多开发者与企业需要解决的关键问题。本期我们将深入分析市场上最受欢迎的五款AIAgent多智能体框架，包括微软的AutoGen、CrewAI、LangChain的LangG...AI Agent智能体两个简单技巧把 RAG 检索正确率从 50% 提高到 95 %
原创 社区头条在实际项目实施过程中，RAG（检索增强生成）系统的关键在于其检索阶段，这一环节直接关系到生成效果的质量。RAG系统的运作流程主要涉及数据摄取和数据查询两个步骤，而检索环节的重要性不言而喻。本文分享了一个案例，讲述了团队如何运用两大关键策略，将RAG系统的检索准确率从50%显著提升至95%。1、RAG检索召回率RAG系统的检索召回率（Recall）是评估检索系统在用户查询时能否有效检索出所有相关文档的标准。在RAG系统中，这一...RAG一文说清楚"知识蒸馏"（让“小模型”也能拥有“大智慧”）
精华 社区头条 热门内容榜 • TOP7最近Distillation这个词见的非常多。前两天大火的DeepSeek团队发布的DeepSeekR1，其670B参数的大模型通过强化学习与蒸馏技术，成功将能力迁移至7B参数的轻量模型中。蒸馏后的模型超越同规模传统模型，甚至接近OpenAI的顶尖小模型OpenAIo1mini。在人工智能领域，大型语言模型（如GPT4、DeepSeekR1）凭借数千亿级参数，展现出卓越的推理与生成能力。然而，其庞大的计算需求与高昂的部署成本，严重限制了其在移动设备、边缘计算等...小模型知识蒸馏部署成本大模型生成内容靠谱吗？CRAAP测试告诉你
截至2025年1月，ChatGPT仍然可能会一本正经地提供不准确或虚构的信息。例如，如果你向ChatGPT询问“林黛玉倒拔垂杨柳”和“林黛玉三打白骨精”，他会编造看似合理但实际上并不存在的解释，将《红楼梦》中的林黛玉与《水浒传》中的“倒拔垂杨柳”以及《西游记》中的“三打白骨精”错误地关联在一起。这种现象被称为“幻觉（Hallucination）”，即AI生成的内容虽然听起来可信，但实际上并不符合事实或现实。ChatGPT讲述林黛玉倒拔...大模型工具维度关于神经网络的一些思考与感受
原创“神经网络模型并不是通用模型，不同的问题需要设计不同的神经网络模型，千万不要想着一个模型打天下”神经网络作为当前人工智能领域最炙手可热的技术，其技术原理也相对比较复杂；而在学习神经网络的过程中也面临着很多问题和感受，因此这里就简单记录一下。关于神经网络从本质上来说，所谓的神经网络就是一个模拟人类大脑的数学模型；而为了解决不同的问题，技术专家们也设计了多种不同的神经网络模型，比如RNN，CNN以及Trans...神经网络AI大神Andrej Karpathy：OpenAI Operator预示着AI智能体的未来，但仍需突破！
各位小伙伴，最近OpenAI发布了Operator的研究预览版，这是一个可以使用自己的浏览器为你执行任务的AI代理，引起了广泛关注。今天，我们来听听AI大神AndrejKarpathy对此的看法。他不仅深度参与了OpenAI的早期项目，还对AI的发展有着深刻的见解。文章要点总结：•Operator的类比：Karpathy将OpenAI的Operator比作数字世界的人形机器人，两者都是通用的系统，能够通过接口（键盘鼠标或人体）执行各种任务。•混合自主的未来：这类A...AI智能体OpenAI太惨，一个月仅23个下载！盘点2024“理想丰满现实骨感”的大模型们！
原创 精华 社区头条 热门内容榜 • 最近上榜整理言征出品51CTO技术栈（微信号：blog51cto）大型语言模型的竞争似乎正在结束，只有少数几个明显的赢家。其中，DeepSeekV3已成为2024年的焦点，引领中国开源模型的发展。据HuggingFace称，DeepSeekV3与GPT4和Claude3.5等闭源巨头正面交锋，上个月的下载量为45,499次，与Meta的Llama3.1（491,629次下载）和谷歌的Gemma2（377,651次下载）并驾齐驱。但并非今年推出的所有LLM都能乘风破浪——有些失败了，尽管前景光明，但未能引...模型语言谷歌Meta杨立昆引燃全民大讨论：美政府有些人被洗脑了，监管让开源变得像非法一样！
原创 社区头条编辑言征出品51CTO技术栈（微信号：blog51cto）1月23日，在冬季达沃斯论坛的“辩论技术”环节，Meta公司副总裁兼首席人工智能科学家YannLecun、麻省理工学院媒体实验室主任DavaNewman、Axios首席技术记者InaTurpenFried（主持人）就未来十年前沿科技进行了时长47分钟的“全民”大讨论，话题涵盖了LLM、智能体、消费机器人、脑机接口、跨物种、太空探索，也讨论了非常让Meta敏感的“技术作恶”、审查监管、开闭源之争。观众们更...大模型脑机接口LLM495篇参考文献！北交大清华等高校发布多语言大模型综述
热门内容榜 • 最近上榜虽然大模型取得突破性进展，但其在多语言场景下仍具有局限性，存在很大的改善空间。那么，大模型多语言能力到底什么水平？其发展又存在什么样的挑战？来自北京交通大学、加拿大蒙特利尔大学、加拿大滑铁卢大学和清华大学的研究团队发表了题为”ASurveyonLargeLanguageModelswithMultilingualism:RecentAdvancesandNewFrontiers”（大模型的多语言能力综述）的论文，全面回顾了大模型在多语言能力上的最新进展与未来发展方向。论...模型训练AIAI 发展是否正在放缓？AI 发展将驶向何方？
原创 社区头条 热门内容榜 • 最近上榜编者按：人工智能真的已经遇到发展瓶颈了吗？随着OpenAI、Google和Anthropic等顶级AI公司纷纷表示新模型开发收益在减少，这个问题引发了整个行业的深度思考。我们今天为大家带来的这篇文章，作者的核心观点是：虽然传统的模型规模扩展策略正在遭遇瓶颈，但这可能正是AI发展模式转型的重要契机。文章从多个维度深入剖析了当前AI发展面临的挑战：首先，训练数据的增长已接近极限，因为“我们只有一个互联网”；其次，简单地增加模...AILLMs你的LLM评估方法过时了吗？这三个范式转变不容错过
原创编者按：在大语言模型时代，你是否也在为评估方法感到困惑？当开发周期越来越快，传统的评估思维却步履维艰——新版本刚上线，评估指标就失效了；想要建立长期基准测试，却总是事与愿违；人工评估成本高昂，全自动评估又难尽人意...我们今天为大家带来的这篇文章，作者认为在LLM时代，我们需要对评估体系进行根本性的范式转变，而不是简单地沿用传统机器学习的评估方法。文章从作者在Quora、Waymo等公司的一线实践经验出发，提...LLMAI人工智能技术栈：解锁智能应用开发的底层密码
原创01、概述在当今竞争激烈的商业环境中，人工智能（AI）已经从一种奢侈品转变为必需品。无论是企业希望提升运营效率，还是开发者想要打造前沿产品，深入理解AI技术栈都显得至关重要。它不仅能帮助我们构建革命性的智能应用，还能在激烈的市场竞争中脱颖而出。今天，就让我们深入探索AI技术栈的奥秘，一窥究竟。02、AI技术栈的分层架构AI技术栈是一个由多个相互依赖的层级组成的结构框架，每一层都承担着确保系统高效运行的关键功...人工智能RAG：七种用于向量数据库+相似性搜索的索引方法
原创01、概述在现代数据库类型中，尽管关系型数据库（RelationalDB）、NoSQL数据库和图数据库（GraphDB）各有千秋，但在RAG（RetrievalAugmentedGeneration）系统中，VectorDB却成为首选。它不仅支持水平扩展，还能结合CRUD操作（Create,Read,Update,Delete）提供元数据过滤功能，大幅提升数据检索效率和智能性。本文将带你全面解析VectorDB，从基础概念、工作原理到查询加速的核心算法，帮助你更好地理解其强大功能及在RAG管道中的...RAG向量数据库DeepSeek-AI 发布 DeepSeek-R1-Zero 和 DeepSeek-R1
原创 精华 社区头条 热门内容榜 • 最近上榜01、概述近年来，大型语言模型（LLMs）在自然语言处理领域取得了令人瞩目的进展。它们在文本理解、生成和逻辑推理等任务中表现卓越。然而，面对复杂推理任务时，这些模型仍然存在诸多挑战。例如，依赖大规模监督微调的方式虽然提升了模型性能，但限制了其可扩展性和通用性。此外，如何平衡推理的复杂性、计算效率和结果可读性，依然是研究者们需要攻克的难题。在这一背景下，DeepSeekAI团队带来了令人耳目一新的解决方案——Dee...大型语言模型LLMs操作指南：如何部署AI进行实时内容审核
原创 社区头条如今，内容审核已经成为各类数字平台的重要组成部分，堪称用户信任与安全保障的前提。尽管人工审核能够处理部分任务，但随着平台规模的扩展，AI驱动的实时审核变得愈发重要。机器学习（ML）驱动的系统能够成规模且高效开展内容审核，同时将再训练与运营成本降低至最低。本份指南将为你概述部署AI驱动型实时审核系统的方法。实时审核系统的核心属性实时内容审核系统负责评估用户提交的内容（文本、图像、视频或其他格式的数据）...机器学习AI驱动实时审核系统
