AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
探索Llama 3：迄今为止最强的开源大型语言模型！
在AI领在Meta的最新发布会上，公司官方宣布推出两个版本的Llama3模型，具体为80亿和700亿参数版本。这一举动不仅标志着Llama3成为目前全球最强大的开源大模型，同时也预示着人工智能技术向更高层次的跃进。Llama3的发布，是对AI领域的一次重大贡献。在多个基准测试中，Llama3的表现超越了许多知名模型，包括Gemma7B和Mistral7BInstruct。尤其是在模型的70B版本中，它不仅在性能上超越了闭源的竞争对手如Claude3Sonnet，还与谷歌...Llama 3语言模型游戏中的生成式 AI 革命
社区头条AI改变游戏，这项工作的变革性不仅在于它节省了时间和金钱，同时也提供了质量——从而打破了经典的“成本、质量或速度只能有两个”的三角关系。艺术家们现在只需要几个小时就可以创作出高质量的图像，否则手工生成这些图像需要数周时间，真正具有变革性的是：任何人只要能学习一些简单的工具，就可以获得这种创造力；这些工具可以以高度迭代的方式创建无限数量的变化；一旦训练完毕，该过程是实时的——几乎可以立即获得结果。...游戏AI生成式什么是大模型、特点、优势。大模型与AIGC的关系
社区头条大模型是指在人工智能领域，特别是在机器学习和深度学习中，具有大量参数和层次的模型。这些大型模型通常需要大量的训练数据，以及相当大的计算资源来进行训练和推理。它们在处理复杂任务时，如自然语言处理、图像识别、语音识别等领域表现出色。大模型的特点：大量参数：大模型通常包含数十亿到数百亿个参数，使得它们能够捕捉数据中的微妙模式和复杂关系。深层网络结构：这些模型往往具有深层的网络结构，包括多层的神经网络...大模型人工智能AIGC可扩展性长文本评测集——Ada-LEval 详细解读
长文本评测随着大模型能够处理的上下文信息越来越多，达到百万级别的词汇量，人们对于模型长文本能力的研究兴趣也随之增长。司南OpenCompass数据集社区已经出现了诸如LEval、LongBench等长文本评测基准。这些工作基于一些开源自建的数据集构建样本，其构建评测集上的性能已可以一定程度上反映模型的能力。因此，在长文本评测这一工作里，我们认为一个好的长文本评测集应该具备以下性质：样本长度可控：测试样本的上下文长度最好...Ada-LEvalAPI模型舒服! Gpt-4o正式接入苹果Siri,你的IPhone、Mac、IPad都能用！
苹果跟ChatGPT的合作苹果发布会公布了与ChatGPT的合作事宜，并且接入其Siri，我立马整了一个方案，可以让GPT4o可以一键完美接入Siri，国内外都可以用，可以看下使用视频和教程。操作步骤1.获取快捷指令请复制下面的链接在你的苹果设备中打开https:www.icloud.comshortcutsd6855b59996448d3813785614e4591b1点击获取之后,就可以看到你的快捷指令:呼叫二狗2.编辑快捷指令只需要把你获取到的APIKEY填入到图中的框中就行快...Gpt-4oSiriMac李彦宏的野心：百度不造“超级应用” ！百度亮出4款产品新形态：多智能体“秒哒”、多模态iRAG、AI眼镜
原创 社区头条编辑言征出品51CTO技术栈（微信号：blog51cto）进入下半年，国内大模型厂商们都在忙什么？11月12日上午9点35分，百度世界大会如约而至。李彦宏身着白衬衫，信步走入在上海世博中心的主会场，用一个小时的时间为人们展示了大模型进入2024年之后，百度最新取得的一些产品技术进展。李彦宏全程一个小时的演讲，回顾了过去24个月全球生成式人工智能变革带来了的大爆发，激动地喊出了放眼业内似乎还不太敢喊出的一句slogon：“AI应用...李彦宏AI眼镜抛弃UNet，首个基于DiT的图像编辑框架！DiT4Edit：多尺寸编辑质量更优 | 北大&港科大
文章链接：https:arxiv.orgpdf2411.03286工程链接：https:github.comfkyyyyDiT4Edit（待开源）亮点直击基于基于Transformer的扩散模型在图像编辑中的优势，提出了DiT4Edit，第一个不需要调优的基于扩散Transformer（DiT）的图像编辑框架。为了适应基于Transformer的去噪计算机制，首先提出了统一的注意力控制机制，以实现图像编辑。引入了DPMSolver反演和图像块合并策略，以减少推理时间。大量定性和定量的实验结果证明了DiT4Ed...AI模型首次超越扩散模型和非自回归Transformer模型！字节开源RAR：自回归生成最新SOTA！
文章链接：https:arxiv.orgpdf2411.00776项目链接：https:yucornetto.github.ioprojectsrar.html代码&模型链接：https:github.combytedance1dtokenizer亮点直击RAR（随机排列自回归训练策略），这是一种改进的训练策略，使得标准的自回归图像生成器能够实现SOTA性能。引入双向上下文学习：RAR通过最大化所有可能的分解顺序的期望似然值，打破了自回归模型在视觉任务中的单向上下文限制，使模型能够在图像生成中更有效地利用双向...图像生成AI一文彻底搞懂深度学习 - 梯度消失和梯度爆炸
原创 社区头条在深度学习中，梯度消失和梯度爆炸是训练深层神经网络时常见的两大问题，它们会严重影响网络的训练过程和性能。梯度消失，梯度趋零难更新；梯度爆炸，梯度过大不稳定。为了解决这些问题，可以采取多种策略，包括选择合适的激活函数、采用合适的权重初始化方法、引入批量归一化、使用残差连接、实施梯度裁剪以及使用更稳健的优化器等。这些策略可以有效地提高模型的训练效率和性能，从而推动深度学习技术的进一步发展。Vanishing...深度学习梯度消失梯度爆炸大模型部署解决方案之TorchServe+vLLM
TorchServe是PyTorch中将模型部署到生产环境的一个解决方案。它用HTTP或HTTPSAPI封装模型，可以处理多种任务，包括为部署模型分配workers、负责客户端和服务器之间通信等。10月份发布的TorchServe0.12增加了对GenAI的支持，简化了大语言模型的部署，增加了对主流模型引擎的内置支持，如vLLM和TRTLLM。vLLM引擎是目前执行LLM的最佳方式之一，TorchServe为vLLM部署到生产环境中提供了必要的一些功能，比如自定义metric、模型版本...大模型克服机器学习转换器的局限性——从位置嵌入到RoPE和ALiBi方法
原创 社区头条本文将从早期的正弦算法跟踪分析到当前最新的RoPE和ALiBi算法，介绍如何通过先进的位置编码来克服LLM开发中转换器的局限性。引言近年来开发出的机器学习模型的指数级进步与转换器架构的出现密切相关。以前，人工智能科学家必须先为手头的每项任务选择架构，然后再进行超参数优化以获得最佳性能。限制科学家们潜力的另一个挑战是难以处理数据的长期依赖性，难以解决梯度消失、长序列上下文丢失以及因局部约束而无法捕获全局上下...机器学习正弦算法ALiBi算法掌握BERT：自然语言处理 （NLP） 从初级到高级的综合指南
社区头条1.什么是BERT？在不断发展的自然语言处理（NLP）领域，一项名为BERT的突破性创新已经出现，改变了游戏规则。BERT代表BidirectionalEncoderRepresentationsfromTransformers，不仅仅是机器学习术语海洋中的另一个首字母缩略词。它代表了机器理解语言方式的转变，使它们能够理解使人类交流丰富而有意义的错综复杂的细微差别和上下文依赖关系。2.为什么BERT很重要？想象一句话：“她拉小提琴的时候很漂亮。传统的语言模型会从左到...自然语言NLPBERT两篇论文：面向AI/ML集群的高性能网络传输协议优化研究
社区头条FASTFLOW:FlexibleAdaptiveCongestionControlforHighPerformanceDatacentersFASTFLOW：针对高性能数据中心的灵活自适应拥塞控制https:arxiv.orgabs2404.01630发表时间：2024年9月20日一、问题背景现代数据中心，特别是运行大规模AI训练和HPC应用的数据中心，对网络性能的要求越来越高。这些工作负载通常会产生突发性的、同步的流量，对传统的拥塞控制算法提出了挑战。现有拥塞控制算法的不足：基于延迟的算法：如Swift...AI/ML集群网络传输【人工智能】10分钟解读-深入浅出大语言模型（LLM）——从ChatGPT到未来AI的演进
精华 社区头条一、前言2022年底，OpenAI推出的聊天机器人ChatGPT一经上线，便迅速引发了全球范围内的热议与追捧。仅在上线五天内，注册用户便突破了百万大关。ChatGPT的成功不仅展示了大语言模型（LLM）的强大能力，也标志着人类正式迈入了一个全新的人工智能时代。本文将以ChatGPT为切入点，回顾GPT模型的发展历程，深入解析大语言模型（LLM）的构成及其工作原理。同时，我们将涵盖自然语言处理（NLP）、深度学习、Transformer等相关知识，...LLMChatGPT语言模型ChatGPT 的“绝世神功”，是如何练成的？
最近，OpenAI的预训练模型ChatGPT给人工智能领域的研究人员留下了深刻的印象和启发。毫无疑问，它又强又聪明，且跟它说话很好玩，还会写代码。它在多个方面的能力远远超过了自然语言处理研究者们的预期。于是我们自然就有一个问题：ChatGPT是怎么变得这么强的？它的各种强大的能力到底从何而来？本篇文章试图剖析ChatGPT的突现能力（EmergentAbility），追溯这些能力的来源，希望能够给出一个全面的技术路线图，来说明GPT3.5模...ChatGPTGPT-3GPT-3.5Crawl4AI：AI驱动的网页抓取神器，结合LLM实现自动化数据提取与处理
精华 社区头条我们将介绍Crawl4AI以及如何利用它来从不同网站或互联网上的其他任何地方爬取和抓取数据，只要该网站支持抓取或爬取功能。当我们与ChatGPT一起工作，构建可以连接互联网外部数据源的Rag系统时，爬取和抓取数据就变得非常重要，因为你需要抓取并获取外部数据、实时数据或现实世界的数据，我们通常在这一过程中遇到困难。我将介绍一个名为Crawl4AI的开源工具，这是一个GitHub上的开源项目，任何人都可以使用，只需几行代码，你就...Crawl4AIAI驱动OpenAI 的秘密武器：草莓和猎户座
OpenAI的新战略泄露，揭示了他们正在开发两个强大的新模型：草莓和猎户座，这两者都将推动人工智能领域的巨大进步。本文将深入分析OpenAI的战略，解读这些模型背后的技术，以及它们可能带来的潜在影响。人工智能的困境：推理能力的缺失大型语言模型(LLM)的能力常常被描述为“黑魔法”，但实际上它们只是基于一个简单的原理：模式匹配。它们只是在训练过程中学习了数据中的模式，并根据这些模式进行预测。然而，这种模式匹配能力...OpenAI新模型人工智能什么是生成式大模型？大模型与生成式大模型的区别？
原创 社区头条“生成式AI或者说AIGC的本质是一种基于概率分布的数据表征技术”最近一段时间一直在做AIGC(人工智能生成内容)方面的应用，而AIGC属于生成式AI的范畴；刚开始只是把这些生成式AI拿过来用一下，但随着对大模型了解的加深，突然发现生成式AI好像也没有那么简单。比如说，生成式AI是怎么实现的？可能有人会这么回答，是基于Transformer等架构实现，基于概率分布的一种模型。当然，这么说好像也没错，但非生成式AI又是怎么实现的呢...模型概率分布开发一款大模型需要经过哪些步骤？开发一款大模型的完整流程
原创“打造一款模型是一件非常复杂的事情，设计的问题也非常非常多，因此大家要做好心理准备”这段时间写的文章主要都在讲大模型的应用问题，以及自己在工作中遇到的一些问题；而今天我们就从大模型服务的角度，来思考一下打造一款大模型需要经过哪些步骤，也就是怎么打造一款大模型。怎么打造一款大模型？可能不同的人对大模型有不同的理解，不同的企业实现大模型的方式可能也不太一样；但其大体上的步骤和过程还是差不多的。打...大模型设计大模型技术在家中完成LLM微调高效指南（上）
原创 精华编辑言征出品51CTO技术栈（微信号：blog51cto）LLM在生成文本和理解信息方面非常有效，但它们最终受限于训练数据的语料库。例如，如果你让一个通用的预训练模型回答与你的业务特定流程或操作有关的问题，最好的结果是它拒绝，最坏的情况是它会信誓旦旦地给出一个看似合理但错误的答案。当然，你可以通过自己训练一个模型来解决这个问题，但所需的资源往往超出实际可行的范围。例如，训练Meta的相对小的Llama38B模型需要约130万G...LLM微调GPU
