在信息技术飞速发展的今天,生成式 AI 技术正以其强大的创造力成为推动数字化转型的新引擎。生成式 AI 不仅能够生成文本、图像、音频和视频,还能在复杂环境中进行决策和优化。
如今,生成式 AI 技术更多在 C 端的用户侧落地应用,而在企业级应用落地方面却面临一系列挑战。如何将基础模型与自身数据和特定环境相结合,以实现高效调优?如何保证模型的稳定性和安全性?面对高昂的算力需求如何平衡投入产出比?企业 AI 应用的下一步应该怎么走?
在近日举行的 2024 红帽论坛上,红帽以“解锁下一步,解锁开源 AI 的无限可能”为主题,为企业 AI 应用的未来指明了方向,即以开源方法加速企业 AI 应用。
以开源方法加速企业AI 应用
在 AI 技术迅猛发展的今天,红帽坚信,开源开放是推动 AI 时代发展壮大的关键因素。根据斯坦福大学的报告数据显示,2023 年全球发布的新大型语言模型数量比上一年翻了一番,其中三分之二的模型是开源的,这一趋势也凸显出开源模型在全球 AI 大模型市场中的重要地位和影响力。
那么,企业如何利用开源方法将 AI 技术融入自身业务?红帽全球副总裁兼大中华区总裁曹衡康指出,更多企业在尝试利用大型模型提升效能时发现,这些模型并不适用于生产场景,即使是微小的错误也可能带来巨大的风险。为此,红帽提出了“小模型”概念,即专属模型(faithful purpose),这一理念强调利用企业自身的数据来驱动 AI 模型的生成,确保模型的稳定性、安全性,并满足企业的特定需求。“通过‘小模型’概念,红帽可以快速将客户的知识库输入到模型中,无论采用何种模型架构,都可以通过深度数据的方式生成企业的专属模型,从而快速搭建适合客户的特有模型。”
在这一理念的指导下,IBM 研究院与红帽共同开发了 Granite 模型。Granite 是一个参数范围在 20 亿到 80 亿之间的“较小型”大模型,包括语言模型和代码模型。IBM 和红帽共同将 Granite 模型完全开源,包括模型的训练数据和所有参数。此外,红帽还提供InstructLab 工具,用于参与大语言模型训练和对齐,并支持市面上各种模型。
红帽大中华区方案架构部总经理王慧慧进一步阐述道,InstructLab 和 Granite 是一个相辅相成的体系。客户可以基于 Granite 基础模型,使用 InstructLab 和自身数据训练出符合需求的模型,模型的输出可以留在企业内部。InstructLab 的输出分为“知识(knowledge)”和“技能(skill)”,可以在企业内部自用。更重要的是,InstructLab 还能将输出的知识和技能反馈至上游的管理机构。当管理机构收到客户反馈的更新后,可以将其整合到社区版本的 Granite 模型中,并发布新版本。
王慧慧强调,“InstructLab 是连接社区和客户的桥梁。红帽的开源平台上几乎所有产品都遵循这种模式,而在开源模型领域,这种方法是红帽和 IBM 首次探索的方向,旨在通过开源社区推动开源模型的持续进步,而不仅仅是开放某个版本的模型。”这种方法不仅促进了技术的共享和创新,也为整个 AI 领域的发展注入了新的活力。
企业 AI 应用三步曲
AI 技术的落地并非一蹴而就,它需要一个清晰的路径和策略。作为开源解决方案的领导者,红帽深刻理解企业在 AI 应用上的需求和挑战。为了帮助企业更好地落地 AI 应用,红帽提出一套分阶段实施的战略,即企业 AI 应用三步曲。
第一步,客户可以在最小资源配置下试用开源模型和工具。例如,在笔记本电脑上用 CPU试运行,无需额外购买 GPU 卡,这大大降低了初期的投入成本和技术门槛。
第二步,企业可以通过云租用算力进行进一步扩展。红帽平台的灵活性使它几乎可以在任何云上运行,客户可以根据自己的需求选择使用公司的数据中心或外部公有云资源。
第三步,红帽的架构支持跨云混合部署。例如,客户可以在中国使用阿里云,在美国使用亚马逊云科技,这种多云方案既灵活,而且经济高效。
王慧慧指出,红帽的目标是帮助客户实现最佳的投资回报率(ROI),并在每一步提供适配的支持,确保企业在 AI 应用的道路上稳步前行。
通过“企业 AI 应用三步曲”,红帽不仅为企业提供了一条清晰的 AI 应用路径,还展示了其在开源领域的深厚实力和对企业需求的深刻理解,帮助企业实现 AI 技术的最大价值。
西门子:小模型带来的巨大价值
西门子工业自动化产品(成都)有限公司(SEWC)是西门子德国安贝格(Amberg)的姐妹工厂,享有全球最先进工厂之一的声誉。通过部署红帽 OpenShift,西门子工业自动化产品(成都)有限公司打造了 MEMO(制造运营模块化生态系统),显著提升了生产线工人的用户体验和工作效率,将前沿理念付诸实践,为工业自动化制造执行系统的软件应用树立了新的标杆。因此,西门子工业自动化产品(成都)有限公司荣获 2024 红帽亚太创新奖。
西门子工业自动化(成都)有限公司信息技术部经理杨健表示,作为一家数字化工厂,西门子工业自动化产品(成都)有限公司高度重视 AI、数据及技术平台的投入,在实际应用中采用了许多数字化理念和方法来提升效率和质量。据了解,西门子工业自动化产品(成都)有限公司很早就开始应用小模型,并且在生产领域取得了显著成效。以垃圾分拣为例,原材料加工后产生的垃圾有金属、塑料和纸张等,以前的机器人视觉识别准确率只有大约 85%。通过小模型训练,比如利用开源的 OpenCV 基础框架,将准确率从 85% 提升到 95% 以上,大幅提升了分拣效率。
杨健进一步指出,“小模型在生产环境中非常适用,因为应用和场景单一,错误率低,能保证质量和过程的可控性。而大模型有时会出现幻觉现象,这在生产应用中存在一定风险。因此,目前我们对大模型的应用保持探索并较为谨慎,希望通过持续优化,使大模型更可靠、可信且全面。”
在与红帽的合作中,西门子工业自动化产品(成都)有限公司体验到了红帽在响应速度和责任感方面表现突出。杨健表示,“AI 和技术环境在快速变化,需要不断调优和改进,而红帽在这个过程中保持了谦虚友好的态度,与我们共同成长。这种共创的模式和合作环境非常宝贵,也是我们选择并继续合作红帽平台的重要原因之一。”
结语:开源力量的持续增长
2024 年,红帽中国迎来了成立 20 周年的重要时刻。在全球市场环境日益复杂的背景下,红帽中国在 2024 年依然实现了双位数的增长,充分展现了开源技术的强大生命力和市场竞争力。红帽中国的成功,离不开其始终坚持的开源理念和对技术创新的持续追求。
随着技术的不断演进,开源将继续作为推动技术进步和商业创新的重要力量,为更多企业带来创新的机会与解决方案。相信,红帽中国也会继续发挥引领作用,推动开源技术的发展,为中国和全球的数字经济贡献力量。