Transformers.js v3 发布：为浏览器中的机器学习带来强大的功能与灵活性 原创

01 概述

在不断发展的机器学习和人工智能领域，开发者们愈发渴望能够无缝集成到各种环境中的工具。然而，直接在浏览器中高效部署机器学习模型，而不依赖于大量的服务器资源或复杂的后端支持，依然是一个巨大的挑战。虽然基于JavaScript的解决方案已经出现，但它们往往面临性能有限、兼容性问题以及可有效运行的模型类型的限制。而 Transformers.js v3 的发布，正是为了解决这些问题，为开发者社区带来了显著的进步。

02 让机器学习触手可及

Transformers.js v3 是 Hugging Face 最新发布的一款工具，旨在使机器学习模型可以直接在浏览器中运行。这一版本充分利用了 WebGPU 技术——一种新一代图形API，相比于更常用的 WebAssembly (WASM)，提供了显著的性能提升。通过这一技术，Transformers.js v3 的速度得到了大幅提升，推理速度比之前的实现快了多达 100 倍。这样的提升，对于资源密集型的转换模型在浏览器中的高效运行至关重要。

兼容性全面，灵活性强

Transformers.js v3 还扩大了在不同 JavaScript 运行环境中的兼容性，包括 Node.js（支持 ESM 和 CJS）、Deno 和 Bun，使开发者能够在多个环境中灵活地使用这些模型。这个灵活性对于那些需要跨平台开发的项目尤为重要。

03 新功能与优化

支持新的量化格式

Transformers.js v3 不仅引入了 WebGPU 的支持，还增加了新的量化格式，使得模型可以更高效地加载和执行。量化是一种关键技术，能够缩小模型的体积并提升处理速度，特别是在像浏览器这样资源有限的平台上。这一版本支持多达 120 种模型架构，包括 BERT、GPT-2 和更新的 LLaMA 模型，展示了其全面的支持能力。此外，现在有超过 1200 个预转换模型 可供开发者直接使用，避免了复杂的转换过程。

丰富的示例项目与模板

为了帮助开发者快速上手，Transformers.js v3 还推出了 25 个新示例项目和模板，涵盖了从聊天机器人实现到文本分类等多种用例，充分展示了 Transformers.js 在实际应用中的强大和灵活性。

提升开发者的工作效率

Transformers.js v3 的重要性在于，它赋能开发者在浏览器中以空前的效率创建复杂的 AI 应用。WebGPU 的引入有效解决了以往浏览器解决方案的性能瓶颈，支持实时推理、自然语言处理，甚至在设备上进行机器学习，这一切都使得开发者能够减少昂贵的服务器端计算需求，同时促进更具隐私保护的 AI 应用的实现。

多种 JavaScript 环境的广泛兼容性

由于其对多种 JavaScript 环境的广泛兼容性，开发者不再局限于特定的平台，这使得跨多种项目的集成变得更加顺畅。随着超过 1200 个预转换模型 和 25 个新示例项目的不断增加，这一发布将成为初学者和专家们的关键工具。初步测试结果显示，使用 WebGPU 时，标准转换模型的推理时间显著减少，用户体验变得更加流畅和响应迅速。

04 未来展望

随着 Transformers.js v3 的发布，Hugging Face 再次走在了让强大机器学习模型普及化的前沿。通过利用 WebGPU 实现高达 100 倍 的性能提升，并扩展在关键 JavaScript 环境中的兼容性，这一发布对于浏览器基础的 AI 应用来说具有里程碑式的意义。新引入的量化格式、超过 1200 个预转换模型 的丰富库，以及 25 个现成的示例项目，都降低了开发者利用转换模型的门槛。

安装指南

想要开始使用 Transformers.js v3，你可以通过 NPM 安装：

npm i @huggingface/transformers

然后，通过以下方式导入库：

import { pipeline } from "@huggingface/transformers";

或者，你也可以使用 CDN 进行导入：

import { pipeline } from "https://cdn.jsdelivr.net/npm/@huggingface/transformers@3.0.0";

05 结语

随着浏览器中机器学习的日益普及，Transformers.js v3 未来将成为推动这一领域发展的游戏规则改变者。它不仅让复杂的 AI 应用变得更加可及，也为广泛的应用场景提供了更为实际的解决方案。在这个快速发展的技术时代，掌握这些新工具，无疑将为开发者们开辟新的可能性。无论你是刚入门的开发者还是资深专家，Transformers.js v3 都将为你的项目注入强大的 AI 能力，让我们共同期待这项技术的广泛应用与未来发展！

参考：

1. ​​https://github.com/huggingface/transformers.js/releases/tag/3.0.0​​
2. ​​https://huggingface.co/blog/transformersjs-v3​​

​

本文转载自公众号Halo咯咯  作者：基咯咯

原文链接：​​https://mp.weixin.qq.com/s/Nt-goxl5Khp7_dQ4qJLmPw​​​