微软开源用于机器学习模型的高性能推理引擎ONNX

新闻 机器学习
微软宣布开放ONNX Runtime,这是一款用于Linux,Windows和Mac平台的ONNX格式的机器学习模型的高性能推理引擎。

 微软宣布开放ONNX Runtime,这是一款用于Linux,Windows和Mac平台的ONNX格式的机器学习模型的高性能推理引擎。ONNX Runtime允许开发人员在任何支持的框架中训练和调整模型,并在云端和边缘高性能运转。微软也正运用其在内部使用ONNX Runtime进行Bing搜索,Bing Ads,Office生产力服务等。

Microsoft-ONNX-Facebook.jpg

ONNX为AI框架生态系统带来了互操作性,提供了可扩展计算图模型的定义,以及内置运算符和标准数据类型的定义。

ONNX使模型能够在一个框架中进行训练并转移到另一个框架中进行推理。目前,Caffe2,Cognitive Toolkit和PyTorch都支持ONNX模型。

点击这里查看GitHub上的开放式神经网络交换(ONNX)运行时。

责任编辑:张燕妮 来源: cnBeta.COM
相关推荐

2024-09-09 11:45:15

ONNX部署模型

2022-07-18 17:37:27

字节跳动人工智能AI模型

2021-02-04 10:22:32

前端开发技术

2017-10-26 13:54:49

深度学习SparkMMLSpark

2022-04-11 15:40:34

机器学习研究推理

2020-09-22 14:59:52

机器学习人工智能计算机

2023-12-03 08:49:38

微软开源

2024-02-26 07:43:10

大语言模型LLM推理框架

2019-05-07 14:42:03

深度学习编程人工智能

2010-03-12 08:33:55

Greenplum数据引擎数据仓库

2023-08-18 14:34:00

研究模型

2021-12-09 08:56:15

微软开源分析工具

2017-07-07 16:36:28

BIOIO模型 NIO

2022-09-19 15:37:51

人工智能机器学习大数据

2023-09-19 11:41:23

机器学习视频注释

2023-12-25 10:53:54

机器学习模型性能

2015-07-22 18:05:31

阿里云GPU高性能计算

2017-04-06 09:20:10

机器学习模型信用卡诈骗

2023-03-10 08:00:00

机器学习MPM人工智能

2017-08-07 21:10:55

MySQLUbuntusysbench
点赞
收藏

51CTO技术栈公众号