微软宣布开放ONNX Runtime,这是一款用于Linux,Windows和Mac平台的ONNX格式的机器学习模型的高性能推理引擎。ONNX Runtime允许开发人员在任何支持的框架中训练和调整模型,并在云端和边缘高性能运转。微软也正运用其在内部使用ONNX Runtime进行Bing搜索,Bing Ads,Office生产力服务等。
ONNX为AI框架生态系统带来了互操作性,提供了可扩展计算图模型的定义,以及内置运算符和标准数据类型的定义。
ONNX使模型能够在一个框架中进行训练并转移到另一个框架中进行推理。目前,Caffe2,Cognitive Toolkit和PyTorch都支持ONNX模型。
点击这里查看GitHub上的开放式神经网络交换(ONNX)运行时。