雅虎开源人工智能独门武器 CaffeOnSpark

大数据 Spark
Yahoo 在科技方面的实力大概鲜有人知。事实上开源 Hadoop 就是 Yahoo 孵化的。2月25日,Yahoo 发布了 CaffeOnSpark 人工智能的源代码,每个学术研究人员或是大公司都可以使用或是加以修改。

又有一家科技巨头向全世界公开了他们的 know-how 人工智能。2月25日,Yahoo 发布了 CaffeOnSpark 人工智能的源代码,每个学术研究人员或是大公司都可以使用或是加以修改。

[[163190]]

Yahoo 在科技方面的实力大概鲜有人知。事实上开源 Hadoop 就是 Yahoo 孵化的;Facebook、Twitter 以及其他不少公司都在用这个数据处理平台。因此在人工智能方面,Yahoo 公司有着独到的长处,因为在培训人工智能系统的时候,数据就和算法一样重要。而且 Yahoo 手握着全球最有趣***的资料库之一:相片社群网站 Flickr。

就如诸多新的开源人工智能项目一样,CafffeOnSpark 的根基是深度学习。深度学习是人工智能的一个分支,以其人类语音、照片和视频等的识别能力见长。Yahoo 就是用这项技术来识别照片中的不同内容,以此改良 Flickr 网站的搜索结果。与其他网站不同,Flickr 的图片搜索并不是靠图片描述或是用户输入的关键词。Yahoo 会教电脑如何识别照片的某种特征,例如特定的颜色,甚至是物体或动物。

在最近几个月里,Google 开放了深度学习网络 TensorFlow 的源代码,Microsoft 开放了类似的网络 CNTK,Facebook 分享了人工智能硬件设计,中国搜索引擎巨头百度也公开了深度学习训练软件。

这些开源技术项目都各自有所侧重,偏向不同。例如 Yahoo 的目的是要在现存的系统上运行深度学习,避免把数据从一个地方传输到另一个地方。Yahoo 的构架副总裁 Andy Fent 向我们解释,训练深度学习系统识别图片需要巨量的数据信息。你得往算法里放大量的例子,越多越好,比如如果是一只猫的话,系统要足够的图才会「学会」辨认猫之间的共同特征,分辨猫和其他动物。

Flickr 网站上有成千上万张图片,足够拿来训练人工智能了。但是开发团队不想把这些图片从 Flickr 服务器传送到另一层运行深度学习软件的服务器里。于是他们发明了在已有的构架上运行深度学习软件的方法。

从名字上看,CaffeOnSpark 结合了两种现有的科技:深度学习框架 Caffe 和大规模数据处理系统 Spark。Yahoo 所做的就是想办法在 Spark 层次上运行 Caffe。找到方法后,Caffe 不仅可以在 Spark 上运行,还可以两者一起在 Hadoop 上运行。Yahoo 的开发不仅会让人工智能开发者用更简单熟悉的工具、省去传送数据的麻烦过程,还能让深度学习更方便地同时处理数个服务器的内容。Feng 还特意告诉我们,这一点 Google 的 TensorFlow 目前还做不到,Yahoo 领先了一步。

Feng 说到,去年团队在博客上发表了有关 CaffeOnSpark 的帖子后,不少公司都希望 Yahoo 开放 CaffeOnSpark 的源代码。于是他们发现,不少公司其实服务器上都已经具备了不少信息,但是他们不想传送。

责任编辑:Ophira 来源: tech2ipo
相关推荐

2023-06-20 16:40:04

2024-02-29 16:11:05

2024-11-06 14:30:38

2024-02-20 16:14:36

人工智能开源AI

2017-02-16 16:15:20

2022-10-19 07:04:12

​人工智能云服务Alaas

2022-06-20 11:05:58

通用人工智能机器人

2022-10-17 13:43:22

人工智能AI

2019-07-15 16:00:06

微软开源TensorWatch

2023-10-17 10:20:23

2024-08-02 12:05:00

2022-01-19 00:08:26

人工智能AlphaGO计算机

2018-03-28 09:40:00

CITE人工智能馆

2015-10-10 09:34:52

人工智能机器学习

2021-01-13 12:06:02

AI武器伊朗

2021-11-05 09:56:36

人工智能AI指数

2018-08-17 15:17:56

人工智能层次极端

2023-05-05 14:02:59

人工智能聊天机器人

2022-07-26 11:27:40

人工智能AIOps

2018-03-23 09:14:46

人工智能云计算机器学习
点赞
收藏

51CTO技术栈公众号