做了这么多年Java程序员,我想转大数据了

大数据
对于Java程序员,大数据的主流平台hadoop是基于Java开发的,所以Java程序员往大数据开发方向转行从语言环境上更为顺畅,另外很多基于大数据的应用框架也是Java的,所以在很多大数据项目里掌握Java语言是有一定优势的。

做了这么多年Java开发,如何快速转行大数据

分享转行经验路线

对于Java程序员,大数据的主流平台hadoop是基于Java开发的,所以Java程序员往大数据开发方向转行从语言环境上更为顺畅,另外很多基于大数据的应用框架也是Java的,所以在很多大数据项目里掌握Java语言是有一定优势的。

做了这么多年Java程序员,我想转大数据了

当然,hadoop核心价值在于提供了分布式文件系统和分布式计算引擎,对于大部分公司而言,并不需要对这个引擎进行修改。这时候除了熟悉编程,你通常还需要学习数据处理和数据挖掘的一些知识。尤其是往数据挖掘工程师方向发展,则你需要掌握更多的算法相关的知识。

对于数据挖掘工程师而言,虽然也需要掌握编程工具,但大部分情况下是把hadoop当做平台和工具,借助这个平台和工具提供的接口使用各种脚本语言进行数据处理和数据挖掘。因此,如果你是往数据挖掘工程方向发展,那么,熟练掌握分布式编程语言如scala、spark-mllib等可能更为重要。

Java程序员转大数据工程师的学习路线图:

***步:分布式计算框架

掌握hadoop和spark分布式计算框架,了解文件系统、消息队列和Nosql数据库,学习相关组件如hadoop、MR、spark、hive、hbase、redies、kafka等;

第二步:算法和工具

学习了解各种数据挖掘算法,如分类、聚类、关联规则、回归、决策树、神经网络等,熟练掌握一门数据挖掘编程工具:Python或者Scala。目前主流平台和框架已经提供了算法库,如hadoop上的Mahout和spark上的Mllib,你也可以从学习这些接口和脚本语言开始学习这些算法。

第三步:数学

补充数学知识:高数、概率论和线代

第四步:项目实践

  • 1)开源项目:tensorflow:Google的开源库,已经有40000多个star,非常惊人,支持移动设备;
  • 2)参加数据竞赛
  • 3)通过企业实习获取项目经验

如果你仅仅是做大数据开发和运维,则可以跳过第二步和第三步,如果你是侧重于应用已有算法进行数据挖掘,那么第三步也可以先跳过。

责任编辑:未丽燕 来源: 简书
相关推荐

2022-04-21 07:52:08

JS线程GUI渲染

2024-03-01 17:01:15

GraphQL后端

2016-12-01 13:40:37

2021-09-13 10:03:54

蓝牙连接蓝牙蓝牙设备

2011-05-13 14:34:02

程序员

2015-03-27 10:20:41

谷歌地图谷歌伟大

2018-10-10 15:52:48

程序员代码编程

2019-12-04 12:33:48

程序员技术设计

2021-08-09 11:32:30

左叶子节点二叉树

2012-11-26 13:11:26

.NET.NET门槛软件开发

2017-11-13 09:35:02

2021-04-27 15:13:20

Java开发语言

2020-07-28 15:18:52

Gartner信息安全网络安全

2023-11-13 08:49:54

2024-02-20 08:09:51

Java 8DateUtilsDate工具类

2018-11-08 09:56:03

AndroidJava程序员

2020-03-30 16:18:02

代码开发工具

2016-06-06 10:20:59

大数据流式计算数据处理

2020-07-24 08:36:52

大数据人工智能技术

2014-09-25 09:59:06

点赞
收藏

51CTO技术栈公众号