Hdoop/Hbase文件配置方法详解

开发 架构
Hdoop/Hbase大家应该有所了解,这里就向大家介绍一下Hdoop/Hase文件配置方面的知识,希望通过本文的介绍大家能够掌握Hdoop/Hase文件配置方法,欢迎大家一起来学习。

本节和大家一起学习一下Hdoop/Hbase文件配置方法,文件配置主要有十一个步骤,在这里向大家简单介绍一下,下面让我们一起来学习Hdoop/Hbase文件配置吧。

Hdoop/Hbase文件配置

1、硬件环境

我们采用了3台机器来构建,都安装的是Ubuntu8.04系统,并且都有一个名为“quan“的帐号,如下:
主机名称:360quan-1ip:192.168.0.37功能:NameNode,JobTracker
主机名称:360quan-2ip:192.168.0.43功能:DataNode,TaskTracker
主机名称:360quan-3ip:192.168.0.53功能:DataNode,TaskTracker
重点:修改3台机器的/etc/hosts,让彼此的主机名称和ip都能顺利解析
127.0.0.1localhost
192.168.0.37360quan-1
192.168.0.43360quan-2
192.168.0.53360quan-3

2、每台机器都要安装java环境,我们的路径统一为“/opt/jdk1.6.0_03“,并添加到系统环境变量sudogedit/etc/profile

3,hbase0.12版本到"360quan-1",将hadoop解压到/home/quan/opt/hadoop,hbase解压到hadoop/contrib/hbase。建议最好也将hadoop的目录添加到环境变量里面去:

4、安装ssh,这里注意ubuntu8.04下面是ssh2,如果是ssh1的话,请升级,安装完后,建立ssh通道,使用空密码(生产环境可不能使用空密码啊),这里使用“360quan-1”这台机器为例说明:

5、接下来,我们要修改hadoop的相关设定了。修改"360quan-1"上面的hadoop的[conf/masters]、[conf/slaves]这2个文件:

       Master设置(<HADOOP_HOME>/conf/masters) :360quan-1
       Slave设置(<HADOOP_HOME>/conf/slaves) L:360quan-2 360quan-3

6、修改[conf/hadoop-env.sh]:exportJAVA_HOME=/opt/jdk1.6.0_03

7、修改[conf/hadoop-site.xml],这里只是Hdoop/Hbase文件配置中几个常用的属性配置,有关hadoop的性能优化调整,需要研究hadoop-default.xml。

8、修改hbase的[hbase-evn.sh]:exportJAVA_HOME=/opt/jdk1.6.0_03

9、修改hbase的[hbase-site.xml]:

10、然后将hadoop的整体环境拷贝到360quan-2、360quan-3上面去
scp-r/home/quan/hadoop360quan-2:/home/hdp/
scp-r/home/quan/hadoop360quan-3:/home/hdp/

11、在360quan-1这个namenode上面格式化一个新的分布式文件系统HDFS,就是hadoop-site.xml文件中指定的hadoop.tmp.dir路径
<HADOOP_HOME>/bin/hadoopnamenode-format

到此Hdoop/Hbase文件配置大致上就完成了,属于你自己的CloudComputing环境了
启动hadoop:<HADOOP_HOME>/bin/start-all.sh
启动hbase:<HADOOP_HOME>/contrib/hbase/bin/start-hbase.sh
停止hbase:<HADOOP_HOME>/contrib/hbase/bin/stop-hbase.sh
停止hadoop:<HADOOP_HOME>/bin/stop-all.sh
说明:

(1)执行$bin/start-all.sh启动Hadoop进程后,会启动5个java进程,同时会在/tmp目录下创建五个pid文件记录这些进程ID号。通过这五个文件,可以得知namenode,datanode,secondarynamenode,jobtracker,tasktracker分别对应于哪一个Java进程。当你觉得Hadoop工作不正常时,可以首先查看这5个java进程是否在正常运行,运行jps命令也可以查看。

(2)访问http://360quan-1:50030可以查看JobTracker的运行状态。访问http://360quan-1:50060可以查看TaskTracker的运行状态。访问http://360quan-1:50070可以查看NameNode以及整个分布式文件系统的状态,浏览分布式文件系统中的文件以及log等。

(3)查看${HADOOP_HOME}/logs目录下的log文件,namenode,datanode,secondarynamenode,jobtracker,tasktracker各有一个对应的log文件,每一次运行的计算任务也有对应用log文件。分析这些log文件有助于找到故障原因。本节关于Hdoop/Hbase文件配置方面的内容介绍到这里。

【编辑推荐】

  1. HadoopHBase实现配置简单的单机环境
  2. 深入剖析Hadoop HBase
  3. Hadoop集群与Hadoop性能优化
  4. Hadoop 从Yahoo向Google的技术转折
  5. Yahoo公布Hadoop的源代码

 

 

 

责任编辑:佚名 来源: csdn.net
相关推荐

2011-03-02 13:12:37

vsftpd配置

2012-11-05 13:33:08

LinuxHBase

2009-12-03 18:46:06

Suse ftp配置

2024-10-17 16:30:28

2009-07-09 15:55:18

WebWork配置文件

2010-07-16 09:06:57

Perl文件

2013-08-15 13:41:53

Nginx用户认证

2011-09-14 10:11:35

Android 2.3

2018-12-25 10:36:41

TomcatServer文件

2018-10-08 09:05:52

TomcatServer配置

2010-09-16 15:33:48

Java环境变量

2010-06-03 15:39:47

Hadoop配置

2010-05-28 19:35:33

Myeclipse下S

2020-04-09 13:23:29

Nginx配置文件模板

2010-11-12 09:44:59

Cassandra配置

2009-08-13 09:58:55

C#读取配置文件

2009-06-05 10:35:02

struts.prop配置文件

2010-06-17 16:23:32

Grub2 配置

2013-08-20 10:12:37

入侵检测系统ossec

2009-12-28 16:10:38

WPF生成文件
点赞
收藏

51CTO技术栈公众号