Hadoop Hdfs配置过程全程报道

开发 架构 Hadoop
Hadoop Hdfs配置方法你是否熟悉,这里就向大家简单介绍一下Hadoop Hdfs配置方法,欢迎大家能和我一起学习,希望本文的介绍对你的学习有所帮助。

在学习Hadoop的过程中,你可能会遇到Hadoop Hdfs配置问题,本节就接着上节和大家继续分享一下Hadoop Hdfs配置方法,相信通过本节的学习你一定会对Hadoop的配置有新的认识。下面是具体步骤接介绍。

1、配置slaves,修改conf/slaves
data-dfs
复制hadoop-2.20.1目录以及所有文件到DataNode和Client
scp-rp/data/soft/hadoop-2.20.1192.168.1.12:/data/soft
scp-rp/data/soft/hadoop-2.20.1192.168.1.13:/data/soft

2、格式化Hdfs文件系统namenode,进入hadoop目录

[master@hadoop]$bin/hadoopnamenode-format输入Y,(注意区分大小写.这里一定要输入大写的Y,否刚不会成功format文件系统)
不出意外,应该会提示格式化成功。如果不成功,就去hadoop/logs/目录下去查看日志文件。

3、启动Hdfs分布式文件系统
Hadoop Hdfs配置时还要启动Hdfs分布式文件系统。进入hadoop目录,在bin/下面有很多启动脚本,可以根据自己的需要来启动。
*start-all.sh启动所有的Hadoop守护。包括namenode,datanode,jobtracker,tasktrack
*stop-all.sh停止所有的Hadoop
*start-mapred.sh启动Map/Reduce守护。包括Jobtracker和Tasktrack
*stop-mapred.sh停止Map/Reduce守护
*start-dfs.sh启动HadoopDFS守护.Namenode和Datanode
*stop-dfs.sh停止DFS守护

启动所有守护
[master@hadoop]bin/start-all.sh//会自动找到conf/slaves文件里的IP或者机器名,启动相应的slaves服务端
同样,如果要停止hadoop,则[master@hadoop]$bin/stop-all.sh

4、HDFS操作
再来看一下Hadoop Hdfs配置过程中对HDFS进行的操作。进入Hadoop目录,运行bin/目录的hadoop命令,可以查看Haoop所有支持的操作及其用法,这里以几个简单的操作为例。

建立目录
[master@hadoop]$bin/hadoopdfs-mkdirtestdir
在HDFS中建立一个名为testdir的目录

复制文件
[master@hadoop]$bin/hadoopdfs-put
/home/dbrg/large.ziptestfile.zip
把本地文件large.zip拷贝到HDFS的根目录/user/dbrg/下,文件名为testfile.zip

查看现有文件
[master@hadoop]$bin/hadoopdfs-ls
行hadoop程序时,中途我把它终止了,然后再向hdfs加文件或删除文件时,出现Namenodeisinsafemode错误:
rmr:org.apache.hadoop.dfs.SafeModeException:Cannotdelete/user/hadoop/input.Namenodeisinsafemode
解决的命令:
bin/hadoopdfsadmin-safemodeleave#关闭safemode。本就关于Hadoop Hdfs配置方面的内容就介绍到这里

【编辑推荐】

  1. 轻松实现Hadoop Hdfs配置
  2. 专家指导 如何进行Hadoop分布式集群配置
  3. Hadoop集群与Hadoop性能优化
  4. HadoopHBase实现配置简单的单机环境
  5. 深入剖析Hadoop HBase

 

责任编辑:佚名 来源: firnow.com
相关推荐

2010-06-04 10:35:14

2010-05-28 19:15:53

2010-06-03 15:13:34

Hadoop Hdfs

2010-05-24 10:58:09

SVN更新网站

2014-04-16 11:01:07

SparkYarn

2013-04-23 11:17:47

Hadoop

2010-06-04 17:43:12

Hadoop集群搭建

2010-05-20 09:41:07

MyEclipse下配

2018-12-27 12:34:42

HadoopHDFS分布式系统

2010-06-07 13:35:16

Hadoop简介

2012-07-11 17:21:23

HadoopHDFS

2010-06-07 13:23:56

Hadoop 学习总结

2012-07-05 10:51:57

Hadoop集群

2017-08-03 10:38:32

HADOOP1.XHDFSHadoop

2010-06-04 17:03:17

实现Hadoop

2010-08-03 08:39:49

路由器配置

2020-01-09 10:47:15

HDFS数据文件

2019-11-06 08:54:21

HDFSHadoopMapReduce

2012-07-13 10:17:39

HadoopHDFS

2010-06-03 15:39:47

Hadoop配置
点赞
收藏

51CTO技术栈公众号