hadoop删除节点

时间:2023-03-09 14:48:59
hadoop删除节点

1.修改Master节点Hdfs-site.xml,增加dfs.hosts.exclude参数

eg:

<property>

<name>dfs.hosts.exclude</name>

<value>url/excludes(created file)</value>(如果集群slave机器少于3台,记得把副本改为2默认是3,因为多出来没用)

</property>

2.修改Master节点的yarn-site.xml,增加yarn.resourceManager.nodes.exclude-path参数

<property>

<name>yarn.resourceManager.nodes.exclude-path</name>

<value>url/excludes(created file)</value>

</property>

3.修改Master的mapred-site.xml,增加mapreduce.jobtracker.hosts.exclude.filename(2.0)/1.0 是mapred.hosts.exclude

<property>

<name>mapreduce.jobtracker.hosts.exclude.filename</name>

<value>url/excludes(created file)</value>

</property>

4.新建excludes文件添加需要删除的主机名

create file(touch excludes 并且增加删除节点的hostname)

5.执行refreshNodes使配置生效

hdfs dfsadmin -refreshNodes(hdfs dfsadmin 可以查看帮助)

yarn rmadmin -refreshNodes(yarn 可以查看帮助)

hafs dfs -ls /url (查看文件副本数目和信息)

刷新设置副本数hdfs dfs -setrep -w 2 -R /URL(该目录下)

查询 hdfs dfs -ls -R /XX