hadoop 磁盘限额配置

时间:2023-11-16 09:37:56

配置方法: 在 hdfs-site.xml 里配置如下参数,注意,那个 value 的值是配置该磁盘保留的DFS不能使用的空间大小,单位是字节. (如果多块硬盘,则表示为每块硬盘保留这么多空间)

  1. <property>
  2. <name>dfs.datanode.du.reserved</name>
  3. <!-- cluster variant -->
  4. <value>236223201280</value>
  5. <description>Reserved space in bytes per volume. Always leave this much space free for non dfs use.
  6. </description>
  7. </property>

生效方法:  重启 datanode 使该参数生效,可逐台在线重启.

  1. for i in `list `;do
  2. ssh $i "hadoop/bin/hadoop-daemon.sh stop datanode &&
    sleep 1 && hadoop/bin/hadoop-daemon.sh start datanode; sleep
    30";
  3. done

验证方式: hdfs web 中查看 Configured Capacity (GB) 大小是否已经限制为预留空间.