“节点增加删除”的版本间的差异

来自CloudWiki
跳转至: 导航搜索
(创建页面,内容为“1. 增加删除节点 增加节点: 2. 基础操作、本地源、防火墙、时区、时间同步 3. 修改hosts文件 所有文件添加到slave3 4. 免密操…”)
 
 
第1行: 第1行:
1. 增加删除节点
+
1.增加删除节点<br>
增加节点:
+
增加节点:<br>
2. 基础操作、本地源、防火墙、时区、时间同步
+
2.基础操作、本地源、防火墙、时区、时间同步<br>
3. 修改hosts文件 所有文件添加到slave3
+
3.修改hosts文件 所有文件添加到slave3<br>
4. 免密操作 masterslave3
+
4.免密操作 masterslave3<br>
5. 安装JDK HADOOP配置环境变量
+
5.安装JDK HADOOP配置环境变量<br>
Hadoop设置
+
Hadoop设置<br>
修改所有slaves文件:添加slave3
+
修改所有slaves文件:添加slave3<br>
启动DataNode:hadoop-daemon.sh start datanode
+
启动DataNode:hadoop-daemon.sh start datanode<br>
启动nodemanage:yarn-daemon.sh start nodemanager
+
启动nodemanage:yarn-daemon.sh start nodemanager<br>
刷新集群状态
+
刷新集群状态<br>
主节点刷新:hdfs dfsadmin -refreshNodes
+
主节点刷新:hdfs dfsadmin -refreshNodes<br>
均衡block: start-balancer.sh
+
均衡block: start-balancer.sh<br>
查看存活节点:hdfs dfsadmin -report
+
查看存活节点:hdfs dfsadmin -report<br>
  
临时删除
+
临时删除<br>
hadoop-daemon.sh stop datanode
+
hadoop-daemon.sh stop datanode<br>
hadoop-daemon.sh stop tasktracker
+
hadoop-daemon.sh stop tasktracker<br>
  
二、动态删除DataNode
+
二、动态删除DataNode<br>
1、配置NameNode的hdfs-site.xml,增加dfs.hosts.exclude配置
+
1、配置NameNode的hdfs-site.xml,增加dfs.hosts.exclude配置<br>
1
+
<property>  
2
 
3
 
4 <property>  
 
 
   <name>dfs.hosts.exclude</name>  
 
   <name>dfs.hosts.exclude</name>  
 
   <value>/usr/local/hadoop2/etc/hadoop/excludes</value>  
 
   <value>/usr/local/hadoop2/etc/hadoop/excludes</value>  
 
  </property>
 
  </property>
2、在对应路径(/etc/hadoop/)下新建excludes文件,并写入待删除DataNode的ip或域名 如要删除slave2写入 echo “slave2” > excludes
+
2、在对应路径(/etc/hadoop/)下新建excludes文件,并写入待删除DataNode的ip或域名 如要删除slave2写入 echo “slave2” > excludes<br>
3、在NameNode上刷新所有DataNode
+
3、在NameNode上刷新所有DataNode<br>
1
+
hdfs dfsadmin -refreshNodes  
2
+
  hdfs dfsadmin -report
3 hdfs dfsadmin -refreshNodes  
+
  start-balancer.sh
hdfs dfsadmin -report
+
关闭节点上进程(slave2)<br>
start-balancer.sh
+
hadoop-daemon.sh stop datanode
关闭节点上进程(slave2)
+
yarn-daemon.sh stop nodemanager
hadoop-daemon.sh stop datanode
 
yarn-daemon.sh stop nodemanager
 
 
数据均衡:start-balancer.sh
 
数据均衡:start-balancer.sh

2020年11月23日 (一) 10:23的最新版本

1.增加删除节点
增加节点:
2.基础操作、本地源、防火墙、时区、时间同步
3.修改hosts文件 所有文件添加到slave3
4.免密操作 masterslave3
5.安装JDK HADOOP配置环境变量
Hadoop设置
修改所有slaves文件:添加slave3
启动DataNode:hadoop-daemon.sh start datanode
启动nodemanage:yarn-daemon.sh start nodemanager
刷新集群状态
主节点刷新:hdfs dfsadmin -refreshNodes
均衡block: start-balancer.sh
查看存活节点:hdfs dfsadmin -report

临时删除
hadoop-daemon.sh stop datanode
hadoop-daemon.sh stop tasktracker

二、动态删除DataNode
1、配置NameNode的hdfs-site.xml,增加dfs.hosts.exclude配置
<property>

 <name>dfs.hosts.exclude</name> 
 <value>/usr/local/hadoop2/etc/hadoop/excludes</value> 
</property>

2、在对应路径(/etc/hadoop/)下新建excludes文件,并写入待删除DataNode的ip或域名 如要删除slave2写入 echo “slave2” > excludes
3、在NameNode上刷新所有DataNode
hdfs dfsadmin -refreshNodes

  hdfs dfsadmin -report
 start-balancer.sh

关闭节点上进程(slave2)

hadoop-daemon.sh stop datanode
yarn-daemon.sh stop nodemanager

数据均衡:start-balancer.sh