静动态增删节点

 初始:

  这是我现在的集群

   

  重新克隆一个虚拟机:

    hadoop44:datanode(静态增加,删除和动态删除)

    hadoop55:datanode(动态hdfs添加,yarn动态增删)

  静态添加:

    1)修改hosts文件,让主可以认识它

      vi /etc/hosts

      

    2)设置无密码访问hadoop44(keygen的生成--> ssh-keygen -t rsa)

      

    3)分别给从机中发送hosts文件和给hadoop44方法送profile文件和hadoop-2.6.0,以及重启hadoop44的profile文件(source /etc/profile)

      

    4)修改配置文件slaves文件

      

    5)查看效果

      192.168.11.11:50070

      

      192.168.11.11:8088

      

 静态删除:

   1. 静态删除节点:

     

   2. 页面:只是停止心跳

     

 动态增删节点: 

  动态删除hadoop3

    1)修改hdfs.site.xml
    <property>
<name>dfs.hosts</name>
<value>/home/bigData/hadoop-2.6./etc/hadoop/dfs-hosts.conf</value>
</property>
<property>
<name>dfs.hosts.exclude</name>
<value>/home/bigData/hadoop-2.6./etc/hadoop/dfs-exhosts.conf</value>
</property>

      

      

   2)同步资源文件并启动服务-->start.all.sh

      scp * hadoop2/3/44`pwd`

      

      启动:

     

   3)删除节点状态
     1.修改配置文件(上面刚刚建的dfs-exhosts.conf)

      

      2.刷新 --> hdfs dfsadmin -refreshNodes

       

      3.页面或者(hdfs.dfsadmin -report)

      

        

  动态添加hadoop55节点

    1)hadooop5需要做和前面相同的配置,启动hadopp55

      

    2) 网页(如果你hadoop1/hadoop2有大量文件,而hadoop55上线时会自动做一个平衡,将文件分一些给hadoop55)

      

  动态增加和卸载yarn节点 :  

     1)修改配置文件(增加和卸载)  

      <property>
<name>yarn.resourcemanager.nodes.include-path</name>
<value>/home/bigData/hadoop-2.6.0/etc/hadoop/yarn-hosts-include.conf</value>
</property>
<property>
<name>yarn.resourcemanager.nodes.exclude-path</name>
<value>/home/bigData/hadoop-2.6.0/etc/hadoop/yarn-hosts-exclude.conf</value>
</property>

     2)在相应的目录下创建文件夹:

      

     3.1)启动hadoop55做yarn节点的增加

        

     4)网页

        

     3.2)删除节点,刷新yarn文件

        

     4)网页

      

   注意:

     动态增删hdfs节点时不要进行-->hdfs dfsadmin refresh 刷新,如果刷新了会节点死掉,这个刷新节点只支持大数据2.47之前,我们现在使用的是2.6.0版本

 结束:  

    一个有5台机器,还有一台就是hadoop55

    

    

    huhu_k:每一个成功都不是一朝一夕的事情

Hadoop---静动态增删节点的更多相关文章

  1. Redis搭建(七):Redis的Cluster集群动态增删节点

    一.引言 上一篇文章我们一步一步的教大家搭建了Redis的Cluster集群环境,形成了3个主节点和3个从节点的Cluster的环境.当然,大家可以使用 Cluster info 命令查看Cluste ...

  2. Hadoop大数据平台节点的动态增删

    环境:CentOS 7.4 (1708  DVD) 工具:MobaXterm 一. 节点的动态增加 1. 为新增加的节点(主机)配置免密码登录.使用ssh-keygen和ssh-copy-id命令(详 ...

  3. Hadoop 2.6.0动态添加节点

    文章出自:http://my.oschina.net/leoleong/blog/477508 本文主要从基础准备,添加DataNode和添加NodeManager三个部分详细说明在Hadoop2.6 ...

  4. Hadoop2.6.0 动态增加节点

    本文主要从基础准备,添加DataNode和添加NodeManager三个部分详细说明在Hadoop2.6.0环境下,如何动态新增节点到集群中. 基础准备 在基础准备部分,主要是设置hadoop运行的系 ...

  5. Hadoop记录-Hadoop集群添加节点和删除节点

    1.添加节点 A:新节点中添加账户,设置无密码登陆 B:Name节点中设置到新节点的无密码登陆 C:在Name节点slaves文件中添加新节点 D:在所有节点/etc/hosts文件中增加新节点(所有 ...

  6. Dom 获取、Dom动态创建节点

    一.Dom获取 1.全称:Document     Object     Model 文档对象模型 2.我们常用的节点类型 元素(标签)节点.文本节点.属性节点(也就是标签里的属性). 3.docum ...

  7. devops-4:Jenkins基于k8s cloud和docker cloud动态增减节点

    Jenkins管理动态节点 上文介绍Jenkins增加静态agent的步骤,除了静态增加外,还有动态管理的功能,两者最大的差异在于动态可以在有job运行时,临时加入一个agent到jenkins ma ...

  8. Hadoop 添加删除数据节点(datanode)

    前提条件: 添加机器安装jdk等,最好把环境都搞成一样,示例可做相应改动 实现目的: 在hadoop集群中添加一个新增数据节点. 1. 创建目录和用户  mkdir -p /app/hadoop gr ...

  9. JQuery--Ajax 异步操作 动态添加节点 (新人试水,求支持)

    异步操作动态添加节点,导致在代码中给添加的节点全局绑定事件或者获取元素无效,上代码: $(function () { var IP = '...'; // 页面中的默认编号起始值 和 公用IP前缀 s ...

随机推荐

  1. angularjs启动项目报ERROR in AppModule is not an NgModule解决方法

    这主要是ts编译器版本问题,一般是因为ts编译器版本过高导致. 解决方式: npm uninstall -g typescript npm install -g typescript tsc -v 查 ...

  2. Lintcode214-Max of Array-Naive

    Given an array with couple of float numbers. Return the max value of them. Example Example 1: Input: ...

  3. AmazeUI学习

    http://amazeui.org/ 相比于其他国外的框架而言,Amaze UI更关注中文排版,被前端工程师称为最懂中文的前端框架. Amaze UI受欢迎的一个重要的原因是:文档非常完善,适合各阶 ...

  4. 【Ruby】【改gem源镜像】【Win10 + Jruby-9.1.2.0 + Rails 5.1.3 + gem 2.6.4 】

    参考地址:https://ruby-china.org/topics/33843 (1)> gem sources --add http://gems.ruby-china.org 遇到问题: ...

  5. hdu 6199 gems gems gems dp

    gems gems gems Time Limit: 2000/1000 MS (Java/Others)    Memory Limit: 32768/32768 K (Java/Others) P ...

  6. [Python]IO密集型任务 VS 计算密集型任务

    所谓IO密集型任务,是指磁盘IO.网络IO占主要的任务,计算量很小.比如请求网页.读写文件等.当然我们在Python中可以利用sleep达到IO密集型任务的目的. 所谓计算密集型任务,是指CPU计算占 ...

  7. Addition Chains

    题目描述: 一个与 n 有关的整数加成序列 < a0 , a1 , a2 ...am> 满足一下四个条件: 1.a0=1 2.am=n 3.a0<a1<a2<...< ...

  8. Android集成人脸识别demo分享

    本应用来源于虹软人工智能开放平台,人脸识别技术工程如何使用? 1.下载代码 git clone https://github.com/andyxm/ArcFaceDemo.git 2.下载虹软人脸识别 ...

  9. Codeforces 939E - Maximize!

    939E - Maximize! 思路: 贪心:最后的集合是最大值+前k小个 因为平均值时关于k的凹形函数,所以可以用三分求最小值 又因为后面的k肯定比前面的k大,所以又可以双指针 三分: #incl ...

  10. Java通过ftp上传文件

    首先,pom.xml添加引用 <dependency> <groupId>commons-net</groupId> <artifactId>commo ...