搭建了很多次hadoop2.2.0了，尝试过很多不同的启动方法、配置参数、位置，其中涉及到到底要不要配置SSH免密码登录的问题

先是搞清楚为什么需要SSH免密码登录

SSH免密码登录操作步骤：

... ...

在hadoop2.2.0中有三种启动方式：

  1. 使用hadoop-daemon.sh和yarn-daemon.sh分别启动每一个守护进程；
  2. 使用start-dfs.sh和start-yarn.sh分开启动不同模块的所有进程；
  3. 使用start-all.sh启动所有模块所有进程。

三种启动方式在实验阶段都可以使用，只不过第一种更适合于生产环境。

第一种不需要配置SSH免密码登录，第二种和第三钟需要，为什么？

第一种是逐一启动每一台机器的每一个进程，就是说如果是完全分布式环境，有多少台机器我就要在每台机器上使用这个命令去启动对应的命令，如在namenode上启动namenode就要使用sbin/hadoop-daemon.sh start namenode这个命令，在datanode上启动datanode，就要使用sbin/hadoop-daemon.sh start datanode这个命令，对应的yarn进程启动也一样，不过是使用yaen-daemon.sh。

而第二种和第三种是一种只在namenode上使用就可以启动整个集群的方便方式，它的原理是根据配置文件启动namenode上的对应进程然后再通过SSH协议登录到slave上启动对应的进程。

说到这已经明白了，那么我以前的一种说法或者一种认识就是错的。

因为只需要namenode远程登录到slave中启动对应进程，所以所有slave只需要拥有namenode的公钥就行了，不需要拥有其他slave的公钥。

不过我引出一种猜想，反正namenode和slave的信息是在配置文件中读出来的，所以如果slave能SSH免密码登录namenode，那么是不是就可以在namenode上格式化文件系统，而在某台slave上启动集群？呵呵。

那其他地方不用SSH协议了吗？

答案是不用了，只有启动的时候才用。（我现在的认识）

其他如心跳等是用了RPC协议，web UI使用了HTTP协议，所以在hadoop中RPC协议、HTTP协议远比SSH协议重要的多

琐碎-到底要不要SSH免密码设置的更多相关文章

  1. ssh 免密码设置失败原因总结

    先复习一下设置ssh免密码操作的步骤: 进入主目录 cd 生成公钥 ssh-keygen -t rsa -P '' (注:最后是二个单引号,表示不设置密码) 然后分发公钥到目标机器 ssh-copy- ...

  2. 设置ssh免密码登录脚本（hadoop自动化部署脚本一）

    设置ssh免密码登录脚本(hadoop自动化部署脚本一) 设置ssh免密码登录脚本(飞谷云大数据自动化部署脚本一) 1.#!/bin/sh2.#important note:this script i ...

  3. 在CentOS/RHEL上设置SSH免密码登录

    本文会告诉你怎样在 CentOS/RHEL 上设置 SSH 免密码登录.自动登录配置好以后,你可以通过它使用 SSH (Secure Shell)和安全复制 (SCP)来移动文件. SSH 是开源的, ...

  4. ssh 免密码登陆设置不成功

    记一次centos6设置免密码登陆设置不成功的解决.自己挖的坑自己填. ssh 免密码登陆设置( 正常情况下是这样的,设置成功后登陆主机是不需要密码的) [root@master .ssh]# ssh ...

  5. 配置ssh免密码登录设置后还是提示需要输入密码

    工作之余搭建了一个集群测试,配置了ssh免密码登录以后  ,所有的ssh-copy-id 密钥也都分发了 ,各项配置也没有问题,但是使用ssh进行免密登录时,没有报错,但是要输入被ssh主机的登录密码 ...

  6. 如何配置ssh免密码登录

    [TOC] 如果你在管理一堆unix机器,每次登录都要输入密码是挺烦的事情,一方面为了安全我们一般不会将所有机器的密码都设置成一样,另一方面就算一样每次都输入一遍也很麻烦. 这种情况下我们一般是用ss ...

  7. ssh免密码登陆

    Ssh免密码登陆设置 准备工作:1.确保两个主机里没有id_rsa.pub和authorized_keys的文件(这两个文件会影响实验的结果)# find / -name id_rsa.pub可查看是 ...

  8. linux 配置ssh免密码登录

    1.确保主机名唯一 主机名修改方法: a.修改/etc/sysconfig/network,HOSTNAME=想要设置的主机名称 b.修改/etc/hosts,127.0.0.1   localhos ...

  9. 配置Ssh免密码登录

    配置Ssh免密码登录 一个master节点,两个client节点(client1.client2) 1．所有节点创建hadoop用户,并设置密码 以root账号登录: useradd hadoop p ...

随机推荐

  1. 怎么对HTML 5的特性做检测？

    原译文地址:http://www.ido321.com/1116.html 原文:Detect HTML5 Features 译文:HTML5特性检测 译者:dwqs 随 着HTML 5的流行,现在H ...

  2. web服务器分析与设计（二）

    面向对象分析与设计第二步:寻找对象,建立问题域模型 1,用例场景描述 接上一篇中的用例,编写用例场景 U1: 上网者:打开网站(www.xxx.com) 浏览器:连接网站 目标系统:接受连接 检查连接 ...

  3. nodejs 5.2.0文档自翻译——Path模块

    模块方法概览 Path path.basename(p[, ext]) path.delimiter path.dirname(p) path.extname(p) path.format(pathO ...

  4. JAVA中的数据结构——集合类（线性表：Vector、Stack、LinkedList、set接口；键值对：Hashtable、Map接口<HashMap类、TreeMap类>）

    Java的集合可以分为两种,第一种是以数组为代表的线性表,基类是Collection:第二种是以Hashtable为代表的键值对. ... 线性表,基类是Collection: 数组类: person ...

  5. A题进行时--浙大PAT 1011-1020

    #include<stdio.h> #include<string.h> int main(){ ]; ]; ]; ]; ]; int i; float sum; memset ...

  6. 配置Tomcat以指定的身份(非root)运行

    本文依赖的环境: CentOS(大部分内容适用于其他Linux发行版) 已安装并配置好JVM环境 已安装并配置好gcc.make等编译工具 1. 下载Tomcat安装包并解压缩 cd /optwget ...

  7. Node.js中的事件

    var util = require("util"); //导入util模块 var events = require("events"); //导入event ...

  8. 你想成为优秀的Java程序员吗？

    Java是全世界最受欢迎的3大编程语言之一,它可以开发出许多实用的WEB应用程序和桌面应用程序,更重要的一点,Java是跨平台的语言——编写一次,可以再任何地方运行.另外,Java也很容易入门,如果你 ...

  9. Hadoop应用开发实战案例 第1周

    本课程的基础课程是,Hadoop数据分析平台课程.相信,能看我本博文的朋友,是有一定的基础了. 只是前个课程是讲解,这个课程是应用. 第一层是:数据源层,代表有生产线上的数据,比如关系型数据库orca ...

  10. Spark SQL概念学习系列之如何使用 Spark SQL（六）

    val sqlContext = new org.apache.spark.sql.SQLContext(sc) // 在这里引入 sqlContext 下所有的方法就可以直接用 sql 方法进行查询 ...