完全分布式hadoop2.5.0安装 VMware下虚拟机centos6.4安装1主两从hadoop
请跟我走,从零开始搭建hadoop2.5.0环境。
总览
第一步:搭建三台能不用密码shh的虚拟机。
第二步,装jdk,解压hadoop文件,配置环境变量和xml文件。
第三步,复制克隆两个slave机器。调试各类信息,
启动hadoop。
第一步:
先下载WMware,我下载的是:VMware-workstation-full-9.0.2-1031769
先总的感性看下整个界面。
然后下载centOS。我下载的是:CentOS-6.4-i386-bin-DVD1
两个软件见上。
下面开始安装centos。
先安装一个,另两个通过复制拷贝即可。
用vmware里的下面这个功能,一直下一步点击过去即可。
接下来,就是要配置三台可以互相不用密码可以ssh的centos。坑就来了。大家认真看。
先进入虚拟机的设置界面,将网络连接改为桥接(默认是NAT的):
然后,设置本机的IP地址:
三台机器的IP规划是:
192.168.65.130 # secondaryNameNode
192.168.65.136 #datanode
192.168.65.137 #datanode
下面就重点讲怎么配置第一台机器的IP为192.168.65.130:
在Terminal中root用户下输入setup命令:进入界面:
按下移键走到网络设置栏,进去设置Device configaration:
其中名称和设备请默认不要更改:
配置好后保存退出:
这个设置面板对应的是配置文件:
[root@centos1 network-scripts]# cat/etc/sysconfig/network-scripts/ifcfg-eth2
配置好后请配置下面文件:
[root@localhost ~]# vi /etc/sysconfig/network
HOSTNAME=centos1
[root@localhost ~]#
vi /etc/hosts
192.168.65.130 centos1
192.168.65.136 centos2
192.168.65.137 centos3
然后,先将NetworkManager停掉,因为它跟network冲突:
[root@centos1 network-scripts]# service NetworkManager stop
然后,重启网络服务:
跟上图一样了,就表示一台机器更改本机IP地址OK了。接下来配置不需要验密就能SSH登陆。
生成签名文件
[root@centos1 ~]# ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
[root@centos1 ~]#cat ~/.ssh/id_dsa.pub>> ~/.ssh/authorized_keys
完成后可以使用 ssh centos1
验证一下。接着将公匙传输到 Slave1 节点:
scp ~/.ssh/id_rsa.pub hadoop@centos2:/home/hadoop/
[root@centos1 ~]# service iptables stop
测试本地SSH无密码登录 [root@centos1 ~]# ssh centos1 由于等会会复制2个系统副本,因此scp拷贝签名的工作不需要了。
注意:service iptables stop 为关闭防火墙,每次启动要执行。也可以用这个命令永久关闭防火墙:
chkconfig --level 35 iptables off
第一步先告一段落。
第二步,装jdk,解压hadoop文件,配置环境变量和xml文件。
Jdk安装我下载的是jdk-8u20-linux-i586.rpm。Hadoop安装我下载的是:hadoop-2.5.0.tar。
将两个文件拖进虚拟机中。在/home/hadoop/Desktop/下找到两个文件。
在该目录下执行:
rpm -i jdk-8u20-linux-i586.rpm
由于我不用密码登陆设的是root用户。所以将hadoop文件包mv到/root下。
然后解压即可:
tar -zvxf hadoop-2.5.0.tar。
接下来配置环境变量:
[root@centos1 Desktop]# vi /etc/profile
前面的不用管,在最后补上这些东西,见下面的截图:
让配置生效:
[root@centos1 ~]# source /etc/profile
第二配置文件:
[root@centos1 Desktop]# vi ~/.bashrc
添加以下内容。Java路径请按命令
java 查看自己的安装目录。
接下来配置Hadoop的配置文件。共三个。路径和三个文件名都用红框标出。
三个文件的配置:
修改yarn-site.xml
<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.resourcemanager.hostname</name>
<value>192.168.19.234</value>
</property>
</configuration>
whucs@slave1:~/hadoop-2.6.4/etc/hadoop$
接下来做以下复制:
cp -rf /root/hadoop-2.5.0/etc/hadoop/ /root/hadoop-2.5.0/conf
好了。第二步大功告成。
第三步,复制克隆两个slave机器。调试各类信息,
启动hadoop。
将刚才配置好的机器power off。然后将对应的文件夹拷贝两份:
打开另外两台刚拷贝的虚拟机。弹出的对话框点选I copied it。
然后对另两台机器分别按上面类似的配置本机IP。
配好后达到这个效果:
[root@centos1 hadoop-2.5.0]# ssh centos1
Last login: Tue Sep 2 02:39:13 2014 from centos1
[root@centos1 ~]#
[root@centos1 hadoop-2.5.0]# ssh centos2
Last login: Tue Sep 2 02:39:43 2014 from centos2
[root@centos1 ~]#
[root@centos1 hadoop-2.5.0]# ssh centos3
Last login: Tue Sep 2 02:40:13 2014 from centos3
[root@centos1 ~]#
即可以任意SSH不需要验密。
修改/etc/hadoop/hadoop-env.sh中设JAVA_HOME。
应当使用绝对路径。
export JAVA_HOME=$JAVA_HOME //错误,不能这么改
export JAVA_HOME=/usr/java/jdk1.6.0_45 //正确,应该这么改
接下来启动hadoop:
[root@centos1 sbin]# pwd
/root/hadoop-2.5.0/sbin
[root@centos1 sbin]# ./start-all.sh
达到以下结果即可:
天助自助者,我分享知识,自助助人,收获欢乐。希望能帮到有缘人。
写博客好累,写好后发布更累。图文并茂比较清楚,但是发布图片可麻烦了。
完全分布式hadoop2.5.0安装 VMware下虚拟机centos6.4安装1主两从hadoop的更多相关文章
- MacBookpro安装VMware Fusion虚拟机,并安装win7 64位系统
1.准备好安装用的东西(准备好正确的东西,安装路上就成功了一半)(1)VMware Fusion 附带注册机生成注册码,链接: https://pan.baidu.com/s/13Qm9zPOFjFt ...
- Centos7.5安装分布式Hadoop2.6.0+Hbase+Hive(CDH5.14.2离线安装tar包)
Tags: Hadoop Centos7.5安装分布式Hadoop2.6.0+Hbase+Hive(CDH5.14.2离线安装tar包) Centos7.5安装分布式Hadoop2.6.0+Hbase ...
- 安装Vmware workstation虚拟机软件
运行下载完成的Vmware Workstation虚拟机软件包,将会看到图1-1 所示的虚拟机程序安装向导初始界面. 在虚拟机软件的安装向导界面单击"下一步"按钮,如图1-2所示. ...
- 安装教程-VMware 12 虚拟机软件的安装
VMware 12 虚拟机软件的安装 1.实验描述 安装虚拟化软件,在物理机中搭建各种不同操作系统,为学习提供各种平台. 2.实验环境 物理机系统:Windows 10 企业版 3.实验工具 [VMw ...
- 无法安装 VMware Tools。尝试访问安装 VMware Tools 所需的图像文件“/usr/lib/vmware/isoimages/linuxPreGlibc25.iso”时出错: 2 (No such file or directory)。请参考产品文档或知识库文章 2129825,了解关于如何获取该客户机操作系统的 VMware Tools 软件包的详细信息。
无法安装 VMware Tools.尝试访问安装 VMware Tools 所需的图像文件"/usr/lib/vmware/isoimages/linuxPreGlibc25.iso&quo ...
- windows下eclipse连接ubuntu伪分布式hadoop2.6.0
环境: win10 jdk1.7 hadoop2.6.0 linux虚拟机 Ubuntu14.04 首先把安装在Ubuntu上的hadoop2.6.0.tar.gz复制到windows系统上,解压到任 ...
- vmware下linux系统的安装过程
虚拟机VMware下CentOS6.6安装教程图文详解 [日期:2016-05-24] 来源:Linux社区 作者:Sungeek [字体:大 中 小] 分享下,虚拟机VMware下CentOS ...
- ubuntu搭建分布式hadoop-2.6.0概略和错误
详细配置:http://blog.csdn.net/ggz631047367/article/details/42426391 1.修改机器/etc/hostname分别为 master s ...
- VMware下CenOS7系统的安装及lnmp服务器的搭建
CentOS7系统的安装 CentOS7下载:http://mirrors.aliyun.com/centos/7/isos/x86_64/CentOS-7-x86_64-DVD-1708.iso 下 ...
随机推荐
- Elasticsearch 5.2.x 使用 Head 插件连接不上集群
如果访问elasticsearch出现跨域的问题,如下: 修改elasticsearch.yml文件 vim $ES_HOME$/config/elasticsearch.yml # 增加如下字段 h ...
- 阿里云服务器 ECS Linux SWAP 配置概要说明
SWAP 简介 Linux 中的 SWAP(交换分区),类似于 Windows 的虚拟内存.系统会把一部分硬盘空间虚拟成内存使用,将系统内非活动内存换页到 SWAP,以提高系统可用内存. 注:参阅 E ...
- Linux CentOS 下关闭防火墙
永久关闭(重启后生效) 开启: chkconfig iptables on 关闭: chkconfig iptables off 临时关闭(重启后失效) 开启: service iptables st ...
- spring4.0之一:简介
我们共同来构建更好的企业应用.Spring帮助全世界的开发团队构建简单.便携.快速和灵活的基于JVM的系统和应用.这两句话已经足以说明Spring的目标,它针对的领域是企业应用,这套框架构建的应用有着 ...
- timeStamp(时间戳) 事件属性
Event 对象 定义和用法 timeStamp 事件属性可返回一个时间戳.指示发生事件的日期和时间(从 epoch 开始的毫秒数). epoch 是一个事件参考点.在这里,它是客户机启动的时间. 并 ...
- Zabbix 更改监控项的应用级
- 后台对象转化成json数据返回给前端
一.介绍 JSON-lib包是一个beans,collections,maps,java arrays 和XML和JSON互相转换的包,主要就是用来解析Json数据 二.下载jar依赖包:可以去这里下 ...
- [UE4]多线程开关,开启的解决方案
像这样直接获取值就会被警告. 解决方法:定义一个变量speed,然后在“Blueprint Update Animation”事件中赋值给这个变量. 这样就不会被警告了. 另外一种解决方法:就是关掉多 ...
- AMQP & JMS对比(转载)
AMQP & JMS对比 原文地址:https://blog.csdn.net/hpttlook/article/details/23391967 初次接触消息队列时,在网上搜索,总是会提到如 ...
- Android接听、挂断电话
新建一个名为ITelephony的aidl文件,注意包名不能改变,因为是通过反射方式来实现接听和挂断的