一 、安装前准备

1.VMware虚拟内容

2.Linux系统 (CentOS-6.9-min)

镜像文件http://vault.centos.org/

3.jdk 1.8 rpm或bin文件

https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html

4.hadoop 安装文件 rpm或bin文件

https://hadoop.apache.org/releases.html

5.SecureCRT 本人喜欢用这个

6.规划好ip段

cmd 查看自己的ip; 192.168.50.3起

192.168.50.11 master

192.168.50.12 slave1/node1

192.168.50.13 slave2/node2

192.168.50.14 slave3/node3

二 、安装

  1. 安装虚拟软件...略;VMware 软件有三种网络设置,本文使用的是NAT方式,主要是它对ip设置比较容易不会对外物理机造成干扰.

  2. 安装完软件开始安装centOS

一路Next过来,到

我选的是自定义方式,这个主要是类似windows 分盘,我这是简单的分成三个:一个根目录,一个启动,一个swap

接着一直Next到底重启就安装结束;关机拍个快照方便后面使用的时候又来一次安装省时省力.

3.开始配置网络和其他节点虚拟机,此时就用到上面规划的ip

主节点名称安装的时候就已经设置好了所以不用再改,直接配置网络ip

vi /etc/sysconfig/network-scripts/ifcfg-eth0

ip设置好后就配置网络映射关系

vi /etc/hosts

映射关系配置文件,避免mac地址的冲突

rm –rf /etc/udev/rules.d/70-persistent-net.rules

关闭防火墙 service iptables stop或chkconfig iptables off 重启网卡 service network restart

到此主节点的网络已经配置完成,可以测试一下网络是否通了,是否发现局域网已经可以了,但外网不行如果要配置外网只需把dns2本地物理ip设置为物理机的网关就行,网络好了就可以SecureCRT 连接了.

开始安装jdk 和 hadoop (这个地方你可以关闭机器拍个快照后面在安装使用scp命令拷贝到其他节点)

安装目录一定的记住,虽然后面可以用命令查看到安装目录不过文件保存的太深麻烦;

我自己安装的都放在apps下,根目录下新建 apps目录后 Alt+P 打开SFTP界面 拖拽jdk和hadoop文件上传

文件上传完,可以使用tar命令去解压安装了 (安装完顺手删除gz文件)

tar -zxvf jdk-8u181-linux-x64.tar.gz -C apps/

tar -zxvf hadoop-3.1.1.tar.gz -C apps/

接下来配置jdk环境变量了 vi /etc/profile

export JAVA_HOME=/root/apps/jdk1.8.0_181

export CLASSPATH=.:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar

export PATH=$JAVA_HOME/bin:$PATH

保存后 source /etc/profile 刷新;使用java -verison 看看是否配置成功

hadoop 的后面在配置 主机配置到处结束,可以直接关机快照后配置节点

三 、节点配置

1.节点配置相对第一次简单很多了,使用vm软件的克隆快速备份出节点,备份好记得开机前重新生成mac地址避免冲突

配置节点名称 hostname slave1 如果还不行执行 # sysctl kernel.hostname=slave1 强制修改

然后 vi /etc/sysconfig/network

2.ip地址配置

vi /etc/sysconfig/network-scripts/ifcfg-eth0

这里是和host文件一一对应 如slave1 是192.168.50.12

3.重启网卡 service network restart

4.测试是否可以和其他机器通信 ping 192.168.50.11

到处节点1配置完成。。其他节点参照步骤就行了,虚拟机已经部署就位。

单机安装hadoop集群的更多相关文章

  1. 安装Hadoop集群的最快的软件

    Quick Hadoop是一款安装Hadoop集群的桌面软件,只需要点两下鼠标,一分钟之内安装Hadoop到集群上,超快! 还在每台主机的Shell里一行一行地敲安装Hadoop的命令?别苦逼了! 用 ...

  2. docker安装hadoop集群

    docker安装hadoop集群?图啥呢?不图啥,就是图好玩.本篇博客主要是来教大家如何搭建一个docker的hadoop集群.不要问 为什么我要做这么无聊的事情,答案你也许知道,因为没有女票.... ...

  3. CentOS7 搭建Ambari-Server,安装Hadoop集群(一)

    2017-07-05:修正几处拼写错误,之前没发现,抱歉! 第一次在cnblogs上发表文章,效果肯定不会好,希望各位多包涵. 编写这个文档的背景是月中的时候,部门老大希望我们能够抽时间学习一下Had ...

  4. 通过ambari安装hadoop集群,ZT

    通过ambari安装hadoop集群,ZT http://www.cnblogs.com/cenyuhai/p/3295635.html http://www.cnblogs.com/cenyuhai ...

  5. Linux上安装Hadoop集群(CentOS7+hadoop-2.8.0)--------hadoop环境的搭建

    Linux上安装Hadoop集群(CentOS7+hadoop-2.8.0)------https://blog.csdn.net/pucao_cug/article/details/71698903 ...

  6. 安装hadoop集群--hdfs

    安装hadoop集群--hdfs 大数据软件 链接:https://pan.baidu.com/s/1-3PYLHMgvvONawJq55hstQ 提取码:izqf 准备一台干净的虚拟机-centos ...

  7. 安装hadoop集群服务器(hadoop1.2.1)

    摘要:hadoop,一个分布式系统基础架构,可以充分利用集群的威力进行高速运算和存储.本文主要介绍hadoop的安装与集群服务器的配置. 准备文件: ▪ VMware11.0.0      ▪ Cen ...

  8. CentOS7 安装Hadoop集群环境

    先按照上一篇安装与配置好CentOS以及zookeeper http://www.cnblogs.com/dopeter/p/4609276.html 本章介绍在CentOS搭建Hadoop集群环境 ...

  9. 在虚拟机上配置安装hadoop集群

    原本以为有大神已经总结的很清楚了,就不自己在写了, 但是在自己安装的过程中还是出现了一些问题, 所以打算以自己的方式重新总结一下.    参考https://blog.csdn.net/hliq539 ...

随机推荐

  1. Adding New Machine ZOJ - 3540

    https://vjudge.net/problem/ZOJ-3540 错误记录: 扫描线没有考虑到同一行的要删除在前,加入在后:由于用了特殊的方式所以想当然以为不需要考虑这个问题 #include& ...

  2. (026)[工具软件]剪切板管理:Ditto

    剪切板管理软件:Ditto官网:http://ditto-cp.sourceforge.net/

  3. spark Listener和metrics实现分析

    在spark内部,rpc可以用来实现不同组件(Driver, executor,client)之间的远程交互.而在同一组件内,spark还有事件监听机制,如spark中各种指标的采集主要就是通过事件监 ...

  4. hash系列集合的性能优化

    hash系列的集合: HashSet.LinkedHashSet     采用hash算法决定元素在集合中的存储位置 HashMap.LinkedHashMap.Hashtable   采用hash算 ...

  5. 洛谷P2774 方格取数问题(最小割)

    题意 $n \times m$的矩阵,不能取相邻的元素,问最大能取多少 Sol 首先补集转化一下:最大权值 = sum - 使图不连通的最小权值 进行黑白染色 从S向黑点连权值为点权的边 从白点向T连 ...

  6. 【学习笔记】C++文件操作详解(ifstream、ofstream、fstream)

    C++ 通过以下几个类支持文件的输入输出: ofstream: 写操作(输出)的文件类 (由ostream引申而来) ifstream: 读操作(输入)的文件类(由istream引申而来) fstre ...

  7. FragmentTabHost实现标签卡效果

    转载请注明原文链接:http://www.cnblogs.com/yanyojun/p/8099523.html 代码已上传到github:https://github.com/YanYoJun/Fr ...

  8. 如何查看安装的java是32位的,还是64位的

    命令 java -d32 -version 或者 java -d64 -version

  9. ASP.NET Web API FilterAttribute假想

    偶然的测试发现API FilterAttribute没用引用只会初始化一次 比如: 如果是 Global Action Filter, 则全局只会初始化一次 针对于不同的Controller级别的Ac ...

  10. 如何实现Windows宿主系统和虚拟机ubuntu系统文件互相访问

    我的宿主操作系统是Windows 10,使用Oracle的Virtual Box安装了Ubuntu. 因为工作需要我经常得在两个系统之间互相拷贝一些数据,下面是具体步骤,可以实现Windows 10和 ...