单机安装hadoop集群
一 、安装前准备
1.VMware虚拟内容
2.Linux系统 (CentOS-6.9-min)
3.jdk 1.8 rpm或bin文件
https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html
4.hadoop 安装文件 rpm或bin文件
https://hadoop.apache.org/releases.html
5.SecureCRT 本人喜欢用这个
6.规划好ip段
cmd 查看自己的ip; 192.168.50.3起
192.168.50.11 master
192.168.50.12 slave1/node1
192.168.50.13 slave2/node2
192.168.50.14 slave3/node3
二 、安装
安装虚拟软件...略;VMware 软件有三种网络设置,本文使用的是NAT方式,主要是它对ip设置比较容易不会对外物理机造成干扰.
安装完软件开始安装centOS
一路Next过来,到
我选的是自定义方式,这个主要是类似windows 分盘,我这是简单的分成三个:一个根目录,一个启动,一个swap
接着一直Next到底重启就安装结束;关机拍个快照方便后面使用的时候又来一次安装省时省力.
3.开始配置网络和其他节点虚拟机,此时就用到上面规划的ip
主节点名称安装的时候就已经设置好了所以不用再改,直接配置网络ip
vi /etc/sysconfig/network-scripts/ifcfg-eth0
ip设置好后就配置网络映射关系
vi /etc/hosts
映射关系配置文件,避免mac地址的冲突
rm –rf /etc/udev/rules.d/70-persistent-net.rules
关闭防火墙 service iptables stop或chkconfig iptables off 重启网卡 service network restart
到此主节点的网络已经配置完成,可以测试一下网络是否通了,是否发现局域网已经可以了,但外网不行如果要配置外网只需把dns2本地物理ip设置为物理机的网关就行,网络好了就可以SecureCRT 连接了.
开始安装jdk 和 hadoop (这个地方你可以关闭机器拍个快照后面在安装使用scp命令拷贝到其他节点)
安装目录一定的记住,虽然后面可以用命令查看到安装目录不过文件保存的太深麻烦;
我自己安装的都放在apps下,根目录下新建 apps目录后 Alt+P 打开SFTP界面 拖拽jdk和hadoop文件上传
文件上传完,可以使用tar命令去解压安装了 (安装完顺手删除gz文件)
tar -zxvf jdk-8u181-linux-x64.tar.gz -C apps/
tar -zxvf hadoop-3.1.1.tar.gz -C apps/
接下来配置jdk环境变量了 vi /etc/profile
export JAVA_HOME=/root/apps/jdk1.8.0_181
export CLASSPATH=.:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar
export PATH=$JAVA_HOME/bin:$PATH
保存后 source /etc/profile 刷新;使用java -verison 看看是否配置成功
hadoop 的后面在配置 主机配置到处结束,可以直接关机快照后配置节点
三 、节点配置
1.节点配置相对第一次简单很多了,使用vm软件的克隆快速备份出节点,备份好记得开机前重新生成mac地址避免冲突
配置节点名称 hostname slave1 如果还不行执行 # sysctl kernel.hostname=slave1 强制修改
然后 vi /etc/sysconfig/network
2.ip地址配置
vi /etc/sysconfig/network-scripts/ifcfg-eth0
这里是和host文件一一对应 如slave1 是192.168.50.12
3.重启网卡 service network restart
4.测试是否可以和其他机器通信 ping 192.168.50.11
到处节点1配置完成。。其他节点参照步骤就行了,虚拟机已经部署就位。
单机安装hadoop集群的更多相关文章
- 安装Hadoop集群的最快的软件
Quick Hadoop是一款安装Hadoop集群的桌面软件,只需要点两下鼠标,一分钟之内安装Hadoop到集群上,超快! 还在每台主机的Shell里一行一行地敲安装Hadoop的命令?别苦逼了! 用 ...
- docker安装hadoop集群
docker安装hadoop集群?图啥呢?不图啥,就是图好玩.本篇博客主要是来教大家如何搭建一个docker的hadoop集群.不要问 为什么我要做这么无聊的事情,答案你也许知道,因为没有女票.... ...
- CentOS7 搭建Ambari-Server,安装Hadoop集群(一)
2017-07-05:修正几处拼写错误,之前没发现,抱歉! 第一次在cnblogs上发表文章,效果肯定不会好,希望各位多包涵. 编写这个文档的背景是月中的时候,部门老大希望我们能够抽时间学习一下Had ...
- 通过ambari安装hadoop集群,ZT
通过ambari安装hadoop集群,ZT http://www.cnblogs.com/cenyuhai/p/3295635.html http://www.cnblogs.com/cenyuhai ...
- Linux上安装Hadoop集群(CentOS7+hadoop-2.8.0)--------hadoop环境的搭建
Linux上安装Hadoop集群(CentOS7+hadoop-2.8.0)------https://blog.csdn.net/pucao_cug/article/details/71698903 ...
- 安装hadoop集群--hdfs
安装hadoop集群--hdfs 大数据软件 链接:https://pan.baidu.com/s/1-3PYLHMgvvONawJq55hstQ 提取码:izqf 准备一台干净的虚拟机-centos ...
- 安装hadoop集群服务器(hadoop1.2.1)
摘要:hadoop,一个分布式系统基础架构,可以充分利用集群的威力进行高速运算和存储.本文主要介绍hadoop的安装与集群服务器的配置. 准备文件: ▪ VMware11.0.0 ▪ Cen ...
- CentOS7 安装Hadoop集群环境
先按照上一篇安装与配置好CentOS以及zookeeper http://www.cnblogs.com/dopeter/p/4609276.html 本章介绍在CentOS搭建Hadoop集群环境 ...
- 在虚拟机上配置安装hadoop集群
原本以为有大神已经总结的很清楚了,就不自己在写了, 但是在自己安装的过程中还是出现了一些问题, 所以打算以自己的方式重新总结一下. 参考https://blog.csdn.net/hliq539 ...
随机推荐
- WIN7 X64的运行命令窗口
要在WIN7系统下用界面的方式执行运行命令,则可以用如下两种方法方法打开运行对话框.1.点Win+R(run)就能出来的.2.在开始菜单上点右键,选“属性”,进入开始菜单属性设置界面,单击底部的“自定 ...
- 在MacOs上安装sqlsrv Mojave - 找不到'php.h'文件
Mojave没有安装标头. 要安装标头: open /Library/Developer/CommandLineTools/Packages/macOS_SDK_headers_for_macOS_1 ...
- 洛谷p1115 最大子段和
题目链接: 最大子段和 题目分析: 动态规划O(n)求解,设f[i]表示以i为终点的最大子段和 分两种情况: 若f[i-1]>0,则显然f[i]=f[i-1]+a[i](a[i]必须包含在内) ...
- [APIO2012]派遣 洛谷P1552 bzoj2809 codevs1763
http://www.codevs.cn/problem/1763/ https://www.lydsy.com/JudgeOnline/problem.php?id=2809 https://www ...
- josephus 问题的算法(转载)
Josephus 问题: 一群小孩围成一个圈,任意假定一个数 m,从第一个小孩起,顺时针方向数,每数到第 m 个小孩时,该小孩便离开.小孩不断离开,圈子不断缩小,最后剩下的一个小孩便是胜利者.究竟胜利 ...
- 164 Maximum Gap 最大间距
给定一个无序的数组,找出数组在排序后相邻的元素之间最大的差值.尽量尝试在线性时间和空间复杂度情况下解决此问题.若数组元素个数少于2,则返回0.假定所有的元素都是非负整数且范围在32位有符号整数范围内. ...
- jQuery attr() 源码解读
我们知道,$().attr()实质上是内部调用了jQuery.access方法,在调用时jQuery.attr作为回调传入.在通过种种判断(参看jQuery.access()方法)之后,取值和赋值最后 ...
- Java_面向对象中的this和super用法
this: 1.使用在类中,可以用来修饰属性.方法.构造器 2.表示当前对象或者是当前正在创建的对象 3.当形参与成员变量重名时,如果在方法内部需要使用成员变量,必须添加 this 来表明该变量时类成 ...
- JS内置对象练习(慕课网题目)
效果图: XXXX年XX月X日 星期X--班级总分为:81 格式要求: 1.显示打印的日期. 格式为类似“XXXX年XX月XX日 星期X” 的当前的时间. 2.计算出该班级的平均分(保留整数). 同学 ...
- 【学习笔记】OSG 基本几何图元
例:geom->addPrimitiveSet(new osg::DrawArrays(osg::PrimitiveSet::QUADS,0,4)); 来指定要利用这些数据生成一个怎么样的形状. ...