搭建hadpoot平台(集群式分布)
1.先下载VMware1.2,然后安装。
2.下载ubuntu-1.4.05-desktop-amd64.iso。下载地址:http://mirrors.aliyun.com/ubuntu-releases/14.04.5/
3.下载hadoop2.7。下载地址:http://archive.apache.org/dist/hadoop/core/hadoop-2.7.1/
4.下载jdk-8u171-linux-x64.tar.gz。到官网下载。参考教程:https://blog.csdn.net/zl007700/article/details/50533675
5.在VMware上安装ubuntu系统。
我安装了好几次。第一次是因为到开机时运行到某个命令行停止运行了,我百度了许多,但是都不管用。然后进行了第二次重装ubuntu系统。安装好之后,登陆密码却忘记了。最后只能再安装一遍,终于成功。
6.新建文件夹software,将hadoop2.7和jdk-8u171-linux-x64.tar.gz拷贝到ubuntu系统的文件夹内,并解压。
7.安装jdk
(1)按“ctrl"+"Alt"+"F6"从图形化界面切换到命令行。
因为“ctrl"+"Alt"和我虚拟机上鼠标移入/移除命令相同。然后选择虚拟机上”编辑“->“首选项”->”热键“修改鼠标移入、移出命令得快捷键。
但是修改之后进入命令行依然有时不灵。
(2)输入命令:sudo mkdir /usr/lib.jvm
(3)输入命令:sudo cp -r software/jdk1.8.0_171 /usr/lib/jvm/
我输入命令后提示权限不够。然后我想进入root用户,但是密码没有设置,于是先设置root密码,然后进入root用户,
输入命令“cp -r software/jdk1.8.0_171 /usr/lib/jvm/"。
(4)输入“sudo vi /etc/profile"命令打开/etc/profile"文件
我刚开始按照教程上输入的命令时“sudo gredit /etc/profile",但是报错。后来又用上面的命令打开文件。
(5)在末尾加上四行:
export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_171
export JAVA_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH
在编辑文件前先输入“i",编辑文件完成后按”esc",输入“:wq"保存文件并退出。
(6)输入“source /etc/profile”执行文件
输入“java –version”查看环境是否配置成功
8.安装配置SSH
(1)输入“sudo apt-get update”,更新apt
但是发现提示“连接失败”,于是到百度找到阿里云的sources.list文件更换。在sources.list更换成功后,发现还是报“404”错。发现虚拟机上不能连接网络。
然后在VMware上设置虚拟机联网为桥接网络。
重启虚拟机,发现虚拟机已联网。
然后重新输入“sudo apt-get update“执行
(2)输入“sudo apt-get install openssh-server”
输入“ssh localhost”查看SSH是否安装成功
(安装成功)
(3)生成密匙
输入“ssh-keygen –t rsa”然后一直按回车选择默认。
(4)实现了mater对slave1, slave2的无密码登陆。但是这一步有点错。正确操作参考:https://blog.csdn.net/zl007700/article/details/50533675
9.选择克隆出另外一台虚拟机Slave1 Ubuntu 14.10 64bit 。
虚拟机右键-》管理-》克隆。选择完整克隆。
9.配置hadoop
(1)在software/hadoop-2.7.6文件夹下新建文件new.txt。输入:
mkdir software/hadoop-2.7.6/tmp
mkdir software/hadoop-2.7.6/hdfs
mkdir software/hadoop-2.7.6/hdfs/nam
mkdir software/hadoop-2.7.6/hdfs/data
保存。
(2)到命令行查看ip。
输入“ifconfig -a”
虚拟机1:192.168.43.96
虚拟机2:192.168.43.229
(2)修改hosts。输入“sudo gedit /etc/hosts”
修改成:
但是因为图形界面没有管理员权限。所以只能在命令行的模式下进行修改
(3)修改环境变量
先切换当前目录到hadoop-2.7.6。输入“cd ~/software/hadoop-2.7.6/"
再在“hadoop-env.sh”文件中修改路径。输入“vi etc/hadoop/hadoop-env.sh”,然后修改JAVA_HOME的路径。
☆因为在命令行修改文件内容实在太困难了,所以我想在图形化界面登录root用户来修改文件。
设置图形化界面登录root:输入“vi /usr/share/lightdm/lightdm.conf.d/50-ubuntu.conf“
但是最后不知道为什么登陆界面还是没出现root登陆。
但是发现在图形化界面可以修改“etc/hadoop/hadoop-env.sh”内容。
(4)在相同文件夹下的core-site.xml进行修改
(5)
(5)
(6)
(7)分发配置好的hadoop文件夹到slave1, slave2
(8)格式化hdfs
(9)启动集群
启动后分别在两台虚拟机上查看jps
搭建hadpoot平台(集群式分布)的更多相关文章
- gitbook安装与使用之windows下搭建gitbook平台
最近需要在GitBook中去阅读电子书 安装nodejs cnpm安装gitbook 解压书籍文件,并cd到书籍文件目录 gitbook serve 浏览器访问localhost:4000 先在win ...
- eclispe搭建android平台
1.不推荐在线安装android ADT,因为需要FQ.可以在网上下载ADT,然后离线安装. 离线安装方式:help->Install ->点击add然后选择你的安装包(不需要解压),一直 ...
- 源码搭建lnmp平台
lnmp平台是指利用linux操作系统,nginx服务器,mysql数据库和php语言搭建高性能web服务器,负载均衡器和邮件代理服务器. 原理图:‘
- MAC中在eclipse luna上搭建移动平台自己主动化測试框架(UIAutomator/Appium/Robotium/MonkeyRunner)关键点记录
这几天由于原来在用的hp laptop的电池坏掉了,机器一不小心就断电.所以仅仅能花时间在自己的mackbook pro上又一次搭建整套环境.大家都知道搭建好开发环境是个非常琐碎须要耐心的事情,特别是 ...
- MAC中在eclipse luna上搭建移动平台自动化测试框架(UIAutomator/Appium/Robotium/MonkeyRunner)关键点记录
这几天因为原来在用的hp laptop的电池坏掉了,机器一不小心就断电,所以只能花时间在自己的macbook pro上重新搭建整套环境,大家都知道搭建环境是个很琐碎需要耐心的事情,特别是当你搭建的安卓 ...
- logstash+elasticsearch+kibana快速搭建日志平台
使用logstash+elasticsearch+kibana快速搭建日志平台 日志的分析和监控在系统开发中占非常重要的地位,系统越复杂,日志的分析和监控就越重要,常见的需求有: 根据关键字查询日 ...
- windows平台下基于QT和OpenCV搭建图像处理平台
在之前的博客中,已经分别比较详细地阐述了"windows平台下基于VS和OpenCV"以及"Linux平台下基于QT和OpenCV"搭建图像处理框架,并 ...
- 大数据Hadoop学习之搭建hadoop平台(2.2)
关于大数据,一看就懂,一懂就懵. 一.概述 本文介绍如何搭建hadoop分布式集群环境,前面文章已经介绍了如何搭建hadoop单机环境和伪分布式环境,如需要,请参看:大数据Hadoop学习之搭建had ...
- 玩转X-CTR100 l STM32F4 l X-CTR100与树莓派搭建机器人平台
我造轮子,你造车,创客一起造起来!塔克创新资讯[塔克社区 www.xtark.cn ][塔克博客 www.cnblogs.com/xtark/ ] 本文介绍X-CTR100控制器与树莓派Linux系统 ...
随机推荐
- 基于GStreamer编写Mp3播放器
一.简介 作者系统为CentOS6,本文在此基础上对Mp3播放器进行开发,需要使用mp3解码库libmad和gstreamer0.10-plugins-ugly,详细步骤如下. 二.操作步骤 1) ...
- CF938D Buy a Ticket
这个题都想不出来,感觉
- Luogu 3233 [HNOI2014]世界树
BZOJ 3572 首先看出虚树,然后考虑如何$dp$. 我们先在处理出的虚树上$dp$一遍,处理出虚树上所有点距离最近的关键点(关键点一定在虚树上嘛). 具体来说,先搜一遍处理出每一个点的父亲到它的 ...
- SDUT 1177 C语言实验——时间间隔
C语言实验——时间间隔 Time Limit: 1000MS Memory Limit: 65536KB Submit Statistic Discuss Problem Description 从键 ...
- LVM扩展学习日志
lvm是逻辑卷管理的简称,它将一个或多个物理硬盘分区(PV)组成一个逻辑硬盘(VG)来使用, 然后从这个VG中划分出逻辑分区(LV), 以上概念是我理解的东西,可能和书上的不一样. 以下所有命令都是 ...
- Android 实现形态各异的双向侧滑菜单 自定义控件来袭(转载)
1.概述 关于自定义控件侧滑已经写了两篇了~~今天决定把之前的单向改成双向,当然了,单纯的改动之前的代码也没意思,今天不仅会把之前的单向改为双向,还会多添加一种侧滑效果,给大家带来若干种形态各异的双向 ...
- Mysql 大数据量导入程序
Mysql 大数据量导入程序<?xml:namespace prefix = o ns = "urn:schemas-microsoft-com:office:office" ...
- [译]Javascript中的本地以及全局变量
本文翻译youtube上的up主kudvenkat的javascript tutorial播放单 源地址在此: https://www.youtube.com/watch?v=PMsVM7rjupU& ...
- c#写对象来读取TXT文本文件
本博文让你知道怎样写对象,怎样读取文本文件,怎样根据实际条件判断与获取需要的文本行.参考下面网友的问题,根据源文来看,有些行输出的格式,需要把“,”替换为空格. 第一行还附加入后面的子行每一行的后面, ...
- ubuntu - 14.04,必须会的技能-安装PPA源中的程序,更大范围使用deb格式安装文件!!
在使用ubuntu时候,管理各种软件最方便的方式肯定是使用软件中心了,这个管理工具类似windows的 程序管理了,使用它有两个好处: 1,无需处理包依赖,linux里面程序存在各种依赖关系,这在以往 ...