Hadoop安装过程
1、安装JDK
apt-get install openjdk-7-jdk
2、配置环境变量
vim /etc/profile
编辑:
export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64(jdk安装位置)
export JRE_HOME=$JAVA_HOME/jre
export CLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH
让配置生效:
source /etc/profile
3、配置Hadoop
3.1 下载Hadoop:
wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-1.2.1/hadoop-1.2.1.tar.gz
3.2 放到/opt/下
root@imooc:~# mv hadoop-1.2.1.tar.gz /opt/
3.3 解压:
root@imooc:/opt# tar -zxvf hadoop-1.2.1.tar.gz
3.4 配置文件:
root@imooc:/opt# cd hadoop-1.2.1/conf/
需要修改的有四个文件:mapred-site.xml core-site.xml hdfs-site.xml hadoop-env.sh
3.4.1 vim hadoop-env.sh
修改JAVA_HOME配置(可用echo $JAVA_HOME查看JAVA_HOME位置)
export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64
3.4.2 vim core-site.xml
<configuration>
<!-- hadoop工作目录 -->
<property>
<name>hadoop.tmp.dir</name>
<value>/hadoop</value>
</property> <!-- namenode所有元数据目录 -->
<property>
<name>dfs.name.dir</name>
<value>/hadoop/name</value>
</property> <!-- 文件系统namenode改如何访问,其中imooc为host的name -->
<property>
<name>fs.default.dir</name>
<value>hdfs://imooc:9000</value>
</property>
</configuration>
3.4.3 vim hdfs-site.xml
<configuration>
<!-- 文件系统数据存放目录 -->
<property>
<name>dfs.data.dir</name>
<value>/hadoop/data</value>
</property>
</configuration>
3.4.4 vim mapred-site.xml
<configuration>
<property>
<!-- 配置任务调度器改如何访问,其中imooc为主机名 -->
<name>mapred.job.tracker</name>
<value>imooc:9001</value>
</property>
</configuration>
3.5 配置hadoop环境变量
vim /etc/profile
加上 export HADOOP_HOME=/opt/hadoop-1.2.1
PATH加上$HADOOP_HOME/bin
生效 source /etc/profile
执行hadoop命令,如果有改命令则配置成功,改命令在 /opt/hadoop-1.2.1/bin/ 下。
4、启动hadoop
启动之前先对namenode进行格式化:hadoop namenode -format
启动:start-all.sh(改命令在 /opt/hadoop-1.2.1/bin/ 下),期间需要输出几次密码
执行jps,如果看到JobTracker Jps DataNode TaskTracker NameNode SecondaryNameNode说明hadoop正常运行
Hadoop安装过程的更多相关文章
- hadoop安装过程中出现的错误
此次来记录一下我在安装Hadoop安装过程中出现的错误,安装过程参照慕课网林子雨教程进行安装,在尝试过程中出现的错误如下: 1.在安装Ubuntu时,新建虚拟电脑时,并没有在版本的输入框中有Ubunt ...
- hadoop 安装过程记录
1)首先配置好了四个linux虚拟机 root pwd:z****l*3 关闭了防火墙 开通了 sshd服务 开通了 ftp服务 配置了 jdk 1.8 配置好了互信 (之前配置的过程忘了!--检查了 ...
- Hadoop 安装过程中出现的问题
1.hadoop-daemon.sh start namenode 启动失败 查看hadoop/logs 下面的日志 出现 2017-04-11 15:35:13,860 WARN org.apach ...
- Hadoop集群搭建安装过程(三)(图文详解---尽情点击!!!)
Hadoop集群搭建安装过程(三)(图文详解---尽情点击!!!) 一.JDK的安装 安装位置都在同一位置(/usr/tools/jdk1.8.0_73) jdk的安装在克隆三台机器的时候可以提前安装 ...
- Hadoop集群搭建安装过程(二)(图文详解---尽情点击!!!)
Hadoop集群搭建安装过程(二)(配置SSH免密登录)(图文详解---尽情点击!!!) 一.配置ssh无密码访问 ®生成公钥密钥对 1.在每个节点上分别执行: ssh-keygen -t rsa(一 ...
- Hadoop集群搭建安装过程(一)(图文详解---尽情点击!!!)
Hadoop集群搭建(一)(上篇中讲到了Linux虚拟机的安装) 一.安装所需插件(以hadoop2.6.4为例,如果需要可以到官方网站进行下载:http://hadoop.apache.org) h ...
- Hadoop 在windows 上伪分布式的安装过程
第一部分:Hadoop 在windows 上伪分布式的安装过程 安装JDK 1.下载JDK http://www.oracle.com/technetwork/java/javaee/d ...
- Hadoop集群中pig工具的安装过程记录
在Hadoop环境中安装了pig工具,安装过程中碰到了一些问题,在此做一下记录: 主要安装流程参考:http://www.cnblogs.com/yanghuahui/p/3768270.html ...
- Hadoop之hive安装过程以及运行常见问题
Hive简介 1.数据仓库工具 2.支持一种与Sql类似的语言HiveQL 3.可以看成是从Sql到MapReduce的映射器 4.提供shall.Jdbc/odbc.Thrift.Web等接口 Hi ...
随机推荐
- Fiddler 4 实现手机App的抓包
Fiddler不但能截获各种浏览器发出的HTTP请求, 也可以截获各种智能手机发出的HTTP/HTTPS请求. Fiddler能捕获IOS设备发出的请求,比如IPhone, IPad, MacBook ...
- docker基础-虚拟化与容器介绍
正如所有关心docker技术的人所知道的那样,docker是以容器虚拟化为技术为基础的软件,因此在学习docker具体的内容之前,有必要讨论一下虚拟化和容器技术. 虚拟化技术: 在了解虚拟化技术时,各 ...
- lintcode-136-分割回文串
136-分割回文串 给定一个字符串s,将s分割成一些子串,使每个子串都是回文串. 返回s所有可能的回文串分割方案. 样例 给出 s = "aab",返回 [ ["aa&q ...
- [CCF] 201612-2 工资计算
[思路]按照题意对初始工资S进行循环,计算缴税后工资,若与T相等则退出循环,输出结果. #include <iostream> #include <windows.h> usi ...
- Redis学习笔记之基础篇
Redis是一款开源的日志型key-value数据库,目前主要用作缓存服务器使用. Redis官方并没有提供windows版本的服务器,不过微软官方开发了基于Windows的Redis服务器Micro ...
- 将CRUD封装到一个工具类中
package org.zln.hibernate.utils; import org.hibernate.Session; import org.hibernate.SessionFactory; ...
- 不使用库函数、自己编写的(strlen、strcpy、strcmp、strcat、memcmp、memcpy、memmove)
不使用库函数.自己编写的(strlen.strcpy.strcmp.strcat.memcmp.memcpy.memmove) //求字符串长度的函数 int my_strlen(const char ...
- [NOIP2018 TG D1T3]赛道修建
题目大意:$NOIP2018\;TG\;D1T3$ 题解:题目要求最短的赛道的长度最大,可以想达到二分答案,接着就是一个显然的树形$DP$. 发现对于一个点,它子树中若有两条链接起来比要求的答案大,一 ...
- [POI2007]ATR-Tourist Attractions
题目大意:一个无向图,从$1$到$n$,要求必须经过$2,3,\dots,k+1$,给出一些限制关系,要求在经过$v\leq k+1$之前必须经过$u\leq k+1$,求最短路 题解:预处理出$1\ ...
- [Leetcode] scramble string 乱串
Given a string s1, we may represent it as a binary tree by partitioning it to two non-empty substrin ...