一、准备软件

二、安装虚拟机

1.新建虚拟机向导

2.安装客户机操作系统

3.用户名密码设置

4.设置虚拟机名称和保存位置

5.处理器设置

6.设置虚拟机内存

7.然后一直next下去(有的根据自己的意识改一下有些命名,其他的按照推荐)

三、安装 Hadoop

1.先将下载好的软件放入Ubuntu的home/Downloads目录下

2.解压jdk

3.将 解压后的jdk1.7.0_79移动到/opt/java(注意在opt路径下创建java路径:mkdir java)路径下

注:有的用户不是root权限,需要先获得root权限

sudo su

移动文件的代码:

sudo mv /home/komean/Downloads/jdk1..0_79 .

4.对 jdk 的环境变量进行配置,打开系统环境变量配置文件

gedit /etc/profile

在文本最后添加配置如下

export JAVA_HOME=/opt/java/jdk1..0_79
export CLASSPATH=.:${JAVA_HOME}/lib:${JAVA_HOME}E/lib
export PATH=${JAVA_HOME}/bin:$PATH

添加完环境变量后,需要使更改过的环境变量系统文件生效

source /etc/profile

5.检测java

6.安装 ssh (ssh 可直接 ubuntu 软件市场的 apt-get 命令进行下载)为了配合hadoop 的使用,需要将ssh 设置为无密码登录

sudo apt-get install openssh-server

在更目录(就是有opt,usr那个目录)

ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa 
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

通过连接本地来测试安装与配置是否成功

注释:有的root账号无法登录SSH问题-Permission denied, please try again.

在root权限下

gedit /etc/ssh/sshd_config

ctrl+f找到"# Authentication:"

将下面三行内容替换成:

LoginGraceTime
#PermitRootLogin prohibit-password
PermitRootLogin yes
StrictModes yes

重启

7.安装 Hadoop

完成前两步的操作,接着安装 Hadoop。前两步都是Hadoop 运行时必不可少的软件,所以请勿忽略。同理,将hadoop-2.6.5.tar.gz 下载下来,对其进行解压缩。将解压缩的hadoop-2.6.4 存放到/usr/local/路径下,然后同样需要配置Hadoop的环境变量,这些过程与安装jdk 时使用的命令与过程相同,在此不再赘述。主要讨论如何将Hadoop 配置为本地模式。配置过程主要为对以下文件的修改。 注意:在配置前 /usr/local/下创建hadoop路径,在hadoop下创建 tmp路径,以及在tmp路径下创建dfs路径,以及在dfs路径下创建name和data

解压hadoop-2.6.5.tar.gz

sudo tar -zxf hadoop-2.6..tar.gz

sudo mv /home/komean/Downloads/hadoop-2.6. .

/usr/local/下创建hadoop路径,在hadoop下创建 tmp路径,以及在tmp路径下创建dfs路径,以及在dfs路径下创建name和data

没有root权限先获取root权限

sudo su

进入/usr/local/hadoop-2.6.5/etc/hadoop

cd /usr/local/hadoop-2.6./etc/hadoop 

(1)配置文件core-site.xml

gedit core-site.xml

在文本后配置

<configuration>
<property>
<name>hadoop.tmp.dir</name>
<value>file:/usr/local/hadoop/tmp</value>
<description>Abase for other temporary directories.</description>
</property>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>

(2)配置文件hdfs-site.xml

gedit hdfs-site.xml

在文本后配置

<configuration>
<property>
<name>dfs.replication</name>
<value></value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/data</value>
</property>
</configuration>

(3)配置文件mapred-site.xml.template

gedit  mapred-site.xml.template

在文本后配置

<configuration>
<property>
<name>mapred.job.tracker</name>
<value>localhost:</value>
</property>
</configuration>

(4)配置文件Hadoop-env.sh

gedit hadoop-env.sh

找到export JAVA_HOME,配置JAVA_HOME路径

export JAVA_HOME="/opt/java/jdk1.7.0_79"

(5)在/etc/profile 文件加入 Hadoop 的环境变量

export JAVA_HOME=/opt/java/jdk1..0_79
export CLASSPATH=.:${JAVA_HOME}/lib:${JAVA_HOME}E/lib
export HADOOP_HOME=/usr/local/hadoop-2.6.
export PATH=${JAVA_HOME}/bin:$PATH:${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin

(6)使用命令source /etc/profile 使环境变量更新起作用

source /etc/profile

(7)配置完成后,需要验证是否配置正确

初始化 HDFS 系统

进入 /usr/local/hadoop-2.6.5

cd /usr/local/hadoop-2.6.

Hadoop初始化

bin/hdfs namenode -format

Hadoop启动

sbin/start-all.sh

JPS 语句检测(注意:这里表示成功的信息必须含有除掉 JPS 的其他五个进程,缺一不可,如若出现缺少,如果是DataNode 以及 NameNode,那么就是 dfs 的配置不正确,重新配置然后删掉原来生成temp 文件,重新启动)

jps

四。安装Hive

1.安装 MySQL

sudo apt-get install mysql-server

检查MySQL 进程是否已经启动

service mysql status

登录MySQL

mysql -u root -p

2.安装 Hive

解压apache-hive-1.2.1-bin.tar.gz

sudo tar -zxf apache-hive-1.2.-bin.tar.gz

移动到/usr/local/hadoop-2.6.5/hive路径下

sudo mv /home/komean/Downloads/apache-hive-1.2.-bin .

在/etc/profile 文件中,添加 HIVE_HOME和PATH

gedit /etc/profile

配置如下:

export JAVA_HOME=/opt/java/jdk1..0_79
export CLASSPATH=.:${JAVA_HOME}/lib:${JAVA_HOME}E/lib
export HADOOP_HOME=/usr/local/hadoop-2.6.
export HIVE_HOME=/usr/local/hadoop-2.6./hive/apache-hive-1.2.-bin
export PATH=${JAVA_HOME}/bin:$PATH:${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin:$PATH:${HIVE_HOME}/bin

保存

source /etc/profile

修改Hive 本身的配置文件(在/usr/local/hadoop-2.6.4/apache-hive-1.2.1-bin/conf 中复制一份 hive-default.xml.template ,并重命名为 hive-size.xml 文件。)

cp  hive-default.xml.template  hive-size.xml

编辑hive-size.xml

gedit hive-size.xml

(1)修改javax.jdo.option.ConnectionURL属性

<property>
<name>javax.jdo.option.ConnectionURL</name>
<value>jdbc:mysql://localhost/hive?createDatabaseIfNotExist=true</value>
<description>JDBC connect string for a JDBC metastore</description>
</property>

(2)修改javax.jdo.option.ConnectionDriverName属性

<property>
<name>javax.jdo.option.ConnectionDriverName</name>
<value>com.mysql.jdbc.Driver</value>
<description>Driver class name for a JDBC metastore</description>
</property>

(3)修改javax.jdo.option.ConnectionUserName属性。即数据库用户名

<property>
<name>javax.jdo.option.ConnectionUserName</name>
<value>root</value>
<description>Username to use against metastore database</description>
</property>

(4)修改javax.jdo.option.ConnectionPassword属性。即数据库密码

<property>
<name>javax.jdo.option.ConnectionPassword</name>
<value></value>
<description>password to use against metastore database</description>
</property>

(5)添加如下属性hive.metastore.local

<property>
<name>hive.metastore.local</name>
<value>true</value>
</property>

(6)修改hive.server2.logging.operation.log.location属性,因为默认的配置里没有指定具体的路径

<property>
<name>hive.server2.logging.operation.log.location</name>
<value>/usr/local/hadoop-2.6./hive/tmp/hive/operation_logs</value>
<description>Top level directory where operation logs are stored if logging functionality is enabled</description>
</property>

(7)修改hive.exec.local.scratchdir属性

<property>
<name>hive.exec.local.scratchdir</name>
<value>/usr/local/hadoop-2.6./hive/tmp/hive</value>
<description>Local scratch space for Hive jobs</description>
</property>

(8)修改hive.downloaded.resources.dir属性

<property>
<name>hive.downloaded.resources.dir</name>
<value>/usr/local/hadoop-2.6./hive/tmp/hive/resources</value>
<description>Temporary local directory for added resources in the remote file system.</description>
</property>

(9)修改属性hive.querylog.location属性

<property>
<name>hive.querylog.location</name>
<value>/usr/local/hadoop-2.6./hive/tmp/hive/querylog</value>
<description>Location of Hive run time structured log file</description>
</property>

注意,在

/usr/local/hadoop-2.6.5/hive 路径下新建tmp目录,tmp下新建hive目录,hive下新建
operation_logs、resources、querylog目录

注意:将/usr/local/hadoop-2.6.5/hive/apache-hive-1.2.1-bin/lib下的jline-2.12.jar替换掉/usr/local/hadoop-2.6.5/share/hadoop/yarn/lib自带的包。不然会报错

最后,将下载的 mysql-connector-java-5.0.8-bin.jar复制到 /usr/local/hadoop-2.6.5/hive/apache-hive-1.2.1-bin/lib中

检验

进入

/usr/local/hadoop-2.6.5
cd /usr/local/hadoop-2.6.

Hadoop初始化(第一次需要,以后不需要)

bin/hdfs namenode -format

Hadoop启动

sbin/start-all.sh

jps检验

jps

MySQL启动

service mysql start

重点hive启动:

1.如果我们在home下面进入hive,那么我们的metastore_db,就会产生在home目录下。
2.如果我们在/usr目录下进入hive,那么我们的metastore_db,就会产生在usr目录下。
这里我们选择在/usr/local/hadoop-2.6.5启动hive

hive

数据库设计:

# .创建库
CREATE DATABASE SW;
# 使用sw
USE SW; # .创建Time维度表
CREATE TABLE Time(
Time_key BIGINT,
year INT,
month INT,
day INT)
row format delimited fields terminated by '\t'; # 导入time.txt
LOAD DATA LOCAL INPATH '/home/komean/Downloads/data/time.txt' OVERWRITE INTO TABLE Time; # .创建Software维度
CREATE TABLE Software(
Software_key STRING,
software_name STRING)
row format delimited fields terminated by '\t'; # 导入software.txt
LOAD DATA LOCAL INPATH '/home/komean/Downloads/data/software.txt' OVERWRITE INTO TABLE Software; # .创建软件中心维度
CREATE TABLE Software_center(
Software_center_key STRING,
software_center_name STRING,
software_center_site STRING)
row format delimited fields terminated by '\t'; # 导入software_center.txt
LOAD DATA LOCAL INPATH '/home/komean/Downloads/data/software_center.txt' OVERWRITE INTO TABLE Software_center; # .创建Area维度表
CREATE TABLE Area(
Area_key STRING,
area_name STRING)
row format delimited fields terminated by '\t'; # 导入area.txt
LOAD DATA LOCAL INPATH '/home/komean/Downloads/data/area.txt' OVERWRITE INTO TABLE Area; # .创建Fact表
CREATE TABLE Fact(
Time_key BIGINT,
Software_key STRING,
Software_center_key STRING,
Area_key STRING,
Software_rate float,
Software_download_count BIGINT,
Software_download_site STRING)
row format delimited fields terminated by '\t'; # 导入area.txt
LOAD DATA LOCAL INPATH '/home/komean/Downloads/data/fact.txt' OVERWRITE INTO TABLE Fact;

效果检测:

设置端口

gedit hive-size.xml

<property>
<name>hive.server2.thrift.port</name>
<value></value>
<description>Port number of HiveServer2 Thrift interface when hive.server2.transport.mode is 'binary'.</description>
</property>

当我们要通过WEB连接驱动访问hive时,先必须开启hiveserver2服务(/usr/local/hadoop-2.6.5目录下开启)

hive --service hiveserver2

(在这个窗口不关闭的情况下)然后,在/usr/local/hadoop-2.6.5/hive/apache-hive-1.2.1-bin/bin路径下打开终端(通过终端进入一样)

beeline

连接

!connect jdbc:hive2://127.0.0.1:10000 

查询我们刚刚在hive中建立的信息

在Ubuntu上搭建hive环境的更多相关文章

  1. Ubuntu上搭建Hadoop环境(单机模式+伪分布模式) (转载)

    Hadoop在处理海量数据分析方面具有独天优势.今天花了在自己的Linux上搭建了伪分布模式,期间经历很多曲折,现在将经验总结如下. 首先,了解Hadoop的三种安装模式: 1. 单机模式. 单机模式 ...

  2. 在ubuntu上搭建开发环境3---解决Y470一键系统重装之后恢复ubuntu引导启动的方法

    2015/08/18 将知识.常用的操作整理出来一定要完整,注意细节. 就像下面是再2015.04.27时候整理的,当时确实实验成功了,但是可能忘记记下具体的细节,尤其是3.4.5.6步骤中的关于盘符 ...

  3. Ubuntu上搭建Hadoop环境(单机模式+伪分布模式)

    首先要了解一下Hadoop的运行模式: 单机模式(standalone)        单机模式是Hadoop的默认模式.当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选 ...

  4. 在ubuntu上搭建交叉编译环境---arm-none-eabi-gcc

    最近要开始搞新项目,基于arm的高通方案的项目. 那么,如何在ubuntu上搭建这个编译环境呢? 1.找到相关的安装包:http://download.csdn.net/download/storea ...

  5. Ubuntu上搭建Hadoop环境(单机模式+伪分布模式)【转】

    [转自:]http://blog.csdn.net/hitwengqi/article/details/8008203 最近一直在自学Hadoop,今天花点时间搭建一个开发环境,并整理成文. 首先要了 ...

  6. 在ubuntu上搭建开发环境4---ubuntu简单的搭建LAMP环境和配置

    最近重新安装了Ubuntu,但是之前的LAMP环境自然也就没有了,实在是不想再去编译搭建LAMP环境(这种方法实在是太费时间,而且太容易遇到各种不知道为什么的错误),所以,就去查查有没有什么简单的搭建 ...

  7. ubantu上搭建hive环境

    上次我们在ubantu上安装了hadoop,那我们现在再进一步,开始我们的学习之旅--hive板块吧! 第一步:准备! 软件: I.一个搭建好的hadoop环境 II.hive的bin文件(前往apa ...

  8. 在ubuntu上搭建开发环境2---Win7、Ubuntu双系统正确删除Ubuntu

    这种删除ubuntu的方式就是针对本博客中搭建双系统的方式:http://www.cnblogs.com/xumenger/p/4459963.html 如果ubuntu不是以wubi方式安装的,那么 ...

  9. ubuntu上搭建工作环境

    版本号ubuntu desktop, v12.4, v13.10. 长处: 1)绚丽易用的可视化环境: 2)丰富的可用package.在这点上比centos强太多.后者更新较慢: 不足: 1)在笔记本 ...

随机推荐

  1. plink参数说明

    Plink: command-line connection utilityRelease 0.67Usage: plink [options] [user@]host [command]       ...

  2. Cocoa、Foundation、UIKit、Objective-c、XCode、Interface Builder的概念

    转自:http://blog.csdn.net/hou_cocoa/article/details/6187418 Cocoa 是在Mac OS X系统上原生的一个编译环境.他包含两个框架,其实就是一 ...

  3. nginx源代码分析--GDB调试

    利用gdb[i]调试nginx[ii]和利用gdb调试其他程序没有两样,只是nginx能够是daemon程序,也能够以多进程执行,因此利用gdb调试和寻常会有些许不一样. 当然,我们能够选择将ngin ...

  4. tornado部署

    1.为什么要运行多个tornado实例同步请求时,在应用处理过程中(如数据库查询,磁盘访问),服务器进程不能接受新请求.所以需要运行多个服务器进程实例.异步请求时,在应用处理时,服务器进程是非阻塞的, ...

  5. CSS3多列布局

    通过 CSS3,您能够创建多个列来对文本进行布局 - 就像报纸那样! 在本章中,您将学习如下多列属性: column-count column-gap column-rule 浏览器支持 属性 浏览器 ...

  6. java中的类加载器ClassLoader和类初始化

    每个类编译后产生一个Class对象,存储在.class文件中,JVM使用类加载器(Class Loader)来加载类的字节码文件(.class),类加载器实质上是一条类加载器链,一般的,我们只会用到一 ...

  7. Okra框架(三) 搭建HTTP服务器

    Okra通过封装成熟高效的框架以简化应用程序服务器构建的过程.上一篇介绍了使用Okra快速搭建Socket服务器. 本篇承接上一篇,介绍快速搭建简单高性能的Http服务器. 这里需要说明一下Okra框 ...

  8. sama5d36 can0 can1 测试

    1 删除/bin/ip 保留/sbin/ip 2 ip link set can0 type can bitrate 125000 ip link set can1 type can bitrate ...

  9. spingboot集成jpa(一)

    springboot + jpa 练习 spingboot集成jpa(一):最基本的环境搭建 spingboot集成jpa(二):使用单元测试 1. pom.xml中添加依赖 <!-- jdbc ...

  10. 在 Java 8 中获取日期

    前言 前面一篇文章写了<SimpleDateFormat 如何安全的使用?>, 里面介绍了 SimpleDateFormat 如何处理日期/时间,以及如何保证线程安全,及其介绍了在 Jav ...