目前hadoop1的稳定版本是1.2.1,我们以版本1.2.1为例详细的介绍hadoop1的安装,此过程包括OS安装与配置,JDK的安装,用户和组的配置,这些过程在hadoop2也有可能用到. Hadoop 版本:1.2.1 OS 版本: Centos6.4 Jdk 版本: jdk1.6.0_32 环境配置 机器名 Ip地址 功能 Hadoop1 192.168.124.135 namenode, datanode, secondNameNode jobtracker, tasktracer H…

1.      配置主机的名称 master,slave1,slave2 2.      安装JDK: 3.      配置IP与主机名称的映射: 192.168.0.100 master 192.168.0.101 slave1 192.168.0.103 slave2 4.      配置ssh免password登陆: Ssh-keygen –t rsa 5.      解压hadoop的安装文件 6.      改动hadoop-env.sh, core-site.xml, hdfs-si…

一.常用文件及参数说明Core-site.xml       配置Common组件的属性 hdfs-site.xml         配置hdfs参数,比如备份数目,镜像存放路径 Mapred-site.xml     配置map-reduce组件的属性 1.conf/core-site.xml <configuration> <property> <name>fs.default.name</name> <value>hdfs://localh…

    练习题目     Hadoop1.X安装 2.1    准备工作 2.1.1   硬软件环境 2.1.2   集群网络环境 2.1.3   安装使用工具 2.2  环境搭建 2.2.1   安装操作系统 2.2.2   配置本地环境 2.2.3   设置操作系统环境 2.3    Hadoop变量配置 2.3.1   下载并解压hadoop安装包 2.3.2   在Hadoop-1.1.2目录下创建子目录 2.3.3   配置hadoop-env.sh 2.3.4   配置core-si…

由于之前部署的集群采用的是用apache hadoop的方式来实现,但是考虑到运维的成本问题,下面将apache hadoop转换成cloudera cdh.下面主要讲解一下cloudera cdh的安装过程: Cloudera公司官方网站上介绍了三种安装方式:(官网:http://hpdm.siat.ac.cn/static/help/topics/installation_installation.html) 方法一:在线安装 1.网上下载cloudera-manager-installer…

前面花了很多时间来介绍hadoop1的安装,随着hadoop的发展,hadoop2的应用也越来越普及,hadoop2解决了hadoop1中的很多问题,比如单点故障,namenode容量小的问题. 我们先来安装最简单的版本 Hadoop 版本:2.2.0 OS 版本: Centos6.4 Jdk 版本: jdk1.6.0_32 环境配置 机器名 Ip地址 功能 Hadoop1 192.168.124.135 NameNode, DataNode, SecondaryNameNode Resourc…

hive1.2.1在hadoop2.6.4集群上的安装 hive只需在一个节点上安装即可,这里再hadoop1上安装 1.上传hive安装包到/usr/local/目录下 2.解压 tar -zxvf /usr/local/hive-1.2.1.tar.gz  重命名 mv hive-1.2.1 hive 3.安装MySQL.具体步骤见<Linux下jdk.Tomcat.MySQL的安装> 4.配置hive (1)配置环境变量vi /etc/profile  添加:export HIVE_HO…

Hadoop介绍 上面是官方介绍,翻一下来总结一句话就是:Hadoop是一个高可用,用于分布式处理大规模计算的工具. Hadoop1.2 下载 . Hadoop1.2 安装 1. 安装jDK 2. 配置hadoop集群 1) 在hadoop-env.sh配置JAVA_HOME 2)配置core-site.xml 3) 配置hdfs-site.xml 4) 配置mapred-site.xml 5) 配置masters和slaves 我本地搭建Hadoop集群,一共三个节点,1主2从 3. 配置ho…

hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的sql查询功能,可以将sql语句转换为MapReduce任务进行运行. 其优点是学习成本低,可以通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapReduce应用,十分适合数据仓库的统计分析. Hive是建立在 Hadoop 上的数据仓库基础构架.它提供了一系列的工具,可以用来进行数据提取转化加载(ETL),这是一种可以存储.查询和分析存储在 Hadoop 中的大规模数据的…

目录 前文 hive3.1.2 安装及其配置(本地模式和远程模式) 1.下载hive包 2.修改其环境变量 3.MySQL配置 Centos7 MySQL安装步骤: 1.设置MySQL源 2.安装MySQL Community Server 3.启动MySQL服务 4.查找MySQL root密码 5.重置root密码 6.MySQL 服务加入开机启动项,并启动mysql进程 7.登录MySQL 8.配置mysql允许远程访问 9.附mysql常用命令: 4.将MySQL的JDBC驱动拷贝到Hi…