2016-01-1910:54:05  增加kafka

1.简介

本文介绍在离线环境下安装Cloudera manager和简单使用方法

2.环境

OS:CentOS 6.7

Cloudera manager版本:5.5.1

CDH版本:5.4.2

安装用户:root

资源:

10.211.55.16 xufeng-1 CM主节点,CM代理节点
10.211.55.17 xufeng-2 CM代理节点
10.211.55.18 xufeng-3 CM代理节点

3.介质准备

由于是要求在离线环境下进行安装,所以我们必须是先下载好安装所需要的所有介质。

你也可以直接从我的分享下载对应的安装包。

1.下载cm5.5.1安装介质:

wget -c -r -nd -np -k -L -A rpm http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.5.1/RPMS/x86_64/

2.下载CDH的Parcel介质(包含CDH中的Hadoop组件):

wget http://archive.cloudera.com/cdh5/parcels/5.4.2/CDH-5.4.2-1.cdh5.4.2.p0.2-el6.parcel

wget http://archive.cloudera.com/cdh5/parcels/5.4.2/manifest.json

3.下载httpd安装rpm包,后需要用于启动httpd服务。

yum install --downloadonly --downloaddir=./  httpd

4.下载createrepo工具rpm包,后续用于yum的安装源元数据构建。

yum install --downloadonly --downloaddir=./  createrepo

5.下载安装其他cloudera manager安装过程中其他依赖rpm文件.

在安装过程中系统会提示相应的依赖工具未安装,可使用上述yum的download方法去下载相应的工具rpm包即可。

下载完毕后按照如下文件木进行存放:

[安装CM管理节点]

 1.[主节点]环境初始化

1.主节点主机初始化

a.关闭selinux

/etc/selinux/config

SELINUX=disabled

b.初始化网络服务

[root@xufeng- rpm]# chkconfig iptables off
[root@xufeng- rpm]# /etc/init.d/network restart
正在关闭接口 eth0: [确定]
关闭环回接口: [确定]
弹出环回接口: [确定]
弹出界面 eth0:
正在决定 eth0 的 IP 信息...完成。
[确定]
[root@xufeng- rpm]# init

c.安装createrepo工具

[root@xufeng- createrepo_rpm]# ls
createrepo-0.9.-.el6.noarch.rpm libxml2-2.7.-.el6_7..x86_64.rpm python-deltarpm-3.5-0.5.20090913git.el6.x86_64.rpm
deltarpm-3.5-0.5.20090913git.el6.x86_64.rpm libxml2-python-2.7.-.el6_7..x86_64.rpm
[root@xufeng- createrepo_rpm]# rpm -ivh * --force
warning: createrepo-0.9.-.el6.noarch.rpm: Header V3 RSA/SHA1 Signature, key ID c105b9de: NOKEY
Preparing... ########################################### [%]
:libxml2 ########################################### [ %]
:libxml2-python ########################################### [ %]
:deltarpm ########################################### [ %]
:python-deltarpm ########################################### [ %]
:createrepo ########################################### [%]
[root@xufeng- createrepo_rpm]#

d.安装httpd服务

[root@xufeng- httpd_rpm]# ls
apr-1.3.-.el6_2.x86_64.rpm apr-util-ldap-1.3.-.el6_0..x86_64.rpm httpd-tools-2.2.-.el6.centos..x86_64.rpm
apr-util-1.3.-.el6_0..x86_64.rpm httpd-2.2.-.el6.centos..x86_64.rpm mailcap-2.1.-.el6.noarch.rpm
[root@xufeng- httpd_rpm]# rpm -ivh *
warning: apr-1.3.-.el6_2.x86_64.rpm: Header V3 RSA/SHA1 Signature, key ID c105b9de: NOKEY
Preparing... ########################################### [%]
:apr ########################################### [ %]
:apr-util ########################################### [ %]
:apr-util-ldap ########################################### [ %]
:httpd-tools ########################################### [ %]
:mailcap ########################################### [ %]
:httpd ########################################### [%]
[root@xufeng- httpd_rpm]#

2.[主节点]搭建yum安装源

后续无论是节点发现还是hadoop安装等都需要一个yum安装源和httpd服务来负责将clouderamanager和cdh内容进行发布。

a.创建安装源元数据:

[root@xufeng- rpm]# pwd
/opt/cmrepo/rpm
[root@xufeng- rpm]# createrepo .
Spawning worker with pkgs
Workers Finished
Gathering worker results Saving Primary metadata
Saving file lists metadata
Saving other metadata
Generating sqlite DBs
Sqlite DBs complete

执行完毕后在路径下生成repodata文件夹,即为元数据

b.将文件移动到特定目录,确保可以使用http协议进行访问

[root@xufeng- html]# mkdir -p /var/www/html/cdh5/5.4.
[root@xufeng- html]# ls
cdh5
[root@xufeng- html]# cp /opt/
cmrepo/ createrepo_rpm/ httpd_rpm/
[root@xufeng- html]# cp -r /opt/cmrepo/* /var/www/html/cdh5/5.4.2/
[root@xufeng- html]# ls /var/www/html/cdh5/5.4./
CDH-5.4.-.cdh5.4.2.p0.-el6.parcel manifest.json rpm
[root@xufeng- html]# chmod -R ugo+rX /var/www/html/

c.启动httpd服务

[root@xufeng- html]# service httpd start
Starting httpd: httpd: Could not reliably determine the server's fully qualified domain name, using 10.211.55.16 for ServerName
[ OK ]
[root@xufeng- html]# chkconfig httpd on

d.在浏览器中输入<ip>/var/www/html/cdh5/5.4.2/ 你应该能够看到如下页面:

e.设置yum安装源:

由于是离线环境我们并不需要其他在线安装源,删除:

[root@xufeng- html]# rm -rf /etc/yum.repos.d/*

增加自建的yum安装源:

[root@xufeng- html]# cat /etc/yum.repos.d/myrepo.repo
[myrepo]
name=myrepo
baseurl=http://10.211.55.16/cdh5/5.4.2/rpm/
enabled=
gpgcheck=

f.使用自建yum安装源进行ntpd服务安装

[root@xufeng-1 rpm]# yum install ntp

[root@xufeng- rpm]# service ntpd start
Starting ntpd: [ OK ]
[root@xufeng- rpm]# chkconfig ntpd on

3.[主节点]cloudera manager 安装开始

1.安装jdk

yum install oracle-j2sdk1.

2.安装cloudera manager管理器服务

yum install cloudera-manager-daemons cloudera-manager-server

3.安装内置数据库

yum install cloudera-manager-server-db-

4.启动内置数据库

[root@xufeng- rpm]# service cloudera-scm-server-db start

5.启动Cloudera管理服务

[root@xufeng- rpm]# service cloudera-scm-server start

上述完成后即可访问管理页面,输入http://<ip>:7180

[How to]Cloudera manager 离线安装手册的更多相关文章

  1. Cloudera Manager的安装

    1.  cloudera manager的概念 简单来说,Cloudera Manager是一个拥有集群自动化安装.中心化管理.集群监控.报警功能的一个工具(软件),使得安装集群从几天的时间缩短在几个 ...

  2. Cloudera Manager(CentOS)安装介绍

    相信通过这篇文章大家都对Cloudera Manager及CDH安装有一个整体的认识 目 录 1           准备工 作.................................... ...

  3. CDH 2、Cloudera Manager的安装

    1.Cloudera Manager • Cloudera Manager是一个管理CDH的端到端的应用. • 作用: – 管理 – 监控 – 诊断 – 集成 • 架构 • Server – 管理控制 ...

  4. CM (Cloudera Manager) 的安装,便于CDH的离线部署

    一.准备工作 主机个数:n台 操作系统:CentOS 6.5 安装所需软件包: CM: cloudera-manager-el6-cm5.4.3_x86_64.tar.gz CDH parcel: C ...

  5. 离线安装Cloudera Manager 5和CDH5

    关于CDH和Cloudera Manager CDH (Cloudera's Distribution, including Apache Hadoop),是Cloudera 完全开源的Hadoop  ...

  6. CentOS 6.4 离线安装 Cloudera 5.7.1 CDH 5.7.1

    因为项目开发需要要在本地组建一个Hadoop/Spark集群,除了Hadoop/Spark还要同时安装多个相关的组件,如果一个个组件安装配置,对于一个由多台服务器组成的集群来说,工作量是巨大的. 所以 ...

  7. Cloudera Manager安装之Cloudera Manager 5.3.X安装(三)(tar方式、rpm方式和yum方式)

    不多说,直接上干货! 福利每天都有  =>  =>=>=>=> 欢迎大家,关注微信扫码并加入我的4个微信公众号:   大数据躺过的坑      Java从入门到架构师  ...

  8. CentOS7 Cloudera Manager6 完全离线安装 CDH6 集群

    本文是在CentOS7.4 下进行CDH6集群的完全离线部署.CDH5集群与CDH6集群的部署区别比较大. 说明:本文内容所有操作都是在root用户下进行的. 文件下载 首先一些安装CDH6集群的必须 ...

  9. Cloudera Manager 4.6 安装部署hadoop CDH集群

    Cloudera Manager 4.6 安装详解 1. Cloudera Manager介绍 1.1. 功能介绍 Cloudera Manager是一个针对hadoop集群的管理工具,功能包括:cd ...

随机推荐

  1. Oracle-RAC原理

    Oracle-RAC原理 来源 https://blog.csdn.net/qq_34556414/article/details/79001267 单点数据库 VS RAC 单节点数据库,如果实例宕 ...

  2. 【题解】Atcoder ARC#85 E-MUL

    ……没啥可说的.最大权闭合子图,跑下dinic就好了…… #include <bits/stdc++.h> using namespace std; #define maxn 500000 ...

  3. lalala

    <script type="text/javascript"> var a_idx = 0; var b_idx = 0; var a = new Array(&quo ...

  4. [SHOI2012]回家的路 最短路

    ---题面--- 题解: 吐槽:找了好久的错,换了n种方法,重构一次代码,,,, 最后发现,,, 数组开小了,其实一开始尝试开大了数组,但唯独没有尝试开大手写队列的数组.... 思路: 有两种方法,这 ...

  5. Java编程MapReduce实现WordCount

    Java编程MapReduce实现WordCount 1.编写Mapper package net.toocruel.yarn.mapreduce.wordcount; import org.apac ...

  6. springMVC文件上传的三种方法

    这时:commonsmultipartresolver 的源码,可以研究一下 http://www.verysource.com/code/2337329_1/commonsmultipartreso ...

  7. C#学习目录处理

    目录获取和处理: string path = ".";//表明要在当前所在的目录 //先定义目录信息变量 DirectoryInfo dir = new DirectoryInfo ...

  8. java removeAll和重写equals、hashcode引起的性能问题

    问题背景: 上周发现了一个spark job的执行时间从原来的10-15分钟延迟到了7个小时!wtf,这是出了什么事引起了这么大的性能问题!! 立马查看job的运行日志,发现多次运行都是在某一个固定的 ...

  9. JAVA List集合转Page(分页对象)

    /** * @version 1.0 * @author: fwjia */ import java.util.List; public class PageModel<T> { /*** ...

  10. Java集合(3)一 红黑树、TreeMap与TreeSet(上)

    目录 Java集合(1)一 集合框架 Java集合(2)一 ArrayList 与 LinkList Java集合(3)一 红黑树.TreeMap与TreeSet(上) Java集合(4)一 红黑树. ...