[How to]Cloudera manager 离线安装手册
2016-01-1910:54:05 增加kafka
1.简介
本文介绍在离线环境下安装Cloudera manager和简单使用方法
2.环境
OS:CentOS 6.7
Cloudera manager版本:5.5.1
CDH版本:5.4.2
安装用户:root
资源:
10.211.55.16 xufeng-1 CM主节点,CM代理节点
10.211.55.17 xufeng-2 CM代理节点
10.211.55.18 xufeng-3 CM代理节点
3.介质准备
由于是要求在离线环境下进行安装,所以我们必须是先下载好安装所需要的所有介质。
你也可以直接从我的分享下载对应的安装包。
1.下载cm5.5.1安装介质:
wget -c -r -nd -np -k -L -A rpm http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.5.1/RPMS/x86_64/
2.下载CDH的Parcel介质(包含CDH中的Hadoop组件):
wget http://archive.cloudera.com/cdh5/parcels/5.4.2/CDH-5.4.2-1.cdh5.4.2.p0.2-el6.parcel wget http://archive.cloudera.com/cdh5/parcels/5.4.2/manifest.json
3.下载httpd安装rpm包,后需要用于启动httpd服务。
yum install --downloadonly --downloaddir=./ httpd
4.下载createrepo工具rpm包,后续用于yum的安装源元数据构建。
yum install --downloadonly --downloaddir=./ createrepo
5.下载安装其他cloudera manager安装过程中其他依赖rpm文件.
在安装过程中系统会提示相应的依赖工具未安装,可使用上述yum的download方法去下载相应的工具rpm包即可。
下载完毕后按照如下文件木进行存放:
[安装CM管理节点]
1.[主节点]环境初始化
1.主节点主机初始化
a.关闭selinux
/etc/selinux/config
SELINUX=disabled
b.初始化网络服务
[root@xufeng- rpm]# chkconfig iptables off
[root@xufeng- rpm]# /etc/init.d/network restart
正在关闭接口 eth0: [确定]
关闭环回接口: [确定]
弹出环回接口: [确定]
弹出界面 eth0:
正在决定 eth0 的 IP 信息...完成。
[确定]
[root@xufeng- rpm]# init
c.安装createrepo工具
[root@xufeng- createrepo_rpm]# ls
createrepo-0.9.-.el6.noarch.rpm libxml2-2.7.-.el6_7..x86_64.rpm python-deltarpm-3.5-0.5.20090913git.el6.x86_64.rpm
deltarpm-3.5-0.5.20090913git.el6.x86_64.rpm libxml2-python-2.7.-.el6_7..x86_64.rpm
[root@xufeng- createrepo_rpm]# rpm -ivh * --force
warning: createrepo-0.9.-.el6.noarch.rpm: Header V3 RSA/SHA1 Signature, key ID c105b9de: NOKEY
Preparing... ########################################### [%]
:libxml2 ########################################### [ %]
:libxml2-python ########################################### [ %]
:deltarpm ########################################### [ %]
:python-deltarpm ########################################### [ %]
:createrepo ########################################### [%]
[root@xufeng- createrepo_rpm]#
d.安装httpd服务
[root@xufeng- httpd_rpm]# ls
apr-1.3.-.el6_2.x86_64.rpm apr-util-ldap-1.3.-.el6_0..x86_64.rpm httpd-tools-2.2.-.el6.centos..x86_64.rpm
apr-util-1.3.-.el6_0..x86_64.rpm httpd-2.2.-.el6.centos..x86_64.rpm mailcap-2.1.-.el6.noarch.rpm
[root@xufeng- httpd_rpm]# rpm -ivh *
warning: apr-1.3.-.el6_2.x86_64.rpm: Header V3 RSA/SHA1 Signature, key ID c105b9de: NOKEY
Preparing... ########################################### [%]
:apr ########################################### [ %]
:apr-util ########################################### [ %]
:apr-util-ldap ########################################### [ %]
:httpd-tools ########################################### [ %]
:mailcap ########################################### [ %]
:httpd ########################################### [%]
[root@xufeng- httpd_rpm]#
2.[主节点]搭建yum安装源
后续无论是节点发现还是hadoop安装等都需要一个yum安装源和httpd服务来负责将clouderamanager和cdh内容进行发布。
a.创建安装源元数据:
[root@xufeng- rpm]# pwd
/opt/cmrepo/rpm
[root@xufeng- rpm]# createrepo .
Spawning worker with pkgs
Workers Finished
Gathering worker results Saving Primary metadata
Saving file lists metadata
Saving other metadata
Generating sqlite DBs
Sqlite DBs complete
执行完毕后在路径下生成repodata文件夹,即为元数据
b.将文件移动到特定目录,确保可以使用http协议进行访问
[root@xufeng- html]# mkdir -p /var/www/html/cdh5/5.4.
[root@xufeng- html]# ls
cdh5
[root@xufeng- html]# cp /opt/
cmrepo/ createrepo_rpm/ httpd_rpm/
[root@xufeng- html]# cp -r /opt/cmrepo/* /var/www/html/cdh5/5.4.2/
[root@xufeng- html]# ls /var/www/html/cdh5/5.4./
CDH-5.4.-.cdh5.4.2.p0.-el6.parcel manifest.json rpm
[root@xufeng- html]# chmod -R ugo+rX /var/www/html/
c.启动httpd服务
[root@xufeng- html]# service httpd start
Starting httpd: httpd: Could not reliably determine the server's fully qualified domain name, using 10.211.55.16 for ServerName
[ OK ]
[root@xufeng- html]# chkconfig httpd on
d.在浏览器中输入<ip>/var/www/html/cdh5/5.4.2/ 你应该能够看到如下页面:
e.设置yum安装源:
由于是离线环境我们并不需要其他在线安装源,删除:
[root@xufeng- html]# rm -rf /etc/yum.repos.d/*
增加自建的yum安装源:
[root@xufeng- html]# cat /etc/yum.repos.d/myrepo.repo
[myrepo]
name=myrepo
baseurl=http://10.211.55.16/cdh5/5.4.2/rpm/
enabled=
gpgcheck=
f.使用自建yum安装源进行ntpd服务安装
[root@xufeng-1 rpm]# yum install ntp
[root@xufeng- rpm]# service ntpd start
Starting ntpd: [ OK ]
[root@xufeng- rpm]# chkconfig ntpd on
3.[主节点]cloudera manager 安装开始
1.安装jdk
yum install oracle-j2sdk1.
2.安装cloudera manager管理器服务
yum install cloudera-manager-daemons cloudera-manager-server
3.安装内置数据库
yum install cloudera-manager-server-db-
4.启动内置数据库
[root@xufeng- rpm]# service cloudera-scm-server-db start
5.启动Cloudera管理服务
[root@xufeng- rpm]# service cloudera-scm-server start
上述完成后即可访问管理页面,输入http://<ip>:7180
1. cloudera manager的概念 简单来说,Cloudera Manager是一个拥有集群自动化安装.中心化管理.集群监控.报警功能的一个工具(软件),使得安装集群从几天的时间缩短在几个 ... 相信通过这篇文章大家都对Cloudera Manager及CDH安装有一个整体的认识 目 录 1 准备工 作.................................... ... 1.Cloudera Manager • Cloudera Manager是一个管理CDH的端到端的应用. • 作用: – 管理 – 监控 – 诊断 – 集成 • 架构 • Server – 管理控制 ... 一.准备工作 主机个数:n台 操作系统:CentOS 6.5 安装所需软件包: CM: cloudera-manager-el6-cm5.4.3_x86_64.tar.gz CDH parcel: C ... 关于CDH和Cloudera Manager CDH (Cloudera's Distribution, including Apache Hadoop),是Cloudera 完全开源的Hadoop ... 因为项目开发需要要在本地组建一个Hadoop/Spark集群,除了Hadoop/Spark还要同时安装多个相关的组件,如果一个个组件安装配置,对于一个由多台服务器组成的集群来说,工作量是巨大的. 所以 ... 不多说,直接上干货! 福利每天都有 => =>=>=>=> 欢迎大家,关注微信扫码并加入我的4个微信公众号: 大数据躺过的坑 Java从入门到架构师 ... 本文是在CentOS7.4 下进行CDH6集群的完全离线部署.CDH5集群与CDH6集群的部署区别比较大. 说明:本文内容所有操作都是在root用户下进行的. 文件下载 首先一些安装CDH6集群的必须 ... Cloudera Manager 4.6 安装详解 1. Cloudera Manager介绍 1.1. 功能介绍 Cloudera Manager是一个针对hadoop集群的管理工具,功能包括:cd ... Oracle-RAC原理 来源 https://blog.csdn.net/qq_34556414/article/details/79001267 单点数据库 VS RAC 单节点数据库,如果实例宕 ... ……没啥可说的.最大权闭合子图,跑下dinic就好了…… #include <bits/stdc++.h> using namespace std; #define maxn 500000 ... <script type="text/javascript"> var a_idx = 0; var b_idx = 0; var a = new Array(&quo ... ---题面--- 题解: 吐槽:找了好久的错,换了n种方法,重构一次代码,,,, 最后发现,,, 数组开小了,其实一开始尝试开大了数组,但唯独没有尝试开大手写队列的数组.... 思路: 有两种方法,这 ... Java编程MapReduce实现WordCount 1.编写Mapper package net.toocruel.yarn.mapreduce.wordcount; import org.apac ... 这时:commonsmultipartresolver 的源码,可以研究一下 http://www.verysource.com/code/2337329_1/commonsmultipartreso ... 目录获取和处理: string path = ".";//表明要在当前所在的目录 //先定义目录信息变量 DirectoryInfo dir = new DirectoryInfo ... 问题背景: 上周发现了一个spark job的执行时间从原来的10-15分钟延迟到了7个小时!wtf,这是出了什么事引起了这么大的性能问题!! 立马查看job的运行日志,发现多次运行都是在某一个固定的 ... /** * @version 1.0 * @author: fwjia */ import java.util.List; public class PageModel<T> { /*** ... 目录 Java集合(1)一 集合框架 Java集合(2)一 ArrayList 与 LinkList Java集合(3)一 红黑树.TreeMap与TreeSet(上) Java集合(4)一 红黑树. ...[How to]Cloudera manager 离线安装手册的更多相关文章
随机推荐