CDH 安装遇到的问题
CDH 遇到的问题
l JAVA_HOME问题
这里, 很明显可以看到, JAVA_HOME 并没有设置成功。using as ... 感觉完全就是没有设置JAVA_HOME 这个环境变量。可是呢? 我确实是设置了JAVA_HOME 的,而且在linux shell 执行 echo $JAVA_HOME 也是有输出的。 百思不得其解。
后面偶然注意到, 其实是Bigtop 的原因: 由于CDH不会使用系统默认JAVA_HOME环境变量,而是使用Bigtop进行管理,故我们需要安装Bigtop的规则在指定的位置安装jdk。
配置在这里: cloudera-manager-centos7-cm5.11.1_x86_64\cm-5.11.1\lib64\cmf\service\common\cloudera-config.sh
其中可以看到:
local JAVA8_HOME_CANDIDATES=(
'/usr/java/jdk1.8'
'/usr/java/jre1.8'
'/usr/lib/jvm/j2sdk1.8-oracle'
'/usr/lib/jvm/j2sdk1.8-oracle/jre'
'/usr/lib/jvm/java-8-oracle'
)
于是,建立一个已经有的JAVA_HOME 链接到 /usr/java/jdk1.8 就好了!
l Mysql-jdbc驱动找不到
可能是CDH软件本身问题,我们需要在多个位置(主要是 hadoop、 hbase、spark 等的 lib 目录 )保持Mysql-jdbc驱动拷贝,这个工作必须手动完成。很多服务都会跟数据库打交道,都需要Mysql-jdbc驱动,但是CDH默认可能并没有附带一个相应的驱动。
l Master节点看不到其他从节点,或者连不上从节点,或者每次刷新页面,会有不同从节点出现。
首先看从节点的cm-agent是否配置正确( 百分之八十就是这个原因),启动是否有异常,然后再看防火墙、Selinux是否关闭,SSH免密是否ok,再看网络问题,以及主从各节点的系统负载是否过高导致响应很慢。
l 安装CDH耗时很长很长很长,而且最终还是失败
CM和CDH的版本必须是一样的,要一模一样,否则就会导致重新下载,下载的话,通常非常耗时,而且各种奇怪问题出现。
l 安装好后,访问管理界面,但是出现:Host Monitor和Service Monitor服务无法启动
CM 需要用到数据库,安装/启动CM之前,我们就应该先创建好各数据库,然后再安装CDH 过程中,我们需要正确填写。
l 机器变得很卡
CM 的Server 、 Agent启动后,机器变得很卡,那么我们就需要增加机器配置。这取决于我们安装的服务具体有哪些:
在CDH 安装过程中,我们选择了所有服务,故CDH 一次性把上面的都安装好了,但是,通常我们并需要这么多服务, 于是我们可以关掉其中一些服务。 另外, 如果确实需要运行这么多服务, 我们可以增加机器内存等配置。
因为安装了很多的服务,这些服务都是很好内存的,2G 内存是不够的, 我这里给每个节点分配4G 内存后感觉就好狠多了。
CDH 安装遇到的问题的更多相关文章
- cdh 安装记录
安装文件准备 CDH 下载地址:http://archive.cloudera.com/cdh5/parcels/latest/ 下载操作系统对应的版本: 1.CDH-5.3.0-1.cdh5.3.0 ...
- CDH 安装
CDH 安装 市场上免费大数据框架主要有三个版本,原生的 Apache 版本,Cloudera(https://www.cloudera.com/) 公司研发的(Cloudera Distributi ...
- CDH安装详细测试正确
1. CDH简介 简单来说,Cloudera Manager是一个拥有集群自动化安装.中心化管理.集群监控.报警功能的一个工具(软件),使得安装集群从几天的时间缩短在几个小时内,运维人员从数十人降低到 ...
- CDH安装错误集锦
CDH安装过程中出现的错误 1.iptables: /sbin/iptables 不存在 我是因为误删将 /sbin/下的文件删除了. 解决方法: yum install iptables 2.c ...
- CDH6.2安装配置第二篇:CDH安装的前期配置
本篇介绍cdh安装之前需要的一些必要配置,当然这些配置也可以用shell脚本来配置.在安装之前请先配置好yum源,在文中用的统一都是阿里源.在安装的时候,要确保主机的内存是4G以上,要不然会无限重启c ...
- CDH安装失败了,如何重新安装
1> 删除Agent节点的UUID # rm -rf /opt/cm-5.4.7/lib/cloudera-scm-agent/* 2> 清空主节点CM数据库 进入主节点的Mysql数据 ...
- CDH安装
离线安装Cloudera Manager 5和CDH5(最新版5.1.3) 完全教程 关于CDH和Cloudera Manager CDH (Cloudera's Distribution, incl ...
- CM+CDH安装遇到的问题
1.实在是在安装CDH的时候无法安装成功的话,只有重新启动了,下面给大家分享一个神器,按照这个脚本应该差不多就能卸载干净,然后重新安装,写一个脚本,内容如下,救命的神器呀: #!/bin/bash s ...
- CDH安装Hadoop
一.安装CDH-manager 1.关闭selinux 修改/etc/selinux/config 文件 将SELINUX=enforcing改为SELINUX=disabled 重启机器即可 2 ...
随机推荐
- DateGridView标题列头添加复选框
第一:添加列标题时,添加两个空格——用于显示复选框: 第二:实现列标题添加复选框,代码如下: private void AddCheckeBoxToDGVHeader(DataGridView dgv ...
- ROS学习材料/链接
ROS的3D模型建立:http://blog.csdn.net/sujun3304/article/details/18962719 ubuntu14 ROS安装:http://blog.csdn.n ...
- Memcached 集群架构方面的问题 [z]
集群架构方面的问题 memcached是怎么工作的? Memcached的神奇来自两阶段哈希(two-stage hash).Memcached就像一个巨大的.存储了很多<key,v ...
- Excel导出文件流下载
Controller.cs @CrossOrigin(allowCredentials="true", allowedHeaders="*", methods= ...
- Android开发之Activity生命周期篇
一.Activity: 1.Activity:Activity是一个与用记交互的系统模块,几乎所有的Activity都是和用户进行交互的. 2.在Android中Activity主要是用来做控制的,它 ...
- Mongod服务器安装
第一步下载mongodb 目前最新版本:3.4.4 第二步安装vc_redist.x64 服务器安装可能会需要到,如果没有出现以下错误不需要安装 --------------------------- ...
- C#多线程更新,查询MongoDB数据
对多线程一直在用,但是从来没去深入研究过注意的事项,包括和锁的配合也是一知半解没有真正理解锁(lock)的用法. 这次在做数据分析是需要将访问的url中host部分记录,如果已经存在就直接匹配id,没 ...
- MyBatis 的缓存机制
缓存机制可以减轻数据库的压力,原理是在第一查询时,将查询结果缓存起来,之后再查询同样的sql, 不是真的去查询数据库,而是直接返回缓存中的结果. 缓存可以降低数据库的压力,但同时可能无法得到最新的结果 ...
- spring笔记-@Primary注解
1.问题 当一个接口有2个不同实现时,使用@Autowired注解时会报org.springframework.beans.factory.NoUniqueBeanDefinitionExceptio ...
- HTTPConnectionPool(host:XX)Max retries exceeded with url 解决方法
爬虫多次访问同一个网站一段时间后会出现错误 HTTPConnectionPool(host:XX)Max retries exceeded with url '<requests.package ...