最近一段时间团队接到的项目需要处理的数据量非常大,之前的处理方式难以满足现有需求.最近两周前前后后折腾了不少,在搭建了hadoop+hbase+hive+spark的一个集群后,由于感觉管理和监控太麻烦就把它给干掉了,转而折腾CDH. 安装CDH前需要安装Cloudera Manager,官方文档提供的A,B,C三种安装方式.方式A傻瓜式的安装部署,安装时最好祈祷一次成功,否则卸载时时候非常麻烦.本文主要介绍方式C的部署. 系统环境以及相关软件版本 机器数量:4台PC,名称分别为Master,…

1.cdh5 支持jdk7和jdk82.cloudera只支持oracle发布的jdk3.集群中所有主机的jdk版本必须一致4.生态圈中用到的所有组件所依赖的jdk版本必须一致5.cloudera manager的版本要不小于CDH的版本6.CDH与CM5.11.x支持的操作系统版本: centos  6.9 (with Known Issue), 6.8, 6.7, 6.6, 6.5, 6.4 ubuntu 16.04 LTS (Xenial) 14.04 LTS (Trusty) 12.04…

概述 文件下载 系统环境搭建 日志查看 Q&A 参考 概述 CDH (Cloudera's Distribution, including Apache Hadoop),是Hadoop众多分支中的一种,由Cloudera维护,基于稳定版本的Apache Hadoop构建,并集成了很多补丁,可直接用于生产环境. Cloudera Manager则是为了便于在集群中进行Hadoop等大数据处理相关的服务安装和监控管理的组件,对集群中主机.Hadoop.Hive.Spark等服务的安装配置管理做了极大…

master  192.168.1.30 saver1  192.168.1.40 saver2  192.168.1.50 首先,时间同步 然后,ssh互通 接下来开始: 1.安装MySQL5.6.44 tar -xvf MySQL-5.6.44-1.el6.x86_64.rpm-bundle.tar rpm -ivh MySQL-server-5.6.44-1.el6.x86_64.rpm rpm -ivh MySQL-devel-5.6.44-1.el6.x86_64.rpm 启动MySQ…

简介: 在我的CDH5.11集群中,默认安装的spark是1.6版本,这里需要将其升级为spark2.x版本.经查阅官方文档,发现spark1.6和2.x是可以并行安装的,也就是说可以不用删除默认的1.6版本,可以直接安装2.x版本,它们各自用的端口也是不一样的.我尝试了安装spark2.0版本和spark2.1版本,均告成功.这里做一下安装spark2.1版本的步骤记录.   首先贴出一些官方的网址,有兴趣的可以去看看: Cloudera发布Apache Spark 2概述(可以在这里面找到安…

一.简介 hue是一个开源的apache hadoop ui系统,由cloudear desktop演化而来,最后cloudera公司将其贡献给了apache基金会的hadoop社区,它基于python框架django实现的. 通过使用hue,我们可以使用可视化的界面在web浏览器上与hadoop集群交互来分析处理数据,例如操作hdfs上的数据,运行MapReduce Job,查看HBase中的数据 二.安装 (1)下载 http://archive.cloudera.com/cdh5/cdh/…

c++11 gcc4.8.x安装 2014年12月11日默北   要安装PHP-CPP,需要c++11,否则就会报错,错误信息如下所示: g++ -Wall -c -g -std=c++11 -fpic -o shared/common/modifiers.o common/modifiers.cppcc1plus: error: unrecognized command line option “-std=c++11″make: *** [shared/common/modifiers.o]…

11年macbook air安装win10折腾了好久,安装成功经验记录下. 1.使用BootCamp v6.0.6133 2.启动时U盘里面有两个引导Window和EFI,选择Windows启动.EFI方式安装,无法安装声卡驱动,安装显卡驱动黑屏. 3.分区的时候直接格式化,不要删除新建再格式化.这里可能会发生找不到盘的情况,切到MAC系统使用BootCamp助手重新建立引导分区.或者使用分区工具分区FAT,这里已不记得那种方式成功的. 4.安装BootCamp需要使用Administrator…

CDH (Cloudera’s Distribution, including Apache Hadoop),是Hadoop众多分支中的一种,由Cloudera维护,基于稳定版本的Apache Hadoop构建,并集成了很多补丁,可直接用于生产环境. Cloudera Manager则是为了便于在集群中进行Hadoop等大数据处理相关的服务安装和监控管理的组件,对集群中主机.Hadoop.Hive.Spark等服务的安装配置管理做了极大简化. 相关包的下载地址: Cloudera Manager…

Apache Hadoop的服务的部署比較繁琐.须要手工编辑配置文件.下载依赖包等.Cloudera Manager以GUI的方式的管理CDH集群,提供向导式的安装步骤.因为须要对Hive,HBase,Impala,Spark进行功能測试,就採用了Cloudera Manager方式进行安装. Cloudera Manager提供两种软件包安装源,Package 和 Parcel: Package就是一个个rpm文件.以yum的方式组织起来. Parcel是rpm包的压缩格式.以.parcel结…