GreenPlum 大数据平台--集群恢复

一,问题描述 :::: gpinitstandby:greenplum01:gpadmin-[ERROR]:-Cannot use -n option when standby master has not yet been configured :::: gpinitstandby:greenplum01:gpadmin-[ERROR]:-Error initializing standby master: Standby master not configured 节点很久没有管了,然后服务…

部署开启了Kerberos身份验证的大数据平台集群外客户端

转载请注明出处 :http://www.cnblogs.com/xiaodf/ 本文档主要用于说明,如何在集群外节点上,部署大数据平台的客户端,此大数据平台已经开启了Kerberos身份验证.通过客户端用户在集群外就可以使用集群内的服务了,如查询集群内的hdfs数据,提交spark任务到集群内执行等操作. 具体部署步骤如下所示: 1.拷贝集群内hadoop相关组件包到客户端本地创建目录/opt/cloudera/parcels mkdir –R /opt/cloudera/parcels 拷贝…

大数据Hadoop-Spark集群部署知识总结（一）

大数据Hadoop-Spark集群部署知识总结一.启动/关闭 hadoop myhadoop.sh start/stop 分步启动: 第一步:在hadoop102主机上 sbin/start-dfs.sh 第二步:在hadoop103主机上 sbin/start-yarn.sh 分步关闭: 第一步:在hadoop103主机上 sbin/stop-yarn.sh 第二步:在hadoop102主机上 sbin/stop-dfs.sh myhadoop.sh脚本文件内容 #!/bin/bash if…

大数据——Hadoop集群坏境CentOS安装

前言前面我们主要分析了搭建Hadoop集群所需要准备的内容和一些提前规划好的项,本篇我们主要来分析如何安装CentOS操作系统,以及一些基础的设置,闲言少叙,我们进入本篇的正题. 技术准备 VMware虚拟机.CentOS 6.8 64 bit 安装流程因为我的笔记本是Window7操作系统,然后内存配置,只有8G,内存配置太低了,当然为了演示,我会将Hadoop集群中的主节点分配2GB内存,然后剩余的三个节点都是1GB配置. 所有的节点存储我都设置为50GB. 在安装操作系统之前,我们需要…

GreenPlum 大数据平台--常用命令

gpstate 命令参数作用 gpstate -b => 显示简要状态 gpstate -c => 显示主镜像映射 gpstart -d => 指定数据目录(默认值:$MASTER_DATA_DIRECTORY) gpstate -e => 显示具有镜像状态问题的片段 gpstate -f => 显示备用主机详细信息 gpstate -i => 显示GRIPLUM数据库版本 gpstate -m => 显示镜像实例同步状态 gpstate -p => 显…

一台虚拟机，基于docker搭建大数据HDP集群

前言好多人问我,这种基于大数据平台的xxxx的毕业设计要怎么做.这个可以参考之前写得关于我大数据毕业设计的文章.这篇文章是将对之前的毕设进行优化. 个人觉得可以分为两个部分.第一个部分就是基础的平台搭建.例如Hadoop集群.Kafka集群. 第二个部分就是上层应用的建设,例如基于大数据平台的数据分析,以及大屏展示之类的可视化应用.前者提供了基础平台能力,让整个设计加入大数据元素:后者提供了上层应用能力,主要是让别人明白你利用大数据平台做了什么. 前些日子闲得无聊,在一台虚拟机上基于docke…

GreenPlum 大数据平台--segment 失效问题恢复《二》（全部segment宕机情况下）

01,情况描述主Segment和它的镜像都宕掉.导致了greenplum数据库不可用状态 02,重启greenplum数据库 gpstop -r 03,恢复 gprecoverseg 04,状态检查 gpstate -m 保证所有segment处于Synchronized 05,存在处于Change Tracking模式运行 gprecoverseg -F…

GreenPlum 大数据平台--监控

数据库状态监控活动活动过程纠正措施列出当前状态为down的Segment.如果有任何行被返回,就会生成一个警告或者告警. 推荐频率:每5到10分钟重要度: IMPORTANT 在postgres数据库中运行下例查询: SELECT * FROM gp_segment_configuration WHERE status <> 'u'; 如果该查询返回任何行,按照这些步骤来纠正问题: 验证宕机的Segment所在的主机是有响应的. 如果主机没有问题,检查宕机的Segment的主Segm…

大数据 -- Hadoop集群环境搭建

首先我们来认识一下HDFS, HDFS(Hadoop Distributed File System )Hadoop分布式文件系统.它其实是将一个大文件分成若干块保存在不同服务器的多个节点中.通过联网让用户感觉像是在本地一样查看文件,为了降低文件丢失造成的错误,它会为每个小文件复制多个副本(默认为三个),以此来实现多机器上的多用户分享文件和存储空间. Hadoop主要包含三个模块: HDFS模块:HDFS负责大数据的存储,通过将大文件分块后进行分布式存储方式,突破了服务器硬盘大小的限制,解决了单…

[转]大数据hadoop集群硬件选择

问题导读 1.哪些情况会遇到io受限制? 2.哪些情况会遇到cpu受限制? 3.如何选择机器配置类型? 4.为数据节点/任务追踪器提供的推荐哪些规格? 随着Apache Hadoop的起步,云客户的增多面临的首要问题就是如何为他们新的的Hadoop集群选择合适的硬件. 尽管Hadoop被设计为运行在行业标准的硬件上,提出一个理想的集群配置不想提供硬件规格列表那么简单. 选择硬件,为给定的负载在性能和经济性提供最佳平衡是需要测试和验证其有效性.(比如,IO密集型工作负载的用户将会为每个核心主轴…

GreenPlum 大数据平台--运维(三)

一,操作命令 01,启动gpstart 参数说明 COMMAND NAME: gpstart Starts a Greenplum Database system. ***************************************************** SYNOPSIS ***************************************************** gpstart [-d <master_data_directory>] [-B <para…

GreenPlum 大数据平台--介绍

一,GreenPlum 01,介绍: Greenplum是一种基于PostgreSQL的分布式数据库,其采用shared-nothing架构,主机.操作系统.内存.存储都是自我控制的,不存在共享. 官方文档:>>>--大概内容如下 Greenplum Database是一个大规模并行处理(MPP)数据库服务器,其架构专门用于管理大规模分析数据仓库和商业智能工作负载. MPP(也称为无共享架构)是指具有两个或更多处理器的系统,它们协作执行操作,每个处理器具有其自己的存储器,操作系统和磁盘.…

入门大数据---Redis集群分布式学习

Redis是什么? 官方介绍: Redis 是一个开源(BSD许可)的,内存中的数据结构存储系统,它可以用作数据库.缓存和消息中间件. 它支持多种类型的数据结构,如字符串(strings), 散列(hashes), 列表(lists), 集合(sets), 有序集合(sorted sets) 与范围查询, bitmaps, hyperloglogs 和地理空间(geospatial) 索引半径查询. Redis 内置了复制(replication),LUA脚本(Lua scripting)…

大数据-HDFS 集群搭建的配置文件

1.HDFS简单版集群搭建相关配置文件 1.core-site.xml文件 <property> <name>fs.defaultFS</name> <value>hdfs://hadoop2:9000</value> </property> <property> <name>hadoop.tmp.dir</name> <value>/usr/hadoop-/data</value…

大数据 --> Kafka集群搭建

Kafka集群搭建下面是以三台机器搭建为例,(扩展到4台以上一样,修改下配置文件即可) 1.下载kafka http://apache.fayea.com/kafka/0.9.0.1/ ,拷贝到三台服务器,并解压文件 2. 修改配置文件 server.properties: 183服务器: broker.id= host.name=132.228.28.183 advertised.host.name=132.228.28.183 zookeeper.connect=,, 184服务器: br…

大数据 --> Hadoop集群搭建

Hadoop集群搭建 1.修改/etc/hosts文件在每台linux机器上,sudo vim /etc/hosts 编写hosts文件.将主机名和ip地址的映射填写进去.编辑完后,结果如下: 2.配置ssh,实现无密码登录四台虚拟机上,使用: ssh-keygen -t rsa 一路回车就行了 master上将公钥放到authorized_keys里.命令:: sudo cat id_rsa.pub >> authorized_keys 将master上的authorized_keys…

大数据-zookeeper集群安装

一.安装前发现的问题: 1.安装前期发现jps权限不够 [root@master1 ~]# jps -bash: /opt/workspace/jdk1./bin/jps: Permission denied 解决: 这时只需要添加一个权限即可 chmod +x /usr/local/jdk8/bin/jps x是执行权限 2.中文乱码问题解决:编辑服务器文件 vim etc/locale.conf 3.journalnode启动java权限问题 chmod +x /opt/workspace…

GreenPlum 大数据平台--外部表(三)

一,外部表介绍 Greenplum 在数据加载上有一个明显的优势,就是支持数据的并发加载,gpfdisk是并发加载的工具,数据库中对应的就是外部表所谓外部表,就是在数据库中只有表定义.没有数据,数据都存放在数据库之外的数据文件.greenplum可以对一个外部表执行正常的DML操作,当读取数据的时候,数据库从数据文件中加载数据.外部表支持在segment上并发地告诉从gpfdist导入数据,由于是从segment上导入数据,所以效率很高. 结构图: 外部表需要指定gpfdist的IP和端口,还…

王雅超的学习笔记-大数据hadoop集群部署（十）

Spark集群安装部署…

GreenPlum 大数据平台--segment 失效问题恢复

GreenPlum 大数据平台--非并行备份(六)

一,非并行备份(pg_dump) 1) GP依然支持常规的PostgreSQL备份命令pg_dump和pg_dumpall 2) 备份将在Master主机上创建一个包含所有Segment数据的大的备份文件 3) 不适合于全部数据备份,适用于小部分数据的迁移或备份 pg_dump是用于备份数据库的标准PostgreSQL实用程序,在Greenplum数据库中也受支持.它创建一个(非并行)转储文件.对于Greenplum数据库的常规备份,最好使用Greenplum Database备份实用程序gpc…

GreenPlum 大数据平台--并行备份(四)

01,并行备份(gp_dump) 1) GP同时备份Master和所有活动的Segment实例 2) 备份消耗的时间与系统中实例的数量没有关系 3) 在Master主机上备份所有DDL文件和GP相关的数据字典表 4) 每个Segment备份各自的数据 5) 所有备份文件组成一个完整的备份集合,通过唯一14位数字的时间戳来识别 gp_dump dumps a database as a text file or to other formats. Usage: gp_dump [OPTION]..…

GreenPlum 大数据平台--备份-邮件配置-gpcrondump & gpdbrestore(五)

01,备份生成备份数据库 [gpadmin@greenplum01 ~]$ gpcrondump -l /gpbackup/back2/gpcorndump.log -x postgres -v [gpadmin@greenplum01 ~]$ gpcrondump -l /gpbackup/back2/gpcorndump.log -x postgres -v :::: gpcrondump:greenplum01:gpadmin-[INFO]:-Starting gpcrondump wi…

零基础学习云计算及大数据DBA集群架构师【企业级运维技术及实践项目2015年1月29日周五】

LNMP/LEMP项目搭建 { 项目框架 # Linux_____WEB_____PHP_____DB # rhel7_____apache__-(libphp5.so)-__php__-(php-mysql)-__mariadb-server # rhel7_____nginx___-(spawn-fcgi)-__php__-(php-mysql)-__mariadb-server 安装软件包 # WEB 程序 # CGI 管理器 @作用 ()监听9000端口 ()调用Php命令 @软件 sp…