在企业生产中,集群一旦运行,是要尽可能的将损失降到最低,现在所有的大数据技术都有HA,spark的.Hadoop的.HBase的等等, HA分冷备和热备,热备是集群自带的,冷备就是硬件的. 这样一种情况:晚上了,人睡着了,突然的大数据量来了,nameNode.master崩了,HA启动了另一台备用节点,然而数据量依然很大,另一台也崩了,好吧集群废了? 咋办? 这就是冷备的需要,进程掉了,在服务器运行的情况下: 有一种机制可以启动进程服务,crontab+shell 五分钟之内检查进程情况,没有启…

一.在windows上搭建Neo4j ha cluster的配置方法: 例如:建立集群的三台机器的ip分别为:10.230.9.91,10.230.9.92,10.230.9.93. 10.230.9.91机器上的配置如下: 1.关闭防火墙 2.ping 10.230.9.92和10.230.9.93,看是否能ping通 3.解压Neo4j 安装文件到某一目录下(例如F:\) 4.修改Neo4j配置文件(F:\neo4j-enterprise-2.0.0-M04-windows\neo4j-en…

在进群生产环境下运行Topology和在本地模式下运行非常相似.下面是步骤: 1.定义Topology(如果使用Java开发语言,则使用TopologyBuilder来创建) 2.使用StormSubmitter向集群提交Topology.StormSubmitter有三个参数,Topology的名字,Topology的配置,和Topology本身.下面是例子: ? 1 2 3 4 Config conf = new Config(); conf.setNumWorkers(20); conf.…

本系列文章将介绍 Docker的相关知识: (1)Docker 安装及基本用法 (2)Docker 镜像 (3)Docker 容器的隔离性 - 使用 Linux namespace 隔离容器的运行环境 (4)Docker 容器的隔离性 - 使用 cgroups 限制容器使用的资源 (5)Docker 网络 (6)若干企业生产环境中的容器网络方案 Docker 在早期只有单机上的网络解决方案,在 1.19 版本引入了原生的 overlay 网络解决方案,但是它的性能损耗较大,可能无法适应一些生产环…

高可用集群(HA) 1. 准备工作 HA的心跳监测可以通过串口连接监测也可以通过网线监测,前者需要服务器有一个串口,后者需要有一个空闲网卡.HA架构中需要有一个共享的存储设备首先需要在两台机器上安装mysql服务,并架设好共享存储资源(NFS), 共享的目录应该是datadirHA需要两台机器配置一个相同的vip理论上每台机器要配置三个ip,一个是vip(eth0:0),一个是心跳线监测使用的ip(eth1),还有一个是服务使用的ip(eth0) 我们设定如下环境:vip(eth0:0): 19…

weekend01.02.03.04.05.06.07的分布式集群的HA测试 1)  weekend01.02的hdfs的HA测试 2)  weekend03.04的yarn的HA测试 1)  weekend01.02的hdfs的HA测试 首先,分布式集群都是正常的,且工作的 然后呢, 以上是,weekend01(active).weekend02(standby) 当weekend01给kill, 变成weekend01(standby).weekend02(active) 模拟weekend…

企业生产环境用户权限集中管理项目方案案例: 1 问题现状 当前我们公司里服务器上百台,各个服务器上的管理人员很多(开发+运维+架构+DBA+产品+市场),在大家登录使用Linux服务器时,不同职能的员工水平不同,因此导致操作很不规范,root权限泛滥(几个所有员工都有root权限),经常导致文件等莫名其妙的丢失,老手和新手员工对服务器的熟知度不同,这样使得公司服务器安全存在很大的不稳定性.及操作安全隐患,据调查企业服务器环境,50%以上的安全问题都来源于内部,而不是外部.为了解决以上问题,单个用…

Hadoop生产环境搭建 1. 将安装包hadoop-2.x.x.tar.gz存放到某一目录下,并解压. 2. 修改解压后的目录中的文件夹etc/hadoop下的配置文件(若文件不存在,自己创建.) 包括hadoop-env.sh,mapred-site.xml,core-site.xml,hdfs-site.xml,yarn-site.xml 3. 格式化并启动HDFS 4. 启动YARN 以上整个过程与Hadoop单机Hadoop测试环境搭建基本一致,不同的是步骤2中配置文件设置内容以及步骤…

对于一个企业级的应用,稳定性是首要要考虑的问题,然后才是性能,因此 HA 机制是必不可少的: 和 Hadoop 一代一样,从架构中我们可以很明显的发现 JobManager 有明显的单点问题(SPOF,single point of failure). JobManager 肩负着任务调度以及资源分配,一旦 JobManager 出现意外,其后果可想而知.Flink 对 JobManager HA 的处理方式,原理上基本和 Hadoop 一样: 对于 Standalone 来说,Flink 必须…

一.安装前准备: 操作系统:CentOS 6.5 64位操作系统 环境:jdk1.7.0_45以上,本次采用jdk-7u55-linux-x64.tar.gz master01 10.10.2.57 namenode 节点 master02 10.10.2.58 namenode 节点 slave01:10.10.2.173 datanode 节点 slave02:10.10.2.59 datanode 节点 slave03: 10.10.2.60 datanode 节点 注:Hadoop2.0…