分布式消息队列RocketMQ 一.RocketMQ简介 RocketMQ(火箭MQ) 出自于阿里,后开源给apache成为apache的顶级开源项目之一,顶住了淘宝10年的 双11压力 是电商产品的不二选择 (略微有点夸张) 1.MQ概述 Message Queue,是一种提供消息队列服务的中间件,也成为消息中间件,是一套提供了消息生产.存储.消费全过程API的软件系统 2.MQ用途 (1).限流削峰 系统A每秒只能处理50请求 一般来讲如过收到请求大于处理请求,则多余请求会舍去.如果加入MQ

文章转载自:http://www.mydlq.club/article/97/ 系统环境: 系统版本:CentOS 7.8 RocketMQ 版本:4.7.0 Docker 版本:19.03.13 一.RocketMQ 简介 RocketMQ 是一个由 Java 语言编写的分布式高性能消息中间件,由阿里创建,后将其开源给 Apache 基金会,现在已经成为 Apache 开源项目中的顶级开源项目,具有高性能.高可靠.高实时.分布式特点,尤其内部封装了很多跟业务相关的功能模块,能让我们快速用其解决

用两台服务器,搭建出一个双master双slave.无单点故障的高可用 RocketMQ 集群.此处假设两台服务器的物理 IP 分别为:192.168.50.1.192.168.50.2. 内容目录 1. 启动 NameServer 集群 2. 启动 Broker 集群 3. RocketMQ 可视化管理控制台:rocketmq-console 4. 集群测试 1. 启动 NameServer 集群 在两台服务器上分别启动 NameServer,可以得到一个无单点故障的 NameServer 服

<一>项目结构图 (1)ZK协调分配 ===>集群中的每一个定时服务器与zookeeper交互,由集群中的master节点进行任务划分,并将划分结果分配给集群中的各个服务器节点. ===>保证每台定时服务器的节点持有唯一的定时任务. ===>当集群中有节点宕机,保证宕机的节点持有的任务会被重新分配到正常运行的服务器节点上. ===>将协调的结果交给本地容器 (2)本地容器 ===>持有本定时服务器持有的定时任务 ===>将本地容器的任务推送到quartz的容

导读 目前很多互联网公司的系统都在朝着微服务化.分布式化系统的方向在演进,这带来了很多好处,也带来了一些棘手的问题,其中最棘手的莫过于数据一致性问题了.早期我们的软件功能都在一个进程中,数据的一致性可以通过数据库本地事务来加以控制.而在分布式架构下,原本比较完整的本地功能可能被拆分成了多个独立的服务进程.与之前相比,同样一笔业务订单此时可能会经历很多服务模块的处理,调用链路会变得很长,例如某电商平台,一笔购物订单可能会经过:商品中心.订单.支付.物流等多个服务的调用,而这可能还只是比较粗粒度的划

1.rocketmq图形化控制台安装 虽然rocketmq为用户提供了使用命令行管理主题.消费组以及broker配置的功能,但对于不够熟练的非运维人员来说,命令行的管理界面还是较难使用的.为此,我们可以使用图形化的管理界面来简化管理操作. rocketmq官方推荐的图形化控制台目前还处在不成熟的孵化阶段.仓库地址为(https://github.com/apache/rocketmq-externals),其中包含了rocketmq相关拓展的.属于孵化期的各种项目.下载源码之后,找到rocket

1.初步理解Producer/Consumer Group 在安装RocketMQ之前我们先来理解Group概念,在RocketMQ中Group是很重要的.通过Group机制,让RocketMQ天然的支持消息负载均衡!比如某个Topic有9条消息,其中一个Consumer Group有3个实例(3个进程 OR 3台机器),那么每个实例将均摊3条消息!(注意RocketMQ只有一种模式,即发布订阅模式.)如下图所示: 2.RocketMQ的集群部署模式: 在动手操作之前我们先来了解一下Rocket

目标,使用2台机器部署RocketMQ多Master多Slave模式,异步复制集群模式. 第一步,修改/etc/hosts文件 192.168.116.115 rocketmq1 192.168.116.116 rocketmq2 集群机器配置完成之后,集群内进行ping一下,确保都通. 编译得到环境 git clone -b develop https://github.com/apache/rocketmq.git cd rocketmq mvn -Prelease-all -DskipTe

Elastic Stack之ElasticSearch分布式集群yum方式搭建 作者:尹正杰  版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.搜索引擎及Lucene基本概念 1>.什么是搜索引擎 搜索引擎是由索引组件和搜索组件两部分组成. 索引组件是面向数据存储和索引构建,搜索组件是面向用户提供搜索功能以及将用户提供的搜索请求转换成可用的查询语句并通过索引完成查询过程(或搜索过程).对于搜索引擎来讲,有一个著名的索引类型叫做倒排索引.倒排索引的作用主要是通过关键词去查对应文档的.不像我

官方url: https://github.com/phpredis/phpredis/blob/develop/cluster.markdown#readme 2017年10月29日20:44:25 Redis引入3.0.0版本的群集支持,并且使用phpredis与群集进行通信时,需要使用RedisCluster类. 对于大多数操作,RedisCluster类可以作为Redis类的替换,而不需要修改它的调用方式. 由于Tradesy的慷慨赞助,这个功能被添加了 创建并连接到集群 为了保持与Re

节点的角色分片: node01 eus_mp_web01 : master,false node,false, ingest,true node02 eus_mp_es01 : master,true node,true, ingest,true node03 eus_mp_spider01 : master,false node,true, ingest,true 背景: 生产环境大量使用 elasticsearch 集群,不同的业务使用不同版本的elasticsearch es经常曝出一些大

 CDH构建大数据平台-配置集群的Kerberos认证安全 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 当平台用户使用量少的时候我们可能不会在一集群安全功能的缺失,因为用户少,团队规模小,相对容易把控,开发人员直接也彼此了解.这时候只需要做好团队内部或是企业通过一些列行政管理手段就能管理好集群的安全问题.但是别忘了我们的平台定位可是作为一个单一的大数据来支持企业内部所有应用的.正所谓人上一百,形形色色.当平台用户达到一定数量之后其素质难免会参差不齐,大数据平台面对的也不再是

基于Ambari Server部署HDP集群实战案例 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.部署Ambari Server端 博主推荐阅读: https://www.cnblogs.com/yinzhengjie2020/p/12219108.html 二.时钟同步 我们在生产环境中必须同步各个服务器时间是一致的,最好是有内网的时间服务器. 配置时间同步的好处: 可以定位集群故障发生的具体时间; 解决HBase,Kudu等存储依赖于时间同步的问题(若时间不同步会报

一:选用ES原因 公司项目有些mysql的表数据已经超过5百万了,各种业务的查询入库压力已经凸显出来,初步打算将一个月前的数据迁移到ES中,mysql的老数据就物理删除掉. 首先是ES使用起来比较方便,对于项目初期存储一些不能删除但又一般使用不到的数据比较合适, 还有就是ES的存储采用索引分片式,使用数据的创建时间分片也很合适. 本文使用的ES版本:5.6.8,docker版本:18.06.3-ce. 本文的测试机器为两台百度云的2C4G的机器,每个机器分别部署三个节点(1个master,2个d

主从模式 主节点有单点故障问题:没有主从自动切换,没有failover,主机down掉了的话,整个数据变成只读.并且需要一台机单独做索引,浪费资源,所有数据都需要在这台机器上单独存在一份,索引变化较大的时候同步会占用很大的带宽和资源. 配置文件改动:改动了solrconfig.xml最终还是要手动上传至从机,而且没有做xml相关的有效性验证,上传后有可能配置出错就直接覆盖原来的配置了,而且也没有提示. 1.索引 一条数据到分发到哪个shard->具体的replica->shard大到一定程度之

一.MariaDB Galera Cluster概要: 1.简述: MariaDB Galera Cluster 是一套在mysql innodb存储引擎上面实现multi-master及数据实时同步的系统架构,业务层面无需做读写分离工作,数据库读写压力都能按照既定的规则分发到 各个节点上去.在数据方面完全兼容 MariaDB 和 MySQL. 2.特性: (1).同步复制 Synchronous replication (2).Active-active multi-master 拓扑逻辑 (

MariaDB作为Mysql的一个分支,在开源项目中已经广泛使用,例如大热的openstack,所以,为了保证服务的高可用性, 同时提高系统的负载能力,集群部署是必不可少的. MariaDB Galera Cluster 介绍 MariaDB集群是MariaDB同步多主机集群.它仅支持XtraDB/ InnoDB存储引擎(虽然有对MyISAM实验支持 - 看wsrep_replicate_myisam系统变量). 主要功能: 同步复制 真正的multi-master,即所有节点可以同时读写数据库

Hadoop ha CDH5.15.1-hadoop集群启动后,集群容量不正确,莫慌,这是正常的表现! 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.集群启动顺序 1>.查看Namenode节点的web UI界面,如下图所示 2>.耐心等待安全模式退出,集群方能正常使用(下图的安全模式的进度为85.39%) 3>.等待集群启动成功(大约30分钟左右才启动成功) 4>.上图只是我计算集群存储的数据,其实在存储集群的数据的话可能启动时间会更长,诺,下图就是用来存

Elastic Stack之ElasticSearch分布式集群二进制方式部署 作者:尹正杰  版权声明:原创作品,谢绝转载!否则将追究法律责任. 想必大家都知道ELK其实就是Elasticsearch+Logstash+Kibanna.其中的Logstash由于收集日志很占用资源,官方引入了一个新的组建叫做Beats.它以后可能会渠道Logstash,因为Beats是比Logstash更轻量级的日志收集工具.于此同时,该公司还引入了X-pack插件(需要单独安装),可以在安全审计,权限控制,机

一.环境准备 1.准备至少3台CentOS7版本的虚拟机 # IP地址 主机名称 192.168.1.160 rancher 192.168.1.161 master 192.168.1.162 node1 192.168.1.163 node2 192.168.1.164 node3 2.每台虚拟机上需要做的配置 1.安装Docker $ yum install -y docker 2.设置hostname $ hostnamectl --static set-hostname rancher

转载请出自出处:http://www.cnblogs.com/hd3013779515/ 1.创建collection name:指明collection名字 router.name:指定路由策略,默认为compositeId路由 numShards:collection的逻辑分片数量 shards:指定具体的shard列表 replicationFactor:一个分片的replicas数量 maxShardsPerNode :一个solr节点上可以创建的逻辑分片数量,默认值为1 createN