# HPMessageCenter 高性能消息分发中心.用户只需写好restful接口,在portal里面配置消息的处理地址,消息消费者就会自动访问相关接口,完成消息任务. ### 部署说明 **创建数据库执行Scripts文件夹中的数据库脚本** **配置数据库连接字符串** 打开MessageCenter.Portal\Configuration\Data\Database.config ![输入图片说明](https://gitee.com/uploads/images/2018/0301…
(四):C++分布式框架--状态中心模块 上篇:(三):C++分布式实时应用框架--系统管理模块 技术交流合作QQ群:436466587 欢迎讨论交流 版权声明:本文版权及所用技术归属smartguys团队所有,对于抄袭,非经同意转载等行为保留法律追究的权利! 状态中心实现了分布式系统中计算节点的管理功能.完善的节点属性数据管理,业务进程间的连接关系管理,以及通过可靠的事件机制根据各节点上的相关模块反馈回的数据实时的对系统进行运行时动态调整管理.在分布式系统中还不得不进行系统的容错处理.状态中心…
<分布式服务注册中心XXL-REGISTRY> 一.简介 1.1 概述 XXL-REGISTRY 是一个轻量级分布式服务注册中心,拥有"轻量级.秒级注册上线.多环境.跨语言.跨机房"等特性.现已开放源代码,开箱即用. 1.2 特性 1.轻量级:基于DB与磁盘文件,只需要提供一个DB实例即可,无第三方依赖: 2.实时性:借助内部广播机制,新服务上线.下线,可以在1s内推送给客户端: 3.数据同步:注册中心会定期全量同步数据至磁盘文件,清理无效服务,确保服务数据实时可用: 4.…
https://www.cloud.alipay.com/docs/middleware/register/index.html 分布式服务注册中心(DSR) 分布式服务注册中心简介 服务注册中心 (Register) 是一个基于“发布-订阅”模式的协调中间件.在分布式环境下,它通常被用作地址服务器. SOFA RPC.MsgBroker 等金融云中间件,都依靠服务注册中心来实时感知各个角色的在线地址列表.例如SOFA RPC中,服务消费方需要感知服务提供方地址:MsgBroker中,消息发布者…
基于Protobuf的分布式高性能RPC框架——Navi-Pbrpc 二月 8, 2016 1 简介 Navi-pbrpc框架是一个高性能的远程调用RPC框架,使用netty4技术提供非阻塞.异步.全双工的信道,使用protobuf作为序列化协议,同时提供长.短连接模式,支持non-blocking和传统的blocking io,以及负载均衡,容错处理策略等,对于基于socket的分布式调用提供通信基础. 如果你的项目中需要高性能的RPC解决方案,那么navi-pbrpc可以帮助到你构建一个强大…
一.模块结构 首先来看下客户端消息处理中心模块的简单结构: ChatCallback:服务器端我们定义的回调接口IChatCallback的客户端实现 ChatMsgCenter:服务端的消息处理中心,所有的消息都将在这里进行分发处理,可以比作人的大脑中枢 ClientContext:登录信息描述,也可以理解为客户端唯一标识 DataHelper:数据库操作类,这里我们使用NDatabase的开源对象数据库,使用方法参考关法文档 Messager:消息类封装,在消息的基础上,添加了ID属性和Is…
一.关于Kafka的一些概念和理解 Kafka是一个分布式的数据流平台,它基于独特日志文件形式,提供了高性能消息系统功能.也可以用于大数据流管道. Kafka维护了按目录划分的消息订阅源,称之为 Topic. 称发布消息到Topic的工程为生产者. 称订阅Topic和处理发布的消息的订阅源的工程为消费者. Kafka以一个或者多个服务器组成的集群的形式运行,每个服务器被称为broker. Kafka客户端和服务器端通过TCP协议连接,并提供了Java客户端,许多其他语言的客户端也有. 对于每个T…
SpringCloud系列之分布式配置中心极速入门与实践 @ 目录 1.分布式配置中心简介 2.什么是SpringCloud Config? 3.例子实验环境准备 4.Config Server代码实现 5.Config Client代码实现 6.客户端pull刷新实现 7.消息总线Spring Cloud Bus 8.Docker安装部署RabbitMQ 9.Spring Cloud Bus动态刷新 10.官方参考手册和其它资料 1.分布式配置中心简介 在实际的项目开发中,配置文件是使用比较多…
1)  背景 建设云平台的基础框架,用于支持各类云服务的业务的构建及发展. 2)  基础服务 根据目前对业务的理解和发展方向,总结抽象出以下几个基础服务,如图所示 3)  概要说明 基础服务的发展会根据业务的发展,调整和完善,也会不断的改进,演变及完善:当然根据目前公司的现状和对基础服务的迫切程度,基础服务各模块的定位和发展预期将如下所述. 1)     数据库中间件 公司现状: 1)     对多种类型数据库的支持需求迫切,如同时支持mysql,orcale,sqlserver这些数据库.最多…
<分布式服务通讯框架XXL-RPC>    一.简介 1.1 概述 XXL-RPC 是一个分布式服务通讯框架,提供稳定高性能的RPC远程服务调用功能.现已开放源代码,开箱即用. 1.2 特性 1.快速接入:接入步骤非常简洁,两分钟即可上手: 2.服务透明:系统完整的封装了底层通信细节,开发时调用远程服务就像调用本地服务,在提供远程调用能力时不损失本地调用的语义简洁性: 3.注册中心(可选):支持使用zookeeper作为服务注册中心,服务注册并动态发现.同时,也可以不使用注册中心,直接指定服务…
<分布式服务框架XXL-RPC>      一.简介 1.1 概述 XXL-RPC 是一个分布式服务框架,提供稳定高性能的RPC远程服务调用功能.拥有"高性能.分布式.注册中心.负载均衡.服务治理"等特性.现已开放源代码,开箱即用. 1.2 特性 1.快速接入:接入步骤非常简洁,两分钟即可上手: 2.服务透明:系统完整的封装了底层通信细节,开发时调用远程服务就像调用本地服务,在提供远程调用能力时不损失本地调用的语义简洁性: 3.多调用方案:支持 SYNC.ONEWAY.FU…
一.背景介绍 随着360公司业务发展,业务使用kv存储的需求越来越大.为了应对kv存储需求爆发式的增长和多使用场景的需求,360web平台部致力于打造一个全方位,适用于多场景需求的kv解决方案.目前,我们线上大规模使用的kv存储有Redis,Redis cluster以及Pika. 为什么说是爆发式的需求增长呢?早在2015年9月份,公司Redis的日访问量还处于800亿,到了2016年第三季度日访问量已经突破2500亿,2017年第一季度日访问量已经接近4000亿.短短的一年半时间,日访问量增…
本文主要介绍分布式任务调度平台XXL-JOB(v2.1.0版本),包括功能特性.实现原理.优缺点.同类框架比较等 基本介绍 项目开发中,常常以下场景需要分布式任务调度: 同一服务多个实例的任务存在互斥时,需要统一协调 定时任务的执行需要支持高可用.监控运维.故障告警 需要统一管理和追踪各个服务节点定时任务的运行情况,以及任务属性信息,例如任务所属服务.所属责任人 因此,XXL-JOB应运而生: XXL-JOB是一个开源的轻量级分布式任务调度平台,其核心设计目标是开发迅速.学习简单.轻量级.易扩展…
分布式应用和集群: 从部署形态来看,它们都是多台机器或者多个进程部署,而且都是为了实现一个业务功能. 如果是一个业务被拆分成多个子业务部署在不同的服务器上,那就是分布式应用 如果是同一个业务部署在多台服务器上,那就是集群 分布式应用的多个子系统之间并不是完全独立的,它们需要相互通信来共同完成某个功能.系统间通信的方式有两种,一种是远程过程调用即RPC接口, 另一种是基于消息队列的方式. 基于消息队列的方式是指由应用中的某个系统负责发送消息,由订阅这条消息的相应系统负责接收消息.不同的系统在收到消…
一.分布式ID概念 说起ID,特性就是唯一,在人的世界里,ID就是身份证,是每个人的唯一的身份标识.在复杂的分布式系统中,往往也需要对大量的数据和消息进行唯一标识.举个例子,数据库的ID字段在单体的情况下可以使用自增来作为ID,但是对数据分库分表后一定需要一个唯一的ID来标识一条数据,这个ID就是分布式ID.对于分布式ID而言,也需要具备分布式系统的特点:高并发,高可用,高性能等特点. 二.分布式ID实现方案 下表为一些常用方案对比: 描述 优点 缺点 UUID UUID是通用唯一标识码的缩写,…
NSQ是一个基于Go语言的分布式实时消息平台,它基于MIT开源协议发布,代码托管在GitHub,其当前最新版本是0.3.1版.NSQ可用于大规模系统中的实时消息服务,并且每天能够处理数亿级别的消息,其设计目标是为在分布式环境下运行的去中心化服务提供一个强大的基础架构.NSQ具有分布式.去中心化的拓扑结构,该结构具有无单点故障.故障容错.高可用性以及能够保证消息的可靠传递的特征.NSQ非常容易配置和部署,且具有最大的灵活性,支持众多消息协议.另外,官方还提供了拆箱即用Go和Python库.如果读者…
Git的使用 1.Git简介: Git是一个开源的分布式版本控制系统.与SVN.CVS相比 分布式    不需要中心仓库 Git的版本号都是生成的一个哈希值,比如:bbaf6fb5060b4875b18ff9ff637ce118256d6f20 性能    分支与合并是比较简单    对比快    存储空间少   2.Git的作用: 可以利用它来追踪项目中的文件 可以和合作伙伴共享版本历史状态 可以将合作伙伴的工作和你的工作进行合并 可以对整个工程或某些文件跟历史版本进行比较或者恢复到早期的某个…
dubbo和zookeeper的关系 简单来说打个比方:dubbo就是动物园的动物,zookeeper是动物园.如果游客想看动物的话那么就去动物园看.比如你要看老虎,那么动物园有你才能看到.换句话说我们把很多不同的dubbo(动物)放到zookeeper(动物园中)提供给我们游客进行观赏.这个过程中三个关键:场所.供给者.消费者. 1.   Zookeeper的作用: zookeeper用来注册服务和进行负载均衡,哪一个服务由哪一个机器来提供必需让调用者知道,简单来说就是ip地址和服务名称的对应…
NSQ是一个基于Go语言的分布式实时消息平台,它基于MIT开源协议发布,代码托管在GitHub.NSQ可用于大规模系统中的实时消息服务,并且每天能够处理数亿级别的消息,其设计目标是为在分布式环境下运行的去中心化服务提供一个强大的基础架构. NSQ具有分布式.去中心化的拓扑结构,该结构具有无单点故障.故障容错.高可用性以及能够保证消息的可靠传递的特征.NSQ非常容易配置和部署,且具有最大的灵活性,支持众多消息协议.另外,官方还提供了拆箱即用Go和Python库.如果读者兴趣构建自己的客户端的话,还…
携程阿波罗(Apollo) https://www.cnblogs.com/xiaxiaolu/p/10025597.html 一.瞎扯点什么 1.1 阿波罗 ​ 阿波罗是希腊神话中的光明之神.文艺之神,同时也是罗马神话中的太阳神:他是光明之神,从不说谎,光明磊落,在其身上找不到黑暗,也被称作真理之神.他非常聪明,通晓世事,是预言之神. 后世各种各样的项目都喜欢以阿波罗命名,比如著名的美国登月计划:阿波罗计划: 既然携程以阿波罗(Apollo)命名项目,那我们我们接下来看看,携程阿波罗能给我们程…
1.业务场景 保险人管系统每月工资结算,平安有150万代理人,如何快速的进行工资结算(数据运算型) 保险短信开门红/电商双十一 1000w+短信发送(短时汇聚型) 工作中业务场景非常多,所涉及到的场景也各不相同,这使得我们定时任务系统应该集管理.调度.任务分配.监控预警为一体的综合调度系统,如何打造一套健壮的.适应不同场景的系统,技术选型尤其重要. 针对以上场景我们需要我们的分布式任务系统具备以下能力:     1.支持多种作业类型(shell作业/Java作业)     2.支持作业HA,负载…
最近在研究分布式框架的组件和整体设计思路.所有的问题,一旦涉及分布式难度就呈几何倍数的提升.包括最常见的ID生成也是,单机情况下,使用数据库自增ID.UUID都是简单易行的选择 但在分布式环境下,就需要考虑同业务部署多套以后,ID重复的问题.使用数据库则数据库容易成为瓶颈,使用UUID又没有顺序,数据库集成又会遇到递增步长等问题.最后,数据库(也可使用redis)号段生成器和snowFlake就成为了目前分布式ID生成器的主流 我所知大部分互联网公司的分布式ID生成器,其实都是一个网络服务或集群…
1.Anno简介 Anno是一个微服务框架引擎.入门简单.安全.稳定.高可用.全平台可监控.依赖第三方框架少.底层通讯RPC(Remote Procedure Call)采用稳定可靠经过无数成功项目验证过的跨语言的thrift. grpc. 自带服务注册发现健康检查(不依赖于Etcd.Consul.Zookeeper).调用链追踪.Cron 调度.限流.事件总线.插件化开发,业务模块以CQRS .DDD作为指导思想. 一个不可监控的微服务平台是可怕的,出了问题 难以准确定位问题的根源, Anno…
NSQ简介 NSQ 是实时的分布式消息处理平台,其设计的目的是用来大规模地处理每天数以十亿计级别的消息.NSQ 具有分布式和去中心化拓扑结构,该结构具有无单点故障.故障容错.高可用性以及能够保证消息的可靠传递的特征,是一个成熟的.已在大规模生成环境下应用的产品. NSQ 由 3 个守护进程组成: nsqd 是接收.保存和传送消息到客户端的守护进程. nsqlookupd 是管理的拓扑信息,维护着所有nsqd的状态,并提供了最终一致发现服务的守护进程. nsqadmin 是一个 Web UI 来实…
Java基础 Java 7 和 Java 8 中的 HashMap原理解析 Java7 和 Java8 中的 ConcurrentHashMap 原理解析 Java中自定义注解 Java函数式编程和lambda表达式 TCP三次握手原理,你真的了解吗? "三次握手,四次挥手"你真的懂吗? 程序员你为什么这么累 | 编码规范 一个正则表达式引发的血案 全解史上最快的JOSN解析库 - alibaba Fastjson 深入分析 Java SPI 机制和原理 并发编程专题 Executor…
一.关于消息队列 消息队列是一种应用间的通信方式,消息就是是指在应用之间传送的数据,它也是进程通信的一种重要的方式. 1.消息队列的基本架构 producer:消息生产者. broker:消息处理中心. consumer:消息消费者 2.消息队列常用场景 系统之间的解耦. 高并发下的流量消峰(电商抢购活动). 异步通信(串行变并行). 3.消息队列的特点 基本上都基于生产者消费者模式. 必须保证数据的可靠性传输. 4.点对点消息系统 在点对点系统中,消息被保留在队列中. 一个或多个消费者可以消耗…
分布式系统中必备的一个中间件就是消息队列,通过消息队列我们能对服务间进行异步解耦.流量消峰.实现最终一致性. 目前市面上已经有 RabbitMQ.RochetMQ.ActiveMQ.Kafka等,有人会问:"Redis 适合做消息队列么?" 在回答这个问题之前,我们先从本质思考: 消息队列提供了什么特性? Redis 如何实现消息队列?是否满足存取需求? 今天,码哥结合消息队列的特点一步步带大家分析使用 Redis 的 List 作为消息队列的实现原理,并分享如何把 SpringBoo…
一.前言 <码神联盟>是一款为技术人做的开源情怀游戏,每一种编程语言都是一位英雄.客户端和服务端均使用C#开发,客户端使用Unity3D引擎,数据库使用MySQL.这个MOBA类游戏是笔者在学习时期和客户端美术策划的小伙伴一起做的游戏,笔者主要负责游戏服务端开发,客户端也参与了一部分,同时也是这个项目的发起和负责人.这次主要分享这款游戏的服务端相关的设计与实现,从整体的架构设计,到服务器网络通信底层的搭建,通信协议.模型定制,再到游戏逻辑的分层架构实现.同时这篇博客也沉淀了笔者在游戏公司实践五…
引言 之前就了解过kafka,看的似懂非懂,最近项目组中引入了kafka,刚好接着这个机会再次学习下. Kafka在很多公司被用作分布式高性能消息队列,kafka之前我只用过redis的list来做简单的队列处理,也还算好用,可能数据量比较小,也是单机运行,未出现过问题,用作轻量级消息队列还是比较好用的.而redis的作者antirez,设计redis的初衷并不是用来做消息队列,但用它做消息队列的人貌似还挺多,以至于后来antirez后来新开了个项目disque,专门用来做消息队列,但这个不是本…
本文来自腾讯QQ技术团队工程师许灵锋.周海发的技术分享. 一.引言 自 2015 年春节以来,QQ 春节红包经历了企业红包(2015 年).刷一刷红包(2016 年)和 AR 红包(2017 年)几个阶段,通过不断创新玩法,活跃度节节攀升,成为春节一大玩点,给火红的春节带来一抹亮色.2017 年除夕,AR 红包.刷一刷红包再创新高,抢红包用户数达 3.42 亿,共刷出红包 37.77 亿个. 那么,QQ 红包的技术方案究竟是怎样的?其整体架构如何?重要的系统是如何设计的?为了保证用户的体验,手机…