kafka 通俗
把broker比作是一幢摩天大楼,一个10节点的kafka集群就是10幢摩天大楼,而且这些大楼都长得一模一样。
分区就相当于大楼里的一层。一个分区就相当于一整层哦。
原先大楼是空的。
现在用户创建了一个topic,就相当于是订酒店的意思。
比如先创建了一个主题叫做“跑男”,要求是1个分区,10个副本。
这什么意思呢?就相当于说我只要一层楼就行,但是要求是10幢楼各出一层。相当于“跑男”这个剧组包下了10个大楼里的同一层。比如说都是第7层。好了,现在这10幢楼的每一幢的第7层都被“跑男”主题包下了。这种情况,相当于是“邓超和他的9个小弟”,当外界有消息发过来的时候,都会去找邓超住的那幢大厦,把消息告诉邓超,其他小弟只是简单抄下来邓超收到的消息。也就是如果邓超住在1号大楼,收发消息的人都会往1号楼跑,不会去问其他楼的小弟。其他小弟不对外界开放,只是同步邓那边的消息。
如果现在又来了一个主题叫做“极限挑战”,要求是10个分区,10个副本。
这什么意思呢?就相当于是说我要10层楼,不是一幢大厦的10层楼,我要你们所有10幢大厦里所有的第11层到第20层都给我们。其实相当于给了100层了,10*10=100嘛。那其实这100层怎么分配呢,可能开始的时候,“极限挑战”的10个主角人员都入住在了1号大楼。2号楼到10号楼都住的小弟。那就出现了所有外界消息到了都会跑去1号楼,要么去11层,要么去12层,要么去13层。。。。比刚才“跑男”好多了,有10个主角都可以说了算。这10个主角接收和处理的其实都是“极限挑战”主题的事情。这里我们看到了1个分区和10个分区相比的好处。10个分区可以同时处理更多的请求,接收更多消息。但是发现没有,主角竟然都住在同一幢大楼,这是很危险的,万一某一天这个大楼关门了,那就所有消息都进不来了,没有一个能处理的人了。其他楼纵然开放,住的都是小弟,小弟说了不算数,也不接收处理消息的。
所以最好的方式是,主角分散到不同的大楼,比如1号楼的第11层是第一个主角,2号楼的第12层是第二个主角,3号楼的第13层是第三个主角。。。。这样的话,就算10幢楼里有9幢楼都关闭了,只要还有一幢大楼存活,他就可以继续处理“极限挑战”主题的所有事务,只是压力暂时会比较大,等其他大楼恢复了,压力就均摊到10个大楼上去了。那到这里,我们好像还没有见识到10个副本是为什么,好像只要有主角就够了嘛,要小弟做什么呢?小弟其实就是简单同步主角的收到的消息。他简单存起来。不处理也不对外服务。1号主角之前收到的信息和其他主角是不一样的,如果现在1号楼突然永久关闭了的话,那么上哪里获取1号主角之前究竟收到了什么信息呢?答案是从小弟那里。比如1号楼关门了,原来的消息也出不来,这时候2号楼的主角可以去2号楼的第11楼找一下之前1号楼主角的小弟。3号楼的主角可用去3号楼的第11层找一下之前1号楼主角的小弟。。。。2号楼到10号楼的第11层都是住着原先1号楼主角的小弟。从那里可以知道之前1号楼的主角处理过哪些消息。
kafka 通俗的更多相关文章
- 消息队列 Kafka 的基本知识及 .NET Core 客户端
前言 最新项目中要用到消息队列来做消息的传输,之所以选着 Kafka 是因为要配合其他 java 项目中,所以就对 Kafka 了解了一下,也算是做个笔记吧. 本篇不谈论 Kafka 和其他的一些消息 ...
- kafka:一个分布式消息系统
1.背景 最近因为工作需要,调研了追求高吞吐的轻量级消息系统Kafka,打算替换掉线上运行的ActiveMQ,主要是因为明年的预算日流量有十亿,而ActiveMQ的分布式实现的很奇怪,所以希望找一个适 ...
- Kafka及 .NET Core 客户端
消息队列 Kafka 的基本知识及 .NET Core 客户端 消息队列 Kafka 的基本知识及 .NET Core 客户端 前言 最新项目中要用到消息队列来做消息的传输,之所以选着 Kafka ...
- Kafka/Metaq设计思想学习笔记 转
转载自: http://my.oschina.net/geecoodeer/blog/194829 本文没有特意区分它们之间的区别,仅仅是列出其中笔者认为好的设计思想,供后续设计参考. 目前笔者并没有 ...
- kafka学习(一)-背景及架构设计
概念和术语 消息,全称为Message,是指在生产者.服务端和消费者之间传输数据. 消息代理:全称为Message Broker,通俗来讲就是指该MQ的服务端或者说服务器. 消息生产者:全称为Mess ...
- 分布式消息系统kafka
kafka:一个分布式消息系统 1.背景 最近因为工作需要,调研了追求高吞吐的轻量级消息系统Kafka,打算替换掉线上运行的ActiveMQ,主要是因为明年的预算日流量有十亿,而ActiveMQ的分布 ...
- kafka集群搭建(windows环境下)
一.简介 Kafka 是一个实现了分布式的.具有分区.以及复制的日志的一个服务.它通过一套独特的设计提供了消息系统中间件的功能.它是一种发布订阅功能的消息系统. 1.名词介绍 Message 消息,就 ...
- Kafka的基本概念与安装指南(单机+集群同步)
最近在搞spark streaming,很自然的前端对接的就是kafka.不过在kafka的使用中还是遇到一些问题,比如mirrormaker莫名其妙的丢失数据[原因稍后再说],消费数据offset错 ...
- 消息中间件选型分析——从Kafka与RabbitMQ的对比来看全局
一.前言 消息队列中间件(简称消息中间件)是指利用高效可靠的消息传递机制进行与平台无关的数据交流,并基于数据通信来进行分布式系统的集成.通过提供消息传递和消息排队模型,它可以在分布式环境下提供应用解耦 ...
随机推荐
- Sqoop(三)将关系型数据库中的数据导入到HDFS(包括hive,hbase中)
一.说明: 将关系型数据库中的数据导入到 HDFS(包括 Hive, HBase) 中,如果导入的是 Hive,那么当 Hive 中没有对应表时,则自动创建. 二.操作 1.创建一张跟mysql中的i ...
- Redis学习之路(一)Redis简介
一.Redis简介 是以key-value形式存储,和传统的关系型数据库不一样,不一定遵循传统数据库的一些基本要求.(区别于MYSQL的二维表格的形式存储).和Memcache类似,但是很大程度上拟补 ...
- 孟德尔随机化(Mendelian Randomization) 统计功效(power)和样本量计算
孟德尔随机化(Mendelian Randomization) 统计功效(power)和样本量计算 1 统计功效(power)概念 统计功效(power)指的是在原假设为假的情况下,接受备择假设的概率 ...
- 多年经验总结,写出最惊艳的 Markdown 高级用法
点赞再看,养成习惯,微信搜索[高级前端进阶]关注我. 本文 GitHub https://github.com/yygmind 已收录,有一线大厂面试完整考点和系列文章,欢迎 Star. 最近在学习的 ...
- LeetCode225 用队列实现栈
使用队列实现栈的下列操作: push(x) -- 元素 x 入栈 pop() -- 移除栈顶元素 top() -- 获取栈顶元素 empty() -- 返回栈是否为空 注意: 你只能使用队列的基本操作 ...
- dubbo配置启动时检查
启动检查设置 Dubbo缺省会在启动时检查依赖的服务是否可用,不可用会抛出异常,阻止Spring初始化完成,默认check="true":是开启检查. 比如测试的时候,有些服务并不 ...
- c++ 参数传递与返回值详解(reference)
pass by value or pass by reference? 我们知道,当函数在传递值的时候,会新建一个变量(没有名字)储存这个值 然后传递.降低程序运行的效率. 如果使用引用(refere ...
- 【MySQL】使用MySQL(连接、选择数据库、显示数据库和表信息)
第3章 使用MySQL 文章目录 第3章 使用MySQL 连接 选择数据库 了解数据库和表 小结 简单记录 - MySQL必知必会 - [英]Ben Forta 将学习如何连接和登录到MySQL,如何 ...
- WIN7系统没有USB驱动和以太网驱动如何操作
| 欢迎关注个人公众号 zclinux_note 第一时间获取关于linux使用的技巧.探索Linux的奥秘 | 今天在单位安装了一台win7纯净版,但是安装完成后发现usb没有反应,插上网 ...
- 安装newman error:package exports for 'c:\nmp\node_modules\newman\node_module 解决办法
一.场景描述: 通过npm安装newman时,一直失败. 尝试了很多安装命令: npm install -g newman npm install -g newman --registry=http: ...