Kafka为什么不支持读写分离得原因?-干货
在 Kafka 中,出产者写入音讯、顾客读取音讯的操作都是与 leader 副本进行交互的,从 而结束的是一种主写主读的出产消费模型。数据库、Redis 等都具有主写主读的功用,与此同时还支撑主写从读的功用,主写从读也便是读写分别,为了与主写主读对应,这儿就以主写从读来称谓。Kafka 并不支撑主写从读,这是为什么呢?
从代码层面上来说,虽然增加了代码复杂度,但在 Kafka 中这种功用完全能够支撑。关于 这个问题,咱们能够从“收益点”这个视点来做具体分析。主写从读能够让从节点去分管主节 点的负载压力,防范主节点负载过重而从节点却闲暇的状况发生。可是主写从读也有 2 个很明 显的缺陷:
(1)数据一致性问题。数据从主节点转到从节点必定会有一个延时的时间窗口,(waLsinsstube)这个时间 窗口会导致主从节点之间的数据纷歧致。某一时间,在主节点和从节点中 A 数据的值都为 X, 之后将主节点中 A 的值修改为 Y,那么在这个改动告知到从节点之前,运用读取从节点中的 A 数据的值并不为最新的 Y,由此便产生了数据纷歧致的问题。
(2)延时问题。类似 Redis 这种组件,数据从写入主节点到同步至从节点中的进程需求经 历网络→主节点内存→网络→从节点内存这几个阶段,整个进程会耗费必定的时间。而在 Kafka 中,主从同步会比 Redis 愈加耗时,它需求阅历网络→主节点内存→主节点磁盘→网络→从节 点内存→从节点磁盘这几个阶段。对延时活络的运用而言,主写从读的功用并不太适用。
实践状况下,许多运用既能够忍受必定程度上的延时,也能够忍受一段时间内的数据纷歧 致的状况,那么关于这种状况,Kafka 是否有必要支撑主写从读的功用呢?
主写从读能够均摊必定的负载却不能做到完全的负载均衡,比方关于数据写压力很大而读 压力很小的状况,从节点只能分摊很少的负载压力,而绝大多数压力仍是在主节点上。而在 Kafka 中却能够抵达很大程度上的负载均衡,而且这种均衡是在主写主读的架构上结束的。咱们来看 一下 Kafka 的出产消费模型,如下图所示。
干货|为什么Kafka不支撑读写分别
在 Kafka 集群中有 3 个分区,每个分区有 3 个副本,正好均匀地散布在 3个 broker 上,灰色阴影的代表 leader 副本,非灰色阴影的代表 follower 副本,虚线表明 follower 副本从 leader 副本上拉取音讯。当出产者写入音讯的时分都写入 leader 副本,关于图 8-23 中的 现象,每个 broker 都有音讯从出产者流入;当顾客读取音讯的时分也是从 leader 副本中读取 的,关于图 8-23 中的现象,每个 broker 都有音讯流出到顾客。
咱们很明显地能够看出,每个 broker 上的读写负载都是相同的,这就说明 Kafka 能够通过 主写主读结束主写从读结束不了的负载均衡。(shikong-movies)上图展现是一种志向的组织状况,有以下几种 状况(包括但不只限于)会构成必定程度上的负载不均衡:
(1)broker 端的分区分配不均。当创建主题的时分或许会出现某些 broker 分配到的分区数 多而其他 broker 分配到的分区数少,那么自然而然地分配到的 leader 副本也就不均。
(2)出产者写入音讯不均。出产者或许只对某些 broker 中的 leader 副本进行许多的写入操 作,而对其他 broker 中的 leader 副本漠然置之。
(3)顾客消费音讯不均。顾客或许只对某些 broker 中的 leader 副本进行许多的拉取操 作,而对其他 broker 中的 leader 副本漠然置之。
(4)leader 副本的切换不均。在实践运用中或许会由于 broker 宕机而构成主从副本的切换, 或许分区副本的重分配等,这些动作都有或许构成各个 broker 中 leader 副本的分配不均。
对此,咱们能够做一些防范措施。针对第一种状况,在主题创建的时分尽或许使分区分配 得均衡,好在 Kafka 中相应的分配算法也是在竭力地追求这一政策,如果是开发人员自定义的 分配,则需求留心这方面的内容。关于第二和第三种状况,主写从读也无法处理。关于第四种 状况,Kafka 供给了优先副本的推举来抵达 leader 副本的均衡,与此同时,也能够协作相应的 监控、告警和运维途径来结束均衡的优化。
在实践运用中,协作监控、告警、运维相结合的生态途径,在绝大多数状况下 Kafka 都能 做到很大程度上的负载均衡。总的来说,Kafka 只支撑主写主读有几个利益:能够简化代码的 结束逻辑,削减犯错的或许;将负载粒度细化均摊,与主写从读比较,不只负载效能更好,而 且对用户可控;没有延时的影响;在副本安稳的状况下,不会出现数据纷歧致的状况。为此, Kafka 又何须再去结束对它而言毫无收益的主写从读的功用呢?这一切都得益于 Kafka 优异的 架构规划,从某种意义上来说,主写从读是由于规划上的缺陷而构成的权宜之计。
Kafka为什么不支持读写分离得原因?-干货的更多相关文章
- EF通用数据层封装类(支持读写分离,一主多从)
浅谈orm 记得四年前在学校第一次接触到 Ling to Sql,那时候瞬间发现不用手写sql语句是多么的方便,后面慢慢的接触了许多orm框架,像 EF,Dapper,Hibernate,Servic ...
- 实施MySQL ReplicationDriver支持读写分离
MySQL 提供支持读写分离的驱动类: com.mysql.jdbc.ReplicationDriver 替代 com.mysql.jdbc.Driver 注意,所有参数主从统一: jdbc:mysq ...
- SqlSugar ORM已经支持读写分离
目前只有MYSQL版 3.5.2.9 支持,其库版本12月3号更新该功能 用例讲解 using (var db = new SqlSugarClient("主连接字符串", &qu ...
- .NETCore 下支持分表分库、读写分离的通用 Repository
首先声明这篇文章不是标题党,我说的这个类库是 FreeSql.Repository,它作为扩展库现实了通用仓储层功能,接口规范参考 abp vnext 定义,实现了基础的仓储层(CURD). 安装 d ...
- SQL Server Alwayson读写分离配置
标签:MSSQL/只读路由 概述 Alwayson相对于数据库镜像最大的优势就是可读副本,带来可读副本的同时还添加了一个新的功能就是配置只读路由实现读写分离:当然这里的读写分离稍微夸张了一点,只能称之 ...
- Mycat对MySQL进行垂直水平分表分库,读写分离
1. MyCAT概述 1.1 背景 随着传统的数据库技术日趋成熟.计算机网络技术的飞速发展和应用范围的扩充,数据库应用已经普遍建立于计算机网络之上.这时集中式数据库系统表现出它的不足: (1)集中 ...
- Mycat读写分离、主从切换、分库分表的操作记录
系统开发中,数据库是非常重要的一个点.除了程序的本身的优化,如:SQL语句优化.代码优化,数据库的处理本身优化也是非常重要的.主从.热备.分表分库等都是系统发展迟早会遇到的技术问题问题.Mycat是一 ...
- 高可用Mysql架构_Mysql主从复制、Mysql双主热备、Mysql双主双从、Mysql读写分离(Mycat中间件)、Mysql分库分表架构(Mycat中间件)的演变
[Mysql主从复制]解决的问题数据分布:比如一共150台机器,分别往电信.网通.移动各放50台,这样无论在哪个网络访问都很快.其次按照地域,比如国内国外,北方南方,这样地域性访问解决了.负载均衡:M ...
- 基于CDH,部署Apache Kylin读写分离
一. 部署读写分离的契机 目前公司整体项目稳定运行在CDH5.6版本上,与其搭配的Hbase1.0.0无法正确运行Kylin,原因是Kylin只满足Hbase1.1.x+版本.解决方案如下 1. 升级 ...
随机推荐
- 201871010113-刘兴瑞《面向对象程序设计(java)》第十一周学习总结
项目 内容 这个作业属于哪个课程 <任课教师博客主页链接> https://www.cnblogs.com/nwnu-daizh/ 这个作业的要求在哪里 <作业链接地址>htt ...
- day91_11_13Local与偏函数
一.local 在线程的处理中,常常遇到这样的问题.当一系列线程遇到io操作的时候,就会执行其他线程,这时候就会出现数据冲突,发生数据方面的问题: from threading import Thre ...
- leetcode 双周赛9 进击的骑士
一个坐标可以从 -infinity 延伸到 +infinity 的 无限大的 棋盘上,你的 骑士 驻扎在坐标为 [0, 0] 的方格里. 骑士的走法和中国象棋中的马相似,走 “日” 字:即先向左(或右 ...
- 前端 web mime类型引起的 常见404错误
mime 类型设置参考https://www.w3school.com.cn/media/media_mimeref.asp
- LeetCode 706:设计哈希映射 Design HashMap
题目: 不使用任何内建的哈希表库设计一个哈希映射 具体地说,你的设计应该包含以下的功能 put(key, value):向哈希映射中插入(键,值)的数值对.如果键对应的值已经存在,更新这个值. get ...
- pytest框架之mark标签
对测试用例打标签,在运行测试用例的时候,可根据标签名来过滤要运行的用例. 一.注册标签名 1.创建pytest.ini文件,在文件中按如下方式添加标签名: [pytest] markers = smo ...
- python之面向对象设计、编程
面向对象 一.编程三个范式 1.面向过程编程 2.函数式编程 数学层面的函数 python中的函数编程 3.面向对象编程 二.面向对象设计 1.类:把一类事物共同的特征和共同的动作整合在一起就是类: ...
- Springboot整合单元测试
概述 对于简单易懂的小项目而言,可以不适用单元测试对平时开发没有什么影响,但是对于大型项目,单纯的依赖 “手点功能测试”, 那简直就是灾难,好了,说道这里,应该明白测试的一个重要性了,,,接下来,我们 ...
- JNDI和JDBC的区别-个人理解
网上关于JNDI和JDBC的定义有很多,但是都很官方不容易理解,下面是我最近查阅资料得出的心得体会.希望对你在理解上有一点点的帮助,说的不对的请指正哦. JDBC: 看到最多的就是 Java Data ...
- 对并发Map的测试
/** * ConcurrentHashMap效率最高 */ public class MapTest { public static void main(String[] args) throws ...