MIT 6.5840 Raft Implementation(2A, Leader Election)
Raft实现思路+细节
2A
任务分解
总体来说,2A中主要的任务就是选出领导人,在选出领导人的时候,我们要遵循下图。
在2A中,由于并没有出现日志复制,所以我们只需要考察两者的任期是否相等,以及接收者在本轮任期中有没有投票即可。
因而我们可以这样地给出2A中的实现内容:
完善
GetState()
函数,这样才能让评测机知道我们选出了Leader完善Raft结构体(见论文上的State)
完善
RequestVote()
函数,按照上图中的逻辑完善
Make()
函数,对成员进行初始化完善
ticker()
和MakeElection()
函数,在没有收到领导人信息的时候开始选举初步写出heartbeat相关功能(只需要在接收时变成跟随者即可)
实现细节
关于Raft结构体,基本上需要参考论文上的State即可。
我在这里多加了一个safe状态(表示作为跟随者在这个周期内有没有收到领导人的信息,在收到RPC时置为
true
,在ticker()
初始化和变成跟随者时变成false
,若ticker()
检查时为false
,则直接开始选举),这样就模拟了发动选举的过程。(credit to @Vargvain )关于
RequestVote()
函数,在2A阶段我们先判断任期的大小关系,如果候选人更大,那就让接收者先同步任期,并变成追随者;如果接收者更大,就直接返回false
。如果相等,那么就看是否已经投过票,如果投过,返回false
,反之返回true
。在这里,我建议封装好
toCandidate(), toFollower(), toLeader()
这几个函数,这样可以减少代码复用,而且用到的也确实挺多的。关于
Make()
函数,我们暂时只要给不同变量赋上初始值。关于
ticker()
函数。首先要做的是调整ElectionTimeout
,论文中有提到heartbeatInterval << ElectionTimeout
,并且通过分析可以发现ElectionTimeout
中随机值上界不超过下界的两倍,我选择ElectionTimeout = 400 + (rand.Int63() % 400)
。接下来就是看是否是一个not safe的跟随者,如果是这样,那就开始选举(一个Go程)。选举函数基本是2A中最大的难点。首先,我们需要给
RequestVoteArgs
赋好初始值,然后就对于每一个peer(当然,peerId != rf.me),处理RequestVoteReply
,如果回复的任期更高,那就变成Follower,反之,统计票数,如果超过半数,就变成领导人。关于heartbeat,只需要依照
RequestVoteRPC
的格式完成基本的AppendEntriesRPC
,并在变成领导人时给每个人发就行。
注意事项
关于锁的一些小建议(credit to @lauyeeyu)
- 尽量缩短 Lock() 和 Unlock() 之间的长度(更细的控制)
- 在Sleep或者耗时间的操作中不要持有锁,会占用进程,或导致死锁
- 小心控制流语句 (continue, break, return) 可能会跳过你写的 Unlock()
- 读写变量前别忘了上锁
- 必要时(为了缩短上锁区域的长度)可以变量先读到临时变量,然后就可以解锁了,之后读取可以使用临时变量(但是要小心数据修改可能的隐患)
关于并发
- 有必要再去了解一下并发进行的形式和原理
对于这种情况,如果里面不用_peerId
会出问题,因为在新开的Go程进行到某一阶段时可能peerId
已经发生了变化。
关于测试
总时长情况大概如下图:
关于每一个测试后面的四个数字意义,见MIT课程页面
MIT 6.5840 Raft Implementation(2A, Leader Election)的更多相关文章
- ZooKeeper leader election
Paxos是分布式应用中解决同步问题的核心.作为应用研发工程师,我们总是倾向于使用一种相对简洁的方式实现复杂的算法.ZooKeeper leader election实现就是一个非常好的参考. 其实现 ...
- Kafka配置项unclean.leader.election.enable造成consumer出现offset重置现象
消费端出现offset重置为latest, earliest现象,类似log: (org.apache.kafka.clients.consumer.internals.Fetcher.handleF ...
- Leader Election 选举算法
今天讲一讲分布式系统中必不可少的选举算法. leader 就是一堆服务器中的协调者,某一个时刻只能有一个leader且所有服务器都承认这个leader. leader election就是在一组进程中 ...
- Leader Election
Leader Election Zookeeper的基本操作 Zookeeper虽然是分布式系统,但它并不是为文件存储而设计的,Zookeeper里存储的一般是配置信息和源信息.实际上,Zookeep ...
- Kafka学习笔记(4)----Kafka的Leader Election
1. Zookeeper的基本操作 zookeeper中的节点可以持久化/有序的两个维度分为四种类型: PERSIST:持久化无序(保存在磁盘中) PERSIST_SEQUENTIAL:持久化有序递增 ...
- Zookeeper 学习笔记之 Leader Election
ZooKeeper四种节点类型: Persist Persist_Sequential Ephemeral Ephemeral_Sequential 在节点上可注册的Watch,客户端先得到通知再得到 ...
- MIT 6.824 Lab2A Raft之领导者选举
实验准备 实验代码:git://g.csail.mit.edu/6.824-golabs-2021/src/raft 如何测试:go test -run 2A -race 相关论文:Raft Exte ...
- Raft
http://thesecretlivesofdata.com/raft/ https://github.com/coreos/etcd 1 Introduction Consensus algo ...
- Raft翻译
英文原文:https://web.stanford.edu/~ouster/cgi-bin/papers/raft-atc14 In Search of an Understandable Conse ...
- Raft与MongoDB复制集协议比较
在一文搞懂raft算法一文中,从raft论文出发,详细介绍了raft的工作流程以及对特殊情况的处理.但算法.协议这种偏抽象的东西,仅仅看论文还是比较难以掌握的,需要看看在工业界的具体实现.本文关注Mo ...
随机推荐
- C# 获取指定窗口的上层窗口
如何获取当前窗口层级上方的所有窗口信息 User32有函数GetWindow function (winuser.h) - Win32 apps | Microsoft Docs,可以根据已知窗口句柄 ...
- 将音频格式从flac转到wav的两种方法
最近在智能语音中用到了数据集cn-celeb.这个数据集的音频格式是flac,而在做数据增强(augmentation)以及模型训练时用的数据格式是wav,因此需要把音频格式从flac转到wav.我在 ...
- CTFShow 反序列化 Web 255-266
CTFShow 反序列化 255-266 漏洞原理 未队用户输入的序列化字符串进行检测,导致攻击者可以控制反序列化过程,从而导致代码执行,SQL注入,目录遍历等后果. 触发条件 unserialize ...
- 音视频八股文(2)--ffmpeg常见命令(1)
官方文档: https://www.ffmpeg.org/ffplay-all.html https://www.ffmpeg.org/ffmpeg-all.html 01-Windows FFMPE ...
- 2021-06-23:给定一个数组arr,代表每个人的能力值。再给定一个非负数k,如果两个人能力差值正好为k,那么可以凑在一起比赛。一局比赛只有两个人,返回最多可以同时有多少场比赛。
2021-06-23:给定一个数组arr,代表每个人的能力值.再给定一个非负数k,如果两个人能力差值正好为k,那么可以凑在一起比赛.一局比赛只有两个人,返回最多可以同时有多少场比赛. 福大大 答案20 ...
- Springboot通过谷歌Kaptcha 组件,生成图形验证码
图形验证码属于老生常谈了,具体细节这里就不说了.生成图形验证码的办法非常多,今天讲解一种通过Kaptcha组件快速生成图形验证码的方法.Kaptcha是谷歌开源的一款简单实用的图形验证码组件.我个人推 ...
- vue-admin-template包下载地址
https://gitee.com/panjiachen/vue-admin-template/ https://github.com/PanJiaChen/vue-admin-template
- Vue Element-ui 之 el-table自动滚动
首先是 div结构布局 <div id="scrollId">//对el-table盒子设置 id 属性 <div style="height: 100 ...
- 这款全自动自适应工具你用过了吗?autofit.js请求加入你的战场!
前段时间做了一个自适应的小工具(autofit.js) 经过一段时间的试用,同学们发现了工具存在的一些问题,我自己也发现了一些,这篇文章是针对这些问题撰写的. autofit.js autofit.j ...
- Prompt Engineering优化原则 - 以Webshell代码解释为例
一.LLM prompt优化原则 本文围绕"PHP代码解释"这一任务,讨论LLM prompt优化原则. 代码样例如下: <?php echo "a5a5aa555 ...