1.RPC:简单点说,就是多线程之间的通信,我们今天用了scala以及akka

   来简单的实现了

   rpc框架的一些简单的内容,一脸包括了,心跳,间隔时间,

   注册以及一些问题,

   模式匹配的一些东西,虽然比较简单,但是属于麻雀虽小,五脏俱全

   这个里面一共有有四个文件:

   Master.scala

   RemoteMessage.scala

   Worker.scala

   WorkerInfo

  

   Master.scala

  1. package cn.wj.rpc
  2.  
  3. import akka.actor.{Actor, ActorSystem}
  4. import akka.actor.Actor.Receive
  5. import com.typesafe.config.ConfigFactory
  6. import akka.actor.Props
  7. import scala.concurrent.duration._
  8.  
  9. import scala.collection.mutable
  10.  
  11. /**
  12. * Created by WJ on 2016/12/23.
  13. */
  14. class Master(val host:String,val port:Int ) extends Actor {
  15.  
  16. // workerId -> WorkerInfo
  17. val idToWorker = new mutable.HashMap[String,WorkerInfo]()
  18. val workers = new mutable.HashSet[WorkerInfo]()
  19.  
  20. //时间间隔时间,超时检测的间隔
  21. val CHECK_INTERVAL = 15000
  22. //用于接收消息
  23. override def receive: Receive = {
  24. case RegisterWorker(id,memory,cores) => {
  25. // println("a client connected")
  26. // sender ! "reply" //往发送给他消息的人回复一个消息
  27. //判断一下是不是已经注册过了
  28. if(!(idToWorker.contains(id))){
  29. //把Worker的信息封装以前,保存到内存当中
  30. val workerInfo = new WorkerInfo(id,memory,cores)
  31. idToWorker(id) = workerInfo //这个应该是scala的特定版本
  32. workers += workerInfo
  33. sender ! RegisteredWorker(s"akka.tcp://MasterSystem@$host:$port/user/Master")
  34. }
  35.  
  36. }
  37. case Heartbeat(id) =>{
  38. if(idToWorker.contains(id)) {
  39. val workerInfo = idToWorker(id)
  40. //报活
  41. //得到系统当前时间
  42. val currentTime = System.currentTimeMillis()
  43. workerInfo.lastHeartbeatTime = currentTime
  44. }
  45. }
  46.  
  47. case CheckTimeOutWorker => {
  48. val currentTime = System.currentTimeMillis()
  49. val toRemove = workers.filter(x => currentTime - x.lastHeartbeatTime > CHECK_INTERVAL)
  50. for(w <- toRemove){
  51. workers -= w
  52. idToWorker -= w.id
  53. }
  54. println(workers.size)
  55. }
  56. }
  57.  
  58. override def preStart(): Unit = {
  59. println("prestart invoked")
  60. //导入隐式转换的功能
  61. import context.dispatcher
  62. context.system.scheduler.schedule(0 millis,CHECK_INTERVAL millis,self,CheckTimeOutWorker)
  63. }
  64. }
  65.  
  66. object Master{
  67. def main(args: Array[String]): Unit = {
  68. val host = args(0)
  69. val port = args(1).toInt
  70. // 准备配置
  71. val configStr =
  72. s"""
  73. |akka.actor.provider = "akka.remote.RemoteActorRefProvider"
  74. |akka.remote.netty.tcp.hostname = "$host"
  75. |akka.remote.netty.tcp.port = "$port"
  76. """.stripMargin
  77. val config = ConfigFactory.parseString(configStr)
  78. //ActorSystem老大,辅助创建和监控下面的Actor,他是单例的
  79. val actorSystem = ActorSystem("MasterSystem",config )
  80. //创建Actor
  81. val master = actorSystem.actorOf(Props(new Master(host,port)),"Master")
  82. actorSystem.awaitTermination()
  83. }
  84. }

  Worker.scala

  1. package cn.wj.rpc
  2.  
  3. import java.util.UUID
  4.  
  5. import akka.actor.{Actor, ActorSelection, ActorSystem, Props}
  6. import com.typesafe.config.ConfigFactory
  7. import scala.concurrent.duration._
  8. /**
  9. * Created by WJ on 2016/12/23.
  10. */
  11. class Worker(val masterHost:String,val masterPort:Int,val memory:Int,val cores:Int) extends Actor {
  12.  
  13. var master : ActorSelection = _
  14. val workerId = UUID.randomUUID().toString
  15. val HEART_INTERVAL = 10000
  16. //preStart执行方法的时机:构造器之后,receive之前
  17. //与Master(Actor)建立连接
  18. override def preStart(): Unit = {
  19. //master已经是别的Master的引用了 ,这是跟master建立连接
  20. master = context.actorSelection(s"akka.tcp://MasterSystem@$masterHost:$masterPort/user/Master")
  21. //向Master发送注册消息
  22. master ! RegisterWorker(workerId,memory,cores)
  23. }
  24.  
  25. override def receive: Receive = {
  26.  
  27. case RegisteredWorker(masterUrl) => {
  28. println(masterUrl)
  29. //启动定时器发送心跳
  30. import context.dispatcher
  31. context.system.scheduler.schedule(0 millis,HEART_INTERVAL millis,self,SendHeartbeat)
  32. }
  33.  
  34. case SendHeartbeat =>{
  35. println("send heartbeat to master")
  36. master ! Heartbeat(workerId)
  37. }
  38.  
  39. }
  40. }
  41.  
  42. object Worker{
  43. def main(args: Array[String]): Unit = {
  44. val host = args(0)
  45. val port = args(1).toInt
  46. val masterHost = args(2)
  47. val masterPort = args(3).toInt
  48. val memory = args(4).toInt
  49. val cores = args(5).toInt
  50.  
  51. // 准备配置
  52. val configStr =
  53. s"""
  54. |akka.actor.provider = "akka.remote.RemoteActorRefProvider"
  55. |akka.remote.netty.tcp.hostname = "$host"
  56. |akka.remote.netty.tcp.port = "$port"
  57. """.stripMargin
  58. val config = ConfigFactory.parseString(configStr)
  59. //ActorSystem老大,辅助创建和监控下面的Actor,他是单例的
  60. val actorSystem = ActorSystem("WorkerSystem",config )
  61. //创建Actor,此时调用该(Actor)的prestart以及receive方法
  62. actorSystem.actorOf(Props(new Worker(masterHost,masterPort,memory,cores)),"Worker")
  63. actorSystem.awaitTermination()
  64. }
  65. }

  RemoteMessage.scala

  1. package cn.wj.rpc
  2.  
  3. /**
  4. * Created by WJ on 2016/12/25.
  5. */
  6. trait RemoteMessage extends Serializable
  7.  
  8. //Worker->Master(这个表明当master接受这个worker时的信息,是receive)
  9. case class RegisterWorker (id:String, memory:Int, cores:Int) extends RemoteMessage
  10.  
  11. //Master -> Worker(这个是master收到workerd的注册信息,表明已经注册过这条信息,是sender ! xxx时候出现的)
  12. case class RegisteredWorker(masterUrl:String) extends RemoteMessage
  13.  
  14. //这是进程之间自己给自己发送消息,所以采用case object,并且不需要实现Serializable
  15. //Worker -> Worker(self)
  16. case object SendHeartbeat
  17.  
  18. //这个是work向master发送定时器,其中的id是work的id,因为要向master说明,是哪一个work给他发送的心跳
  19. //Worker -> Master
  20. case class Heartbeat(id:String) extends RemoteMessage
  21.  
  22. //Master -> self
  23. case object CheckTimeOutWorker

  WorkerInfo.scala

  1. package cn.wj.rpc
  2.  
  3. /**
  4. * Created by WJ on 2016/12/25.
  5. */
  6. class WorkerInfo(val id:String ,val memory :Int,val cores:Int) {
  7. //TODO 上一次心跳
  8. var lastHeartbeatTime:Long = _
  9. }

  这个上面的四个就是简单的实现了RPC框架,其实就是一个Master监控多个Worker,

  当一个Worker创建了,他就是需要在Master注册信息,其实这个Master个人感觉就像

  是个Zookeeper,掌管Worker的信息,为其Worker分配一些资源,当Master接到Worker

  的注册信息的时候,他就在自己的注册表添加上这个Worker,然后向Worker发送一个注册

  成功的信息,此时这个Worker的收到这个注册信息,然后他就给Master发送心跳,这个的

  作用是在告诉Master,我这个Worker是存活的(报活),当一个Worke发送心跳的时间间隔

  过长,长过我们规定的时间,那么此时我们就需要主动杀死这个Worker,感觉hadoop的一些

  分布式和这个原理差不多。

  下面奉上原理图一张:

  

  其中的receive是用于接受信息,因为继承Actor,

  prestart这个方法是执行实在类实例之后,receive的方法之后

2.RPC的大概流程

  首先定义了一个worker,一个master,master首先启动了,

  然后它在prestart()的方法里面
  检测超时的worker,那么在这个里面启动了一个定时器,

  那么我们自己是不是自己可以手写一个定时器,
  比如我们可以用线程来搞定时器,但是我们的akka

  里面提供了一个超级简单的定时器,
  context.system.schedular.schedule

  (0 millis,CHECK_INTERVAL millis,self,CheckTimeOutWorker)
  其中第一个参数:延迟多少秒
  第二个参数:时间间隔
  第三个参数:把这个消息发给谁
  第四个参数:发送什么消息
  虽然它起了消息,但是他不能一下子就把消息发送出去
  ,它只能把消息先发送给自己的receive接收到这个消息,
  然后在发送给我们master,这个里面有一个检测,
  检测worker有多长时间没有向我发送心跳了,
  如果这个时间大过了我规定的范围,
  这样,Master启动完成检测心跳,worker启动完成后
  ,首先向master建立连接,然后发送注册消息
  ,master接受到这个注册消息,
  把worker的信息保存到内存当中,然后向worker反馈一个消息,
  说你注册成功了,然后worker启动一个定时器,
  定时的向master发送心跳,就是这样的流程

  

初见akka-02:rpc框架的更多相关文章

  1. Spark RPC框架源码分析(一)简述

    Spark RPC系列: Spark RPC框架源码分析(一)运行时序 Spark RPC框架源码分析(二)运行时序 Spark RPC框架源码分析(三)运行时序 一. Spark rpc框架概述 S ...

  2. 一个入门rpc框架的学习

    一个入门rpc框架的学习 参考 huangyong-rpc 轻量级分布式RPC框架 该程序是一个短连接的rpc实现 简介 RPC,即 Remote Procedure Call(远程过程调用),说得通 ...

  3. 服务化实战之 dubbo、dubbox、motan、thrift、grpc等RPC框架比较及选型

    转自: http://blog.csdn.net/liubenlong007/article/details/54692241 概述 前段时间项目要做服务化,所以我比较了现在流行的几大RPC框架的优缺 ...

  4. Spark2.1.0——内置RPC框架详解

    Spark2.1.0——内置RPC框架详解 在Spark中很多地方都涉及网络通信,比如Spark各个组件间的消息互通.用户文件与Jar包的上传.节点间的Shuffle过程.Block数据的复制与备份等 ...

  5. 分布式远程服务调用(RPC)框架

    分布式远程服务调用(RPC)框架 finagle:一个支持容错,协议无关的RPC系统 热门度(没变化) 10.0 活跃度(没变化) 10.0  Watchers:581 Star:6174 Fork: ...

  6. dubbo、dubbox、motan、thrift、grpc等RPC框架比较及选型

    概述 前段时间项目要做服务化,所以我比较了现在流行的几大RPC框架的优缺点以及使用场景,最终结合本身项目的实际情况选择了使用dubbox作为rpc基础服务框架.下面就简单介绍一下RPC框架技术选型的过 ...

  7. 【Flink】Flink 底层RPC框架分析

    1. 前言 对于Flink中各个组件(JobMaster.TaskManager.Dispatcher等),其底层RPC框架基于Akka实现,本文着重分析Flink中的Rpc框架实现机制及梳理其通信流 ...

  8. 程序员修神之路--设计一套RPC框架并非易事

    菜菜哥,我最近终于把Socket通信调通了 这么底层的东西你现在都会了,恭喜你离涨薪又进一步呀 http协议不也是利用的Socket吗 可以这么说,http协议是基于TCP协议的,底层的数据传输可以说 ...

  9. 从 BIO、NIO 聊到 Netty,最后还要实现个 RPC 框架!

    大家好,我是 「后端技术进阶」 作者,一个热爱技术的少年. 觉得不错的话,欢迎 star!ღ( ´・ᴗ・` )比心 Netty 从入门到实战系列文章地址:https://github.com/Snai ...

随机推荐

  1. Android 编码风格规范,很赞哦

    1. 前言 这份文档参考了 Google Java 编程风格规范和 Google 官方 Android 编码风格规范.该文档仅供参考,只要形成一个统一的风格,见量知其意就可. 1.1 术语说明 在本文 ...

  2. 解决javascript四舍五入不准确

    function roundFixed(num, fixed) { var pos = num.toString().indexOf('.'), decimal_places = num.toStri ...

  3. SQL2008R2 清空日志

    SQLSERVER2008之前版本执行的SQL语句: DUMP TRAN 数据库名 WITH NO_LOG SQLSERVER2008-R2版本执行的SQL语句: ALTER DATABASE 数据库 ...

  4. SharePoint 栏的三种名字Filed :StaticName、 InternalName、 DisplayName

    SharePoint 的栏,有3个名字, StaticName InternalName  DisplayName. 当在第一次创建栏的时候,这3个名字一起进行创建,并且都一样. <FIELD  ...

  5. ASP.NET 上传图片到FTP

    目录: 2.代码 3.参考资料 4.IIS环境FTP配置 5.使用虚拟目录注意Server.MapPath() 1. 项目介绍 建立FTP文件服务器与应用程序分开. 下面方法中的参数为Stream因为 ...

  6. 关于 no device found for connection ‘ System eth0′问题

    在Vmware上面安装CentOS,开机后,使用:service network restart时,会提示一下错误: Shutting down loopback interface:         ...

  7. April 23 2017 Week 17 Sunday

    It is a characteristic of wisdom not to do desperate things. 不做孤注一掷的事情是智慧的表现. We are told that we ha ...

  8. Selenium入门8 js调用

    execute_script 可以执行js和jquery脚本 示例如下:修改百度首页的按钮字体颜色,按钮隐藏,按钮显示 #coding=utf-8 # 调用js jquery from seleniu ...

  9. 使用Axure管理团队项目图文教程 团队协作操作步骤

    Axure RP团队版和企业版都支持团队协作,可以创建和管理团队项目,即多人共同创作一个原型.本文通过图文教程的形式,讲解了如何基于Axure Share服务创建和管理团队项目.因为Axure Sha ...

  10. 前端高质量知识(二)-JS执行上下文(执行环境)详细图解Script

    先随便放张图 我们在JS学习初期或者面试的时候常常会遇到考核变量提升的思考题.比如先来一个简单一点的. console.log(a); // 这里会打印出什么? var a = 20; PS: 变量提 ...