安装部署

zeromq

简单快速的传输层框架,安装如下:

wget http://download.zeromq.org/zeromq-2.1.7.tar.gz
tar zxf zeromq-2.1.7.tar.gz
cd zeromq-2.1.7
./configure
make
sudo make install
sudo ldconfig

jzmq

应该是zmq的java包吧,安装步骤如下:

git clone git://github.com/nathanmarz/jzmq.git
cd jzmq
./autogen.sh
./configure
make
make install

zookeeper

针对大型分布式系统提供配置维护、名字服务、分布式同步、组服务等,可以保证:

  1. 顺序性:客户端的更新请求都会被顺序处理
  2. 原子性:更新操作要不成功,要不失败
  3. 一致性:客户端不论连接到那个服务端,展现给它的都是同一个视图
  4. 可靠性:更新会被持久化
  5. 实时性:对于每个客户端他的系统视图都是最新的

在zookeeper中有几种角色:

  1. Leader:发起投票和决议,更新系统状态
  2. Follower:响应客户端请求,参与投票
  3. Observer:不参与投票,只同步Leader状态
  4. Client:发起请求

在启动之前需要在conf下编写zoo.cfg配置文件,里面的内容包括:

  1. tickTime:心跳间隔
  2. initLimit:Follower和Leader之间建立连接的最大心跳数
  3. syncLimit:Follower和Leader之间通信时限
  4. dataDir:数据目录
  5. dataLogDir:日志目录
  6. minSessionTimeout:最小会话时间(默认tickTime * 2)
  7. maxSessionTimeout:最大会话时间(默认tickTime * 20)
  8. maxClientCnxns:客户端数量
  9. clientPort:监听客户端连接的端口
  10. server.N=YYYY:A:B:其中N为服务器编号,YYYY是服务器的IP地址,A是Leader和Follower通信端口,B为选举端口

在单机的时候可以直接将zoo_sample.cfg修改为zoo.cfg,然后使用启动服务即可(如果报错没有目录,手动创建即可):

sudo ./zkServer.sh start

现在用netstat -na(或者是./zkCli.sh 127.0.0.1:2181)就能看到在监听指定的端口,那么zookeeper现在起来了。

参考:

  1. http://blog.csdn.net/shenlan211314/article/details/6170717
  2. http://blog.csdn.net/hi_kevin/article/details/7089358
  3. 下载地址:http://apache.dataguru.cn/zookeeper/zookeeper-3.4.6

jstorm

该系统是阿里巴巴在对storm做了重写和优化,在storm里面能运行的在jstorm里面也能运行,该系统擅长执行实时计算,而且基本上都在内存中搞定。进入正题,jstorm中有如下几种角色:

  1. spout:源头。
  2. bolt:处理器。
  3. topology:由处理器、源头组成的拓扑网络(每条边就是一个订阅关系)。
  4. tuple:数据。
  5. worker:执行进程。
  6. task:执行线程。
  7. nimbus:分发代码、任务,监控集群运行状态
  8. supervisor:监听nimbus的指令,接收分发代码和任务并执行

jstorm是用zookeeper来管理的,下面来看conf/storm.yaml中的常用配置:

  1. storm.zookeeper.servers:zookeeper集群地址。
  2. storm.zookeeper.root:zookeeper中storm的根目录位置。
  3. storm.local.dir:用来存放配置文件、JAR等。
  4. storm.messaging.netty.transfer.async.batch:在使用Netty的时候,设置是否一个batch中会有多个消息。
  5. java.library.path:本地库的加载地址,比如zeromq、jzmq等。
  6. supervisor.slots.ports:supervisor节点上的worker使用的端口号列表。
  7. supervisor.enable.cgroup:是否使用cgroups来做资源隔离。
  8. topology.buffer.size.limited:是否限制内存,如果不限制将使用LinkedBlockingDeque。
  9. topology.performance.metrics:是否开启监控。
  10. topology.alimonitor.metrics.post:是否将监控数据发送给AliMonitor。
  11. topology.enable.classloader:默认禁用了用户自定义的类加载器。
  12. worker.memory.size:worker的内存大小。

在把配置搞正确之后,就可以用bin中的脚本来启动节点服务了:

sudo ./jstorm nimbus
sudo ./jstorm supervisor

参考:

  1. https://github.com/alibaba/jstorm/wiki/%E5%A6%82%E4%BD%95%E5%AE%89%E8%A3%85
  2. storm编程入门:http://ifeve.com/getting-started-with-storm-5/

jstorm的架构

结构和hadoop的很像,整体看来如下(Nimbus负责控制、提交任务,Supervisor负责执行任务):

为了做实时计算你需要建立topology,由计算节点组成的图:

在JStorm上的topology的生命周期如下:

  1. 上传代码并做校验(/nimbus/inbox);
  2. 建立本地目录(/stormdist/topology-id/);
  3. 建立zookeeper上的心跳目录;
  4. 计算topology的工作量(parallelism hint),分配task-id并写入zookeeper;
  5. 把task分配给supervisor执行;
  6. 在supervisor中定时检查是否有新的task,下载新代码、删除老代码,剩下的工作交个小弟worker;
  7. 在worker中把task拿到,看里面有哪些spout/Bolt,然后计算需要给哪些task发消息并建立连接;
  8. 在nimbus将topology终止的时候会将zookeeper上的相关信息删除;

在集群运行的时候要明白WorkerExecutorTask的概念,当然消息被传递的时候其实发起者、接收者都是Task,而真正执行的是Executor(可以理解为一个线程),由它来轮询其中的Spout/Bolt:

在jstorm中通过ack机制来保证数据至少被处理一次,简单来说下ack:

在消息发、收的过程中会形成一棵树状的结构,在一个消息收的时候发一个验证消息,发的时候也发一个验证消息,那么总体上每个消息出现两次。那么ack机制就是将每个消息的随机生成的ID进行异或,如果在某一时刻结果为0,那就说明处理成功。

如下图所示:

需要补充一下:虽然ack算是随机算法,但是出错的概率极低,但是系统应该具备在出错之后矫正的能力(甚至检查是否出错)。ack机制保证了消息会被处理,但是不能保证只处理一次&顺序处理,在需要的情形就有了事务的概念:

码代码

基本用法

所谓普通模式是指不去使用JStorm为开发人员提供的高级抽象,用其提供的原生的接口进行开发,主要涉及到的接口有:

  1. ISpout:数据源头接口,jstorm会不断调用nextTuple方法来获取数据并发射出去。
    1. open:在worker中初始化该ISpout时调用,一般用来设置一些属性:比如从spring容器中获取对应的Bean。
    2. close:和open相对应(在要关闭的时候调用)。
    3. activate:从非活动状态变为活动状态时调用。
    4. deactivate:和activate相对应(从活动状态变为非活动状态时调用)。
    5. nextTuple:JStorm希望在每次调用该方法的时候,它会通过collector.emit发射一个tuple。
    6. ack:jstorm发现msgId对应的tuple被成功地完整消费会调用该方法。
    7. fail:和ack相对应(jstorm发现某个tuple在某个环节失败了)。
  2. IBolt:数据处理接口,jstorm将消息发给他并让其处理,完成之后可能整个处理流程就结束了,也可能传递给下一个节点继续执行。
    1. prepare:对应ISpout的open方法。
    2. cleanup:对应ISpout的close方法(吐槽一下,搞成一样的名字会死啊...)。
    3. execute:处理jstorm发送过来的tuple。
  3. TopologyBuilder:每个jstorm运行的任务都是一个拓扑接口,而builder的作用就是根据配置文件构建这个拓扑结构,更直白就是构建一个网。
    1. setSpout:添加源头节点并设置并行度。
    2. setBolt:添加处理节点并设置并行度。

因为还存在多种其他类型的拓扑结构,那么在builder这个环节当然不能乱传,在基本用法要去实现IRichSpoutIRichBolt接口,他们并没有新增任何的方法,仅仅是用来区分类型。既然是拓扑结构那么应该是一个比较复杂的网络,其实这个是在builder中完成的,其中setSpout/setBolt返回的结果其实是InputDeclarer对象,在其中定义了N个流分组的策略:

public T fieldsGrouping(String componentId, String streamId, Fields fields); // 字段分组
public T globalGrouping(String componentId, String streamId); // 全局分组
public T shuffleGrouping(String componentId, String streamId); // 随机分组
public T localOrShuffleGrouping(String componentId, String streamId); // 本地或随机分组
public T noneGrouping(String componentId, String streamId); // 无分组
public T allGrouping(String componentId, String streamId); // 广播分组
public T directGrouping(String componentId, String streamId); // 直接分组
// 自定义分组
public T customGrouping(String componentId, CustomStreamGrouping grouping);
public T customGrouping(String componentId, String streamId, CustomStreamGrouping grouping);
public T grouping(GlobalStreamId id, Grouping grouping);

通过这些接口,我们可以一边增加处理节点、一边指定其消费哪些消息。

批量用法

基本的用法是每次处理一个tuple,但是这种效率比较低,很多情况下是可以批量获取消息然后一起处理,批量用法对这种方式提供了支持。打开代码可以很明显地发现jstorm和storm的有着不小的区别:

// storm 中的定义
public interface IBatchSpout extends Serializable {
void open(Map conf, TopologyContext context);
void emitBatch(long batchId, TridentCollector collector);// 批次发射tuple
void ack(long batchId); // 成功处理批次
void close();
Map getComponentConfiguration();
Fields getOutputFields();
} // jstorm中的定义
public interface IBatchSpout extends IBasicBolt, ICommitter, Serializable {
}

另外如果用批次的话就需要改用BatchTopologyBuilder来构建拓扑结构,在IBatchSpout中主要实现的接口如下:

  1. execute:虽然和IBolt中名字、参数一致,但是增加了一些默认逻辑
    1. 入参的input.getValue(0)表示批次(BatchId)。
    2. 发送消息时collector.emit(new Values(batchId, value)),发送的列表第一个字段表示批次(BatchId)。
  2. commit:批次成功时调用,常见的是修改offset。
  3. revert:批次失败时调用,可以在这里根据offset取出批次数据进行重试。

Transactional Topology

事务拓扑并不是新的东西,只是在原始的ISpout、IBolt上做了一层封装。在事务拓扑中以并行(processing)和顺序(commiting)混合的方式来完成任务,使用Transactional Topology可以保证每个消息只会成功处理一次。不过需要注意的是,在Spout需要保证能够根据BatchId进行多次重试,在这里有一个基本的例子,这里有一个不错的讲解。

Trident

这次一种更高级的抽象(甚至不需要知道底层是怎么map-reduce的),所面向的不再是spout和bolt,而是stream。主要涉及到下面几种接口:

  1. 在本地完成的操作
    1. Function:自定义操作。
    2. Filters:自定义过滤。
    3. partitionAggregate:对同批次的数据进行local combiner操作。
    4. project:只保留stream中指定的field。
    5. stateQuery、partitionPersist:查询和持久化。
  2. 决定Tuple如何分发到下一个处理环节
    1. shuffle:随机。
    2. broadcast:广播。
    3. partitionBy:以某一个特定的field进行hash,分到某一个分区,这样该field位置相同的都会放到同一个分区。
    4. global:所有tuple发到指定的分区。
    5. batchGlobal:同一批的tuple被放到相同的分区(不同批次不同分区)。
    6. partition:用户自定义的分区策略。
  3. 不同partition处理结果的汇聚操作
    1. aggregate:只针对同一批次的数据。
    2. persistentAggregate:针对所有批次进行汇聚,并将中间状态持久化。
  4. 对stream中的tuple进行重新分组,后续的操作将会对每一个分组独立进行(类似sql中的group by)
    1. groupBy
  5. 将多个Stream融合成一个
    1. merge:多个流进行简单的合并。
    2. join:多个流按照某个KEY进行UNION操作(只能针对同一个批次的数据)。

这里有一个jstorm中使用Trident的简单例子。

DRPC

问题排查

模型设计

在很多的实际问题中,我们面对的模型都是大同小异,下面先来看问题是什么:

问题描述

1、在流式计算中经常需要对一批的数据进行汇总计算,如果用SQL来描述就是:

SELECT MIN(status) FROM my_table GROUP BY order_id

在用JStorm来实现这一条简单的SQL时,面对的是一条一条的数据库变化的消息(这里需要保证有序消费),其实相当于在一堆的消息上面做了一个嵌套的SQL查询,用一张图表示如下:

2、

  

----- updating -----

JSTORM使用笔记的更多相关文章

  1. RocketMQ,JStorm与Tair使用笔记

    关于RocketMQ 启动mq nohup sh mqnamesrv -n 10.150.0.94:9876 &  nohup sh mqbroker -n 10.150.0.94:9876 ...

  2. zookeeper+jstorm的集群搭建

    zookeeper的配置: zookeeper有三种配置方式:单机式/伪分布式/集群式 其中伪分布式是在一台电脑上通过不同的端口来模拟分布式情形,需要N份配置文件和启动程序,而集群式是多个zookee ...

  3. JStorm与Storm源码分析(一)--nimbus-data

    Nimbus里定义了一些共享数据结构,比如nimbus-data. nimbus-data结构里定义了很多公用的数据,请看下面代码: (defn nimbus-data [conf inimbus] ...

  4. Flink学习笔记-新一代Flink计算引擎

    说明:本文为<Flink大数据项目实战>学习笔记,想通过视频系统学习Flink这个最火爆的大数据计算框架的同学,推荐学习课程: Flink大数据项目实战:http://t.cn/EJtKh ...

  5. git-简单流程(学习笔记)

    这是阅读廖雪峰的官方网站的笔记,用于自己以后回看 1.进入项目文件夹 初始化一个Git仓库,使用git init命令. 添加文件到Git仓库,分两步: 第一步,使用命令git add <file ...

  6. js学习笔记:webpack基础入门(一)

    之前听说过webpack,今天想正式的接触一下,先跟着webpack的官方用户指南走: 在这里有: 如何安装webpack 如何使用webpack 如何使用loader 如何使用webpack的开发者 ...

  7. SQL Server技术内幕笔记合集

    SQL Server技术内幕笔记合集 发这一篇文章主要是方便大家找到我的笔记入口,方便大家o(∩_∩)o Microsoft SQL Server 6.5 技术内幕 笔记http://www.cnbl ...

  8. PHP-自定义模板-学习笔记

    1.  开始 这几天,看了李炎恢老师的<PHP第二季度视频>中的“章节7:创建TPL自定义模板”,做一个学习笔记,通过绘制架构图.UML类图和思维导图,来对加深理解. 2.  整体架构图 ...

  9. PHP-会员登录与注册例子解析-学习笔记

    1.开始 最近开始学习李炎恢老师的<PHP第二季度视频>中的“章节5:使用OOP注册会员”,做一个学习笔记,通过绘制基本页面流程和UML类图,来对加深理解. 2.基本页面流程 3.通过UM ...

随机推荐

  1. thinkphp getField()获取一列或一个数据

    在开发中经常要获取一个数据的情况,thinkphp中有一个getField()方法可以解决这个问题. 获取一个数据 1 2 $user = M('demo'); $data = $user->g ...

  2. HTTP/FTP压力测试工具siege

    HTTP/FTP压力测试工具siege   压力测试可以检测服务器的承载能力.针对HTTP和FTP服务,Kali Linux提供专项工具siege.该工具可以模拟多个用户同时访问同一个网站的多个网页, ...

  3. Standard NSD file

    %pool: pool=system blockSize=256K layoutMap=cluster allowWriteAffinity=no %pool: pool=datapool block ...

  4. tomcat启动startup.bat一闪而过的问题处理方式

    tomcat在启动时,会读取环境变量的信息,需要一个CATALINA_HOME 与JAVA_HOME的信息,CATALINA_HOME即tomcat的主目录,JAVA_HOME即Java安装的主目录, ...

  5. JMS开发指南

    1.JMS消息的异步与同步接收 消息的异步接收: 异步接收是指当消息到达时,主动通知客户端,即当消息到达时转发到客户端.JMS客户端可以通过注册一个实现MessageListener接口的对象到Mes ...

  6. Mysql 千万级快速查询|分页方案

    1.简单的 直接查主键id SELECT id FROM tblist WHERE LIMIT 500000,10 2对于有where 条件,又想走索引用limit的,必须创建一个索引,将where  ...

  7. python开发_tkinter_多级子菜单

    在之前的blog中有提到python的tkinter中的菜单操作 python开发_tkinter_窗口控件_自己制作的Python IDEL_博主推荐 python开发_tkinter_窗口控件_自 ...

  8. HDU 5694 BD String 迭代

    BD String 题目连接: http://acm.hdu.edu.cn/showproblem.php?pid=5694 Description Problem Description 众所周知, ...

  9. UOJ #17. 【NOIP2014】飞扬的小鸟 背包DP

    #17. [NOIP2014]飞扬的小鸟 Time Limit: 10 Sec  Memory Limit: 162 MBSubmit: 4902  Solved: 1879 题目连接 http:// ...

  10. 利用Hog特征和SVM分类器进行行人检测

    在2005年CVPR上,来自法国的研究人员Navneet Dalal 和Bill Triggs提出利用Hog进行特征提取,利用线性SVM作为分类器,从而实现行人检测.而这两位也通过大量的测试发现,Ho ...