storm的设计思想

storm的设计思想

　　在 Storm 中也有对流（Stream）的抽象，流是一个不间断的、无界的连续 Tuple（Storm在建模事件流时，把流中的事件抽象为 Tuple 即元组）。Storm 认为每个流都有一个 Stream 源，也就是原始元组的源头，所以它将这个源头抽象为 Spout， Spout 可能连接 Twitter API 并不断发出推文（ Tweet），也可能从某个队列中不断读取队列元素并装配为 Tuple 发射。
　　有了源头即 Spout 也就是有了流，同样的思想， Twitter 将流的中间状态转换抽象为Bolt， Bolt 可以消费任意数量的输入流，只要将流方向导向该 Bolt，同时它也可以发送新的流给其他 Bolt 使用，这样一来，只要打开特定的 Spout（管口），再将 Spout 中流出的 Tuple导向特定的 Bolt，由 Bolt 处理导入的流后再导向其他 Bolt 或者目的地。
　　假设 Spout 就是一个一个的水龙头，并且每个水龙头里流出的水是不同的，想获得哪种水就拧开哪个水龙头，然后使用管道将水龙头的水导向到一个水处理器（Bolt），水处理器处理后使用管道导向另一个处理器或者存入容器中。图 1-8 和图 1-9 为 Spout、 Tuple 和 Bolt 之间的关系和流程。

　　　　　　　　　　　　　　图 1-8 Spout、 Bolt 顺序处理数据流图

　　　　　　　　　　　　　　图 1-9 Bolt 多输入数据流图

　　为了增大水处理效率，可以在同一个水源处接上多个水龙头并使用多个水处理器，如图 1-10 所示。

　　　　　　　　　　　　图 1-10　多 Spout、多 Bolt 处理流程图

　　对应上文的介绍，可以很容易地理解图 1-10，这是一张有向无环图。 Storm 将这个图抽象为 Topology（即拓扑），拓扑是 Storm 中最高层次的一个抽象概念，提交拓扑到 Storm 集群执行，一个拓扑就是一个流转换图。图中的每个节点是一个 Spout 或者 Bolt，图中的边是指Bolt 订阅了哪些流。