转自:http://www.csdn.net/article/2014-01-28/2818282-Spark-Streaming-big-data 提到Spark Streaming,我们不得不说一下BDAS(Berkeley Data Analytics Stack),这个伯克利大学提出的关于数据分析的软件栈.从它的视角来看,目前的大数据处理可以分为如以下三个类型. 复杂的批量数据处理(batch data processing),通常的时间跨度在数十分钟到数小时之间. 基于历史数据的交互式
本文主要参考: a. https://www.cnblogs.com/yy3b2007com/p/10934090.html 0. 说明 a. 关于spark源码会不定期的更新与补充 b. 对于spark源码的历史博文,也会不定期修改.增加.优化 c. spark源码对应的spark版本为2.4.1 1. 引导 该篇主要讲解执行spark-submit.sh脚本时将任务提交给Yarn阶段代码分析.其中spark的代码版本为2.4.1. (1) spark-submit的入口函数 一般提交一个sp
Apache Flink is a framework and distributed processing engine for stateful computations over unbounded and bounded data streams. Apache Flink是一个分布式.有状态的流计算引擎. 下面将正式开启Flink系列的学习笔记与总结.(https://flink.apache.org/).此篇是准备篇,主要介绍流处理相关的基础概念.别小看这些理论,对后续的学习与理解很