Spark 基本函数学习笔记一¶ spark的函数主要分两类,Transformations和Actions. Transformations为一些数据转换类函数,actions为一些行动类函数: 转换:转换的返回值是一个新的RDD集合,而不是单个值.调用一个变换方法, 不会有任何求值计算,它只获取一个RDD作为参数,然后返回一个新的RDD. 行动:行动操作计算并返回一个新的值.当在一个RDD对象上调用行动函数时, 会在这一时刻计算全部的数据处理查询并返回结果值. 这里介绍pyspark中常…

一.学习Spark RDD RDD是Spark中的核心数据模型,一个RDD代表着一个被分区(partition)的只读数据集. RDD的生成只有两种途径: 一种是来自于内存集合或外部存储系统: 另一种是通过转换操作来自于其他RDD: 一般需要了解RDD的以下五个接口: partition分区,一个RDD会有一个或者多个分区 dependencies()RDD的依赖关系 preferredLocations(p)对于每个分区而言,返回数据本地化计算的节点 compute(p,context)对于分…

Hadoop基础及演练 ---第1章 初识大数据 大数据是一个概念也是一门技术,是在以Hadoop为代表的大数据平台框架上进行各种数据分析的技术. ---第2章 Hadoop核心HDFS Hadoop是一个开源的大数据框架,是一个分布式计算的解决方案,Hadoop=HDFS(分布式文件系统)+MapReduce(分布式计算) 存储是大数据技术的基础,分布式计算是大数据应用的解决方案 HDFS基础架构: 数据块:是抽象块,一般设置为128MB,备份3个. NameNode:主数据块,管理文件系统的…

package cn.itcast.spark.czh import org.apache.spark.{SparkConf, SparkContext} object TestFun { def main(args: Array[String]): Unit = { val conf = new SparkConf().setMaster("local").setAppName("map") val sc = new SparkContext(conf) // v…

搞清楚几个概念: 闭包 柯里化 搭建了intellij idea 的scala 开发环境…

http://homepage.cs.latrobe.edu.au/zhe/ZhenHeSparkRDDAPIExamples.html…

周末的任务是更新Learning Spark系列第三篇,以为自己写不完了,但为了改正拖延症,还是得完成给自己定的任务啊 = =.这三章主要讲Spark的运行过程(本地+集群),性能调优以及Spark SQL相关的知识,如果对Spark不熟的同学可以先看看之前总结的两篇文章: [原]Learning Spark (Python版) 学习笔记(一)----RDD 基本概念与命令 [原]Learning Spark (Python版) 学习笔记(二)----键值对.数据读取与保存.共享特性 #####…

Spark学习笔记之SparkRDD 一.   基本概念 RDD(resilient distributed datasets)弹性分布式数据集. 来自于两方面 ①   内存集合和外部存储系统 ②   通过转换来自于其他RDD,如map,filter等 2.创建操作(creation operation):RDD的创建由SparkContext来负责. 3.转换操作(transformation operation):将一个RDD通过一定操作转换为另一个RDD. 4.控制操作(control o…

Spark学习笔记 Spark简介 spark 可以很容易和yarn结合,直接调用HDFS.Hbase上面的数据,和hadoop结合.配置很容易. spark发展迅猛,框架比hadoop更加灵活实用.减少了延时处理,提高性能效率实用灵活性.也可以与hadoop切实相互结合. spark核心部分分为RDD.Spark SQL.Spark Streaming.MLlib.GraphX.Spark R等核心组件解决了很多的大数据问题,其完美的框架日受欢迎.其相应的生态环境包括zepplin等可视化方面…

本文档是学习RDD经典论文<Resilient Distributed Datasets: A Fault-Tolerant Abstraction for In-Memory Cluster Computing>的学习笔记. date:2016/8/3 author:wangxl 1 引言 一种分布式的内存抽象,称为弹性分布式数据集(RDD,Resilient Distributed Datasets). 2 弹性分布式数据集(RDD) 2.1 目标 目标:为基于工作集的应用(即多个并行操作…