知识点 Series只有行索引,而DataFrame对象既有行索引,也有列索引 行索引,表明不同行,横向索引,叫index,0轴,axis=0 列索引,表明不同列,纵向索引,叫columns,1轴,axis=1 1.DataFrame创建,可以通过index和columns指定索引名称 #方式一a = pd.DataFrame(np.arange(10).reshape(2,5)) print(a) #方式二 a = pd.DataFrame(np.arange(10).reshape(2,5)…

DataFrame/DataSet 创建 读文件接口 import org.apache.spark.sql.SparkSession val spark = SparkSession .builder() .appName("Spark SQL basic example") .config("spark.some.config.option", "some-value") .getOrCreate() // For implicit conv…

环境 虚拟机:VMware 10 Linux版本:CentOS-6.5-x86_64 客户端:Xshell4 FTP:Xftp4 jdk1.8 scala-2.10.4(依赖jdk1.8) spark-1.6 1.读取json格式的文件创建DataFrame注意:(1)json文件中的json数据不能嵌套json格式数据.(2)DataFrame是一个一个Row类型的RDD,df.rdd()/df.javaRdd().(3)可以两种方式读取json格式的文件. sqlContext.read()…

pandas 是基于 Numpy 构建的含有更高级数据结构和工具的数据分析包 pandas 也是围绕着 Series 和 DataFrame 两个核心数据结构展开的, 导入如下: from pandas import Series,DataFrame import pandas as pd import numpy as np Series可以理解为一个一维的数组,只是index可以自己改动.类似于定长的有序字典,有Index和value.传入一个list[]/tuple(),就会自动生成一个S…

"二维数组"Dataframe:是一个表格型的数据结构,包含一组有序的列,其列的值类型可以是数值.字符串.布尔值等. Dataframe中的数据以一个或多个二维块存放,不是列表.字典或一维数组结构. 1. Dataframe的数据结构 # Dataframe 数据结构 # Dataframe是一个表格型的数据结构,“带有标签的二维数组”. # Dataframe带有index(行标签)和columns(列标签) data = {'name':['Jack','Tom','Mary'],…

1. sortBy是Transformation算子,为什么会触发Action sortBy需要对数据进行全局排序,其需要用到RangePartitioner,而在创建RangePartitioner时需要大概知道有多少数据,以及数据的范围(采样),其内部获取这个范围(rangeBounds)是通过调用sample方法得到,在调用完sample后会调用collect方法,所以会触发Action 2. Spark SQL概述 2.1 Spark SQL定义: Spark SQL是Spark用来处理…

请原谅没有一次写完,本文是自己学习过程中的记录,完善pandas的学习知识,对于现有网上资料的缺少和利用python进行数据分析这本书部分知识的过时,只好以记录的形势来写这篇文章.最如果后续工作定下来有时间一定完善pandas库的学习,请见谅!                     by LQJ 2015-10-25 前言: 首先推荐一个比较好的Python pandas DataFrame学习网址 网址: http://www.cnblogs.com/chaosimple/p/4153083…

1,创建Series 1.1,通过iterable创建Series Series接收参数是Iterable,不能是Iterator pd.Series(Iterable) 可以多加一个index参数,index可以接收Iterator或者Iterable: >>> pd.Series(('a', 'b'), index=iter(range(2))) 0 a 1 b dtype: object 1.2,通过字典创建Series key是索引: >>> pd.Series…

1."一维数组"Series Pandas数据结构Series:基本概念及创建 s.index  . s.values # Series 数据结构 # Series 是带有标签的一维数组,可以保存任何数据类型(整数,字符串,浮点数,Python对象等),轴标签统称为索引 import numpy as npimport pandas as pd>>> s = pd.Series(np.random.rand(5)) >>> print(s,type(…

RDD是什么? RDD (resilientdistributed dataset),指的是一个只读的,可分区的分布式数据集,这个数据集的全部或部分可以缓存在内存中,在多次计算间重用. RDD内部可以有许多分区(partitions),每个分区又拥有大量的记录(records). 五个特征: dependencies:建立RDD的依赖关系,主要rdd之间是宽窄依赖的关系,具有窄依赖关系的rdd可以在同一个stage中进行计算. partition:一个rdd会有若干个分区,分区的大小决定了对这个…