由字典生成dataframe: >>> d = {'col1': [1, 2], 'col2': [3, 4]} >>> df = pd.DataFrame(data=d) >>> df col1 col2 0 1 3 1 2 4 由列表生成dataframe: >>> df2 = pd.DataFrame(np.random.randint(low=0, high=10, size=(5, 5)), ... columns=['a'…

首先pandas的作者就是这本书的作者 对于Numpy,我们处理的对象是矩阵 pandas是基于numpy进行封装的,pandas的处理对象是二维表(tabular, spreadsheet-like),和矩阵的区别就是,二维表是有元数据的 用这些元数据作为index更方便,而Numpy只有整形的index,但本质是一样的,所以大部分操作是共通的 大家碰到最多的二维表应用,关系型数据库中的表,有列名和行号,这些就是元数据 当然你可以用抽象的矩阵来对这些二维表做统计,但使用pandas会更方便  …

目录 1  pandas基本概念 1.1  pandas数据结构剖析 1.1.1  Series 1.1.2  DataFrame 1.1.3  索引 1.1.4  pandas基本操作 1.1.4.1  重索引 1.1.4.2  丢弃一行或者一列 1.1.4.3  数据选取 1.1.4.4  数据对齐 1.1.5  pandas函数简单介绍 1.1.5.1  apply和applymap函数 1.1.5.2  排序函数 1.1.5.3  汇总计算函数 1.1.6  缺失值的处理 1.1.7  …

人的理想志向往往和他的能力成正比. —— 约翰逊 其实整个需求呢,就是题目.2018-08-16 需求的结构图: 涉及的包有:pandas.numpy 1.导入包: import pandas as pd import numpy as np 2.构造DataFrame,里面包含三种数据类型:int.null.str  data = {"number":[1,1,np.nan,np.nan,2,2,1,2,2], "letter":['a','b',np.nan,n…

记性不好,多记录些常用的东西,真·持续更新中::先列出一些常用的网址: 参考了的 莫烦python pandas DOC numpy DOC matplotlib 常用 习惯上我们如此导入: import pandas as pd import numpy as np import maplotlib.pyplot as plt pandas 篇 pd.Series是一种一维的数组结构,可以列表形式初始化,得到的Series的index默认∈[0,n) s = pd.Series([1, 3,…

一.序列Series,很像numpy中的array数组,可以由列表.元组.字典.numpy中的array来初始化 >>> from pandas import Series >>> s = Series([0.1, 1.2, 2.3, 3.4, 4.5]) >>> s 0.1 1.2 2.3 3.4 4.5 dtype: float64 2.序列也可以由标签组成,默认是由数字表示. >>> s = Series([0.1, 1.2,…

[阅读全文] 第三方库说明 # PDF读取第三方库 import pdfplumber # DataFrame 数据结果处理 import pandas as pd 初始化DataFrame数据对象 # 初始化DataFrame数据对象.用于DataFrame数据保存 data_frame = pd.DataFrame() 读取PDF表格 # pdf 文件路径 pdf_file = '/usr/load/data.pdf' # 读取pdf数据 pdf_data = pdfplumber.open…

(一)Series初始化 1.通过列表,index自动生成 se = pd.Series(['Tom', 'Nancy', 'Jack', 'Tony']) print(se) 2.通过列表,指定index se = pd.Series(['Tom', 'Nancy', 'Jack', 'Tony'], index=['idx_a', 'idx_b', 'idx_c', 'idx_d']) print(se) 3.通过字典,字典的key为Series的index se = pd.Series({…

一.前述       1.SparkSQL介绍 Hive是Shark的前身,Shark是SparkSQL的前身,SparkSQL产生的根本原因是其完全脱离了Hive的限制. SparkSQL支持查询原生的RDD. RDD是Spark平台的核心概念,是Spark能够高效的处理大数据的各种场景的基础. 能够在Scala中写SQL语句.支持简单的SQL语法检查,能够在Scala中写Hive语句访问Hive数据,并将结果取回作为RDD使用.     2.Spark on Hive和Hive on Spa…

…