pandas 基础用法
pandas 是一个基于 Numpy 构建, 强大的数据分析工具包
主要功能
- 独特的数据结构 DataFrame, Series
- 集成时间序列功能
- 提供丰富的数学运算操作
- 灵活处理缺失数据
Series 一维数组
Series 是一种类似于一维数组的对象, 由一组数据和一组与之相关的数据标签(索引)组成
创建方式
pd.Series([4, 7 ,5, -3])
pd.Series([4, 7 ,5, -3], index=['a', 'b', 'c', 'd'])
pd.Series({'a':1, 'b', 2})
pd.Series(0, index=['a', 'b', 'c', 'd'])
# 获取值数组
sr = pd.Series([4, 7 ,5, -3])
sr.value
# 获取索引数组
sr = pd.Series([4, 7 ,5, -3])
sr.index
Series 支持array的特性(下标)
- 从 ndarry 创建 Series
- 与标量直接运算
- 两个 Series 运算
- 索引
- 切片
- 通用函数 np.abs(sr)
- 布尔值过滤 sr[sr>0]
Series 支持字典的特性(标签)
- 从字典创建 Series Series(dict)
- in 运算
- 键索引
整数索引
如果索引是整数, 则根据下标取值时总是面向标签的.
此时可通过 loc方法(将索引解释为标签)和iloc方法(将索引解释为下标)
Series 数据计算
sr1 = pd.Series([12,23,34], index=['c', 'a', 'd'])
sr2 = pd.Series([11,20,10], index=['d', 'c', 'a'])
print(sr1 + sr2)
# 相关计算方法 add, sub, div, mul
pandas 在进行两个 Series 对象运算时, 会按索引进行对齐然后计算.
数据对齐
若两个 Series 对象的索引不完全相同, 则结果的索引是两个操作数索引的并集. 如果只有一个对象在某索引下有值, 则结果中该索引的值为NaN.
缺失数据处理办法
sr1.add(sr2, fill_value=0) 填充缺失的值
dropna() 过滤掉值为NaN的行
fillna() 填充缺失数据
isnull() 返回布尔数组, 缺失值对应为True
notnull() 返回buer数据, 缺失值对应为False
# 过滤缺失数据
sr.dropna()
sr[data.notnull()]
DataFrame
DataFrame 是一个表格型的数据结构, 含有一组有序的列. 可以看做是 Series 组成的字典, 并且公用一个索引.
创建 DataFrame 的方法有很多种
# 手动创建
pd.DataFrame({'one':[1,2,3,4], 'two':[4,3,2,1]})
pd.DataFrame({'one':pd.Series([1,2,3], index=['a','b', 'c']), 'two':pd.Series([1,2,3,4], index=['a','b','c','d'])
# 从csv文件读取与写入
df.read_csv('filename.csv')
df.to_csv()
常用属性
- index 获取索引
- T 转置
- columns 获取列索引
- values 获取值数组
- describe() 获取快速统计
索引和切片
DataFrame 是一个二维数据类型, 所以有行索引
和列索引
, 可以通过标签和位置两种方法进行索引和切片
- loc 索引方法和 iloc 下标方法
- 使用方法: 逗号隔开, 前面是行索引, 后面是列索引
- 行/列索引部分可以是常规索引, 切片, 布尔值索引, 花式索引任意搭配
数据对齐与缺失数据
DataFrame 对象在运算时, 同样会进行数据对齐, 其行索引和列索引分别对齐
处理缺失数据的相关方法
- dropna(axis=0, where='any', ...)
- fillna()
- isnull()
- notnull()
pandas 常用方法
- mean(axis=0, skipna=False) 对列(行)求平均值
- sum(axis=1) 对列(行)求和
- sort_index(axis, ..., ascending) 对列(行)索引排序
- sort_values(by, axis, ascending) 按某一列(行)的值排序
- apply(func, axis=0) 将自定义函数应用在各行或各列上, func可返回标量或Series
- NumPy 的通用函数同样适用于pandas
- applymap(func) 将函数应用在 DataFrame 各个元素上
- map(func) 将函数应用在 Series 各个元素上
时间处理
pandas基于dateutil
来处理时间对象
dateutil.parser.parse()
dateutil 原生时间处理方法pd.to_datetime()
pandas 成组处理时间对象data_range()
产生时间对象数组- start 开始时间
- end 结束时间
- periods 时间长度
- freq 时间频率, 默认为'D', 可选为H(our), W(eek), B(usiness), S(emi-)M(onth), (min)T(es), S(econd), A(year)
时间序列
时间序列是以时间对象为索引的Series或DataFrame, datetime对象作为索引时是存储在DatetimeIndex对象中的.
时间序列的特色功能:
- 传入"年"或"年月"作为切片方式
- 传入日期范围作为切片方式
- 丰富的函数支持: resample(), strftime(), ...
文件处理
read_csv
和read_table
函数- sep 制定分隔符, 可用正则表达式如'\s+'
- header = None 指定文件无列名
- name 指定列名
- index_col 指定某列为索引
- skip_row 指定跳过某些行
- na_values 指定某些字符串表示缺失值
- parse_dates 指定某些列是否被解析为日期, 类型为布尔值或列表
to_csv
函数- sep 指定文件函数
- na_rep 指定缺失值转换的字符串, 默认为空字符串
- header=False 不输出列名一行
- index=False 不输出行索引一列
- columns 指定输出的列, 传入列表
pandas 基础用法的更多相关文章
- pandas基础用法——索引
# -*- coding: utf-8 -*- # Time : 2016/11/28 15:14 # Author : XiaoDeng # version : python3.5 # Softwa ...
- pandas基础用法
首先生成一维数组 data = pd.Series([1,2,3,4,5,6,7,8,9])data运行结果 data.head()#默认取前五条,当然也可以加参数 data.tail()#默认取前五 ...
- Pandas基础用法-数据处理【全】-转
完整资料:[数据挖掘入门介绍] (https://github.com/YouChouNoBB/data-mining-introduction) # coding=utf-8 # @author: ...
- PropertyGrid控件由浅入深(二):基础用法
目录 PropertyGrid控件由浅入深(一):文章大纲 PropertyGrid控件由浅入深(二):基础用法 控件的外观构成 控件的外观构成如下图所示: PropertyGrid控件包含以下几个要 ...
- 利用Python进行数据分析(12) pandas基础: 数据合并
pandas 提供了三种主要方法可以对数据进行合并: pandas.merge()方法:数据库风格的合并: pandas.concat()方法:轴向连接,即沿着一条轴将多个对象堆叠到一起: 实例方法c ...
- 利用Python进行数据分析(9) pandas基础: 汇总统计和计算
pandas 对象拥有一些常用的数学和统计方法. 例如,sum() 方法,进行列小计: sum() 方法传入 axis=1 指定为横向汇总,即行小计: idxmax() 获取最大值对应的索 ...
- 利用Python进行数据分析(8) pandas基础: Series和DataFrame的基本操作
一.reindex() 方法:重新索引 针对 Series 重新索引指的是根据index参数重新进行排序. 如果传入的索引值在数据里不存在,则不会报错,而是添加缺失值的新行. 不想用缺失值,可以用 ...
- 利用Python进行数据分析(7) pandas基础: Series和DataFrame的简单介绍
一.pandas 是什么 pandas 是基于 NumPy 的一个 Python 数据分析包,主要目的是为了数据分析.它提供了大量高级的数据结构和对数据处理的方法. pandas 有两个主要的数据结构 ...
- logstash安装与基础用法
若是搭建elk,建议先安装好elasticsearch 来自官网,版本为2.3 wget -c https://download.elastic.co/logstash/logstash/packag ...
随机推荐
- 雷林鹏分享:Ruby 环境变量
Ruby 环境变量 Ruby 解释器使用下列环境变量来控制它的行为.ENV 对象包含了所有当前设置的环境变量列表. 变量描述 DLN_LIBRARY_PATH动态加载模块搜索的路径. HOME当没有参 ...
- LeetCode--110--平衡二叉树
问题描述: 给定一个二叉树,判断它是否是高度平衡的二叉树. 本题中,一棵高度平衡二叉树定义为: 一个二叉树每个节点 的左右两个子树的高度差的绝对值不超过1. 示例 1: 给定二叉树 [3,9,20,n ...
- Leha and another game about graph CodeForces - 840B (dfs)
链接 大意: 给定无向连通图, 每个点有权值$d_i$($-1\leq d_i \leq 1$), 求选择一个边的集合, 使得删除边集外的所有边后, $d_i$不为-1的点的度数模2等于权值 首先要注 ...
- 原创-整理了下常用的js数组 、对象、数字、字符串的操作方法
终于整理好了...主要是一些常用的函数,包含es6和es5的所有常用的,吧一些不常用的全部砍掉,省的大家看的费事.发现这个到博客上面有点乱.给个百度云地址:https://pan.baidu.com/ ...
- ccf行车路线
#include<bits/stdc++.h> using namespace std; const long long INF = 1e18; int n,m; struct node{ ...
- CSS3提供的transition动画
<!DOCTYPE html><html xmlns="http://www.w3.org/1999/xhtml"><head> < ...
- iOS UI-Lable标签、NStimer定时器和RunLoop超级死循环
// 标签UILable -显示文字 // 1.创建标签 UILabel *lable = [[UILabel alloc] init]; // 2.设置标签的坐标和大小 [lable setFram ...
- 利用CNN进行流量识别 本质上就是将流量视作一个图像
from:https://netsec2018.files.wordpress.com/2017/12/e6b7b1e5baa6e5ada6e4b9a0e59ca8e7bd91e7bb9ce5ae89 ...
- 最新的ES 5.0路由算法底层实现
http://www.cnblogs.com/bonelee/p/6078947.html 里分析了ES bulk实现,其中路由代码: ShardId shardId = clusterService ...
- git本地及远程分支回退
1. git本地版本回退 Git reset --hard commit_id(可用 git log –oneline 查看) 2. git远程版本回退 git push origin HEAD -- ...