1.pandas对缺失数据的处理 我们的数据缺失通常有两种情况: 1.一种就是空,None等,在pandas是NaN(和np.nan一样) 解决方法: 判断数据是否为NaN:pd.isnull(df),pd.notnull(df) 处理方式1:删除NaN所在的行列dropna (axis=0, how='any', inplace=False) 处理方式2:填充数据,t.fillna(t.mean()),t.fiallna(t.median()),t.fillna(0) 2.另一种是我们让其为0…

本文始发于个人公众号:TechFlow,原创不易,求个关注 今天是pandas数据处理专题的第二篇文章,我们一起来聊聊pandas当中最重要的数据结构--DataFrame. 上一篇文章当中我们介绍了Series的用法,也提到了Series相当于一个一维的数组,只是pandas为我们封装了许多方便好用的api.而DataFrame可以简单了理解成Series构成的dict,这样就将数据拼接成了二维的表格.并且为我们提供了许多表级别数据处理以及批量数据处理的接口,大大降低了数据处理的难度. 创建D…

pandas的apply操作类似于Scala的udf一样方便,假设存在如下dataframe: id_part pred pred_class v_id 0 d [0.722817, 0.650064] cat,dog d1 1 5 [0.119208, 0.215449] other_label,other_label d2 需要把 v_id=d1 中,pred 与 pred_class 一一对应,需要将 pred 大于0.5的pred_class取出来作为新的一列,如果小于0.5则不取出来:…

Pandas缺失数据处理 Pandas用np.nan代表缺失数据 reindex() 可以修改 索引,会返回一个数据的副本: df1 = df.reindex(index=dates[0:4], columns=['A','B','C','D','E']) df1 df1 = df.reindex(index=dates[0:4], columns=['A','B','C','D']+['E']) df1 df1 = df.reindex(index=dates[0:4], columns=li…

Pandas的基础操作(一)——矩阵表的创建及其属性 (注:记得在文件开头导入import numpy as np以及import pandas as pd) import pandas as pd import numpy as np #创建一个Pandas序列 s = pd.Series([1, 3, 6, np.nan, 44, 1]) # print(s) # 0 1.0 # 1 3.0 # 2 6.0 # 3 NaN # 4 44.0 # 5 1.0 # dtype: float64…

一.Pandas的数据操作 0.DataFrame的数据结构 1.Series索引操作 (0)Series class Series(base.IndexOpsMixin, generic.NDFrame): """ One-dimensional ndarray with axis labels (including time series). #带轴标签的一维ndarray(包括时间序列). Labels need not be unique but must be a…

pandas的拼接操作 pandas的拼接分为两种: 级联:pd.concat, pd.append 合并:pd.merge, pd.join import pandas as pd import numpy as np from pandas import DataFrame,Series 一. 使用pd.concat()级联 pandas使用pd.concat函数,与np.concatenate函数类似,只是多了一些参数: objs axis=0 keys join='outer' / 'i…

pandas的拼接操作 #重点 pandas的拼接分为两种: 级联:pd.concat, pd.append 合并:pd.merge, pd.join 0. 回顾numpy的级联 import numpy as np import pandas as pd from pandas import Series,DataFrame ============================================ 练习12: 生成2个3*3的矩阵,对其分别进行两个维度上的级联 ========…

数据分析05 /pandas的高级操作 目录 数据分析05 /pandas的高级操作 1. 替换操作 2. 映射操作 3. 运算工具 4. 映射索引 / 更改之前索引 5. 排序实现的随机抽样/打乱表格数据 6. 数据的分类处理 / 分组 7. 高级数据聚合 8. 数据加载 9. 透视表 10. 交叉表 1. 替换操作 替换操作可以同步作用于Series和DataFrame中 创建df表格数据: import numpy as np import pandas as pd from pandas…

pandas 写csv 操作 def show_history(self): df = pd.DataFrame() df['Time'] = pd.Series(self.time_hist) df['BG'] = pd.Series(self.BG_hist) df['CGM'] = pd.Series(self.CGM_hist) df['CHO'] = pd.Series(self.CHO_hist) df['insulin'] = pd.Series(self.insulin_hist…