手头现在有一份福布斯2016年全球上市企业2000强排行榜的数据,但原始数据并不规范,需要处理后才能进一步使用. 本文通过实例操作来介绍用pandas进行数据整理. 照例先说下我的运行环境,如下: windows 7, 64位 python 3.5 pandas 0.19.2版本 在拿到原始数据后,我们先来看看数据的情况,并思考下我们需要什么样的数据结果. 下面是原始数据: 在本文中,我们需要以下的初步结果,以供以后继续使用. 可以看到,原始数据中,跟企业相关的数据中(“Sales”,“Prof…

我们经常要从外部数据源(如数据库.文本文件或网页等)将数据导入excel中,但是此类数据往往比较混乱,无法满足我们的要求,因此在进行数据分析之前,需要将这些数据进行整理清洗,excel由于将数据的管理和展示都在同一层面上,并且其函数功能也不逊色,因此在大多数情况下都可以使用excel来进行初步的数据整理: 1.删除通用前导字符串(例如其后紧跟冒号和空格的标签)或后缀(例如字符串后面的已无效或不必要的插入语),在字符串内查找和替换子字符串.提取字符串的特定部分或确定字符串的长度等字符串操作,可使用…

这次评教的所有数据存放在两个数据库中,比如说给某教师评论的学生有100个,可是结果有40个的数据在数据库A中,另外60人的数据在数据库B中.那么,如何将两个库中的数据整合,最后得到教师的准确成绩成为了本次数据整理的首要任务.具体的整合过程是这样的,就拿教师的最终得分来说吧.假设库A学生给教师评价的平均分为90分,而库 B学生评价的平均分为95分.那么首先需要分别计算出库A.库B中学生评价的总分,库A总分 = 90*40 ,库B总分 = 95*60,教师所得总平均分 = (库A总分 + 库B总分)…

Pandas数据特征分析 数据的排序 将一组数据通过摘要(有损地提取数据特征的过程)的方式,可以获得基本统计(含排序).分布/累计统计.数据特征(相关性.周期性等).数据挖掘(形成知识). .sort_index()方法在指定轴上根据索引进行排序,默认升序 .sort_index(axis=0, ascending=True) In [1]: import pandas as pd In [2]: import numpy as np In [3]: b = pd.DataFrame(np.ar…

http://blog.csdn.net/pipisorry/article/details/52208727 数据输入输出 数据pickling pandas数据pickling比保存和读取csv文件要快2-3倍(lz测试不准,差不多这么多). ltu_df.to_pickle(os.path.join(CWD, 'middlewares/ltu_df')) ltu_df = pd.read_pickle(os.path.join(CWD, 'middlewares/ltu_df')) [re…

Pandas数据排序 .sort_index() 在指定轴上根据索引进行排序,索引排序后内容会跟随排序 b = pd.DataFrame(np.arange(20).reshape(4,5),index=['c','a','d','b']) b b.sort_index() b.sort_index(ascending=False) b.sort_index(axis=0, ascending=False) #按行标排序,ascending:False为降序 b.sort_index(axis=…

pandas数据操作 字符串方法 Series对象在其str属性中配备了一组字符串处理方法,可以很容易的应用到数组中的每个元素 t = pd.Series(['a_b_c_d','c_d_e',np.nan,'f_g_h']) t t.str.cat(['A','B','C','D'],sep=',') #拼接字符串 t.str.split('_') #切分字符串 t.str.get(0) #获取指定位置的字符串 t.str.replace("_", ".") #替…

pd.read_excel('foo.xlsx', 'Sheet1', index_col=None, na_values=['NA']) Pandas数据存取 Pandas可以存取多种介质类型数据,例如:内存.文本.CSV.JSON.HTML.Excel.HDF5.SQL等 生成数据 import numpy as np import pandas as pd df = pd.DataFrame(np.random.randn(1000, 4),columns=['A', 'B', 'C',…

pandas 数据预处理 缺失数据处理 csv_data=''' A,B,C,D 1.0,2.0,3.0,4.0 5.6,6.0,,8.0 0.0,11.0,12.0,,''' import pandas as pd from io import StringIO df = pd.read_csv(StringIO(csv_data)) print(df) A B C D 0 1 2 3.0 4.0 1 5 6 NaN 8.0 2 0 11 12.0 NaN 在上述代码中,pandas中的模块利…

Pandas数据规整 数据分析和建模方面的大量编程工作都是用在数据准备上的,有时候存放在文件或数据库中的数据并不能满足数据处理应用的要求 Pandas提供了一组高级的.灵活的.高效的核心函数和算法,它们能够轻松地将数据规整化为你需要的的形式 合并 连接 Pandas提供了大量方法,能轻松的对Series,DataFrame和Panel执行合并操作 连接pandas对象 .concat() df = pd.DataFrame(np.random.randn(10, 4)) df pieces =…