一.简介 Python for Data Analysis这本书的特点是将numpy和pandas这两个工具介绍的很详细,这两个工具是使用Python做数据分析非常重要的一环,numpy主要是做矩阵的运算,pandas主要是做数据的预处理,另外本书还教了其他数据分析相关的工具,比如matplotlib用来作图,iPython用来测试.调试代码.本书着重在工具介绍,所以在阅读前最好要对数据分析的理论有一定的了解. 二.Jupyter和Python的介绍 Jupyter是结合代码输入.运行到结果显示…

一.文字处理 之前在练习爬虫时,常常爬了一堆乱七八糟的字符下来,当时就有找网络上一些清洗数据的方式,这边pandas也有提供一些,可以参考使用看看.下面为两个比较常见的指令,往往会搭配使用. split(“,”)可以将文字串分割,冒号里的为分割依据,左边的代码就是把两个冒号中间的文字串视为一个单元. strip()去除空白符号. 1.正则表达式 正则表达式为处理文字搜索匹配的功能,python可以直接导入re模块来使用.用法为下. 可直接用split来编译再拆解,也可以先用compile编译,再…

一.Pandas文件读写 pandas很核心的一个功能就是数据读取.导入,pandas支援大部分主流的数据储存格式,并在导入的时候可以做筛选.预处理.在读取数据时的选项有超过50个参数,可见pandas对于各式各样的数据都能有非常好的应对能力.下面先介绍基本的读取指令. 前面两个read_csv和read_table是用的比较多的两种.下面为实际操作的范例. 当然大部分的时候数据导入不会这么顺利,因为源数据里可能会有多种的分离方式,里面还会夹杂一些脏数据,所以pandas附上了一些选项来帮助导入…

一.pandas介绍 本篇程序上篇内容,在numpy下面继续介绍pandas,本书的作者是pandas的作者之一.pandas是非常好用的数据预处理工具,pandas下面有两个数据结构,分别为Series和DataFrame,DataFrame之前我在一些实战案例中有用过,下面先对这两个数据结构做介绍. 二.Series Series最简单的一个功能就是对一组数字打上ID,用法为下 可以看到Series会自动把数字打上0~3对应的ID,也可以对ID自定义名称 这样就可以用key-value的形式…

<Python for Data Analysis>一书由Wes Mckinney所著,中文译名是<利用Python进行数据分析>.这里记录一下学习过程,其中有些方法和书中不同,是按自己比较熟悉的方式实现的. 第三个实例:US Baby Names 1880-2010 简介: 美国社会保障总署(SSA)提供了一份从1880年到2010年的婴儿姓名频率的数据 数据地址: https://github.com/wesm/pydata-book/tree/2nd-edition/data…

<Python for Data Analysis>一书由Wes Mckinney所著,中文译名是<利用Python进行数据分析>.这里记录一下学习过程,其中有些方法和书中不同,是按自己比较熟悉的方式实现的. 第四个实例:USDA Food Database 简介:美国农业部(USDA)制作了一份有关食物营养信息的数据 数据下载地址: https://github.com/wesm/pydata-book/tree/2nd-edition/datasets/usda_food 准备…

<Python for Data Analysis>一书由Wes Mckinney所著,中文译名是<利用Python进行数据分析>.这里记录一下学习过程,其中有些方法和书中不同,是按自己比较熟悉的方式实现的. 第二个实例:MovieLens 1M Data Set 简介: GroupLens Research提供了从MovieLens用户那里收集来的一系列对90年代电影评分的数据 数据地址:http://files.grouplens.org/datasets/movielens/…

<Python for Data Analysis>一书由Wes Mckinney所著,中文译名是<利用Python进行数据分析>.这里记录一下学习过程,其中有些方法和书中不同,是按自己比较熟悉的方式实现的. 第一个实例:1.usa.gov data from bit.ly 简介:2011年,URL缩短服务bit.ly和美国政府网站usa.gov合作,提供了一份从生成.gov或.mil短链接用户那里收集来的匿名数据 数据下载地址:https://github.com/wesm/py…

Python for Data Analysis, 2nd Edition https://www.safaribooksonline.com/library/view/python-for-data/9781491957653/ Get complete instructions for manipulating, processing, cleaning, and crunching datasets in Python. Updated for Python 3.6, the second…

1.2 Why Python for Data Analysis?(为什么使用Python做数据分析) 这节我就不进行过多介绍了,Python近几年的发展势头是有目共睹的,尤其是在科学计算,数据处理,AI方面,否则大家也不会来看这本书了. 使用Python的一些优点 Python是一门胶水语言,可以把不同语言整合起来,比如上层代码使用Python编写,底层代码用C,C++等语言实现. 解决了两种语言的问题.以前做研究用一门语言写原型(比如R,SAS),效果好了才会用其他语言去重新实现一遍(比如J…