发现问题: 最近在用爬虫爬取网页信息时,在网页源码中遇到了“&nbsp"字符串,经查阅,发现该字符是不间断空格符.我们通常所用的空格是 \x20 ,是在标准ASCII可见字符 0x20~0x7e 范围内.而 \xa0 属于 latin1 (ISO/IEC_8859-1)中的扩展字符集字符,代表空白符nbsp(non-breaking space). latin1 字符集向下兼容 ASCII ( 0x20~0x7e ). 解决方法: >>> s = '09月27日\xa0

df = df.dropna(axis=0, how='any')

今天使用python处理一个txt文件的时候,遇到几个特殊字符:\ufeff.\xa0.\u3000,记录一下处理方法 代码:with open(file_path, mode='r') as f: s = f.read() 1.\ufeff 字节顺序标记 去掉\ufeff,只需改一下编码就行,把UTF-8编码改成UTF-8-sigwith open(file_path, mode='r', encoding='UTF-8-sig') as f: s = f.read() 2.\xa0 是不间断

1.Pandas对数据某一列删除 1.删除列 import pandas as pd df = pd.read_csv(file) #axis=1就是删除列 df.drop(['列名1','列名2'], axis=1) 2.删除记录,也就是行 import pandas as pd df = pd.read_csv(file) #axis=0就是删除记录也就是行 df.drop([0,1,3], axis=0) 2.Pandas之修改列名 1.第一种是没有表头,想要添加表头 因为csv文件是没有

1.\ufeff 字节顺序标记 去掉\ufeff,只需改一下编码就行,把UTF-8编码改成UTF-8-sigwith open(file_path, mode='r', encoding='UTF-8-sig') as f:s = f.read() 2.\xa0 是不间断空白符 \xa0 是不间断空白符  我们通常所用的空格是 \x20 ,是在标准ASCII可见字符 0x20~0x7e 范围内.而 \xa0 属于 latin1 (ISO/IEC_8859-1)中的扩展字符集字符,代表空白符nbs

这篇文章比较繁杂,主要就是把jQuery源码从上到下列出来,看我的注释就好了. jQuery源码对各种加载器做了处理. //阅读这个源码是请先了解一下概念,即时函数,工厂模式 (function( global, factory ) { //这里之所以这样处理,是为了考虑CommonJS的环境,所以先检测是否有CommonJS的环境. if ( typeof module === "object" && typeof module.exports === "o

批量更改变量名,就在该变量名上shift+f6 ../data 两个点,就是上一级目录,一个点就是当前目录 unhashable type: 'list' 使用set进行去重 a = [1,2,2,3,4] set(a)是可以的 可是如果a = [[1,2],2,2]就不行,set 进行哈希的时候,需要每个元素都是可哈希的, 可变类型的数据不可哈希,如list,字典:同值不同址,不同值同址 数值.字母.字符串.数字.元组不可变:同值同址,不同值不同址 类变量的值将在这个类的所有实例之间共享. 类

DataFrame中存在重复的行或者几行中某几列的值重复,这时候需要去掉重复行,示例如下: data.drop_duplicates(subset=['A','B'],keep='first',inplace=True) 代码中subset对应的值是列名,表示只考虑这两列,将这两列对应值相同的行进行去重.默认值为subset=None表示考虑所有列. keep='first'表示保留第一次出现的重复行,是默认值.keep另外两个取值为"last"和False,分别表示保留最后一次出现的

\xa0表示不间断空白符,爬虫中遇到它的概率不可谓不小,而经常和它一同出现的还有\u3000.\u2800.\t等Unicode字符串.单从对\xa0.\t.\u3000等含空白字符的处理来说,有以下几种方法可行: 使用re.sub 使用正则表达式可以轻松匹配所有空白字符,它对于Unicode字符也是有效的,比如: >>> import re >>> s = 'T-shirt\xa0\xa0短袖圆领衫,\u3000体恤衫\xa0买一件\t吧' >>>

#显示所有列 pd.set_option('display.max_columns', None) #显示所有行 pd.set_option('display.max_rows', None) #设置value的显示长度为100,默认为50 pd.set_option()

Outline 今天处理数据时遇到一个问题: 因为业务需要,我对 df 进行了建立索引. 具体如下: 下面走的是默认索引 给其设置索引: 取消索引 业务需求,我要取消掉上面设置的索引: So,之前设置的索引被取消掉了.

原文来源: https://stackoverflow.com/questions/43983622/remove-unnamed-columns-in-pandas-dataframe 问:我有一个数据文件data.csv,列A到列G如下表,但是当我用pd.read_csv('data.csv')读取下表后,不知道什么原因打印出来多了额外的一列unnamed,如下图: colA ColB colC colD colE colF colG Unnamed: 7 44 45 26 26 40 26

使用Python进行数据分析时,经常要使用到的一个数据结构就是pandas的DataFrame 如果我们想要像Excel的筛选那样,只要其中的一行或某几行,可以使用isin()方法,将需要的行的值以列表方式传入,还可以传入字典,指定列进行筛选. 但是如果我们只想要所有内容中不包含特定行的内容,却并没有一个isnotin()方法.我今天的工作就遇到了这样的需求,经常查找之后,发现只能换种方式使用isin()来实现这个需求. 示例如下: In [3]: df = pd.DataFrame([['GD

使用pandas进行数据清洗 本文转载自:蓝鲸的网站分析笔记 原文链接:使用python进行数据清洗 目录: 数据表中的重复值 duplicated() drop_duplicated() 数据表中的空值/缺失值 isnull()&notnull() dropna() fillna() 数据间的空格 查看数据中的空格 去除数据中的空格 大小写转换 数据中的异常和极端值 replace() 更改数据格式 astype() to_datetime() 数据分组 cut() 数据分列 split()

一个机器学习竞赛中,题目大意如下,本文主要记录数据处理过程,为了模型训练,第一步需要将中文数据集处理为数值类别数据集保存. 基于大数据的运营商投诉与故障关联分析 目标:原始数据集是含大量中文的xls格式的表格,目标处理为数值类别的csv表格. 原始数据集部分切片,如下格式: 目标数据集为,处理成对应的数值类别格式,如下: 解决思路:(处理中文需要注意编码) 总体分两步,1.提取每一列的值(含中文),作为key关键字,value为自增的整数,构造字典.利用了字典的key唯一的特性. 2.根据上一部

目录:     处理缺失数据     制作透视图     删除含空数据的行和列     多行索引     使用apply函数   本节主要介绍如何处理缺失的数据,可以参考原文:https://www.dataquest.io/mission/12/working-with-missing-data 本节要处理的数据来自于泰坦尼克号的生存者名单,它的数据如下 pclass,survived,name,sex,age,sibsp,parch,ticket,fare,cabin,embarked,bo

str.replace(/\s+/g,""); str.replace(/\s|\xA0/g,""); empName=empName.replace(/^\s+/g,""); //去左 empName=empName.replace(/\s+$/g,"")  //去右 empName=empName.replace(/(^\s*)|(\s*$)/g, ""); //去左右 //去除空格 String.pr

最近使用pandas处理一批数据,数据中包含几个columns,它们的数据精度,例如 3.25165,1451684684168.0,0.23 处理完之后保存csv时发现,1451684684168.0被保存为1.45168e+12,我需要完全保存数据信息 Google一番发现pandas自带了如下函数: DataFrame.to_csv('out.csv', float_format = '%.3f') 由于我的文件中包含不同精度数据,不能一概而论,所以初步想法是想把1451684684168

目录 1  数据合并 1.1  实现数据库表join功能 1.2  实现union功能 2  数据转换 2.1  轴旋转 2.2  数据转换 2.2.1  去重 2.2.2  对某一列运用函数 2.2.3  重命名行和列名 2.2.4  离散化 2.2.5  过滤数据 2.2.6  转换为onehot表示 2.2.7  字符串操作 数据合并 实现数据库表join功能 当我们有多张表的时候, 经常会遇到的一个问题就是, 如何把这些表关联起来, 我们可以想想我们在数据库的时候, 进场会遇到表连接的问

1.读取.csv文件 df2 = pd.read_csv('beijingsale.csv', encoding='gb2312',index_col='id',sep='\t',header=None) 参数解析见:https://www.cnblogs.com/datablog/p/6127000.html index_col用于指定用作行索引的列编号或者列名,sep用于指定文件的分隔符(默认是以,作为分隔符),header=None 不用文件的的第一行作为列索引 文件读取之后生成的是一个D

pandas 两种数据结构 Series和DataFrame 一  Series 一种类似与一维数组的对象 values:一组数据(ndarray类型) index:相关的数据索引标签 1.1  series的创建 Series(data=None, index=None, dtype=None, name=None, copy=False, fastpath=False) data:列表/numpy一维数据/dic. index:显示索引,格式为:[] dtype:数据的类型 name:Ser