(数据科学学习手札74)基于geopandas的空间数据分析——数据结构篇
本文对应代码已上传至我的
Github
仓库https://github.com/CNFeffery/DataScienceStudyNotes
1 简介
geopandas是建立在GEOS、GDAL、PROJ等开源地理空间计算相关框架之上的,类似pandas
语法风格的空间数据分析Python
库,其目标是尽可能地简化Python
中的地理空间数据处理,减少对Arcgis
、PostGIS
等工具的依赖,使得处理地理空间数据变得更加高效简洁,打造纯Python
式的空间数据处理工作流。本系列文章就将围绕geopandas
及其使用过程中涉及到的其他包进行系统性的介绍说明,每一篇将尽可能全面具体地介绍geopandas
对应方面的知识,计划涵盖geopandas
的数据结构、投影坐标系管理、文件IO、基础地图制作、集合操作、空间连接与聚合。
作为基于geopandas的空间数据分析系列文章的第一篇,通过本文你将会学习到geopandas
中的数据结构。
geopandas
的安装和使用需要若干依赖包,如果不事先妥善安装好这些依赖包而直接使用pip install geopandas
或conda install geopandas
可能会引发依赖包相关错误导致安装失败,官方文档中的推荐安装方式为:
conda install --channel conda-forge geopandas
conda-forge
是一个社区项目,在conda
的基础上提供了更广泛更丰富的软件资源包,通过它我们可以自动下载安装好所有geopandas
的必要依赖包而无需手动繁琐地去安装它们。在完成安装后,下面我们开始对geopandas
的系统性学习之旅。
2 数据结构
geopandas
作为pandas
向地理分析计算方面的延拓,基础的数据结构延续了Series
和DataFrame
的特点,创造出GeoSeries
与GeoDataFrame
两种基础数据结构:
2.1 GeoSeries
2.1.1 GeoSeries中的基础几何对象
与Series
相似,GeoSeries
用来表示一维向量,只不过这里的向量每个位置上的元素都表示着一个shapely
中的几何对象,有如下几种类型:
- Points
对应shapely.geometry
中的Point
,用于表示单个点,下面我们创建一个由若干Point
对象组成的GeoSeries
并像Series
一样定义索引:
from shapely import geometry
import geopandas as gpd
# 创建存放Point对象的GeoSeries
# 这里shapely.geometry.Point(x, y)用于创建单个点对象
gpd.GeoSeries([geometry.Point(0, 0),
geometry.Point(0, 1),
geometry.Point(1, 1),
geometry.Point(1, 0)],
index=['a', 'b', 'c', 'd'])
图1
可以看到创建出的GeoSeries
数据类型为geometry,即几何对象。
- MultiPoint
对应shapely
中的MultiPoint
,用于表示多个点的集合,下面我们创建一个由若干MultiPoint
对象组成的GeoSeries
:
# 创建存放MultiPoint对象的GeoSeries
# 这里shapely.geometry.MultiPoint([(x1, y1), (x2, y2), ...])用于创建多点集合
gpd.GeoSeries([geometry.MultiPoint([(0, 1), (1, 0)]),
geometry.MultiPoint([(0, 0), (1, 1)])],
index=['a', 'b'])
图2
在jupyter notebook
或jupyter lab
中可以图像的形式直接显示GeoSeries
中的单个元素:
图3
- LineString
对应shapely
中的LineString
,用于表示由多个点按顺序连接而成的线,下面我们创建一个由若干LineString
对象组成的GeoSeries
:
# 创建存放LineString对象的GeoSeries
# 这里shapely.geometry.LineString([(x1, y1), (x2, y2), ...])用于创建多点按顺序连接而成的线段
gpd.GeoSeries([geometry.LineString([(0, 0), (1, 1), (1, 0)]),
geometry.LineString([(0, 0), (0, 1), (-1, 0)])],
index=['a', 'b'])
图4
同样地,直接显示第一个元素:
图5
- MultiLineString
对应shapely
中的MultiLineString
,用于表示多条线段的集合,下面我们创建一个由若干MultiLineString
对象组成的GeoSeries
:
# 创建存放MultiLineString对象的GeoSeries
# 这里shapely.geometry.MultiLineString([LineString1, LineString2])用于创建多条线段的集合
gpd.GeoSeries([geometry.MultiLineString([[(0, 0), (1, 1), (1, 0)],
[(-0.5, 0), (0, 1), (-1, 0)]])],
index=['a'])
图6
同样地,直接显示第一个元素:
图7
- Polygon(无孔)
geopandas
中的Polygon
对应shapely
中的Polygon
,用于表示面,根据内部有无孔洞可继续细分。下面我们创建一个由无孔Polygon
对象组成的GeoSeries
:
# 创建存放无孔Polygon对象的GeoSeries
# 这里shapely.geometry.Polygon([(x1, y1), (x2, y2),...])用于创建无孔面
gpd.GeoSeries([geometry.Polygon([(0, 0), (0, 1), (1, 1), (1, 0)])],
index=['a'])
图8
同样地,直接显示第一个元素:
图9
- Polygon(有孔)
区分于上文中的无孔Polygon
,下面我们创建一个由有孔Polygon
对象组成的GeoSeries
:
# 创建存放有孔Polygon对象的GeoSeries
# 这里shapely.geometry.Polygon(polygonExteriors, interiorCoords)用于创建有孔面
# 其中polygonExteriors用于定义整个有孔Polygon的外围,是一个无孔的多边形
# interiorCoords是用于定义内部每个孔洞(本质上是独立的多边形)的序列
gpd.GeoSeries([geometry.Polygon([(0,0),(10,0),(10,10),(0,10)],
[((1,3),(5,3),(5,1),(1,1)),
((9,9),(9,8),(8,8),(8,9))])])
同样地,直接显示第一个元素:
图10
- MultiPolygon
对应shapely
中的MultiPolygon
,用于表示多个面的集合,下面我们创建一个由MultiPolygon
对象组成的GeoSeries
:
# 创建存放MultiPolygon对象的GeoSeries
# 这里shapely.geometry.MultiPolygon([Polygon1, Polygon2])用于创建多个面的集合
gpd.GeoSeries([geometry.MultiPolygon([geometry.Polygon([(0, 0), (0, 1), (1, 1), (1, 0), (0, 0)]),
geometry.Polygon([(2, 2), (2, 3), (3, 3), (3, 2), (2, 2)])])],
index=['a'])
图11
显示第一个元素:
图12
- LinearRing
LinearRing
对应shapely.geometry
中的LinearRing
,是一种特殊的几何对象,可以理解为闭合的线或无孔多边形的边框,创建时传入数据的格式与Polygon
相同,下面我们创建一个由LinearRing
对象组成的GeoSeries
:
# 创建存放LinearRing对象的GeoSeries
# 这里shapely.geometry.LinearRing([(x1, y1), (x2, y2),...])用于创建LinearRing
gpd.GeoSeries([geometry.LinearRing([(0, 0), (0, 1), (1, 1), (1, 0)])],
index=['a'])
图13
显示第一个元素,可以看出LinearRing
就是无孔多边形的边框线:
图14
在同一个
GeoSeries
可以混合上述类型中的多种几何对象,这意味着点线面在概念上相异的几何对象可以共存于同一份数据中
2.1.2 GeoSeries常用属性
类似pandas
中的Series
,GeoSeries
在被创建完成之后也拥有很多实用的地理属性,下面对其中较为常用的进行列举:
- area
area
属性返回与GeoSeries
中每个元素一一对应的面积值(这里的面积单位和下文涉及的长度单位取决于投影坐标系,之后关于geopandas
投影坐标系管理的文章将会详细介绍,这里仅做演示):
# 创建混合点线面的GeoSeries,这里第5个有孔多边形内部空洞创建时使用[::-1]颠倒顺序
# 是因为GeoSeries.plot()方法绘制有孔多边形的一个bug,即外部边框与内部孔洞创建时坐标
# 方向同为顺时针或顺时针时内部孔洞会自动被填充,如果你对这个bug感兴趣,可以前往
# https://github.com/geopandas/geopandas/issues/951查看细节
s = gpd.GeoSeries([geometry.Polygon([(0, 0), (0.5, 0.5), (1, 0), (0.5, -0.5)]),
geometry.Polygon([(1, 1), (1.5, 1.5), (2, 1), (1.5, -1.5)]),
geometry.Point(3, 3),
geometry.LineString([(2, 2), (0, 3)]),
geometry.Polygon([(4, 4), (8, 4), (8, 8), (4, 8)],
[[(5, 5), (7, 5), (7, 7), (5, 7)][::-1]])])
# 在jupyter中开启matplotlib交互式绘图模式
%matplotlib widget
s.plot() # 对s进行简单的可视化
图15
可以看到,s
中包含了多种几何对象,下面直接得到s
的面积:
图16 计算GeoSeries面积
- bounds
bounds
属性返回每个几何对象所在box左下角、右上角的坐标信息:
图17
- length
length
属性返回每个几何对象边长:
图18
- geom_type
geom_type
返回每个几何对象类型:
图19
- exterior与interiors
对于多边形对象,exterior
返回LinearRing
格式的外边框线,对于有孔多边形,interiors
返回所有内部孔洞LinearRing
格式边框线集合:
图20
- is_valid
在shapely
中涉及到很多拓扑计算操作时,对几何对象的合法性有要求,譬如定义多边形时坐标按顺序连线时穿过了之前定义的边就属于非法,因为geopandas
对矢量对象的计算依赖于shapely
,于是引进了属性用于判断每个几何对象是否合法,下面我们创建两个形状相同的多边形,其中一个满足上述所说的非法情况,另一个由两个多边形拼接而成:
s_ = gpd.GeoSeries([geometry.Polygon([(4, 0), (6, 1), (4, 1), (6, 0)]),
geometry.MultiPolygon([geometry.Polygon([(4, 0), (5, 0.5), (6, 0)]),
geometry.Polygon([(5, 0.5), (6, 1), (4, 1)])])])
从形状上看两者相同:
图21
下面我们尝试用shapely
中的intersection
方法来取得这两个几何对象的相交部分,出现了拓扑逻辑错误:
图22
查看s_.is_valid
,可以看出第一个自相交的多边形非法:
图23
- boundary
boundary
返回每个几何对象的低维简化表示(点对象无具体的更低维简化,故无返回值):
图24
- centroid
centroid
返回每个几何对象的重心(几何中心):
图25
- convex_hull
convex_hull
返回每个几何对象的凸包,Polygon
格式,即恰巧包含对应几何对象的凸多边形:
import numpy as np
# 利用独立的正态分布随机数创建两个MultiPoint集合
s__ = gpd.GeoSeries([geometry.MultiPoint(np.random.normal(loc=0, scale=2, size=[10, 2]).tolist()),
geometry.MultiPoint(np.random.normal(loc=5, scale=2, size=[10, 2]).tolist())])
ax = s__.plot(color='red') # 绘制s__
s__.convex_hull.plot(ax=ax, alpha=0.4) # 叠加绘制各自对应凸包,调低填充透明度以显示更明显
图26
- envelope
envelope
属性返回对应几何对象的box范围,Polygon
格式,即包含对应元素中所有点的最小矩形:
import numpy as np
# 创建两团独立的MultiPoint
s__ = gpd.GeoSeries([geometry.MultiPoint(np.random.normal(loc=0, scale=2, size=[10, 2]).tolist()),
geometry.MultiPoint(np.random.normal(loc=5, scale=2, size=[10, 2]).tolist())])
ax = s__.plot(color='red') # 绘制s__
s__.envelope.plot(ax=ax, alpha=0.4) # 叠加绘制各自对应envelope,调低填充透明度以显示更明显
图27
2.2 GeoDataFrame
2.2.1 GeoDataFrame基础
顾名思义,geopandas
中的GeoDataFrame
是在pandas.DataFrame
的基础上,加入空间分析相关内容进行改造而成,其最大特点在于其在原有数据表格基础上增加了一列GeoSeries
使得其具有矢量性,所有对于GeoDataFrame
施加的空间几何操作也都作用在这列指定的几何对象之上。下面我们举个简单的例子,基于不同均值和标准差的正态分布随机数,创建GeoDataFrame
来记录这些信息:
contents = [(loc, 0.5) for loc in range(0, 10, 2)]
geo_df = gpd.GeoDataFrame(data=contents,
geometry=[geometry.MultiPoint(np.random.normal(loc=loc, scale=scale, size=[10, 2]).tolist())
for loc, scale in contents],
columns=['均值', '标准差'])
geo_df
图28
其中定义GeoDataFrame
时作为每行所关联几何对象的GeoSeries
需要通过geometry
参数指定,而除了用上述的方式创建GeoDataFrame
,先创建数据表,再添加矢量信息列亦可,这时几何对象列的名称可以自由设置,但一定要利用GeoDataFrame.set_geometry()
方法将后添加的矢量列指定为矢量主列,因为每个GeoDataFrame
若在定义之处没有指定矢量列,后将无法进行与适量信息挂钩的所有操作(GeoSeries
所有属性都可同样作用于GeoDataFrame
,因为所有空间操作实际上都直接作用于其矢量主列):
- 添加矢量列但未定义
geo_df = gpd.GeoDataFrame(contents, columns=['均值', '标准差'])
geo_df['raw_points'] = [geometry.MultiPoint(np.random.normal(loc=loc, scale=scale, size=[10, 2]).tolist())
for loc, scale in contents]
# 尝试查看矢量类型
geo_df.geom_type
图29
这时所有直接针对GeoDataFrame
的矢量相关操作都无法使用。
- 重新为
GeoDataFrame
指定矢量列
geo_df.set_geometry('raw_points').geom_type
这时相关操作可正常使用:
图30
- 多个矢量列切换
通过前面的内容,我们知道了每个GeoDataFrame
都有一个矢量主列,相关操作例如绘图都基于此列,实际上GeoDataFrame
允许表中存在多个矢量列,只要求任意时刻有且仅有1列为矢量主列即可,因此我们可以在一个GeoDataFrame
中保存多列矢量,需要用到哪列时再进行切换即可,如下面的例子:
geo_df = gpd.GeoDataFrame(contents, columns=['均值', '标准差'])
geo_df['raw_points'] = [geometry.MultiPoint(np.random.normal(loc=loc, scale=scale, size=[10, 2]).tolist())
for loc, scale in contents]
geo_df.set_geometry('raw_points', inplace=True) # inplace=True表示对原数据进行更新
# 绘制第一图层
ax = geo_df.plot(color='red')
geo_df['convex_hull'] = geo_df.convex_hull
# 切换矢量主列
geo_df.set_geometry('convex_hull', inplace=True)
# 绘制第二图层
geo_df.plot(ax=ax, color='blue', alpha=0.4)
图31
2.2.2 GeoDataFrame数据索引
作为pandas.DataFrame
的延伸,GeoDataFrame
同样支持pandas.DataFrame
中的.loc
以及.iloc
对数据在行、列尺度上进行索引和筛选,这里我们以geopandas
自带的世界地图数据为例:
world = gpd.read_file(gpd.datasets.get_path('naturalearth_lowres'))
world.plot()
图32 geopandas自带世界地图
查看其表格内容:
图33
使用.loc
+条件筛选选择数据:
图34
使用.iloc
选择数据:
图35
而除了这些常规的数据索引方式之外,geopandas
为GeoDataFrame
添加了.cx
索引方式,可以传入所需的空间范围,用于索引与传入范围相交的对应数据:
# 选择与东经80度-110度,北纬0度-30度范围相交的几何对象
part_world = world.cx[80:110, 0:30]
# 绘制第一图层:世界地图
ax = world.plot(alpha=0.05)
# 绘制第二图层:.cx所选择的地区
ax = part_world.plot(ax=ax, alpha=0.6)
# 绘制第三图层:.cx条件示意图
ax = gpd.GeoSeries([geometry.box(minx=80, miny=0, maxx=110, maxy=30).boundary])\
.plot(ax=ax, color='red')
示意图如下:
图36
放大到所选区域,可以看出正如前面所说,通过.cx
,所有与指定空间范围有重叠的对象都被选择:
图37
以上就是本文的全部内容,如有笔误望指出,系列文章下一篇将详细介绍geopandas
中的投影坐标系管理,敬请期待。
(数据科学学习手札74)基于geopandas的空间数据分析——数据结构篇的更多相关文章
- (数据科学学习手札89)geopandas&geoplot近期重要更新
本文示例代码及数据已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes 1 简介 最近一段时间(本文写作于2020-07-1 ...
- (数据科学学习手札81)conda+jupyter玩转数据科学环境搭建
本文示例yaml文件已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes 1 简介 我们在使用Python进行数据分析时,很 ...
- (数据科学学习手札146)geopandas中拓扑非法问题的发现、诊断与修复
本文示例代码已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes 1 简介 大家好我是费老师,geopandas作为在Pyt ...
- (数据科学学习手札129)geopandas 0.10版本重要新特性一览
本文示例代码及文件已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes 1 简介 就在前不久,我们非常熟悉的Python地理 ...
- (数据科学学习手札139)geopandas 0.11版本重要新特性一览
本文示例代码已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes 1 简介 大家好我是费老师,就在几天前,geopandas ...
- (数据科学学习手札111)geopandas 0.9.0重要新特性一览
本文示例文件已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes 1 简介 就在几天前,geopandas释放了其最新正式版 ...
- (数据科学学习手札75)基于geopandas的空间数据分析——坐标参考系篇
本文对应代码已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes 1 简介 在上一篇文章中我们对geopandas中的数据结 ...
- (数据科学学习手札82)基于geopandas的空间数据分析——geoplot篇(上)
本文示例代码和数据已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes 1 简介 在前面的基于geopandas的空间数据分 ...
- (数据科学学习手札84)基于geopandas的空间数据分析——空间计算篇(上)
本文示例代码.数据及文件已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes 1 简介 在本系列之前的文章中我们主要讨论了g ...
随机推荐
- MyBatis使用mapper动态代理实现DAO接口
工具: mysql 5.5.62 IDEA 参考自:https://www.cnblogs.com/best/p/5688040.html 遇到的问题: 无法读取src/main/java下配置文 ...
- C# 将PDF转为Word、Html、XPS、SVG、PCL、PS——基于Spire.Cloud.PDF
Spire.Cloud.PDF提供了接口PdfConvertApi可用于将PDF文档转换为其他格式文档,如Word(docx/doc).Html.XPS.SVG.PCL.PS.Png以及XPS转成PD ...
- 【题解】P1373 小a和uim之大逃离
[题解]P1373 小a和uim之大逃离 考虑到可能会MLE,考虑状态压缩一下 由于只要得到他们的差就行了,所以直接少记录一维就好了 \(dp(i,j,r,1/0)\)表示在\(i,j\)点,当前ui ...
- JAVA字节码文件之常量池
一.常量池的内容 一个java类中定义的很多信息都是由常量池来维护和描述的,可以将常量池看作是class文件的资源仓库,比如java类中定义的方法与变量信息.常量池中主要存储两类常量:字面量(文本字符 ...
- DNS服务器红帽5.4搭建图文教程!!!
DNS服务器 挂载光盘 mount 查看光盘所在位置 mount -t iso9660 设备目录 /mnt 表示挂载 软件包安装 所有软件包都在Server目录下 rpm -ivh /mnt/Serv ...
- Python 线性回归(Linear Regression) 基本理解
背景 学习 Linear Regression in Python – Real Python,对线性回归理论上的理解做个回顾,文章是前天读完,今天凭着记忆和理解写一遍,再回温更正. 线性回归(Lin ...
- 个人博客-vue-blog
http://47.100.126.169/zmengBlog/
- 洛谷P3292 [SCOI2016]幸运数字 线性基+倍增
P3292 [SCOI2016]幸运数字 传送门 题目描述 A 国共有 n 座城市,这些城市由 n-1 条道路相连,使得任意两座城市可以互达,且路径唯一.每座城市都有一个幸运数字,以纪念碑的形式矗立在 ...
- 【原理】从零编写ILI9341驱动全过程(基于Arduino)
最近在淘宝入手了一块ILI9341彩色屏幕,支持320x240分辨率.之前一直很好奇这类单片机驱动的彩色屏幕的原理,就打算自己写一个驱动,从电流层面操控ILI9341屏幕.话不多说,我们开始吧( ̄▽ ̄ ...
- Java零基础搭建实时直播平台
https://www.cnblogs.com/scywkl/p/12101437.html