WFS: postgresql(postgis)和shp文件查询效率对比
对GeoServer上的WFS的各种数据源查询效率感兴趣,做个测试。本次测试了Postgresql、geopackage、shp文件三种数据源的查询效率,无论是本机还是服务器环境,pg存储查询效率都比shp要好。
环境
操作系统 本机=Windows 10 专业版 1903 服务器=Windows Server 2016
CPU 本机=i7 9700 服务器=L5xxx
内存 本机&服务器 = 32GB
硬盘 本机=512SSD 服务器=1TB机械
geoserver版本:2.16
pg版本:10.x
网络环境:公司局域网
代码测试环境:Cesium 1.68 原生自带的请求方法 Cesium.Resource.fetchJson()
测试环境:Microsoft Edge 84.0.488.1 Dev
预备知识
- WFS
- WFS的cql_filter过滤条件
shapefiles数据信息
数据名 | 数据体积 | 数据量 | EPSG | 非OBJECTID属性个数 |
---|---|---|---|---|
boundary_vill_sparse | 67.9MB | 31383 | 4490 | 12 |
village_mz_sparse | 17.0MB | 6246 | 4490 | 12 |
本文基于公司保密数据进行测试,就不提供数据了,感兴趣的朋友可以用全国县级数据进行模拟。
数据预览:
数据入库要求:
- 均建立索引
wfs模糊查询效率对比(本机)
数据名称 | 数据源 | 体积 | 查询用时(6次随机) |
---|---|---|---|
boundary_vill_sparse | postgresql | 55.65MB | [73, 86, 65, 66, 64, 64] / 6 = 69.7ms |
boundary_vill_sparse | geopackage | 71.70MB | [580, 640, 635, 610, 603, 653] / 6 = 620.2ms |
boundary_vill_sparse | shapefiles | 67.9MB | [412, 344, 359, 396, 339, 369] / 6 = 369.8ms |
village_mz_sparse | postgresql | 13.21MB | [52, 68, 29, 26, 70, 60] / 6 = 50.8ms |
village_mz_sparse | geopackage | 16.82MB | [195, 243, 254, 232, 207, 168] / 6 = 216.5ms |
village_mz_sparse | shapefiles | 17.0MB | [124, 162, 154, 162, 161, 119] / 6 = 147ms |
对于shp文件,在geoserver上勾选“若缺少空间索引,则构建空间索引”选项加速索引。
分析
纵向对比,同一份文件,pg的WFS查询效率远高于shp文件。geopackage作为sqlite的一种实现,适合用来做数据交换以替代shp文件的编辑功能,不适用于查询。
横向对比,数据量越大,pg的优势越明显。数据量大的全省村落行政区数据,比数据量小的梅州局部数据有明显优势(约3倍vs约6倍)。
除此之外,pg还有数据压缩方面的优势,约能节约相对于shp文件20%~30%的文件体积。
对于geopackage,文件体积没有太大变化,可以牺牲稍微多出来的一点空间解决二维数据编辑交换的各种中文不兼容问题。spatiallite未测试。
wfs模糊查询效率对比(服务器)
数据名称 | 数据源 | 查询用时(6次随机) |
---|---|---|
boundary_vill_sparse | postgresql | [419, 354, 411, 425, 360, 362] / 6 = 388.5ms |
boundary_vill_sparse | geopackage | [3.60, 3.37, 3.42, 3.31, 3.36, 3.17] / 6 = 3.37s |
boundary_vill_sparse | shapefiles | [1.94, 1.84, 1.87, 1.48, 1.93, 1.83] / 6 = 1.81s |
village_mz_sparse | postgresql | [320, 316, 314, 316, 316, 312] / 6 = 315.7ms |
village_mz_sparse | geopackage | [1.17, 1.01, 1.00, 1.01, 1.01, 1.01] / 6 = 1.04s |
village_mz_sparse | shapefiles | [656, 640, 636, 639, 637, 637] / 6 = 640.8ms |
分析
在服务器环境shp文件发布的WFS查询时间极其不稳定,有时候会剧增到十几秒,有的时候一秒多,有的时候几秒钟。估计是磁盘IO占用。
总的来说,shp文件的查询效率在数据量越大的时候,无论是服务器环境,还是本地环境,都是不如pg的。
至于geopackage,这个仅适合做交换格式,以覆盖shp文件中文不兼容的情况。
WFS: postgresql(postgis)和shp文件查询效率对比的更多相关文章
- EF 数据查询效率对比
优化的地方: 原地址:https://www.cnblogs.com/yaopengfei/p/9226328.html ①:如果仅是查询数据,并不对数据进行增.删.改操作,查询数据的时候可以取消状态 ...
- Java ftp上传文件方法效率对比
Java ftp上传文件方法效率对比 一.功能简介: txt文件采用ftp方式从windows传输到Linux系统: 二.ftp实现方法 (1)方法一:采用二进制流传输,设置缓冲区,速度快,50M的t ...
- PostGIS 导入SHP文件并与ArcGIS连接
运行环境: ArcGIS10.4 PostGreSql9.4 PostGIS2.2(需勾选空间数据库,否则需要重新安装) 实现步骤: 方法一: 1.打开pgAdminIII,数据库节点上右键,新建数据 ...
- postgresql+postgis+pgrouting实现最短路径查询(1)---线数据的处理和建立拓扑
准备一个线shp数据,并将其导入postgres里面,postgres安装postgis和pgrouting两个插件(方法见http://www.cnblogs.com/nidaye/p/455352 ...
- GeoServer+PostgreSQL+PostGIS+pgRouting实现最短路径查询
一.软件安装 GeoServer下载地址: http://geoserver.org/download/ PostgreSQL下载地址: https://www.postgresql.org/down ...
- postgresql+postgis+pgrouting实现最短路径查询(3)--流程图
项目结束,做一个项目的总结汇报,就把最短路径查询的实现流程图画了一下,现在补出来:
- postgresql+postgis+pgrouting实现最短路径查询(2)---openlayers+geoserver实现最短路径
自己的最短路径实现基本上是按照参考博文的1.2和3进行的,实现的时候也是问题不断,只能是一个一个解决. 问题1:自己发布的geoserver服务无法和OSM底图叠加到一起. 解决:参考博文2提到发布服 ...
- 解决PostGIS打开shp文件输入输出模块出现"找不到文件libintl-9.dll"的问题
找到shp2pgsql-gui.exe这个程序的目录 复制一份libintl-8.dll副本,改名为libintl-9.dll即可.
- Hibernate查询效率对比
查询已知表名的实体时推荐使用getHibernateTemplate().executeWithNativeSession() + SQLQuery方式. 以下测试使用JUnit进行,仅查询一次,查询 ...
随机推荐
- Spring - 数据库开发概述
Spring 数据库开发 Spring 的 JDBC 模块负责数据库资源管理和镨误处理,大大简化了开发人员对数据库的操作,使得开发人员可以从繁琐的数据库操作中解脱出来,从而将更多的精力投入到编写业 ...
- GitHub 热点速览 Vol.14:周获 2k+ Vim 掀起三维编程风
作者:HelloGitHub-小鱼干 摘要(用于 公众号/博客园等地方)寓教于乐,应该是上周 Trending 的主题了,无论是被多人转发推荐的三维 Vim 项目 Vim³ 或者是流体运动的 WebG ...
- linux中的bash
一.bash的简介 操作系统都是需要通过shell跟内核来交互的,常见的shell有GUI.KDE.sh.csh.bash.tsh.zsh等. 而linux中最常用的shell就是bash. 二.ba ...
- Mitmproxy 安装
Mitmproxy Python 安装步骤 官方文档 安装mitmproxy 在cmd中输入 pip install mitmproxy 安装完成后,在cmd中输入 mitmdump(windows不 ...
- 还不懂 ConcurrentHashMap ?这份源码分析了解一下
上一篇文章介绍了 HashMap 源码,反响不错,也有很多同学发表了自己的观点,这次又来了,这次是 ConcurrentHashMap 了,作为线程安全的HashMap ,它的使用频率也是很高.那么它 ...
- UnboundLocalError,探讨Python中的绑定
绑定 将python闭包之前,先梳理一下闭包中的绑定操作. 先看看2个相关的错误 NameError 和UnboundLocalError When a name is not found at al ...
- Java运行时数据区域划分
Java虚拟机在执行Java程序的过程中会把它所管理的内存划分为若干个不同的数据区域.这些区域都有各自的用途,以及创建和销毁时间.根据<Java虚拟机规范(Java SE 7版>的规定,J ...
- PTA | 1056 组合数的和 (15分)
给定 N 个非 0 的个位数字,用其中任意 2 个数字都可以组合成 1 个 2 位的数字.要求所有可能组合出来的 2 位数字的和.例如给定 2.5.8,则可以组合出:25.28.52.58.82.85 ...
- pip 命令参数以及如何配置国内镜像源
文章更新于:2020-04-05 注:如果 pip 命令不可以用,参见:python pip命令不能用 文章目录 一.参数详解 1.命令列表 2.通用参数列表 二.实际应用 1.常用命令 2.`pip ...
- json的fromjson的方法使用。可以在volley中进行使用
Gson提供了fromJson()方法来实现从Json相关对象到Java实体的方法. 在日常应用中,我们一般都会碰到两种情况,转成单一实体对象和转换成对象列表或者其他结构. 先来看第一种: 比如jso ...