横向对比分析Python解析XML的四种方式

在最初学习PYTHON的时候,只知道有DOM和SAX两种解析方法,但是其效率都不够理想,由于需要处理的文件数量太大,这两种方式耗时太高无法接受。

在网络搜索后发现,目前应用比较广泛,且效率相对较高的ElementTree也是一个比较多人推荐的算法,于是拿这个算法来实测对比,ElementTree也包括两种实现,一个是普通ElementTree(ET),一个是ElementTree.iterparse(ET_iter)。

本文将对DOM、SAX、ET、ET_iter四种方式进行横向对比,通过处理相同文件比较各个算法的用时来评估其效率。

程序中将四种解析方法均写为函数,在主程序中分别调用,来评估其解析效率。

解压后的XML文件内容示例为:

主程序函数调用部分代码为:  
 

print("文件计数:%d/%d." % (gz_cnt,paser_num))

str_s,cnt = dom_parser(gz)

#str_s,cnt = sax_parser(gz)

#str_s,cnt = ET_parser(gz)

#str_s,cnt = ET_parser_iter(gz)

output.write(str_s)

vs_cnt = cnt



在最初的函数调用中函数返回两个值,但接收函数调用值时用两个变量分别调用,导致每个函数都要执行两次,之后修改为一次调用两个变量接收返回值,减少了无效调用。

1、DOM解析

函数定义代码:  
 

def dom_parser(gz):

  import gzip,cStringIO

  import xml.dom.minidom

   

  vs_cnt = 0

  str_s = ''

  file_io = cStringIO.StringIO()

  xm = gzip.open(gz,'rb')

  print("已读入:%s.\n解析中:" %
(os.path.abspath(gz)))

  doc =
xml.dom.minidom.parseString(xm.read())

  bulkPmMrDataFile = doc.documentElement

  #读入子元素

  enbs =
bulkPmMrDataFile.getElementsByTagName_r("eNB")

  measurements =
enbs[0].getElementsByTagName_r("measurement")

  objects =
measurements[0].getElementsByTagName_r("object")

  #写入csv文件

  for object in objects:

    vs =
object.getElementsByTagName_r("v")

    vs_cnt =
len(vs)

    for v in
vs:

     
file_io.write(enbs[0].getAttribute("id") ' '
object.getAttribute("id") ' ' \

     
object.getAttribute("MmeUeS1apId") ' '
object.getAttribute("MmeGroupId") ' '
object.getAttribute("MmeCode") ' ' \

     
object.getAttribute("TimeStamp") ' ' v.childNodes[0].data '\n')
#获取文本值

  str_s = (((file_io.getvalue().replace('
\n','\r\n')).replace(' ',',')).replace('T','
')).replace('NIL','')

  xm.close()

  file_io.close()

  return (str_s,vs_cnt)



程序运行结果:



**************************************************

程序处理启动。

输入目录为:/tmcdata/mro2csv/input31/。

输出目录为:/tmcdata/mro2csv/output31/。

输入目录下.gz文件个数为:12,本次处理其中的12个。

**************************************************

文件计数:1/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.

解析中:

文件计数:2/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.

解析中:

文件计数:3/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.

解析中:

………………………………………

文件计数:12/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.

解析中:

VS行计数:177849,运行时间:107.077867,每秒处理行数:1660。

已写入:/tmcdata/mro2csv/output31/mro_0001.csv。



**************************************************

程序处理结束。

由于DOM解析需要将整个文件读入内存,并建立树结构,其内存消耗和时间消耗都比较高,但其优点在于逻辑简单,不需要定义回调函数,便于实现。

2、SAX解析



函数定义代码:  
 

def sax_parser(gz):

  import os,gzip,cStringIO

  from xml.parsers.expat import ParserCreate

 

  #变量声明

  d_eNB = {}

  d_obj = {}

  s = ''

  global flag 

  flag = False

  file_io = cStringIO.StringIO()

   

  #Sax解析类

  class DefaultSaxHandler(object):

   
#处理开始标签

    def
start_element(self, name, attrs):

     
global d_eNB

     
global d_obj

     
global vs_cnt

     
if name == 'eNB':

       
d_eNB = attrs

     
elif name == 'object':

       
d_obj = attrs

     
elif name == 'v':

       
file_io.write(d_eNB['id'] ' ' d_obj['id'] ' ' d_obj['MmeUeS1apId']
' ' d_obj['MmeGroupId'] ' ' d_obj['MmeCode'] ' ' d_obj['TimeStamp']
' ')

       
vs_cnt = 1

     
else:

       
pass

   
#处理中间文本

    def
char_data(self, text):

     
global d_eNB

     
global d_obj

     
global flag

     
if text[0:1].isnumeric():

       
file_io.write(text)

     
elif text[0:17] == 'MR.LteScPlrULQci1':

       
flag = True

       
#print(text,flag)

     
else:

       
pass

   
#处理结束标签

    def
end_element(self, name):

     
global d_eNB

     
global d_obj

     
if name == 'v':

       
file_io.write('\n')

     
else:

       
pass

   

  #Sax解析调用

  handler = DefaultSaxHandler()

  parser = ParserCreate()

  parser.StartElementHandler =
handler.start_element

  parser.EndElementHandler =
handler.end_element

  parser.CharacterDataHandler =
handler.char_data

  vs_cnt = 0

  str_s = ''

  xm = gzip.open(gz,'rb')

  print("已读入:%s.\n解析中:" %
(os.path.abspath(gz)))

  for line in xm.readlines():

   
parser.Parse(line) #解析xml文件内容

    if
flag:

     
break

  str_s = file_io.getvalue().replace('
\n','\r\n').replace(' ',',').replace('T','
').replace('NIL','')  #写入解析后内容

  xm.close()

  file_io.close()

  return (str_s,vs_cnt)



程序运行结果:



**************************************************

程序处理启动。

输入目录为:/tmcdata/mro2csv/input31/。

输出目录为:/tmcdata/mro2csv/output31/。

输入目录下.gz文件个数为:12,本次处理其中的12个。

**************************************************

文件计数:1/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.

解析中:

文件计数:2/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.

解析中:

文件计数:3/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.

解析中:

.........................................

文件计数:12/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.

解析中:

VS行计数:177849,运行时间:14.386779,每秒处理行数:12361。

已写入:/tmcdata/mro2csv/output31/mro_0001.csv。



**************************************************

程序处理结束。

SAX解析相比DOM解析,运行时间大幅缩短,由于SAX采用逐行解析,对于处理较大文件其占用内存也少,因此SAX解析是目前应用较多的一种解析方法。其缺点在于需要自己实现回调函数,逻辑较为复杂。

3、ET解析



函数定义代码:  
 

def ET_parser(gz):

  import os,gzip,cStringIO

  import xml.etree.cElementTree as ET

 

  vs_cnt = 0

  str_s = ''

  file_io = cStringIO.StringIO()

  xm = gzip.open(gz,'rb')

  print("已读入:%s.\n解析中:" %
(os.path.abspath(gz)))

  tree = ET.ElementTree(file=xm)

  root = tree.getroot()

  for elem in root[1][0].findall('object'):

     
for v in elem.findall('v'):

         
file_io.write(root[1].attrib['id'] ' ' elem.attrib['TimeStamp'] ' '
elem.attrib['MmeCode'] ' ' \

         
elem.attrib['id'] ' ' elem.attrib['MmeUeS1apId'] ' '
elem.attrib['MmeGroupId'] ' ' v.text '\n')

     
vs_cnt = 1

  str_s = file_io.getvalue().replace('
\n','\r\n').replace(' ',',').replace('T','
').replace('NIL','')  #写入解析后内容

  xm.close()

  file_io.close()

  return (str_s,vs_cnt)



程序运行结果:



**************************************************

程序处理启动。

输入目录为:/tmcdata/mro2csv/input31/。

输出目录为:/tmcdata/mro2csv/output31/。

输入目录下.gz文件个数为:12,本次处理其中的12个。

**************************************************

文件计数:1/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.

解析中:

文件计数:2/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.

解析中:

文件计数:3/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.

解析中:

...........................................

文件计数:12/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.

解析中:

VS行计数:177849,运行时间:4.308103,每秒处理行数:41282。

已写入:/tmcdata/mro2csv/output31/mro_0001.csv。



**************************************************

程序处理结束。

相较于SAX解析,ET解析时间更短,并且函数实现也比较简单,所以ET具有类似DOM的简单逻辑实现且匹敌SAX的解析效率,因此ET是目前XML解析的首选。

4、ET_iter解析



函数定义代码:  
 

def ET_parser_iter(gz):

  import os,gzip,cStringIO

  import xml.etree.cElementTree as ET

 

  vs_cnt = 0

  str_s = ''

  file_io = cStringIO.StringIO()

  xm = gzip.open(gz,'rb')

  print("已读入:%s.\n解析中:" %
(os.path.abspath(gz)))

  d_eNB = {}

  d_obj = {}

  i = 0

  for event,elem in
ET.iterparse(xm,events=('start','end')):

    if i
>= 2:

     
break   

    elif event
== 'start':

         
if elem.tag == 'eNB':

             
d_eNB = elem.attrib

         
elif elem.tag == 'object':

       
d_obj = elem.attrib

     
elif event == 'end' and elem.tag == 'smr':

     
i = 1

    elif event
== 'end' and elem.tag == 'v':

     
file_io.write(d_eNB['id'] ' ' d_obj['TimeStamp'] ' '
d_obj['MmeCode'] ' ' d_obj['id'] ' ' \

     
d_obj['MmeUeS1apId'] ' ' d_obj['MmeGroupId'] ' ' str(elem.text)
'\n')

         
vs_cnt = 1

     
elem.clear()

  str_s = file_io.getvalue().replace('
\n','\r\n').replace(' ',',').replace('T','
').replace('NIL','')  #写入解析后内容

  xm.close()

  file_io.close()

  return (str_s,vs_cnt)



程序运行结果:



**************************************************

程序处理启动。

输入目录为:/tmcdata/mro2csv/input31/。

输出目录为:/tmcdata/mro2csv/output31/。

输入目录下.gz文件个数为:12,本次处理其中的12个。

**************************************************

文件计数:1/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.

解析中:

文件计数:2/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.

解析中:

文件计数:3/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.

解析中:

...................................................

文件计数:12/12.

已读入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.

解析中:

VS行计数:177849,运行时间:3.043805,每秒处理行数:58429。

已写入:/tmcdata/mro2csv/output31/mro_0001.csv。



**************************************************

程序处理结束。

在引入了ET_iter解析后,解析效率比ET提升了近50%,而相较于DOM解析更是提升了35倍,在解析效率提升的同时,由于其采用了iterparse这个循序解析的工具,其内存占用也是比较小的。

所以,小伙伴们,请好好利用这几种工具吧。

以上就是本文的全部内容,希望对大家的学习有所帮助。

横向对比分析Python解析XML的四种方式的更多相关文章

  1. JAVA解析XML的四种方式

    java解析xml文件四种方式 1.介绍 1)DOM(JAXP Crimson解析器) DOM是用与平台和语言无关的方式表示XML文档的官方W3C标准.DOM是以层次结构组织的节点或信息片断的集合.这 ...

  2. 解析XML的四种方式

    四种操作xml的方式: SAX, DOM, JDOM , DOM4J的比较 1. 介绍 1)DOM(JAXP Crimson解析器)         DOM是用与平台和语言无关的方式表示XML文档的官 ...

  3. java解析xml文件四种方式

    1.介绍 1)DOM(JAXP Crimson解析器) DOM是用与平台和语言无关的方式表示XML文档的官方W3C标准.DOM是以层次结构组织的节点或信息片断的集合.这个层次结构允许开发人员在树中寻找 ...

  4. JAVA解析xml的四种方式比较

    1)DOM解析 DOM是html和xml的应用程序接口(API),以层次结构(类似于树型)来组织节点和信息片段,映射XML文档的结构,允许获取 和操作文档的任意部分,是W3C的官方标准 [优点] ①允 ...

  5. 【Java】详解Java解析XML的四种方法

    XML现在已经成为一种通用的数据交换格式,平台的无关性使得很多场合都需要用到XML.本文将详细介绍用Java解析XML的四种方法. AD: XML现在已经成为一种通用的数据交换格式,它的平台无关性,语 ...

  6. Java解析XML的四种方法详解 - 转载

    XML现在已经成为一种通用的数据交换格式,平台的无关性使得很多场合都需要用到XML.本文将详细介绍用Java解析XML的四种方法 在做一般的XML数据交换过程中,我更乐意传递XML字符串,而不是格式化 ...

  7. java解析xml的几种方式

    java解析xml的几种方式 DOM DOM的全称是Document ObjectModel,也即文档对象模型.在应用程序中,基于DOM的XML分析器将一个XML文档转换成一个对象模型的集合(通常称D ...

  8. JAVA解析XML的四种方法

    XML文件:test.xml <?xml version="1.0" encoding="UTF-8"?> <employees> &l ...

  9. python 解析xml 文件: Element Tree 方式

    环境 python:3.4.4 准备xml文件 首先新建一个xml文件,countries.xml.内容是在python官网上看到的. <?xml version="1.0" ...

随机推荐

  1. Mac&Appium&Python自动化测试-Appium安装

    基础配置 1.JAVA和Git就不用多说了 2.Brew,也就是homebrew,它是MacOSX上的软件包管理工具,它就等同于linux上的apt-get.yum,如果没有安装,可以通过如下命令安装 ...

  2. 02—EF初次体验

    新建个表,我用的是sql server2014,我会把文件发上来,如果是低版本的,可以执行语句,数据库就自己创建吧. USE [testdb] GO CREATE TABLE [dbo].[Produ ...

  3. CF487E Tourists[圆方树+树剖(线段树套set)]

    做这题的时候有点怂..基本已经想到正解了..结果感觉做法有点假,还是看了正解题解.. 首先提到简单路径上经过的点,就想到了一个关于点双的结论:两点间简单路径上所有可能经过的点的并等于路径上所有点所在点 ...

  4. 第40题:组合总和II

    一.问题描述: 给定一个数组 candidates 和一个目标数 target ,找出 candidates 中所有可以使数字和为 target 的组合. candidates 中的每个数字在每个组合 ...

  5. Eclipse里修改SVN的用户名和密码

    删除Eclipse subclipse plugin中记住的SVN用户名密码: 1) 查看你的Eclipse中使用的是什么SVN Interface    windows > preferenc ...

  6. Linq 分组查询

    根据部门分组 ,然后存储部门下所有员工 public class Custom { public string dname { get; set; } public List<Employees ...

  7. 【Android-自定义控件】 漂亮的Toast

    修改Toast属性,美化Toast //创建一个Toast Toast toast=new Toast(getApplicationContext()); //创建Toast中的文字 TextView ...

  8. rsync 同步操作

    同步:增量拷贝,只传输变化过的数据 rsync   [ 选项]  源目录/目标目录 -a :归档模式  相当于 -rlptgoD -v:显示详细操作信息 -z:传输过程中启用压缩/解压 --delet ...

  9. [Luogu] 选择客栈

    https://www.luogu.org/problemnew/show/P1311 思路就是,从1到n枚举,输入color和price的值,我们需要记录一个距离第二个客栈最近的咖啡厅价钱合理的客栈 ...

  10. mysql查询字段中含有中文

    查询mysql数据库中字段中含有中文使用正则表达式: 例如: select create_time,nickname from eb_engineer where not(nickname regex ...