Python基础-5

目录

1. time &datetime模块
2. random
3. os
4. sys
5. shutil
6. json & picle
7. shelve
8. xml处理
9. yaml处理
10. hashlib
11. re正则表达式

模块分为三种：

• 自定义模块
• 内置标准模块（又称标准库）
• 开源模块

自定义模块 和开源模块的使用参考 http://www.cnblogs.com/wupeiqi/articles/4963027.html 

一、time & datetime模块

 import time

 print(time.clock()) #返回处理器时间,3.3开始已废弃 , 改成了time.process_time()测量处理器运算时间,不包括sleep时间,不稳定,mac上测不出来
 1.2828758313035386e-06
 print(time.altzone)  #返回与utc时间的时间差,以秒计算\
 -32400
 print(time.asctime()) #返回时间格式"Fri Aug 19 11:14:16 2016",
 Wed Jun 28 23:09:48 2017
 print(time.localtime()) #返回本地时间 的struct time对象格式
 time.struct_time(tm_year=2017, tm_mon=6, tm_mday=28, tm_hour=23, tm_min=9, tm_sec=48, tm_wday=2, tm_yday=179, tm_isdst=0)
 print(time.gmtime(time.time()-800000)) #返回utc时间的struc时间对象格式
 time.struct_time(tm_year=2017, tm_mon=6, tm_mday=28, tm_hour=23, tm_min=9, tm_sec=48, tm_wday=2, tm_yday=179, tm_isdst=0)
 print(time.asctime(time.localtime())) #返回时间格式"Fri Aug 19 11:14:16 2016",
 Wed Jun 28 23:09:48 2017
 print(time.ctime()) #返回Fri Aug 19 12:38:29 2016 格式, 同上
 Wed Jun 28 23:09:48 2017

 # 日期字符串 转成  时间戳
 string_2_struct = time.strptime("2016/05/22","%Y/%m/%d") #将 日期字符串 转成 struct时间对象格式
 print(string_2_struct)
 time.struct_time(tm_year=2016, tm_mon=5, tm_mday=22, tm_hour=0, tm_min=0, tm_sec=0, tm_wday=6, tm_yday=143, tm_isdst=-1)

 struct_2_stamp = time.mktime(string_2_struct) #将struct时间对象转成时间戳
 print(struct_2_stamp)
 1463846400.0

 #将时间戳转为字符串格式
 print(time.gmtime(time.time()-86640)) #将utc时间戳转换成struct_time格式
 time.struct_time(tm_year=2017, tm_mon=6, tm_mday=27, tm_hour=15, tm_min=5, tm_sec=48, tm_wday=1, tm_yday=178, tm_isdst=0)

 print(time.strftime("%Y-%m-%d %H:%M:%S",time.gmtime()) ) #将utc struct_time格式转成指定的字符串格式
 2017-06-28 15:09:48

 #时间加减
 import datetime

 print(datetime.datetime.now()) #返回 2016-08-19 12:47:03.941925
 2017-06-28 23:14:57.032901
 print(datetime.date.fromtimestamp(time.time()) )  # 时间戳直接转成日期格式 2016-08-19
 2017-06-28
 print(datetime.datetime.now() )
 2017-06-28 23:14:57.032901
 print(datetime.datetime.now() + datetime.timedelta(3)) #当前时间+3天
 2017-06-28 23:14:57.032901
 print(datetime.datetime.now() + datetime.timedelta(-3)) #当前时间-3天
 2017-06-28 23:14:57.032901
 print(datetime.datetime.now() + datetime.timedelta(hours=3)) #当前时间+3小时
 2017-06-29 02:14:57.032901
 print(datetime.datetime.now() + datetime.timedelta(minutes=30)) #当前时间+30分
 2017-06-28 23:44:57.032901

 c_time  = datetime.datetime.now()
 print(c_time.replace(minute=3,hour=2)) #时间替换
 2017-06-28 02:03:57.032901

Directive	Meaning	Notes
%a	Locale’s abbreviated weekday name.
%A	Locale’s full weekday name.
%b	Locale’s abbreviated month name.
%B	Locale’s full month name.
%c	Locale’s appropriate date and time representation.
%d	Day of the month as a decimal number [01,31].
%H	Hour (24-hour clock) as a decimal number [00,23].
%I	Hour (12-hour clock) as a decimal number [01,12].
%j	Day of the year as a decimal number [001,366].
%m	Month as a decimal number [01,12].
%M	Minute as a decimal number [00,59].
%p	Locale’s equivalent of either AM or PM.	(1)
%S	Second as a decimal number [00,61].	(2)
%U	Week number of the year (Sunday as the first day of the week) as a decimal number [00,53]. All days in a new year preceding the first Sunday are considered to be in week 0.	(3)
%w	Weekday as a decimal number [0(Sunday),6].
%W	Week number of the year (Monday as the first day of the week) as a decimal number [00,53]. All days in a new year preceding the first Monday are considered to be in week 0.	(3)
%x	Locale’s appropriate date representation.
%X	Locale’s appropriate time representation.
%y	Year without century as a decimal number [00,99].
%Y	Year with century as a decimal number.
%z	Time zone offset indicating a positive or negative time difference from UTC/GMT of the form +HHMM or -HHMM, where H represents decimal hour digits and M represents decimal minute digits [-23:59, +23:59].
%Z	Time zone name (no characters if no time zone exists).
%%	A literal '%' character.

二、random模块

随机数

 import random
 print(random.random()) #生成[0,1)
 print(random.randint(1,4)) #生成随机1,2,3,4
 print(random.randrange(1,10)) #生成随机1到9的整数，random.randrange(10, 100, 2)在结果上与 random.choice(range(10, 100, 2) 等效

random.choice

random.choice从序列中获取一个随机元素。其函数原型为：random.choice(sequence)。参数sequence表示一个有序类型。这里要说明一下：sequence在python不是一种特定的类型，而是泛指一系列的类型。list, tuple, 字符串都属于sequence。.

random.shuffle

random.shuffle的函数原型为：random.shuffle(x[, random])，用于将一个列表中的元素打乱.

 import random

 list = [20, 16, 10, 5]
 random.shuffle(list)
 print("随机排序列表 : ",  list)

 random.shuffle(list)
 print("随机排序列表 : ",  list)

 结果：
 随机排序列表 :  [5, 20, 10, 16]
 随机排序列表 :  [5, 16, 20, 10]

random.sample的函数原型为：random.sample(sequence, k)，从指定序列中随机获取指定长度的片断。sample函数不会修改原有序列。

 import random
 s = random.sample('abcdefghij',3)
 print(s)

 随机选取三个元素
 ['f', 'h', 'd']

三、OS模块

提供对操作系统进行调用的接口

 os.getcwd() 获取当前工作目录，即当前python脚本工作的目录路径
 os.chdir("dirname")  改变当前脚本工作目录；相当于shell下cd
 os.curdir  返回当前目录: ('.')
 os.pardir  获取当前目录的父目录字符串名：('..')
 os.makedirs('dirname1/dirname2')    可生成多层递归目录
 os.removedirs('dirname1')    若目录为空，则删除，并递归到上一级目录，如若也为空，则删除，依此类推
 os.mkdir('dirname')    生成单级目录；相当于shell中mkdir dirname
 os.rmdir('dirname')    删除单级空目录，若目录不为空则无法删除，报错；相当于shell中rmdir dirname
 os.listdir('dirname')    列出指定目录下的所有文件和子目录，包括隐藏文件，并以列表方式打印
 os.remove()  删除一个文件
 os.rename("oldname","newname")  重命名文件/目录
 os.stat('path/filename')  获取文件/目录信息
 os.sep    输出操作系统特定的路径分隔符，win下为"\\",Linux下为"/"
 os.linesep    输出当前平台使用的行终止符，win下为"\t\n",Linux下为"\n"
 os.pathsep    输出用于分割文件路径的字符串
 os.name    输出字符串指示当前使用平台。win->'nt'; Linux->'posix'
 os.system("bash command")  运行shell命令，直接显示
 os.environ  获取系统环境变量
 os.path.abspath(path)  返回path规范化的绝对路径
 os.path.split(path)  将path分割成目录和文件名二元组返回
 os.path.dirname(path)  返回path的目录。其实就是os.path.split(path)的第一个元素
 os.path.basename(path)  返回path最后的文件名。如何path以／或\结尾，那么就会返回空值。即os.path.split(path)的第二个元素
 os.path.exists(path)  如果path存在，返回True；如果path不存在，返回False
 os.path.isabs(path)  如果path是绝对路径，返回True
 os.path.isfile(path)  如果path是一个存在的文件，返回True。否则返回False
 os.path.isdir(path)  如果path是一个存在的目录，则返回True。否则返回False
 os.path.join(path1[, path2[, ...]])  将多个路径组合后返回，第一个绝对路径之前的参数将被忽略
 os.path.getatime(path)  返回path所指向的文件或者目录的最后存取时间
 os.path.getmtime(path)  返回path所指向的文件或者目录的最后修改时间

四、sys模块

 sys.argv           命令行参数List，第一个元素是程序本身路径
 sys.exit(n)        退出程序，正常退出时exit(0)
 sys.version        获取Python解释程序的版本信息
 sys.maxint         最大的Int值
 sys.path           返回模块的搜索路径，初始化时使用PYTHONPATH环境变量的值
 sys.platform       返回操作系统平台名称
 sys.stdout.write('please:')
 val = sys.stdin.readline()[:-1]

五、shutil 模块

高级的 文件、文件夹、压缩包 处理模块

shutil.copyfileobj(fsrc, fdst[, length])
将文件内容拷贝到另一个文件中，可以部分内容

shutil.copyfile(src, dst)
拷贝文件

shutil.copymode(src, dst)
仅拷贝权限。内容、组、用户均不变

shutil.copystat(src, dst)
拷贝状态的信息，包括：mode bits, atime, mtime, flags

shutil.copy(src, dst)
拷贝文件和权限

shutil.copy2(src, dst)
拷贝文件和状态信息

shutil.ignore_patterns(*patterns)
shutil.copytree(src, dst, symlinks=False, ignore=None)
递归的去拷贝文件

例如：copytree(source, destination, ignore=ignore_patterns('*.pyc', 'tmp*'))

shutil.rmtree(path[, ignore_errors[, onerror]])
递归的去删除文件

shutil.move(src, dst)
递归的去移动文件

shutil.make_archive(base_name, format,...)

创建压缩包并返回文件路径，例如：zip、tar

• base_name： 压缩包的文件名，也可以是压缩包的路径。只是文件名时，则保存至当前目录，否则保存至指定路径，
  如：www                        =>保存至当前路径
  如：/Users/wupeiqi/www =>保存至/Users/wupeiqi/
• format： 压缩包种类，“zip”, “tar”, “bztar”，“gztar”
• root_dir： 要压缩的文件夹路径（默认当前目录）
• owner： 用户，默认当前用户
• group： 组，默认当前组
• logger： 用于记录日志，通常是logging.Logger对象

 #将 /Users/wupeiqi/Downloads/test 下的文件打包放置当前程序目录

 import shutil
 ret = shutil.make_archive("wwwwwwwwww", 'gztar', root_dir='/Users/wupeiqi/Downloads/test')

 #将 /Users/wupeiqi/Downloads/test 下的文件打包放置 /Users/wupeiqi/目录
 import shutil
 ret = shutil.make_archive("/Users/wupeiqi/wwwwwwwwww", 'gztar', root_dir='/Users/wupeiqi/Downloads/test')

shutil 对压缩包的处理是调用 ZipFile 和 TarFile 两个模块来进行的，详细：

 import zipfile

 # 压缩，压缩任意一个文件
 z = zipfile.ZipFile('laxi.zip', 'w')
 z.write('a.log')
 z.write('data.data')
 z.close()

 # 解压
 z = zipfile.ZipFile('laxi.zip', 'r')
 z.extractall()
 z.close()

 import tarfile

 # 压缩
 tar = tarfile.open('your.tar','w')
 tar.add('/Users/wupeiqi/PycharmProjects/bbs2.zip', arcname='bbs2.zip')
 tar.add('/Users/wupeiqi/PycharmProjects/cmdb.zip', arcname='cmdb.zip')
 tar.close()

 # 解压
 tar = tarfile.open('your.tar','r')
 tar.extractall()  # 可设置解压地址
 tar.close()

六、json & pickle 模块

参见Python基础-4

七、shelve 模块

shelve模块是一个简单的k,v将内存数据通过文件持久化的模块，可以持久化任何pickle可支持的python数据格式

 import shelve

 d = shelve.open('shelve_test') #打开一个文件

 class Test(object):
     def __init__(self,n):
         self.n = n

 t = Test(123)
 t2 = Test(123334)

 name = ["Freeman","rain","test"]
 d["test"] = name #持久化列表
 d["t1"] = t      #持久化类
 d["t2"] = t2

 d.close()

 八、xml处理模块

xml是实现不同语言或程序之间进行数据交换的协议，跟json差不多，但json使用起来更简单，至今很多传统公司如金融行业的很多系统的接口还主要是xml。

xml的格式如下，就是通过<>节点来区别数据结构的:

 <?xml version="1.0"?>
 <data>
     <country name="Liechtenstein">
         <rank updated="yes">2</rank>
         <year>2008</year>
         <gdppc>141100</gdppc>
         <neighbor name="Austria" direction="E"/>
         <neighbor name="Switzerland" direction="W"/>
     </country>
     <country name="Singapore">
         <rank updated="yes">5</rank>
         <year>2011</year>
         <gdppc>59900</gdppc>
         <neighbor name="Malaysia" direction="N"/>
     </country>
     <country name="Panama">
         <rank updated="yes">69</rank>
         <year>2011</year>
         <gdppc>13600</gdppc>
         <neighbor name="Costa Rica" direction="W"/>
         <neighbor name="Colombia" direction="E"/>
     </country>
 </data>

xml协议在各个语言里的都 是支持的，在python中可以用以下模块操作xm

 import xml.etree.ElementTree as ET

 tree = ET.parse("xmltest.xml")
 root = tree.getroot()
 print(root.tag)

 #遍历xml文档
 for child in root:
     print(child.tag, child.attrib)
     for i in child:
         print(i.tag,i.text)

 #只遍历year 节点
 for node in root.iter('year'):
     print(node.tag,node.text)

修改和删除xml文档内容

 import xml.etree.ElementTree as ET

 tree = ET.parse("xmltest.xml")
 root = tree.getroot()

 #修改
 for node in root.iter('year'):
     new_year = int(node.text) + 1
     node.text = str(new_year)
     node.set("updated","yes")

 tree.write("xmltest.xml")

 #删除node
 for country in root.findall('country'):
    rank = int(country.find('rank').text)
    if rank > 50:
      root.remove(country)

 tree.write('output.xml')

自己创建xml文档

 import xml.etree.ElementTree as ET

 new_xml = ET.Element("namelist")
 name = ET.SubElement(new_xml,"name",attrib={"enrolled":"yes"})
 age = ET.SubElement(name,"age",attrib={"checked":"no"})
 sex = ET.SubElement(name,"sex")
 age.text = ''
 name2 = ET.SubElement(new_xml,"name",attrib={"enrolled":"no"})
 age = ET.SubElement(name2,"age")
 age.text = ''

 et = ET.ElementTree(new_xml) #生成文档对象
 et.write("test.xml", encoding="utf-8",xml_declaration=True)

 ET.dump(new_xml) #打印生成的格式

九、PyYAML模块

Python也可以很容易的处理ymal文档格式，只不过需要安装一个模块，参考文档：http://pyyaml.org/wiki/PyYAMLDocumentation 

十、hashlib模块

用于加密相关的操作，3.x里代替了md5模块和sha模块，主要提供 SHA1, SHA224, SHA256, SHA384, SHA512 ，MD5 算法

 import hashlib

 m = hashlib.md5()
 m.update(b"Hello")
 m.update(b"It's me")
 print(m.digest())
 m.update(b"It's been a long time since last time we ...")

 print(m.digest()) #2进制格式hash
 print(len(m.hexdigest())) #16进制格式hash
 '''
 def digest(self, *args, **kwargs): # real signature unknown
     """ Return the digest value as a string of binary data. """
     pass

 def hexdigest(self, *args, **kwargs): # real signature unknown
     """ Return the digest value as a string of hexadecimal digits. """
     pass

 '''
 import hashlib

 # ######## md5 ########

 hash = hashlib.md5()
 hash.update('admin')
 print(hash.hexdigest())

 # ######## sha1 ########

 hash = hashlib.sha1()
 hash.update('admin')
 print(hash.hexdigest())

 # ######## sha256 ########

 hash = hashlib.sha256()
 hash.update('admin')
 print(hash.hexdigest())

 # ######## sha384 ########

 hash = hashlib.sha384()
 hash.update('admin')
 print(hash.hexdigest())

 # ######## sha512 ########

 hash = hashlib.sha512()
 hash.update('admin')
 print(hash.hexdigest())

十一、re模块

 '.'     默认匹配除\n之外的任意一个字符，若指定flag DOTALL,则匹配任意字符，包括换行
 '^'     匹配字符开头，若指定flags MULTILINE,这种也可以匹配上(r"^a","\nabc\neee",flags=re.MULTILINE)
 '$'     匹配字符结尾，或e.search("foo$","bfoo\nsdfsf",flags=re.MULTILINE).group()也可以
 '*'     匹配*号前的字符0次或多次，re.findall("ab*","cabb3abcbbac")  结果为['abb', 'ab', 'a']
 '+'     匹配前一个字符1次或多次，re.findall("ab+","ab+cd+abb+bba") 结果['ab', 'abb']
 '?'     匹配前一个字符1次或0次
 '{m}'   匹配前一个字符m次
 '{n,m}' 匹配前一个字符n到m次，re.findall("ab{1,3}","abb abc abbcbbb") 结果'abb', 'ab', 'abb']
 '|'     匹配|左或|右的字符，re.search("abc|ABC","ABCBabcCD").group() 结果'ABC'
 '(...)' 分组匹配，re.search("(abc){2}a(123|456)c", "abcabca456c").group() 结果 abcabca456c

 '\A'    只从字符开头匹配，re.search("\Aabc","alexabc") 是匹配不到的
 '\Z'    匹配字符结尾，同$
 '\d'    匹配数字0-9
 '\D'    匹配非数字
 '\w'    匹配[A-Za-z0-9]
 '\W'    匹配非[A-Za-z0-9]
 's'     匹配空白字符、\t、\n、\r , re.search("\s+","ab\tc1\n3").group() 结果 '\t'

 '(?P<name>...)' 分组匹配 re.search("(?P<province>[0-9]{4})(?P<city>[0-9]{2})(?P<birthday>[0-9]{4})","").groupdict("city") 结果{'province': '', 'city': '', 'birthday': ''}

最常用的匹配语法

 re.match 从头开始匹配
 re.search 匹配包含
 re.findall 把所有匹配到的字符放到以列表中的元素返回
 re.splitall 以匹配到的字符当做列表分隔符
 re.sub      匹配字符并替换

几个匹配模式

 re.I(re.IGNORECASE): 忽略大小写（括号内是完整写法，下同）
 M(MULTILINE): 多行模式，改变'^'和'$'的行为（参见上图）
 S(DOTALL): 点任意匹配模式，改变'.'的行为