一、time与datetime模块

在Python中,通常有这几种方式来表示时间:

  • 时间戳(timestamp):通常来说,时间戳表示的是从1970年1月1日00:00:00开始按秒计算的偏移量。我们运行“type(time.time())”,返回的是float类型。
  • 格式化的时间字符串(Format String)
  • 结构化的时间(struct_time):struct_time元组共有9个元素共九个元素:(年,月,日,时,分,秒,一年中第几周,一年中第几天,夏令时)
  1. import time
  2. #--------------------------我们先以当前时间为准,让大家快速认识三种形式的时间
  3. print(time.time()) # 时间戳:1487130156.419527
  4. print(time.strftime("%Y-%m-%d %X")) #格式化的时间字符串:'2017-02-15 11:40:53'
  5.  
  6. print(time.localtime()) #本地时区的struct_time
  7. print(time.gmtime()) #UTC时区的struct_time
  1. %a Locales abbreviated weekday name.
  2. %A Locales full weekday name.
  3. %b Locales abbreviated month name.
  4. %B Locales full month name.
  5. %c Locales appropriate date and time representation.
  6. %d Day of the month as a decimal number [,].
  7. %H Hour (-hour clock) as a decimal number [,].
  8. %I Hour (-hour clock) as a decimal number [,].
  9. %j Day of the year as a decimal number [,].
  10. %m Month as a decimal number [,].
  11. %M Minute as a decimal number [,].
  12. %p Locales equivalent of either AM or PM. ()
  13. %S Second as a decimal number [,]. ()
  14. %U Week number of the year (Sunday as the first day of the week) as a decimal number [,]. All days in a new year preceding the first Sunday are considered to be in week . ()
  15. %w Weekday as a decimal number [(Sunday),].
  16. %W Week number of the year (Monday as the first day of the week) as a decimal number [,]. All days in a new year preceding the first Monday are considered to be in week . ()
  17. %x Locales appropriate date representation.
  18. %X Locales appropriate time representation.
  19. %y Year without century as a decimal number [,].
  20. %Y Year with century as a decimal number.
  21. %z Time zone offset indicating a positive or negative time difference from UTC/GMT of the form +HHMM or -HHMM, where H represents decimal hour digits and M represents decimal minute digits [-:, +:].
  22. %Z Time zone name (no characters if no time zone exists).
  23. %% A literal '%' character.

格式化字符串的时间格式

其中计算机认识的时间只能是'时间戳'格式,而程序员可处理的或者说人类能看懂的时间有: '格式化的时间字符串','结构化的时间' ,于是有了下图的转换关系

  1. #--------------------------按图1转换时间
  2. # localtime([secs])
  3. # 将一个时间戳转换为当前时区的struct_time。secs参数未提供,则以当前时间为准。
  4. time.localtime()
  5. time.localtime(1473525444.037215)
  6.  
  7. # gmtime([secs]) 和localtime()方法类似,gmtime()方法是将一个时间戳转换为UTC时区(0时区)的struct_time。
  8.  
  9. # mktime(t) : 将一个struct_time转化为时间戳。
  10. print(time.mktime(time.localtime()))#1473525749.0
  11.  
  12. # strftime(format[, t]) : 把一个代表时间的元组或者struct_time(如由time.localtime()和
  13. # time.gmtime()返回)转化为格式化的时间字符串。如果t未指定,将传入time.localtime()。如果元组中任何一个
  14. # 元素越界,ValueError的错误将会被抛出。
  15. print(time.strftime("%Y-%m-%d %X", time.localtime()))#-- ::
  16.  
  17. # time.strptime(string[, format])
  18. # 把一个格式化时间字符串转化为struct_time。实际上它和strftime()是逆操作。
  19. print(time.strptime('2011-05-05 16:37:06', '%Y-%m-%d %X'))
  20. #time.struct_time(tm_year=, tm_mon=, tm_mday=, tm_hour=, tm_min=, tm_sec=,
  21. # tm_wday=, tm_yday=, tm_isdst=-)
  22. #在这个函数中,format默认为:"%a %b %d %H:%M:%S %Y"。

  1. #--------------------------按图2转换时间
  2. # asctime([t]) : 把一个表示时间的元组或者struct_time表示为这种形式:'Sun Jun 20 23:21:05 1993'。
  3. # 如果没有参数,将会将time.localtime()作为参数传入。
  4. print(time.asctime())#Sun Sep ::
  5.  
  6. # ctime([secs]) : 把一个时间戳(按秒计算的浮点数)转化为time.asctime()的形式。如果参数未给或者为
  7. # None的时候,将会默认time.time()为参数。它的作用相当于time.asctime(time.localtime(secs))。
  8. print(time.ctime()) # Sun Sep ::
  9. print(time.ctime(time.time())) # Sun Sep ::
  1. #--------------------------其他用法
  2. # sleep(secs)
  3. # 线程推迟指定的时间运行,单位为秒。
  • datetime模块

  1. #时间加减
  2. import datetime
  3.  
  4. # print(datetime.datetime.now()) #返回 -- ::03.941925
  5. #print(datetime.date.fromtimestamp(time.time()) ) # 时间戳直接转成日期格式 --
  6. # print(datetime.datetime.now() )
  7. # print(datetime.datetime.now() + datetime.timedelta()) #当前时间+3天
  8. # print(datetime.datetime.now() + datetime.timedelta(-)) #当前时间-3天
  9. # print(datetime.datetime.now() + datetime.timedelta(hours=)) #当前时间+3小时
  10. # print(datetime.datetime.now() + datetime.timedelta(minutes=)) #当前时间+30分
  11.  
  12. #
  13. # c_time = datetime.datetime.now()
  14. # print(c_time.replace(minute=,hour=)) #时间替换

二、random模块

  1. import random
  2.  
  3. print(random.random())#(,)----float 大于0且小于1之间的小数
  4.  
  5. print(random.randint(,)) #[,] 大于等于1且小于等于3之间的整数
  6.  
  7. print(random.randrange(,)) #[,) 大于等于1且小于3之间的整数
  8.  
  9. print(random.choice([,'',[,]]))#1或者23或者[,]
  10.  
  11. print(random.sample([,'',[,]],))#列表元素任意2个组合
  12.  
  13. print(random.uniform(,))#大于1小于3的小数,如1.
  14.  
  15. item=[,,,,]
  16. random.shuffle(item) #打乱item的顺序,相当于"洗牌"
  17. print(item)
  1. import random
  2. def make_code(n):
  3. res=''
  4. for i in range(n):
  5. s1=chr(random.randint(,))
  6. s2=str(random.randint(,))
  7. res+=random.choice([s1,s2])
  8. return res
  9.  
  10. print(make_code())

生成随机验证码

三、os模块

os模块是与操作系统交互的一个接口

  1. os.getcwd() 获取当前工作目录,即当前python脚本工作的目录路径
  2. os.chdir("dirname") 改变当前脚本工作目录;相当于shellcd
  3. os.curdir 返回当前目录: ('.')
  4. os.pardir 获取当前目录的父目录字符串名:('..')
  5. os.makedirs('dirname1/dirname2') 可生成多层递归目录
  6. os.removedirs('dirname1') 若目录为空,则删除,并递归到上一级目录,如若也为空,则删除,依此类推
  7. os.mkdir('dirname') 生成单级目录;相当于shellmkdir dirname
  8. os.rmdir('dirname') 删除单级空目录,若目录不为空则无法删除,报错;相当于shellrmdir dirname
  9. os.listdir('dirname') 列出指定目录下的所有文件和子目录,包括隐藏文件,并以列表方式打印
  10. os.remove() 删除一个文件
  11. os.rename("oldname","newname") 重命名文件/目录
  12. os.stat('path/filename') 获取文件/目录信息
  13. os.sep 输出操作系统特定的路径分隔符,win下为"\\",Linux下为"/"
  14. os.linesep 输出当前平台使用的行终止符,win下为"\t\n",Linux下为"\n"
  15. os.pathsep 输出用于分割文件路径的字符串 win下为;,Linux下为:
  16. os.name 输出字符串指示当前使用平台。win->'nt'; Linux->'posix'
  17. os.system("bash command") 运行shell命令,直接显示
  18. os.environ 获取系统环境变量
  19. os.path.abspath(path) 返回path规范化的绝对路径
  20. os.path.split(path) path分割成目录和文件名二元组返回
  21. os.path.dirname(path) 返回path的目录。其实就是os.path.split(path)的第一个元素
  22. os.path.basename(path) 返回path最后的文件名。如何path以/或\结尾,那么就会返回空值。即os.path.split(path)的第二个元素
  23. os.path.exists(path) 如果path存在,返回True;如果path不存在,返回False
  24. os.path.isabs(path) 如果path是绝对路径,返回True
  25. os.path.isfile(path) 如果path是一个存在的文件,返回True。否则返回False
  26. os.path.isdir(path) 如果path是一个存在的目录,则返回True。否则返回False
  27. os.path.join(path1[, path2[, ...]]) 将多个路径组合后返回,第一个绝对路径之前的参数将被忽略
  28. os.path.getatime(path) 返回path所指向的文件或者目录的最后存取时间
  29. os.path.getmtime(path) 返回path所指向的文件或者目录的最后修改时间
  30. os.path.getsize(path) 返回path的大小
  1. LinuxMac平台上,该函数会原样返回path,在windows平台上会将路径中所有字符转换为小写,并将所有斜杠转换为饭斜杠。
  2. >>> os.path.normcase('c:/windows\\system32\\')
  3. 'c:\\windows\\system32\\'
  4.  
  5. 规范化路径,如..和/
  6. >>> os.path.normpath('c://windows\\System32\\../Temp/')
  7. 'c:\\windows\\Temp'
  8.  
  9. >>> a='/Users/jieli/test1/\\\a1/\\\\aa.py/../..'
  10. >>> print(os.path.normpath(a))
  11. /Users/jieli/test1
  1. os路径处理
  2. #方式一:推荐使用
  3. import os
  4. #具体应用
  5. import os,sys
  6. possible_topdir = os.path.normpath(os.path.join(
  7. os.path.abspath(__file__),
  8. os.pardir, #上一级
  9. os.pardir,
  10. os.pardir
  11. ))
  12. sys.path.insert(,possible_topdir)
  13.  
  14. #方式二:不推荐使用
  15. os.path.dirname(os.path.dirname(os.path.dirname(os.path.abspath(__file__))))

四、sys模块

  1. sys.argv 命令行参数List,第一个元素是程序本身路径
  2. sys.exit(n) 退出程序,正常退出时exit()
  3. sys.version 获取Python解释程序的版本信息
  4. sys.maxint 最大的Int
  5. sys.path 返回模块的搜索路径,初始化时使用PYTHONPATH环境变量的值
  6. sys.platform 返回操作系统平台名称

打印进度条

  1. #=========知识储备==========
  2. #进度条的效果
  3. [# ]
  4. [## ]
  5. [### ]
  6. [#### ]
  7.  
  8. #指定宽度
  9. print('[%-15s]' %'#')
  10. print('[%-15s]' %'##')
  11. print('[%-15s]' %'###')
  12. print('[%-15s]' %'####')
  13.  
  14. #打印%
  15. print('%s%%' %()) #第二个%号代表取消第一个%的特殊意义
  16.  
  17. #可传参来控制宽度
  18. print('[%%-%ds]' %) #[%-50s]
  19. print(('[%%-%ds]' %) %'#')
  20. print(('[%%-%ds]' %) %'##')
  21. print(('[%%-%ds]' %) %'###')
  22.  
  23. #=========实现打印进度条函数==========
  24. import sys
  25. import time
  26.  
  27. def progress(percent,width=):
  28. if percent >= :
  29. percent=
  30. show_str=('[%%-%ds]' %width) %(int(width*percent)*'#')
  31. print('\r%s %d%%' %(show_str,int(*percent)),file=sys.stdout,flush=True,end='')
  32.  
  33. #=========应用==========
  34. data_size=
  35. recv_size=
  36. while recv_size < data_size:
  37. time.sleep(0.1) #模拟数据的传输延迟
  38. recv_size+= #每次收1024
  39.  
  40. percent=recv_size/data_size #接收的比例
  41. progress(percent,width=) #进度条的宽度70
  42.  
  1. 优化版本:
    def progress(percent,width=50):
    if percent > 1:
    percent=1
    show_str=('[%%-%ds]' %width) %(int(width*percent) * '#')
    print('\r%s %d%%' %(show_str,int(100*percent)),end='')
  2.  
  3. import time
    recv_size=0
    total_size=100
    while recv_size < total_size:
    time.sleep(0.1)
    recv_size+=1
    percent=recv_size / total_size
    progress(percent)

五、shutil模块

高级的 文件、文件夹、压缩包 处理模块

shutil.copyfileobj(fsrc, fdst[, length])
将文件内容拷贝到另一个文件中

  1. import shutil
  2.  
  3. shutil.copyfileobj(open('old.xml','r'), open('new.xml', 'w'))

shutil.copyfile(src, dst)
拷贝文件

  1. shutil.copyfile('f1.log', 'f2.log') #目标文件无需存在

shutil.copymode(src, dst)
仅拷贝权限。内容、组、用户均不变

  1. shutil.copymode('f1.log', 'f2.log') #目标文件必须存在

shutil.copystat(src, dst)
仅拷贝状态的信息,包括:mode bits, atime, mtime, flags

  1. shutil.copystat('f1.log', 'f2.log') #目标文件必须存在

shutil.copy(src, dst)
拷贝文件和权限

  1. import shutil
  2.  
  3. shutil.copy('f1.log', 'f2.log')

shutil.copy2(src, dst)
拷贝文件和状态信息

  1. import shutil
  2.  
  3. shutil.copy2('f1.log', 'f2.log')

shutil.ignore_patterns(*patterns)
shutil.copytree(src, dst, symlinks=False, ignore=None)
递归的去拷贝文件夹

  1. import shutil
  2.  
  3. shutil.copytree('folder1', 'folder2', ignore=shutil.ignore_patterns('*.pyc', 'tmp*')) #目标目录不能存在,注意对folder2目录父级目录要有可写权限,ignore的意思是排除
  1. import shutil
  2.  
  3. shutil.copytree('f1', 'f2', symlinks=True, ignore=shutil.ignore_patterns('*.pyc', 'tmp*'))
  4.  
  5. '''
  6. 通常的拷贝都把软连接拷贝成硬链接,即对待软连接来说,创建新的文件
  7. '''

拷贝软链接

shutil.rmtree(path[, ignore_errors[, onerror]])
递归的去删除文件

  1. import shutil
  2.  
  3. shutil.rmtree('folder1')

shutil.move(src, dst)
递归的去移动文件,它类似mv命令,其实就是重命名。

  1. import shutil
  2.  
  3. shutil.move('folder1', 'folder3')

shutil.make_archive(base_name, format,...)

创建压缩包并返回文件路径,例如:zip、tar

创建压缩包并返回文件路径,例如:zip、tar

    • base_name: 压缩包的文件名,也可以是压缩包的路径。只是文件名时,则保存至当前目录,否则保存至指定路径,
      如 data_bak                       =>保存至当前路径
      如:/tmp/data_bak =>保存至/tmp/
    • format: 压缩包种类,“zip”, “tar”, “bztar”,“gztar”
    • root_dir: 要压缩的文件夹路径(默认当前目录)
    • owner: 用户,默认当前用户
    • group: 组,默认当前组
    • logger: 用于记录日志,通常是logging.Logger对象
  1. #将 /data 下的文件打包放置当前程序目录
  2. import shutil
  3. ret = shutil.make_archive("data_bak", 'gztar', root_dir='/data')
  4.  
  5. #将 /data下的文件打包放置 /tmp/目录
  6. import shutil
  7. ret = shutil.make_archive("/tmp/data_bak", 'gztar', root_dir='/data')

shutil 对压缩包的处理是调用 ZipFile 和 TarFile 两个模块来进行的,详细:

  1. import zipfile
  2.  
  3. # 压缩
  4. z = zipfile.ZipFile('laxi.zip', 'w')
  5. z.write('a.log')
  6. z.write('data.data')
  7. z.close()
  8.  
  9. # 解压
  10. z = zipfile.ZipFile('laxi.zip', 'r')
  11. z.extractall(path='.')
  12. z.close()

zipfile压缩解压缩

  1. import tarfile
  2.  
  3. # 压缩
  4. >>> t=tarfile.open('/tmp/egon.tar','w')
  5. >>> t.add('/test1/a.py',arcname='a.bak')
  6. >>> t.add('/test1/b.py',arcname='b.bak')
  7. >>> t.close()
  8.  
  9. # 解压
  10. >>> t=tarfile.open('/tmp/egon.tar','r')
  11. >>> t.extractall('/egon')
  12. >>> t.close()

tarfile压缩解压缩

六、json&pickle模块

之前我们学习过用eval内置方法可以将一个字符串转成python对象,不过,eval方法是有局限性的,对于普通的数据类型,json.loads和eval都能用,但遇到特殊类型的时候,eval就不管用了,所以eval的重点还是通常用来执行一个字符串表达式,并返回表达式的值。

  1. import json
  2. x="[null,true,false,1]"
  3. print(eval(x)) #报错,无法解析null类型,而json就可以
  4. print(json.loads(x))
  • 什么是序列化?

我们把对象(变量)从内存中变成可存储或传输的过程称之为序列化,在Python中叫pickling,在其他语言中也被称之为serialization,marshalling,flattening等等,都是一个意思。

  • 为什么要序列化?

1:持久保存状态

需知一个软件/程序的执行就在处理一系列状态的变化,在编程语言中,'状态'会以各种各样有结构的数据类型(也可简单的理解为变量)的形式被保存在内存中。

内存是无法永久保存数据的,当程序运行了一段时间,我们断电或者重启程序,内存中关于这个程序的之前一段时间的数据(有结构)都被清空了。

在断电或重启程序之前将程序当前内存中所有的数据都保存下来(保存到文件中),以便于下次程序执行能够从文件中载入之前的数据,然后继续执行,这就是序列化。

具体的来说,你玩使命召唤闯到了第13关,你保存游戏状态,关机走人,下次再玩,还能从上次的位置开始继续闯关。或如,虚拟机状态的挂起等。

2:跨平台数据交互

序列化之后,不仅可以把序列化后的内容写入磁盘,还可以通过网络传输到别的机器上,如果收发的双方约定好实用一种序列化的格式,那么便打破了平台/语言差异化带来的限制,实现了跨平台数据交互。

反过来,把变量内容从序列化的对象重新读到内存里称之为反序列化,即unpickling。

  • 如何序列化之json和pickle:

json

如果我们要在不同的编程语言之间传递对象,就必须把对象序列化为标准格式,比如XML,但更好的方法是序列化为JSON,因为JSON表示出来就是一个字符串,可以被所有语言读取,也可以方便地存储到磁盘或者通过网络传输。JSON不仅是标准格式,并且比XML更快,而且可以直接在Web页面中读取,非常方便。

JSON表示的对象就是标准的JavaScript语言的对象,JSON和Python内置的数据类型对应如下:

Json模块提供了四个功能:dumps、dump、loads、load

  1. import json
  2. dic = {'k1':'v1','k2':'v2','k3':'v3'}
  3. str_dic = json.dumps(dic) #序列化:将一个字典转换成一个字符串
  4. print(type(str_dic),str_dic) #<class 'str'> {"k3": "v3", "k1": "v1", "k2": "v2"}
  5. #注意,json转换完的字符串类型的字典中的字符串是由""表示的
  6.  
  7. dic2 = json.loads(str_dic) #反序列化:将一个字符串格式的字典转换成一个字典
  8. #注意,要用json的loads功能处理的字符串类型的字典中的字符串必须由""表示
  9. print(type(dic2),dic2) #<class 'dict'> {'k1': 'v1', 'k2': 'v2', 'k3': 'v3'}
  10.  
  11. list_dic = [,['a','b','c'],,{'k1':'v1','k2':'v2'}]
  12. str_dic = json.dumps(list_dic) #也可以处理嵌套的数据类型
  13. print(type(str_dic),str_dic) #<class 'str'> [, ["a", "b", "c"], , {"k1": "v1", "k2": "v2"}]
  14. list_dic2 = json.loads(str_dic)
  15. print(type(list_dic2),list_dic2) #<class 'list'> [, ['a', 'b', 'c'], , {'k1': 'v1', 'k2': 'v2'}]

loads和dumps

  1. import json
  2. f = open('json_file','w')
  3. dic = {'k1':'v1','k2':'v2','k3':'v3'}
  4. json.dump(dic,f) #dump方法接收一个文件句柄,直接将字典转换成json字符串写入文件
  5. f.close()
  6.  
  7. f = open('json_file')
  8. dic2 = json.load(f) #load方法接收一个文件句柄,直接将文件中的json字符串转换成数据结构返回
  9. f.close()
  10. print(type(dic2),dic2)

load和dump

  1. import json
  2. #dct="{'1':111}"#json 不认单引号
  3. #dct=str({"":})#报错,因为生成的数据还是单引号:{'one': }
  4.  
  5. dct='{"1":"111"}'
  6. print(json.loads(dct))
  7.  
  8. #conclusion:
  9. # 无论数据是怎样创建的,只要满足json格式,就可以json.loads出来,不一定非要dumps的数据才能loads

注意点

pickle

  1. import pickle
  2.  
  3. dic={'name':'alvin','age':,'sex':'male'}
  4.  
  5. print(type(dic))#<class 'dict'>
  6.  
  7. j=pickle.dumps(dic)
  8. print(type(j))#<class 'bytes'>
  9.  
  10. f=open('序列化对象_pickle','wb')#注意是w是写入str,wb是写入bytes,j'bytes'
  11. f.write(j) #-------------------等价于pickle.dump(dic,f)
  12.  
  13. f.close()
  14. #-------------------------反序列化
  15. import pickle
  16. f=open('序列化对象_pickle','rb')
  17.  
  18. data=pickle.loads(f.read())# 等价于data=pickle.load(f)
  19.  
  20. print(data['age'])

Pickle的问题和所有其他编程语言特有的序列化问题一样,就是它只能用于Python,并且可能不同版本的Python彼此都不兼容,因此,只能用Pickle保存那些不重要的数据,不能成功地反序列化也没关系。

七、logging模块

  • 日志级别

  1. CRITICAL = #FATAL = CRITICAL
  2. ERROR =
  3. WARNING = #WARN = WARNING
  4. INFO =
  5. DEBUG =
  6. NOTSET = #不设置
  • 默认级别为warning,默认打印到终端

  1. import logging
  2.  
  3. logging.debug('调试debug')
  4. logging.info('消息info')
  5. logging.warning('警告warn')
  6. logging.error('错误error')
  7. logging.critical('严重critical')
  8.  
  9. '''
  10. WARNING:root:警告warn
  11. ERROR:root:错误error
  12. CRITICAL:root:严重critical
  13. '''
  • 为logging模块指定全局配置,针对所有logger有效,控制打印到文件中

  1. 可在logging.basicConfig()函数中通过具体参数来更改logging模块默认行为,可用参数有
  2. filename:用指定的文件名创建FiledHandler(后边会具体讲解handler的概念),这样日志会被存储在指定的文件中。
  3. filemode:文件打开方式,在指定了filename时使用这个参数,默认值为“a”还可指定为“w”。
  4. format:指定handler使用的日志显示格式。
  5. datefmt:指定日期时间格式。
  6. level:设置rootlogger(后边会讲解具体概念)的日志级别
  7. stream:用指定的stream创建StreamHandler。可以指定输出到sys.stderr,sys.stdout或者文件,默认为sys.stderr。若同时列出了filenamestream两个参数,则stream参数会被忽略。
  8.  
  9. #格式
  10. %(name)sLogger的名字,并非用户名,详细查看
  11.  
  12. %(levelno)s:数字形式的日志级别
  13.  
  14. %(levelname)s:文本形式的日志级别
  15.  
  16. %(pathname)s:调用日志输出函数的模块的完整路径名,可能没有
  17.  
  18. %(filename)s:调用日志输出函数的模块的文件名
  19.  
  20. %(module)s:调用日志输出函数的模块名
  21.  
  22. %(funcName)s:调用日志输出函数的函数名
  23.  
  24. %(lineno)d:调用日志输出函数的语句所在的代码行
  25.  
  26. %(created)f:当前时间,用UNIX标准的表示时间的浮 点数表示
  27.  
  28. %(relativeCreated)d:输出日志信息时的,自Logger创建以 来的毫秒数
  29.  
  30. %(asctime)s:字符串形式的当前时间。默认格式是 “-- ::,”。逗号后面的是毫秒
  31.  
  32. %(thread)d:线程ID。可能没有
  33.  
  34. %(threadName)s:线程名。可能没有
  35.  
  36. %(process)d:进程ID。可能没有
  37.  
  38. %(message)s:用户输出的消息
  39.  
  1. format参数中可能用到的格式化串:
  2. %(name)s Logger的名字
  3. %(levelno)s 数字形式的日志级别
  4. %(levelname)s 文本形式的日志级别
  5. %(pathname)s 调用日志输出函数的模块的完整路径名,可能没有
  6. %(filename)s 调用日志输出函数的模块的文件名
  7. %(module)s 调用日志输出函数的模块名
  8. %(funcName)s 调用日志输出函数的函数名
  9. %(lineno)d 调用日志输出函数的语句所在的代码行
  10. %(created)f 当前时间,用UNIX标准的表示时间的浮 点数表示
  11. %(relativeCreated)d 输出日志信息时的,自Logger创建以 来的毫秒数
  12. %(asctime)s 字符串形式的当前时间。默认格式是 2003-07-08 16:49:45,896”。逗号后面的是毫秒
  13. %(thread)d 线程ID。可能没有
  14. %(threadName)s 线程名。可能没有
  15. %(process)d 进程ID。可能没有
  16. %(message)s用户输出的消息
  17.  
  18. #========使用
  19. import logging
  20. logging.basicConfig(filename='access.log',
  21. format='%(asctime)s - %(name)s - %(levelname)s -%(module)s: %(message)s',
  22. datefmt='%Y-%m-%d %H:%M:%S %p',
  23. level=10)
  24.  
  25. logging.debug('调试debug')
  26. logging.info('消息info')
  27. logging.warning('警告warn')
  28. logging.error('错误error')
  29. logging.critical('严重critical')
  30.  
  31. #========结果
  32. access.log内容:
  33. 2017-07-28 20:32:17 PM - root - DEBUG -test: 调试debug
  34. 2017-07-28 20:32:17 PM - root - INFO -test: 消息info
  35. 2017-07-28 20:32:17 PM - root - WARNING -test: 警告warn
  36. 2017-07-28 20:32:17 PM - root - ERROR -test: 错误error
  37. 2017-07-28 20:32:17 PM - root - CRITICAL -test: 严重critical
  38.  
  39. part2: 可以为logging模块指定模块级的配置,即所有logger的配置
  • logging模块的Formatter,Handler,Logger,Filter对象

原理图:

  1. logger:产生日志的对象
  2. Filter:过滤日志的对象
  3. Handler:接收日志然后控制打印到不同的地方,FileHandler用来打印到文件中,StreamHandler用来打印到终端
  4. Formatter对象:可以定制不同的日志格式对象,然后绑定给不同的Handler对象使用,以此来控制不同的Handler的日志格式
  5.  
  6. '''
  7. critical=
  8. error =
  9. warning =
  10. info =
  11. debug =
  12. '''
  13.  
  14. import logging
  15.  
  16. #、logger对象:负责产生日志,然后交给Filter过滤,然后交给不同的Handler输出
  17. logger=logging.getLogger(__file__)
  18.  
  19. #、Filter对象:不常用,略
  20.  
  21. #、Handler对象:接收logger传来的日志,然后控制输出
  22. h1=logging.FileHandler('t1.log') #打印到文件
  23. h2=logging.FileHandler('t2.log') #打印到文件
  24. h3=logging.StreamHandler() #打印到终端
  25.  
  26. #、Formatter对象:日志格式
  27. formmater1=logging.Formatter('%(asctime)s - %(name)s - %(levelname)s -%(module)s: %(message)s',
  28. datefmt='%Y-%m-%d %H:%M:%S %p',)
  29.  
  30. formmater2=logging.Formatter('%(asctime)s : %(message)s',
  31. datefmt='%Y-%m-%d %H:%M:%S %p',)
  32.  
  33. formmater3=logging.Formatter('%(name)s %(message)s',)
  34.  
  35. #、为Handler对象绑定格式
  36. h1.setFormatter(formmater1)
  37. h2.setFormatter(formmater2)
  38. h3.setFormatter(formmater3)
  39.  
  40. #、将Handler添加给logger并设置日志级别
  41. logger.addHandler(h1)
  42. logger.addHandler(h2)
  43. logger.addHandler(h3)
  44. logger.setLevel()
  45.  
  46. #、测试
  47. logger.debug('debug')
  48. logger.info('info')
  49. logger.warning('warning')
  50. logger.error('error')
  51. logger.critical('critical')
  • Logger与Handler的级别

logger是第一级过滤,然后才能到handler,我们可以给logger和handler同时设置level,但是需要注意的是

  1. Logger is also the first to filter the message based on a level if you set the logger to INFO, and all handlers to DEBUG, you still won't receive DEBUG messages on handlers — they'll be rejected by the logger itself. If you set logger to DEBUG, but all handlers to INFO, you won't receive any DEBUG messages either — because while the logger says "ok, process this", the handlers reject it (DEBUG < INFO).
  2.  
  3. #验证
  4. import logging
  5.  
  6. form=logging.Formatter('%(asctime)s - %(name)s - %(levelname)s -%(module)s: %(message)s',
  7. datefmt='%Y-%m-%d %H:%M:%S %p',)
  8.  
  9. ch=logging.StreamHandler()
  10.  
  11. ch.setFormatter(form)
  12. # ch.setLevel()
  13. ch.setLevel()
  14.  
  15. l1=logging.getLogger('root')
  16. # l1.setLevel()
  17. l1.setLevel()
  18. l1.addHandler(ch)
  19.  
  20. l1.debug('l1 debug')

重要,重要,重要!!!

  • Logger的继承(了解)

  1. import logging
  2.  
  3. formatter=logging.Formatter('%(asctime)s - %(name)s - %(levelname)s -%(module)s: %(message)s',
  4. datefmt='%Y-%m-%d %H:%M:%S %p',)
  5.  
  6. ch=logging.StreamHandler()
  7. ch.setFormatter(formatter)
  8.  
  9. logger1=logging.getLogger('root')
  10. logger2=logging.getLogger('root.child1')
  11. logger3=logging.getLogger('root.child1.child2')
  12.  
  13. logger1.addHandler(ch)
  14. logger2.addHandler(ch)
  15. logger3.addHandler(ch)
  16. logger1.setLevel()
  17. logger2.setLevel()
  18. logger3.setLevel()
  19.  
  20. logger1.debug('log1 debug')
  21. logger2.debug('log2 debug')
  22. logger3.debug('log3 debug')
  23. '''
  24. -- :: PM - root - DEBUG -test: log1 debug
  25. -- :: PM - root.child1 - DEBUG -test: log2 debug
  26. -- :: PM - root.child1 - DEBUG -test: log2 debug
  27. -- :: PM - root.child1.child2 - DEBUG -test: log3 debug
  28. -- :: PM - root.child1.child2 - DEBUG -test: log3 debug
  29. -- :: PM - root.child1.child2 - DEBUG -test: log3 debug
  30. '''

了解即可

  • logging应用

  1. """
  2. logging配置
  3. """
  4.  
  5. import os
  6. import logging.config
  7.  
  8. # 定义三种日志输出格式 开始
  9.  
  10. standard_format = '[%(asctime)s][%(threadName)s:%(thread)d][task_id:%(name)s][%(filename)s:%(lineno)d]' \
  11. '[%(levelname)s][%(message)s]' #其中name为getlogger指定的名字
  12.  
  13. simple_format = '[%(levelname)s][%(asctime)s][%(filename)s:%(lineno)d]%(message)s'
  14.  
  15. id_simple_format = '[%(levelname)s][%(asctime)s] %(message)s'
  16.  
  17. # 定义日志输出格式 结束
  18.  
  19. logfile_dir = os.path.dirname(os.path.abspath(__file__)) # log文件的目录
  20.  
  21. logfile_name = 'all2.log' # log文件名
  22.  
  23. # 如果不存在定义的日志目录就创建一个
  24. if not os.path.isdir(logfile_dir):
  25. os.mkdir(logfile_dir)
  26.  
  27. # log文件的全路径
  28. logfile_path = os.path.join(logfile_dir, logfile_name)
  29.  
  30. # log配置字典
  31. LOGGING_DIC = {
  32. 'version': ,
  33. 'disable_existing_loggers': False,
  34. 'formatters': {
  35. 'standard': {
  36. 'format': standard_format
  37. },
  38. 'simple': {
  39. 'format': simple_format
  40. },
  41. },
  42. 'filters': {},
  43. 'handlers': {
  44. #打印到终端的日志
  45. 'console': {
  46. 'level': 'DEBUG',
  47. 'class': 'logging.StreamHandler', # 打印到屏幕
  48. 'formatter': 'simple'
  49. },
  50. #打印到文件的日志,收集info及以上的日志
  51. 'default': {
  52. 'level': 'DEBUG',
  53. 'class': 'logging.handlers.RotatingFileHandler', # 保存到文件
  54. 'formatter': 'standard',
  55. 'filename': logfile_path, # 日志文件
  56. 'maxBytes': **, # 日志大小 5M
  57. 'backupCount': ,
  58. 'encoding': 'utf-8', # 日志文件的编码,再也不用担心中文log乱码了
  59. },
  60. },
  61. 'loggers': {
  62. #logging.getLogger(__name__)拿到的logger配置
  63. '': {
  64. 'handlers': ['default', 'console'], # 这里把上面定义的两个handler都加上,即log数据既写入文件又打印到屏幕
  65. 'level': 'DEBUG',
  66. 'propagate': True, # 向上(更高level的logger)传递
  67. },
  68. },
  69. }
  70.  
  71. def load_my_logging_cfg():
  72. logging.config.dictConfig(LOGGING_DIC) # 导入上面定义的logging配置
  73. logger = logging.getLogger(__name__) # 生成一个log实例
  74. logger.info('It works!') # 记录该文件的运行状态
  75.  
  76. if __name__ == '__main__':
  77. load_my_logging_cfg()

logging配置文件

  1. """
  2. MyLogging Test
  3. """
  4.  
  5. import time
  6. import logging
  7. import my_logging # 导入自定义的logging配置
  8.  
  9. logger = logging.getLogger(__name__) # 生成logger实例
  10.  
  11. def demo():
  12. logger.debug("start range... time:{}".format(time.time()))
  13. logger.info("中文测试开始。。。")
  14. for i in range():
  15. logger.debug("i:{}".format(i))
  16. time.sleep(0.2)
  17. else:
  18. logger.debug("over range... time:{}".format(time.time()))
  19. logger.info("中文测试结束。。。")
  20.  
  21. if __name__ == "__main__":
  22. my_logging.load_my_logging_cfg() # 在你程序文件的入口加载自定义logging配置
  23. demo()

应用

  1. 注意注意注意:
  2.  
  3. #、有了上述方式我们的好处是:所有与logging模块有关的配置都写到字典中就可以了,更加清晰,方便管理
  4.  
  5. #、我们需要解决的问题是:
  6. 、从字典加载配置:logging.config.dictConfig(settings.LOGGING_DIC)
  7.  
  8. 、拿到logger对象来产生日志
  9. logger对象都是配置到字典的loggers 键对应的子字典中的
  10. 按照我们对logging模块的理解,要想获取某个东西都是通过名字,也就是key来获取的
  11. 于是我们要获取不同的logger对象就是
  12. logger=logging.getLogger('loggers子字典的key名')
  13.  
  14. 但问题是:如果我们想要不同logger名的logger对象都共用一段配置,那么肯定不能在loggers子字典中定义nkey
  15. 'loggers': {
  16. 'l1': {
  17. 'handlers': ['default', 'console'], #
  18. 'level': 'DEBUG',
  19. 'propagate': True, # 向上(更高level的logger)传递
  20. },
  21. 'l2: {
  22. 'handlers': ['default', 'console' ],
  23. 'level': 'DEBUG',
  24. 'propagate': False, # 向上(更高level的logger)传递
  25. },
  26. 'l3': {
  27. 'handlers': ['default', 'console'], #
  28. 'level': 'DEBUG',
  29. 'propagate': True, # 向上(更高level的logger)传递
  30. },
  31.  
  32. }
  33.  
  34. #我们的解决方式是,定义一个空的key
  35. 'loggers': {
  36. '': {
  37. 'handlers': ['default', 'console'],
  38. 'level': 'DEBUG',
  39. 'propagate': True,
  40. },
  41.  
  42. }
  43.  
  44. 这样我们再取logger对象时
  45. logging.getLogger(__name__),不同的文件__name__不同,这保证了打印日志时标识信息不同,但是拿着该名字去loggers里找key名时却发现找不到,于是默认使用key=''的配置

!!!关于如何拿到logger对象的详细解释!!!

  1. 另外一个django的配置,瞄一眼就可以,跟上面的一样
  1. #logging_config.py
  2. LOGGING = {
  3. 'version': ,
  4. 'disable_existing_loggers': False,
  5. 'formatters': {
  6. 'standard': {
  7. 'format': '[%(asctime)s][%(threadName)s:%(thread)d][task_id:%(name)s][%(filename)s:%(lineno)d]'
  8. '[%(levelname)s][%(message)s]'
  9. },
  10. 'simple': {
  11. 'format': '[%(levelname)s][%(asctime)s][%(filename)s:%(lineno)d]%(message)s'
  12. },
  13. 'collect': {
  14. 'format': '%(message)s'
  15. }
  16. },
  17. 'filters': {
  18. 'require_debug_true': {
  19. '()': 'django.utils.log.RequireDebugTrue',
  20. },
  21. },
  22. 'handlers': {
  23. #打印到终端的日志
  24. 'console': {
  25. 'level': 'DEBUG',
  26. 'filters': ['require_debug_true'],
  27. 'class': 'logging.StreamHandler',
  28. 'formatter': 'simple'
  29. },
  30. #打印到文件的日志,收集info及以上的日志
  31. 'default': {
  32. 'level': 'INFO',
  33. 'class': 'logging.handlers.RotatingFileHandler', # 保存到文件,自动切
  34. 'filename': os.path.join(BASE_LOG_DIR, "xxx_info.log"), # 日志文件
  35. 'maxBytes': * * , # 日志大小 5M
  36. 'backupCount': ,
  37. 'formatter': 'standard',
  38. 'encoding': 'utf-8',
  39. },
  40. #打印到文件的日志:收集错误及以上的日志
  41. 'error': {
  42. 'level': 'ERROR',
  43. 'class': 'logging.handlers.RotatingFileHandler', # 保存到文件,自动切
  44. 'filename': os.path.join(BASE_LOG_DIR, "xxx_err.log"), # 日志文件
  45. 'maxBytes': * * , # 日志大小 5M
  46. 'backupCount': ,
  47. 'formatter': 'standard',
  48. 'encoding': 'utf-8',
  49. },
  50. #打印到文件的日志
  51. 'collect': {
  52. 'level': 'INFO',
  53. 'class': 'logging.handlers.RotatingFileHandler', # 保存到文件,自动切
  54. 'filename': os.path.join(BASE_LOG_DIR, "xxx_collect.log"),
  55. 'maxBytes': * * , # 日志大小 5M
  56. 'backupCount': ,
  57. 'formatter': 'collect',
  58. 'encoding': "utf-8"
  59. }
  60. },
  61. 'loggers': {
  62. #logging.getLogger(__name__)拿到的logger配置
  63. '': {
  64. 'handlers': ['default', 'console', 'error'],
  65. 'level': 'DEBUG',
  66. 'propagate': True,
  67. },
  68. #logging.getLogger('collect')拿到的logger配置
  69. 'collect': {
  70. 'handlers': ['console', 'collect'],
  71. 'level': 'INFO',
  72. }
  73. },
  74. }
  75.  
  76. # -----------
  77. # 用法:拿到俩个logger
  78.  
  79. logger = logging.getLogger(__name__) #线上正常的日志
  80. collect_logger = logging.getLogger("collect") #领导说,需要为领导们单独定制领导们看的日志

python3 常用模块的更多相关文章

  1. python3 常用模块详解

    这里是python3的一些常用模块的用法详解,大家可以在这里找到它们. Python3 循环语句 python中模块sys与os的一些常用方法 Python3字符串 详解 Python3之时间模块详述 ...

  2. Python3常用模块的安装

    1.mysql驱动:mysql-connector-python 1.安装 $ pip3 install mysql-connector-python --allow-external mysql-c ...

  3. Python3 常用模块3

    目录 numpy模块 创建numpy数组 numpy数组的属性和用法 matplotlib模块 条形图 直方图 折线图 散点图 + 直线图 pandas模块 numpy模块 numpy模块可以用来做数 ...

  4. Python3 常用模块2

    目录 time 模块 时间戳形式 格式化时间 结构化时间 time.time() time.sleep() datetime 模块 random 模块 hashlib 模块 和 hmac 模块 typ ...

  5. Python3 常用模块1

    目录 os模块 对文件夹操作 对文件进行操作 sys模块 json 和pickle模块 logging模块 日志等级 longging模块的四大组件 自定义配置 os模块 通过os模块我们可以与操作系 ...

  6. Python3基础(5)常用模块:time、datetime、random、os、sys、shutil、shelve、xml处理、ConfigParser、hashlib、re

    ---------------个人学习笔记--------------- ----------------本文作者吴疆-------------- ------点击此处链接至博客园原文------ 1 ...

  7. Python3基础笔记--常用模块

    目录: 参考博客:Python 之路 Day5 - 常用模块学习 Py西游攻关之模块 一.time模块 二.random模块 三.os模块 四.sys模块 五.hashlib模块 六.logging模 ...

  8. day--6_python常用模块

    常用模块: time和datetime shutil模块 radom string shelve模块 xml处理 configparser处理 hashlib subprocess logging模块 ...

  9. python基础之常用模块以及格式化输出

    模块简介 模块,用一砣代码实现了某个功能的代码集合. 类似于函数式编程和面向过程编程,函数式编程则完成一个功能,其他代码用来调用即可,提供了代码的重用性和代码间的耦合.而对于一个复杂的功能来,可能需要 ...

随机推荐

  1. Sqoop工具

    简介 SQOOP是用于对数据进行导入导出的. (1)把MySQL.Oracle等数据库中的数据导入到HDFS.Hive.HBase中 (2)把HDFS.Hive.HBase中的数据导出到MySQL.O ...

  2. .net core2.0半年的使用经验之前言

    目录 前言 使用dapper做数据层调用 使用T4模板生成 使用缓存 使用swagger做接口文档(非restful) 使用identity做身份认证 使用jwt做身份认证 使用CORS跨域 调用we ...

  3. 炫丽的倒计时效果Canvas绘图与动画基础

    前言 想要在自己做的网页中,加入canvas动画效果,但是发现模板各种调整不好,觉得还是要对canvas有所了解,才可以让自己的网页变得狂拽炫酷吊炸天! 一.绘制基础 1 <!DOCTYPE h ...

  4. python笔记之类

    类 python不直接支持私有方式,可以在方法或者属性之前加上双下划线,将其变为私有,即外部无法直接调用 访问私有方法或者属性,方法是: _<类名><变量名> 首先类定义 # ...

  5. passwd命令使用

    2018-03-01  10:01:06 例1:passwd username 直接修改用户的密码普通用户可以且只能修改自己的密码,root用户可以修改任何人的密码[root@localhost ~] ...

  6. xlsx导入成--json

    这两天遇到大难题了,就是这个   xlsx   导入问题,之前用的xlsx.full.min.js,写的导入,结果不兼容ie浏览器,研究这个也好长时间,网上居然还没有搜到合适的,自己写从xlsx官网上 ...

  7. modal verbs(一)

    什么是modal verb?翻译成中文就是情态动词. modal的意思是模式的,情态的,形式的.Bootstrap中的模态框就是这个词modal. 情态动词翻译挺准确的,就是表达说话人的情绪,态度或语 ...

  8. MySQL聚集索引和非聚集索引

    索引分为聚集索引和非聚集索引,mysql中不同的存储引擎对索引的底层实现可能会不同,这里只关注mysql的默认存储引擎InnoDB. 利用下面的命令可以查看默认的存储引擎 show variables ...

  9. 控制input只能输入数字和两位小数

    <input type="text" name="je" onkeyup="clearNoNum(this)" /> funct ...

  10. 设计模式 --> (6)原型模式

    原型(Prototype)模式 用原型实例指定创建对象的种类,并且通过拷贝这些原型创建新的对象. 原型模式是一种创建型设计模式,Prototype模式允许一个对象再创建另外一个可定制的对象,根本无需知 ...