模块简介：（logging）（re）（subprocess）

'''
logging模块：
logging的日志可以分为
debug():Detailed information, typically of interest only when diagnosing problems.
info():Confirmation that things are working as expected.
warning():An indication that something unexpected happened,
          or indicative of some problem in the near future
          The software is still working as expected
error():Due to a more serious problem, the software has not been able to
        perform some function.
critical():A serious error, indicating that the program itself may be
           unable to continue running.
5个级别
'''

import logging
# 输出到屏幕,不输出info跟debug
logging.info("info.......")
logging.debug("debug>>>>>")
logging.warning("warning!")
logging.error("error!")
logging.critical("critical!")

输出到屏幕

import logging
# 写到文件,>=INFO级别的写入到文件中，追加写入
# 打印到屏幕和写入文件进行一个
logging.basicConfig(filename="test.log", level=logging.INFO)
logging.debug("msg_debug")
logging.info("msg_info")
logging.warning("msg_warning")
logging.error("msg_error")
logging.critical("msg_critical")

写入到文件

'''
日志格式：
%(name)s  Logger的名字
%(levelno)s  数字形式的日志级别
%(levelname)s 文本形式的日志级别
%(pathname)s  调用日志输出函数的模块的完整路径名，可能没有
%(filename)s  调用日志输出函数的模块的文件名
%(module)s  调用日志输出函数的模块名
%(funcName)s  调用日志输出函数的函数名
%(lineno)d  调用日志输出函数的语句所在的代码行
%(created)f  当前时间，用UNIX标准的表示时间的浮 点数表示
%(relativeCreated)d  输出日志信息时的，自Logger创建以 来的毫秒数
%(asctime)s  字符串形式的当前时间。默认格式是 “2003-07-08 16:49:45,896”。逗号后面的是毫秒
%(thread)d   线程ID。可能没有
%(threadName)s 线程名。可能没有
%(process)d  进程ID。可能没有
%(message)s  用户输出的消息
'''

import logging
# 按一定格式写到文件,>=INFO级别的写入到文件中，追加写入
# 打印到屏幕和写入文件进行一个
logging.basicConfig(filename="test.log",
                    level=logging.INFO,
                    format="%(levelname)s|%(asctime)s |%(message)s",
                    datefmt="%m/%d/%Y %I:%M:%S %p")
logging.debug("msg_debug")
logging.info("msg_info")
logging.warning("msg_warning")
logging.error("msg_error")
logging.critical("msg_critical")
'''
INFO|08/04/2018 10:33:19 PM |msg_info
WARNING|08/04/2018 10:33:19 PM |msg_warning
ERROR|08/04/2018 10:33:19 PM |msg_error
CRITICAL|08/04/2018 10:33:19 PM |msg_critical
'''

日志加时间输出到文件

'''
logger提供了应用程序可以直接使用的接口；
handler将(logger创建的)日志记录发送到合适的目的输出(文件/屏幕/远程等)；
filter提供了细度设备来决定输出哪条日志记录(包含某字段之类)；
formatter决定日志记录的最终输出格式。
'''
import logging

# create logger
logger = logging.getLogger('TEST-LOG')
logger.setLevel(logging.DEBUG)

# create console handler and set level to debug
ch = logging.StreamHandler()
ch.setLevel(logging.DEBUG)

# create file handler and set level to warning
fh = logging.FileHandler("access.log")
fh.setLevel(logging.WARNING)
# create formatter
formatter = logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s')

# add formatter to ch and fh
ch.setFormatter(formatter)
fh.setFormatter(formatter)

# add ch and fh to logger
logger.addHandler(ch)
logger.addHandler(fh)

# 'application' code
logger.debug('debug message')
logger.info('info message')
logger.warn('warn message')
logger.error('error message')
logger.critical('critical message')

屏幕和文件都输出

'''
logger
每个程序在输出信息之前都要获得一个Logger。Logger通常对应了程序的模块名，比如聊天工具的图形界面模块可以这样获得它的Logger：
LOG=logging.getLogger(”chat.gui”)
而核心模块可以这样：
LOG=logging.getLogger(”chat.kernel”)

Logger.setLevel(lel):指定最低的日志级别，低于lel的级别将被忽略。debug是最低的内置级别，critical为最高
Logger.addFilter(filt)、Logger.removeFilter(filt):添加或删除指定的filter
Logger.addHandler(hdlr)、Logger.removeHandler(hdlr)：增加或删除指定的handler
Logger.debug()、Logger.info()、Logger.warning()、Logger.error()、Logger.critical()：可以设置的日志级别

handler

handler对象负责发送相关的信息到指定目的地。Python的日志系统有多种Handler可以使用。有些Handler可以把信息输出到控制台，有些Logger可以把信息输出到文件，还有些 Handler可以把信息发送到网络上。如果觉得不够用，还可以编写自己的Handler。可以通过addHandler()方法添加多个多handler
Handler.setLevel(lel):指定被处理的信息级别，低于lel级别的信息将被忽略
Handler.setFormatter()：给这个handler选择一个格式
Handler.addFilter(filt)、Handler.removeFilter(filt)：新增或删除一个filter对象

每个Logger可以附加多个Handler。接下来我们就来介绍一些常用的Handler：
1) logging.StreamHandler
使用这个Handler可以向类似与sys.stdout或者sys.stderr的任何文件对象(file object)输出信息。它的构造函数是：
StreamHandler([strm])
其中strm参数是一个文件对象。默认是sys.stderr

2) logging.FileHandler
和StreamHandler类似，用于向一个文件输出日志信息。不过FileHandler会帮你打开这个文件。它的构造函数是：
FileHandler(filename[,mode])
filename是文件名，必须指定一个文件名。
mode是文件的打开方式。参见Python内置函数open()的用法。默认是’a'，即添加到文件末尾。

3) logging.handlers.RotatingFileHandler
这个Handler类似于上面的FileHandler，但是它可以管理文件大小。当文件达到一定大小之后，它会自动将当前日志文件改名，然后创建 一个新的同名日志文件继续输出。比如日志文件是chat.log。当chat.log达到指定的大小之后，RotatingFileHandler自动把 文件改名为chat.log.1。不过，如果chat.log.1已经存在，会先把chat.log.1重命名为chat.log.2。。。最后重新创建 chat.log，继续输出日志信息。它的构造函数是：
RotatingFileHandler( filename[, mode[, maxBytes[, backupCount]]])
其中filename和mode两个参数和FileHandler一样。
maxBytes用于指定日志文件的最大文件大小。如果maxBytes为0，意味着日志文件可以无限大，这时上面描述的重命名过程就不会发生。
backupCount用于指定保留的备份文件的个数。比如，如果指定为2，当上面描述的重命名过程发生时，原有的chat.log.2并不会被更名，而是被删除。

4) logging.handlers.TimedRotatingFileHandler
这个Handler和RotatingFileHandler类似，不过，它没有通过判断文件大小来决定何时重新创建日志文件，而是间隔一定时间就 自动创建新的日志文件。重命名的过程与RotatingFileHandler类似，不过新的文件不是附加数字，而是当前时间。它的构造函数是：
TimedRotatingFileHandler( filename [,when [,interval [,backupCount]]])
其中filename参数和backupCount参数和RotatingFileHandler具有相同的意义。
interval是时间间隔。
when参数是一个字符串。表示时间间隔的单位，不区分大小写。它有以下取值：
S 秒
M 分
H 小时
D 天
W 每星期（interval==0时代表星期一）
midnight 每天凌晨
'''

logger,filter,handler,formatter说明

import logging
from logging import handlers

logger = logging.getLogger(__name__)
log_file = "timelog.log"
#最大10自己，保留3个
#fh = handlers.RotatingFileHandler(filename=log_file,maxBytes=10,backupCount=3)
#每隔5秒，保留3个
fh = handlers.TimedRotatingFileHandler(filename=log_file,when="S",interval=5,backupCount=3)

formatter = logging.Formatter('%(asctime)s %(module)s:%(lineno)d %(message)s')

fh.setFormatter(formatter)

logger.addHandler(fh)

logger.warning("test1")
logger.warning("test12")
logger.warning("test13")
logger.warning("test14")

日志过大自动截断

正则表达式模块：

'.'     默认匹配除\n之外的任意一个字符，若指定flag DOTALL,则匹配任意字符，包括换行
'^'     匹配字符开头，若指定flags MULTILINE,这种也可以匹配上(r"^a","\nabc\neee",flags=re.MULTILINE)

[\s]    匹配任何空白字符：，等价于[ \f\n\r\t\v]

[^\s]   匹配任何非空白字符：，^用于"[]"外表示从开头匹配，用于"[]"内表示"非"，即不包括

'$'     匹配字符结尾，或e.search("foo$","bfoo\nsdfsf",flags=re.MULTILINE).group()也可以
'*'     匹配*号前的字符0次或多次，re.findall("ab*","cabb3abcbbac")  结果为['abb', 'ab', 'a']
'+'     匹配前一个字符1次或多次，re.findall("ab+","ab+cd+abb+bba") 结果['ab', 'abb']
'?'     匹配前一个字符1次或0次
'{m}'   匹配前一个字符m次
'{n,m}' 匹配前一个字符n到m次，re.findall("ab{1,3}","abb abc abbcbbb") 结果'abb', 'ab', 'abb']
'|'     匹配|左或|右的字符，re.search("abc|ABC","ABCBabcCD").group() 结果'ABC'
'(...)' 分组匹配，re.search("(abc){2}a(123|456)c", "abcabca456c").group() 结果 abcabca456c

'\A'    只从字符开头匹配，re.search("\Aabc","alexabc") 是匹配不到的
'\Z'    匹配字符结尾，同$
'\d'    匹配数字0-9
'\D'    匹配非数字
'\w'    匹配[A-Za-z0-9]
'\W'    匹配非[A-Za-z0-9]
's'     匹配空白字符、\t、\n、\r , re.search("\s+","ab\tc1\n3").group() 结果 '\t'

'(?P<name>...)' 分组匹配 re.search(
"(?P<province>[0-9]{4})(?P<city>[0-9]{2})(?P<birthday>[0-9]{4})",
"").groupdict("city") 结果{'province': '', 'city': '', 'birthday': ''}

import re
a = re.match("\w+","inet 地址:192.168.1.2")  # 从头开始匹配
print(a.group())   # inet
a = re.search("(\d{2})(\d{2})(\d{4})","371481198812112233 name:alex").groups()
print(a)   # ('37', '14', '8119')
a = re.search("(\d{2})(\d{2})(\d{4})","FF371481198812112233 name:alex").group()
print(a)   #
a = re.search("(?P<province>[0-9]{4})(?P<city>[0-9]{2})(?P<birthday>[0-9]{4})",
          "").groupdict("city")
print(a)   # {'province': '3714', 'city': '81', 'birthday': '1993'}
a = re.findall("\d+","rr232rs34reg454fd555")
print(a)   # ['232', '34', '454', '555']
a = re.split("\d+","rr232rs34reg454fd555")
print(a)   # ['rr', 'rs', 'reg', 'fd', '']
a = re.sub("\d+","|","rr232rs34reg454fd555")
print(a)   # rr|rs|reg|fd|

re模块方法

def merge_plus_sub(expression):
    '''
    将连续的加减号合并，奇数个减号为- 偶数个为+
    :param expression:
    :return:
    '''
    def merge(m):
        if m:
            count_sub = m.group().count('-')
            if count_sub % 2 == 1:
                return '-'
            else:
                return '+'
    expression = re.sub("[\+\-]{2,}", merge, expression)
    return expression

合并加减号

m = re.match("^[\+\-]{0,1}\d+\.{0,1}\d*([\+\-\*\/]{1}[\+\-]{0,1}\d+\.{0,1}\d*)*$","-9.5")
match = re.match("^[\+\-]{0,1}\d+\.{0,1}\d*([\+\-\*\/]{1}[\+\-]{0,1}\d+\.{0,1}\d*)*$",
                     '+9 - 2 * 5 / 3 + 7 / 3 * 99 / 4 * 2998 + 10 * 568 / 14')
_match = re.search('\([^\(|\)]+\)', "(4+2)+(33*(9-2)")
match = re.match('^(delete){1}\s+(from){1}\s+.*[^ ].*\s+(where){1}\s+.*[^ ].*$',
                     "delete from xx where id=2")
match = re.match('^(insert){1}\s+(into){1}\s+.*[^ ].*\s+(values){1}\s*\({1}.*[^ ].*\){1}$',
                     'insert into xx values(1,2,3)')

应用实例

subprocess模块

'''

subprocess.run("dir",shell=True)

#执行命令，返回命令执行状态 ， 0 or 非0
>>> retcode = subprocess.call(["ls", "-l"])

#执行命令，如果命令结果为0，就正常返回，否则抛异常
>>> subprocess.check_call(["ls", "-l"])
0

#接收字符串格式命令，返回元组形式，第1个元素是执行状态，第2个是命令结果
>>> subprocess.getstatusoutput('ls /bin/ls')
(0, '/bin/ls')

#接收字符串格式命令，并返回结果
>>> subprocess.getoutput('ls /bin/ls')
'/bin/ls'

#执行命令，并返回结果，注意是返回结果，不是打印，下例结果返回给res
>>> res=subprocess.check_output(['ls','-l'])
>>> res
b'total 0\ndrwxr-xr-x 12 alex staff 408 Nov 2 11:05 OldBoyCRM\n'

#上面那些方法，底层都是封装的subprocess.Popen
poll()
Check if child process has terminated. Returns returncode

wait()
Wait for child process to terminate. Returns returncode attribute.

terminate() 杀掉所启动进程
communicate() 等待任务结束

stdin 标准输入

stdout 标准输出

stderr 标准错误

pid
The process ID of the child process.
subprocess.PIPE是管道，保存结果的地方，因为屏幕没有存储功能
为什么要管道，Python和shell是两个程序，不能直接通信，必须通过操作系统提供的管道来通信
#例子
>>> p = subprocess.Popen("df -h|grep disk",stdin=subprocess.PIPE,stdout=subprocess.PIPE,shell=True)
>>> p.stdout.read()    #p.poll()  为0的时候可以得到结果
b'/dev/disk1 465Gi 64Gi 400Gi 14% 16901472 104938142 14% /\n'
'''

http://www.cnblogs.com/alex3714/articles/5161349.html