python 实时遍历日志文件

推荐日志处理项目：https://github.com/olajowon/loggrove

首先尝试使用 python open 遍历一个大日志文件，

使用 readlines() 还是 readline() ?

总体上 readlines() 不慢于python 一次次调用 readline()，因为前者的循环在C语言层面，而使用readline() 的循环是在Python语言层面。

但是 readlines() 会一次性把全部数据读到内存中，内存占用率会过高，readline() 每次只读一行，对于读取 大文件， 需要做出取舍。

如果不需要使用 seek() 定位偏移， for line in open('file') 速度更佳。

使用 readlines()，适合量级较小的日志文件

 p = 0
 with open(filepath, 'r+') as f:
     f.seek(p, 0)
     while True:
         lines = f.readlines()
         if lines:
             print lines
             p = f.tell()
             f.seek(p, 0)
         time.sleep(1)

使用 readline()，避免内存占用率过大

 p = 0
 with open('logs.txt', 'r+') as f:
     while True:
         line = f.readline()
         if line:
             print line

################## 华丽分割 ##########################

现在尝试使用 tail -F log.txt 动态输出

由于 os.system() , commands.getstatusoutput() 属于一次性执行就拜拜， 最终选择 subprocess.Popen()，

subprocess 模块目的是启动一个新的进程并与之通信，最常用是定义类Popen，使用Popen可以创建进程，并与进程进行交互。

 import subprocess
 import time

 p = subprocess.Popen('tail -F log.txt', shell=True, stdout=subprocess.PIPE,stderr=subprocess.PIPE,)
 while True:
    line = p.stdout.readline()
    if line:
         print line