关于这道题,简单说一下我的想法吧。当然,也有很好用的 pyinotify 模块专门监听文件变化,不过我更想介绍的,是解决的思路

毕竟作为面试官,还是想看到一下解决问题的思路,而且我觉得这一题的难点不在于监控文件增量,而在于怎么打印最后面10行

希望大家在读这篇文章前,对 Python 基础、处理文件和常用模块有一个简单的了解,知道下面几个名词是什么:

下面的思路仅限于我个人知识和见解,免不了有错误和考虑不周的地方。希望大家有更好的方法能够提出来,我会随时优化代码。

怎么用 Python 实现

其实思路也不算难啦

1.打开这个文件,指针移到最后

2.每隔一秒就尝试readline一下,有内容就打印出来,没内容就sleep

监听文件

思路如下:

1.用open打开文件

2.用seek文件指针,给大爷把跳到文件最后面

3.while True进行循环

持续不停的readline,如果能读到内容,打印出来即可

代码呼之欲出

  1. with open('test.txt') as f:
  2. f.seek(0,2)
  3. while True:
  4. last_pos = f.tell()
  5. line = f.readline()
  6. if line:
  7. print line

代码说明:

   1seek第二个参数2,意思就是从文件结尾处开始seek,更标准的写法使用os模块下面的SEEK_END,可读性更好

2.只写出了简单的逻辑,代码简单粗暴,如果这个题目是10分的话,最多也就拿4分吧,不能再多了

优化点

1.print有缺陷,每次都是新的一行,换成sys.stdout.write(line)更和谐

2.文件名传参,不能写死

3.直接打印可以当成默认行为,具体要做什么,可以写成函数处理,这样我们就可以把新行做其他处理,比如展示在浏览器里

4.加上容错处理,比如文件不存在会报错

5.while True一直都文件,比较耗性能,每读一次,间隔一秒比较靠谱

调用time.sleep(1)

6.用类来组织代码

实例代码如下:

  1. # coding=utf-8
  2. import sys
  3. import time
  4.  
  5. class Tail():
  6. def __init__(self,file_name,callback=sys.stdout.write):
  7. self.file_name = file_name
  8. self.callback = callback
  9. def follow(self):
  10.  
  11. try:
  12. with open(self.file_name) as f:
  13. f.seek(0,2)
  14. while True:
  15. line = f.readline()
  16. if line:
  17. self.callback(line)
  18. time.sleep(1)
  19. except Exception,e:
  20. print '打开文件失败,囧,看看文件是不是不存在,或者权限有问题'
  21. print e

使用方法:

  1. # 使用默认的sys.stdout.write打印到屏幕
  2. py_tail = Tail('test.txt')
  3. py_tail.follow()
  4.  
  5. # 自己定义处理函数
  6.  
  7. def test_tail(line):
  8. print 'xx'+line+'xx'
  9.  
  10. py_tail1 = Tail('test.txt', test_tail)
  11. py_tail1.follow()

咦 ,等等!tail -f 默认还会打印最后10行,这个好像才是这个题目的难点所在。众所周知,Python 里读文件指针,只能移动到固定位置,不能判断是哪一行。那就先实现简单的,然后逐渐加强吧。

默认打印最后十行

现在这个代码,大概能拿6分啦,我们还有一个功能没做,那就是打印最后n行,默认是10行,现在把这个功能加上,加一个函数就行啦。

文件小的时候

我们知道,readlines可以获取所有内容,并且分行,代码呼之欲出,获取list最后10行很简单有么有,切片妥妥的。

  1. # 演示代码,说明核心逻辑,完整代码在下面
  2. last_lines = f.readlines()[-10:]
  3. for line in last_lines:
  4. self.callback(line)

此时代码就变成这样了:

  1. import sys
  2. import time
  3.  
  4. class Tail():
  5. def __init__(self,file_name,callback=sys.stdout.write):
  6. self.file_name = file_name
  7. self.callback = callback
  8. def follow(self,n=10):
  9. try:
  10. with open(self.file_name) as f:
  11. self._file = f
  12. self.showLastLine(n)
  13. self._file.seek(0,2)
  14. while True:
  15. line = self._file.readline()
  16. if line:
  17. self.callback(line)
  18. except Exception,e:
  19. print '打开文件失败,囧,看看文件是不是不存在,或者权限有问题'
  20. print e
  21. def showLastLine(self, n):
  22. last_lines = self._file.readlines()[-10:]
  23. for line in last_lines:
  24. self.callback(line)

更进一步:大的日志怎么办

但是如果文件特别大呢,特别是日志文件,很容易就是几个G。我们只需要最后几行,全部读出来内存受不了,所以我们要继续优化showLastLine 函数,我觉得这才是这题的难点所在。

大概的思路如下:

1.我先估计日志一行大概是100个字符,注意,我只是估计一个大概,多了也没关系,我们只是需要一个初始值,后面会修正

2.我要读十行,所以一开始就 see k到离结尾1000的位置seek(-1000,2),把最后1000个字符读出来,然后有一个判断

3.如果这1000个字符长度大于文件长度,不用管了 属于级别1的情况,直接read然后split

4.如果1000个字符里面的换行符大于10,说明1000个字符里,大于10行,那也好办,处理思路类似级别1,直接split取后面十个

5.问题就在于 如果小于10怎么处理

比如1000个里,只有四个换行符,说明一行大概是1000/4=250个字符,我们还缺6行,所以我们再读250*5=1500,一共有2500的大概比较靠谱,然后在对2500个字符进行相同的逻辑判断,直到读出的字符里,换行符大于10,读取结束

逻辑清晰以后,代码就呼之欲出啦

  1. # coding=utf-8
  2. import sys
  3. import time
  4.  
  5. class Tail():
  6. def __init__(self,file_name,callback=sys.stdout.write):
  7. self.file_name = file_name
  8. self.callback = callback
  9. def follow(self,n=10):
  10. try:
  11. with open(self.file_name) as f:
  12. self._file = f
  13. self._file.seek(0,2)
  14. self.file_length = self._file.tell()
  15. self.showLastLine(n)
  16. while True:
  17. line = self._file.readline()
  18. if line:
  19. self.callback(line)
  20. time.sleep(1)
  21. except Exception,e:
  22. print '打开文件失败,囧,看看文件是不是不存在,或者权限有问题'
  23. print e
  24. def showLastLine(self, n):
  25. len_line = 100
  26. read_len = len_line*n
  27. while True:
  28. if read_len>self.file_length:
  29. self._file.seek(0)
  30. last_lines = self._file.read().split('\n')[-n:] break
  31. self._file.seek(-read_len, 2)
  32. last_words = self._file.read(read_len)
  33. count = last_words.count('\n')
  34. if count>=n:
  35. last_lines = last_words.split('\n')[-n:] break
  36. else:
  37. if count==0:
  38. len_perline = read_len
  39. else:
  40. len_perline = read_len/count
  41. read_len = len_perline * n
  42. for line in last_lines:
  43. self.callback(line+'\n')
  44. if __name__ == '__main__':
  45. py_tail = Tail('test.txt')
  46. py_tail.follow()

加上注释的版本:

  1. # coding=utf-8
  2. import sys
  3. import time
  4.  
  5. class Tail():
  6. def __init__(self,file_name,callback=sys.stdout.write):
  7. self.file_name = file_name
  8. self.callback = callback
  9. def follow(self,n=10):
  10. try:
  11. # 打开文件
  12. with open(self.file_name) as f:
  13. self._file = f
  14. self._file.seek(0,2)
  15. # 存储文件的字符长度
  16. self.file_length = self._file.tell()
  17. # 打印最后10行
  18. self.showLastLine(n)
  19. # 持续读文件 打印增量
  20. while True:
  21. line = self._file.readline()
  22. if line:
  23. self.callback(line)
  24. time.sleep(1)
  25. except Exception,e:
  26. print '打开文件失败,囧,看看文件是不是不存在,或者权限有问题'
  27. print e
  28. def showLastLine(self, n):
  29. # 一行大概100个吧 这个数改成1或者1000都行
  30. len_line = 100
  31. # n默认是10,也可以follow的参数传进来
  32. read_len = len_line*n
  33. # 用last_lines存储最后要处理的内容
  34. while True:
  35. # 如果要读取的1000个字符,大于之前存储的文件长度
  36. # 读完文件,直接break
  37. if read_len>self.file_length:
  38. self._file.seek(0)
  39. last_lines = self._file.read().split('\n')[-n:] break
  40. # 先读1000个 然后判断1000个字符里换行符的数量
  41. self._file.seek(-read_len, 2)
  42. last_words = self._file.read(read_len)
  43. # count是换行符的数量
  44. count = last_words.count('\n')
  45.  
  46. if count>=n:
  47. # 换行符数量大于10 很好处理,直接读取
  48. last_lines = last_words.split('\n')[-n:] break
  49. # 换行符不够10个
  50. else:
  51. # break
  52. #不够十行
  53. # 如果一个换行符也没有,那么我们就认为一行大概是100个
  54. if count==0:
  55.  
  56. len_perline = read_len
  57. # 如果有4个换行符,我们认为每行大概有250个字符
  58. else:
  59. len_perline = read_len/count
  60. # 要读取的长度变为2500,继续重新判断
  61. read_len = len_perline * n
  62. for line in last_lines:
  63. self.callback(line+'\n')
  64. if __name__ == '__main__':
  65. py_tail = Tail('test.txt')
  66. py_tail.follow(20)

效果如下,终于可以打印最后几行了,大家可以试一下,无论日志每行只有1个,还是每行有300个字符,都是可以打印最后10行的。

能做到这个地步,一般的面试官就直接被你搞定了,这个代码大概8分吧,如果还想再进一步,还有一些可以优化的地方,代码放 github 上了,有兴趣的可以拿去研究。

(Github 地址:https://github.com/shengxinjing/pytail/blob/master/tail.py)

待优化:留给大家作为扩展

1.如果你tail -f的过程中,日志被备份清空或者切割了,怎么处理

其实很简单,你维护一个指针位置,如果下次循环发现文件指针位置变了,从最新的指针位置开始读就行

2.具体每种错误的类型

我这里只是简单的try 可以写个函数,把文件不存在,文件没权限这些报错信息分开

3.性能小优化,比如我第一次读了1000,只有4行,我大概估计每行250个字符,总体需要2500行,下次没必要直接读2500个,而是读1500行和之前1000行拼起来即可

最后大杀器

如果写出来这个,基本面试官会直接……

  1. import os
  2. def tail(file_name):
  3. os.system('tail -f '+file_name)
  4.  
  5. tail('log.log')

打死你!!!

以上就是我对这个题的想法,实际开发中想监控文件变化,其实还是pyinotify 好用。

Python 学习交流:238757010

Python 10min系列之面试题解析丨Python实现tail -f功能的更多相关文章

  1. python10min系列之面试题解析:python实现tail -f功能

    同步发布在github上,跪求star 这篇文章最初是因为reboot的群里,有人去面试,笔试题有这个题,不知道怎么做,什么思路,就发群里大家讨论 我想了一下,简单说一下我的想法吧,当然,也有很好用的 ...

  2. Python fullstack系列【1】:初识Python

    Python简介 Python的前世今生: Python诞生于1989年的圣诞节期间,其作者是吉多·范罗苏姆(Guido van Rossum).当时Guido(江湖人称龟叔)在阿姆斯特丹度假时着手开 ...

  3. python实现tail -f 功能

    这篇文章最初是因为reboot的群里,有人去面试,笔试题有这个题,不知道怎么做,什么思路,就发群里大家讨论 我想了一下,简单说一下我的想法吧,当然,也有很好用的pyinotify模块专门监听文件变化, ...

  4. python实现tail -f功能

    这篇文章最初是因为reboot的群里,有人去面试,笔试题有这个题,不知道怎么做,什么思路,就发群里大家讨论 我想了一下,简单说一下我的想法吧,当然,也有很好用的pyinotify模块专门监听文件变化, ...

  5. 扩展Python模块系列(三)----参数解析与结果封装

    在上一节中,通过一个简单的例子介绍了C语言扩展Python内建模块的整体流程,从本节开始讲开始深入讨论一些细节问题,在细节讨论中从始至终都会涉及[引用计数]的问题.首先讨论C语言封装的Python函数 ...

  6. python面试题解析(python基础篇80题)

    1.   答:出于编程的喜爱,以及行业本身的前瞻性,创造性,优越性,越是综合的科目越能检验一个人的能力,喜欢这种有挑战的事情. 2.   答:跟随老师学习,以及自己查询资料,结合实战,进行输入输出以及 ...

  7. python 10min系列之实现增删改查系统

    woniu-cmdb 奇技淫巧--写配置文件生成增删改查系统 视频教程 项目主页跪求github给个star, 线上demo,此页面都是一个配置文件自动生成的 详细的文章介绍和实现原理分析会发布在我的 ...

  8. Python学习系列之(一)---Python的安装

    Python几乎可以在任何平台下运行,如我们所熟悉的:Windows/Unix/Linux/Macintosh. 在这里我们说一下,在Windows操作系统中安装python. 我的操作系统为:Win ...

  9. Python学习系列(六)(模块)

    Python学习系列(六)(模块) Python学习系列(五)(文件操作及其字典) 一,模块的基本介绍 1,import引入其他标准模块 标准库:Python标准安装包里的模块. 引入模块的几种方式: ...

随机推荐

  1. WinPE ISO制作

    1.安装ADK,然后导出winPE镜像文件和启动文件: 打开 部署和映像工具环境,cd "Windows Preinstallation Environment",运行 copyp ...

  2. maven项目中引入Jstl

    <dependency> <groupId>javax.servlet.jsp.jstl</groupId> <artifactId>jstl-api& ...

  3. RTCM32编解码中的一些概念及相关文献阅读

    1. IODC和 IODE ——  导航电文相关.iode/iodc是在GPS系统的ICD2中定义的参数,iode指星历数据事件,iodc指星钟数据事件. IOD 是 issue of data ,数 ...

  4. npm install --save 和 --save-dev的区别

    --save 会把依赖包名称添加到 package.json 文件 "dependencies" 键下--save-dev 则添加到 package.json 文件 "d ...

  5. 2733. [HNOI2012]永无乡【平衡树-splay】

    Description 永无乡包含 n 座岛,编号从 1 到 n,每座岛都有自己的独一无二的重要度,按照重要度可 以将这 n 座岛排名,名次用 1 到 n 来表示.某些岛之间由巨大的桥连接,通过桥可以 ...

  6. c++——this指针

    实验1:若类成员函数的形参 和 类的属性,名字相同,通过this指针来解决. 实验2:类的成员函数可通过const修饰,请问const修饰的是谁 #include <iostream> u ...

  7. PAT乙级1017

    1017 A除以B (20 分)   本题要求计算 A/B,其中 A 是不超过 1000 位的正整数,B 是 1 位正整数.你需要输出商数 Q 和余数 R,使得 A=B×Q+R 成立. 输入格式: 输 ...

  8. HDU 2602 Bone Collector(经典01背包问题)

    题目链接: http://acm.hdu.edu.cn/showproblem.php?pid=2602 Bone Collector Time Limit: 2000/1000 MS (Java/O ...

  9. NYOJ 18 The Triangle 填表法,普通dp

    题目链接: http://acm.nyist.edu.cn/JudgeOnline/problem.php?pid=18 The Triangle 时间限制:1000 ms  |  内存限制:6553 ...

  10. HDU1002 A + B Problem II 大数问题

    题目链接: http://acm.hdu.edu.cn/showproblem.php?pid=1002 A + B Problem II Time Limit: 2000/1000 MS (Java ...