一.垃圾回收机制

Python中的垃圾回收是以引用计数为主,分代收集为辅。引用计数的缺陷是循环引用的问题。

在Python中,如果一个对象的引用数为0,Python虚拟机就会回收这个对象的内存。

  1. #encoding=utf-8
  2. __author__ = 'kevinlu1010@qq.com'
  3. class ClassA():
  4. def __init__(self):
  5. print 'object born,id:%s'%str(hex(id(self)))
  6. def __del__(self):
  7. print 'object del,id:%s'%str(hex(id(self)))
  8. def f1():
  9. while True:
  10. c1=ClassA()
  11. del c1

执行f1()会循环输出这样的结果,而且进程占用的内存基本不会变动

  1. object born,id:0x237cf58
  2. object del,id:0x237cf58

c1=ClassA()会创建一个对象,放在0x237cf58内存中,c1变量指向这个内存,这时候这个内存的引用计数是1

del c1后,c1变量不再指向0x237cf58内存,所以这块内存的引用计数减一,等于0,所以就销毁了这个对象,然后释放内存。

  1. 导致引用计数+1的情况

    1. 对象被创建,例如a=23
    2. 对象被引用,例如b=a
    3. 对象被作为参数,传入到一个函数中,例如func(a)
    4. 对象作为一个元素,存储在容器中,例如list1=[a,a]
  2. 导致引用计数-1的情况

    1. 对象的别名被显式销毁,例如del a
    2. 对象的别名被赋予新的对象,例如a=24
    3. 一个对象离开它的作用域,例如f函数执行完毕时,func函数中的局部变量(全局变量不会)
    4. 对象所在的容器被销毁,或从容器中删除对象

    demo

    1. def func(c,d):
    2. print 'in func function', sys.getrefcount(c) - 1
    3. print 'init', sys.getrefcount(11) - 1
    4. a = 11
    5. print 'after a=11', sys.getrefcount(11) - 1
    6. b = a
    7. print 'after b=1', sys.getrefcount(11) - 1
    8. func(11)
    9. print 'after func(a)', sys.getrefcount(11) - 1
    10. list1 = [a, 12, 14]
    11. print 'after list1=[a,12,14]', sys.getrefcount(11) - 1
    12. a=12
    13. print 'after a=12', sys.getrefcount(11) - 1
    14. del a
    15. print 'after del a', sys.getrefcount(11) - 1
    16. del b
    17. print 'after del b', sys.getrefcount(11) - 1
    18. # list1.pop(0)
    19. # print 'after pop list1',sys.getrefcount(11)-1
    20. del list1
    21. print 'after del list1', sys.getrefcount(11) - 1

    输出:

    1. init 24
    2. after a=11 25
    3. after b=1 26
    4. in func function 28
    5. after func(a) 26
    6. after list1=[a,12,14] 27
    7. after a=12 26
    8. after del a 26
    9. after del b 25
    10. after del list1 24

    问题:为什么调用函数会令引用计数+2

  3. 查看一个对象的引用计数

sys.getrefcount(a)可以查看a对象的引用计数,但是比正常计数大1,因为调用函数的时候传入a,这会让a的引用计数+1

二.循环引用导致内存泄露

  1. def f2():
  2. while True:
  3. c1=ClassA()
  4. c2=ClassA()
  5. c1.t=c2
  6. c2.t=c1
  7. del c1
  8. del c2

执行f2(),进程占用的内存会不断增大。

  1. object born,id:0x237cf30
  2. object born,id:0x237cf58

创建了c1,c2后,0x237cf30(c1对应的内存,记为内存1),0x237cf58(c2对应的内存,记为内存2)这两块内存的引用计数都是1,执行c1.t=c2c2.t=c1后,这两块内存的引用计数变成2.

在del c1后,内存1的对象的引用计数变为1,由于不是为0,所以内存1的对象不会被销毁,所以内存2的对象的引用数依然是2,在del c2后,同理,内存1的对象,内存2的对象的引用数都是1。

虽然它们两个的对象都是可以被销毁的,但是由于循环引用,导致垃圾回收器都不会回收它们,所以就会导致内存泄露。

三.垃圾回收

  1. deff3():
  2. # print gc.collect()
  3. c1=ClassA()
  4. c2=ClassA()
  5. c1.t=c2
  6. c2.t=c1
  7. del c1
  8. del c2
  9. print gc.garbage
  10. print gc.collect() #显式执行垃圾回收
  11. print gc.garbage
  12. time.sleep(10)
  13. if __name__ == '__main__':
  14. gc.set_debug(gc.DEBUG_LEAK) #设置gc模块的日志
  15. f3()

输出:

  1. gc: uncollectable <ClassA instance at 0230E918>
  2. gc: uncollectable <ClassA instance at 0230E940>
  3. gc: uncollectable <dict 0230B810>
  4. gc: uncollectable <dict 02301ED0>
  5. object born,id:0x230e918
  6. object born,id:0x230e940
  7. 4
  • 垃圾回收后的对象会放在gc.garbage列表里面
  • gc.collect()会返回不可达的对象数目,4等于两个对象以及它们对应的dict
  • 有三种情况会触发垃圾回收:

    1.调用gc.collect(),

    2.当gc模块的计数器达到阀值的时候。

    3.程序退出的时候

四.gc模块常用功能解析

Garbage Collector interface

gc模块提供一个接口给开发者设置垃圾回收的选项。上面说到,采用引用计数的方法管理内存的一个缺陷是循环引用,而gc模块的一个主要功能就是解决循环引用的问题。

常用函数:

  1. gc.set_debug(flags)

    设置gc的debug日志,一般设置为gc.DEBUG_LEAK
  2. gc.collect([generation])

    显式进行垃圾回收,可以输入参数,0代表只检查第一代的对象,1代表检查一,二代的对象,2代表检查一,二,三代的对象,如果不传参数,执行一个full collection,也就是等于传2。

    返回不可达(unreachable objects)对象的数目
  3. gc.set_threshold(threshold0[, threshold1[, threshold2])

    设置自动执行垃圾回收的频率。
  4. gc.get_count()

    获取当前自动执行垃圾回收的计数器,返回一个长度为3的列表

gc模块的自动垃圾回收机制

必须要import gc模块,并且is_enable()=True才会启动自动垃圾回收。

这个机制的主要作用就是发现并处理不可达的垃圾对象。

垃圾回收=垃圾检查+垃圾回收

在Python中,采用分代收集的方法。把对象分为三代,一开始,对象在创建的时候,放在一代中,如果在一次一代的垃圾检查中,改对象存活下来,就会被放到二代中,同理在一次二代的垃圾检查中,该对象存活下来,就会被放到三代中。

gc模块里面会有一个长度为3的列表的计数器,可以通过gc.get_count()获取。

例如(488,3,0),其中488是指距离上一次一代垃圾检查,Python分配内存的数目减去释放内存的数目,注意是内存分配,而不是引用计数的增加。例如:

  1. print gc.get_count() # (590, 8, 0)
  2. a = ClassA()
  3. print gc.get_count() # (591, 8, 0)
  4. del a
  5. print gc.get_count() # (590, 8, 0)

3是指距离上一次二代垃圾检查,一代垃圾检查的次数,同理,0是指距离上一次三代垃圾检查,二代垃圾检查的次数。

gc模快有一个自动垃圾回收的阀值,即通过gc.get_threshold函数获取到的长度为3的元组,例如(700,10,10)

每一次计数器的增加,gc模块就会检查增加后的计数是否达到阀值的数目,如果是,就会执行对应的代数的垃圾检查,然后重置计数器

例如,假设阀值是(700,10,10)

  • 当计数器从(699,3,0)增加到(700,3,0),gc模块就会执行gc.collect(0),即检查一代对象的垃圾,并重置计数器为(0,4,0)
  • 当计数器从(699,9,0)增加到(700,9,0),gc模块就会执行gc.collect(1),即检查一、二代对象的垃圾,并重置计数器为(0,0,1)
  • 当计数器从(699,9,9)增加到(700,9,9),gc模块就会执行gc.collect(2),即检查一、二、三代对象的垃圾,并重置计数器为(0,0,0)

其他

  1. 如果循环引用中,两个对象都定义了__del__方法,gc模块不会销毁这些不可达对象,因为gc模块不知道应该先调用哪个对象的__del__方法,所以为了安全起见,gc模块会把对象放到gc.garbage中,但是不会销毁对象。

五.应用

  1. 项目中避免循环引用
  2. 引入gc模块,启动gc模块的自动清理循环引用的对象机制
  3. 由于分代收集,所以把需要长期使用的变量集中管理,并尽快移到二代以后,减少GC检查时的消耗
  4. gc模块唯一处理不了的是循环引用的类都有__del__方法,所以项目中要避免定义__del__方法,如果一定要使用该方法,同时导致了循环引用,需要代码显式调用gc.garbage里面的对象的__del__来打破僵局

转载请带上我

参考:

python的内存管理机制

Python垃圾回收机制详解的更多相关文章

  1. Python垃圾回收机制详解转自--Kevin Lu

    一.垃圾回收机制 Python中的垃圾回收是以引用计数为主,分代收集为辅.引用计数的缺陷是循环引用的问题. 在Python中,如果一个对象的引用数为0,Python虚拟机就会回收这个对象的内存. #e ...

  2. JVM的垃圾回收机制详解和调优

    JVM的垃圾回收机制详解和调优 gc即垃圾收集机制是指jvm用于释放那些不再使用的对象所占用的内存.java语言并不要求jvm有gc,也没有规定gc如何工作.不过常用的jvm都有gc,而且大多数gc都 ...

  3. PHP的垃圾回收机制详解

    原文:PHP的垃圾回收机制详解 最近由于使用php编写了一个脚本,模拟实现了一个守护进程,因此需要深入理解php中的垃圾回收机制.本文参考了PHP手册. 在理解PHP垃圾回收机制(GC)之前,先了解一 ...

  4. java面试题之----JVM架构和GC垃圾回收机制详解

    JVM架构和GC垃圾回收机制详解 jvm,jre,jdk三者之间的关系 JRE (Java Run Environment):JRE包含了java底层的类库,该类库是由c/c++编写实现的 JDK ( ...

  5. GC垃圾回收机制详解

    JVM堆相关知识    为什么先说JVM堆?  JVM的堆是Java对象的活动空间,程序中的类的对象从中分配空间,其存储着正在运行着的应用程序用到的所有对象.这些对象的建立方式就是那些new一类的操作 ...

  6. JVM的内存区域划分以及垃圾回收机制详解

    在我们写Java代码时,大部分情况下是不用关心你New的对象是否被释放掉,或者什么时候被释放掉.因为JVM中有垃圾自动回收机制.在之前的博客中我们聊过Objective-C中的MRC(手动引用计数)以 ...

  7. php5.3新垃圾回收机制详解

    php的垃圾回收机制主要参考了http://blog.csdn.net/phpkernel/article/details/5734743 这文章. 变量对应的值,比如 $a="abc&qu ...

  8. PHP 垃圾回收机制详解

    前言:之前对PHP的GC只是了解了个大概,这次详细了解下PHP的垃圾回收机制(GC). 介于网上大部分都是PHP5.X的GC,虽然 php5 到 php7 GC部分做出的改动较小,但我觉得还是一起写下 ...

  9. Java垃圾回收机制详解和调优

    gc即垃圾收集机制是指jvm用于释放那些不再使用的对象所占用的内存.java语言并不要求jvm有gc,也没有规定gc如何工作.不过常用的jvm都有gc,而且大多数gc都使用类似的算法管理内存和执行收集 ...

随机推荐

  1. C. Guess Your Way Out!

    C. Guess Your Way Out!                                                               time limit per ...

  2. C#获取CPU等硬件ID(转载)

    System.Management命名空间提供对大量管理信息和管理事件集合的访问,这些信息和事件是与根据 Windows 管理规范 (WMI) 结构对系统.设备和应用程序设置检测点有关的.应用程序和服 ...

  3. oracle顺序控制语句goto、null和分页过程中输入输出存储、java程序的调用过程

    顺序控制语句1 goto建议不要使用 declare i number:=; begin loop dbms_output.put_line(i); then goto end_loop; end i ...

  4. hdu 4280 网络流

    裸的网络流,递归的dinic会爆栈,在第一行加一句就行了 #pragma comment(linker, "/STACK:1024000000,1024000000") #incl ...

  5. python截取中文字符串

    python的中文处理还是比较麻烦的,utf-8的字符串的长度是1-6个字符,一不小心就会从中截断,出现所谓的乱码.下面这个函数提供了,从一段utf-8编码的字符串中,截取固定长度的字串.ord(ch ...

  6. C++STL学习笔记_(4)queue

    10.2.5Queue容器 Queue简介 ²  queue是队列容器,是一种"先进先出"的容器. ²  queue是简单地装饰deque容器而成为另外的一种容器. ²  #inc ...

  7. # li鼠标移入移出,点击,变背景色,变checkbox选中状态

    移入移出背景色改变和点击背景色改变,两者是否相互覆盖? 若移出背景色恢复,影响点击事件的背景色改变,会产生效果为: 点击时,背景色改变,并且checkbox选中 鼠标移开后,checkbox仍选中,但 ...

  8. SQL表连接查询

    SQL表连接查询(inner join.full join.left join.right join) 表的数据有: 一.内连接-inner jion : 最常见的连接查询可能是这样,查出学生的名字和 ...

  9. MyBatis(3.2.3) - Mapped statements: The INSERT statement, Autogenerated keys

    We can use the useGeneratedKeys and keyProperty attributes to let the database generate the auto_inc ...

  10. 你不知道的JSON的高效率用法

    1.JSON JSON是JavaScript Object Notation的缩写,是JavaScript标准的一个子集.官方Android API已经内置支持读写JSON数据.这种格式非常适合表示不 ...