面试题

分别给出下述代码在终端(e.g. IPyhon)中和在程序中的运行结果

  1. a = 256
  2. b = 256
  3. c = 257
  4. d = 257
  5. def foo():
  6. e = 257
  7. f = 257
  8. print('a is b: %s' % (a is b))
  9. print('c is d: %s' % (c is d))
  10. print('c is e: %s' % (c is e))
  11. print('e is f: %s' % (e is f))
  12. foo()
  • IPython 中运行的结果:
  1. In [31]: a = 256
  2. In [32]: b = 256
  3. In [33]: c = 257
  4. In [34]: d = 257
  5. In [35]: def foo():
  6. ...: e = 257
  7. ...: f = 257
  8. ...:
  9. ...: print('a is b: %s' % (a is b))
  10. ...: print('c is d: %s' % (c is d))
  11. ...: print('c is e: %s' % (c is e))
  12. ...: print('e is f: %s' % (e is f))
  13. ...:
  14. In [36]: foo()
  15. a is b: True
  16. c is d: False
  17. c is e: False
  18. e is f: True
  • 在程序中运行的结果:
  1. $ python foo.py
  2. a is b: True
  3. c is d: True
  4. c is e: False
  5. e is f: True

Emmmmm~ 显然两次执行的结果不尽相同,实际上在这个简单的代码之中包含了两个鲜为人知的 Python 技术内幕。

小整数与大整数

整数是最为简单且常用的数据类型,尤其在极端的科学计算场景中,上百万次计算就发生在数秒之间。对于这些场景,如果 Python 仍单纯的使用 malloc/free 函数来完成内存的分配与释放,那么其运行性能将会及其低下,并且会造成很大的浪费。所以,出于性能的考虑,Python 在内部对整数的实现做了许多优化工作,而优化的核心就是减少 malloc/free 函数的调用。

同时又因为在实际的应用中,应用程序对整数的使用有明显的数值区间划分。例如,数值较小的整数会更频繁的被使用,而数值较大的整数虽然使用得不那么频繁,但却要占用更大的内存空间。为了更好的区分优化,在 Python 的源码实现中,将整数的定义细分为「小整数」和「大整数」,前者的数值范围在 [-5, 257) 之间,其余的数值均归为后者。

小整数对象缓存池

小整数的使用是最为频繁的,为了避免反复创建和销毁带来的资源开销,Pyhton 干脆直接将这些小整数都缓存到一个特定的 small_ints 链表中,该链表会存在于 Python 解释器的整个生命周期中,但凡需要使用小整数时,则直接从链表中获取。这就是Python 的「小整数对象缓存池技术」,简单来说就是小整数对象会在 Python 全局解释器范围内被重复引用,且永远不会被 GC 回收。那么对于小整数而言,只会在初始化 small_ints 时调用 malloc/free 函数

通用整数对象缓冲池

Python 运行环境会为大整数对象分配一定的缓冲内存空间,该内存空间会被大整数对象轮流使用,直到占满为止,再继续再开辟一块新的内存空间。这就是 Python 的「通用整数对象缓冲池技术」。

通用整数对象缓冲池相关的结构体定义

  1. struct _intblock {
  2. struct _intblock *next;
  3. PyIntObject objects[N_INTOBJECTS];
  4. };
  1. typedef struct _intblock PyIntBlock;
  2. static PyIntBlock *block_list = NULL;
  3. static PyIntObject *free_list = NULL;

PyIntObject(Python 整数对象)会以数组的形式存在于 PyIntBlock 中,一个 block 大约能够存放 82 个 PyIntObject。block_list 用于维护分配给 PyIntObject 所有的内存空间,而 free_list 则用于维护 PyIntObject 可用的剩余内存空间。只有当 free_list 为 NULL(剩余空间为 0)时,Python 才会调用 fill_free_list 函数再 malloc 出来一个 block。并且当一个大整数对象的引用计数为 0 而需要被回收时,其占有的内存并不会归还给系统,而是重新回到 free_list,供新创建的整数对象使用。由此可见,通用整数对象缓冲池同样能够有效的减少 malloc/free 函数的调用。

在理解了大、小整数实现的不同后,再看看下面的运行结果,我想大家应该不会再感到奇怪:

  1. In [25]: a = 256
  2. In [26]: b = 256
  3. In [27]: a is b
  4. Out[27]: True
  5. In [28]: c = 257
  6. In [29]: d = 257
  7. In [30]: c is d
  8. Out[30]: False

但这依旧不足以解释面试题中同为大整数的变量 c、d、e、f,为什么 c/d、e/f 的内存地址却是两两相同的结果。这就涉及到了另一个知识点——「Python 的解析模式」。

逐行解释与整体解释的差异

整体解释

整体解释指的是通过应用程序的方式来运行 Python 代码,对应面试题在程序中运行的结果。对于此时的 Python 代码而言,解析器 CPython 的「编译单元」是一个函数(Python 顶层代码也被当作一个函数来进行编译),即题目中的函数 foo 会被单独编译,而得到一个 PyFunctionObject 对象,该对象中包含了字节码、常量池等信息。

每个 PyFunctionObject 都拥有有一个独立的常量池,如果在同一个 PyFunctionObject 里创建了值相同的常量,那么这些常量只会在常量池里出现一份。也就是说位于顶层的变量 c、d 和位于 foo 函数中 e、f 实际上都分别引用了来自同一个 PyFunctionObject 的常量池中的内存对象,所以变量 c/d、e/f 的内存地址才会两两相同。同理,因为变量 c 和 e 分别存在于两个不同的 PyFunctionObject 中,所以即便两者的值相同,也不是同一个内存对象。

需要注意的是这里提到的「常量」,通常指的是整数类型对象。又因为整型中的小整数具有小整数缓存池机制,所以即便是在不同的 PyFunctionObject 中,小整数变量也依旧会引用同一个内存对象。

逐行解释

在交互式解释器中执行 Python 代码,对应面试题中在 IPython 中运行的代码。每输入一行语句就会立即执行,所以此时的「编译单元」为一行语句。注意这里所说的“一行”指的是一次完整性输入,例如:

  1. In [33]: c = 257
  2. In [34]: d = 257
  3. In [35]: def foo():
  4. ...: e = 257
  5. ...: f = 257
  6. ...:
  7. ...: print('a is b: %s' % (a is b))
  8. ...: print('c is d: %s' % (c is d))
  9. ...: print('c is e: %s' % (c is e))
  10. ...: print('e is f: %s' % (e is f))
  11. ...:

上述代码块实际上属于 3 次完整性输入,分别得到了 3 个不同的 PyFunctionObject,所以变量 c、d 自然也就不存在于同一个常量池中,所以 (c is d) == False

最后

实际上这一个看是并没有什么卵用的知识点,掌握与否并不会影响到日常的编程任务。但往往是这种“大隐隐与市”的知识点,最能区别出开发者对一门语言的理解,以及开发者是否具有专研精神的考量。

其次,我们能通过 Python 对整数实现的优化得到一些启发,就是 pool 的设计与机制是一种能够降低应用系统中性能损耗的有效手段

Python 笔试集(2):你不知道的 Python 整数的更多相关文章

  1. Python 笔试集(4):True + True == ?

    目录 目录 前文列表 面试题True Ture 布尔值 布尔类型是特殊的整数类型 前文列表 Python 笔试集:什么时候 i = i + 1 并不等于 i += 1? Python 笔试集(1):关 ...

  2. Python 笔试集(3):编译/解释?动态/静态?强/弱?Python 是一门怎样的语言

    面试题 解释/编译?动态/静态?强/弱?Python 到底是一门怎样的语言? 编译 or 解释? 编译.解释都是指将(与人类亲和的)编程语言翻译成(计算机能够理解的)机器语言(Machine code ...

  3. Python 笔试集(1):关于 Python 链式赋值的坑

    前言 Python 的链式赋值是一种简易型批量赋值语句,一行代码即可为多个变量同时进行赋值. 例如: x = y = z = 1 链式赋值是一种非常优雅的赋值方式,简单.高效且实用.但同时它也是一个危 ...

  4. Python 笔试集:什么时候 i = i + 1 并不等于 i += 1?

    ​​增强型赋值语句是经常被使用到的,因为从各种学习渠道中,我们能够得知 i += 1 的效率往往要比 i = i + 1 更高一些(这里以 += 为例,实际上增强型赋值语句不仅限于此).所以我们会乐此 ...

  5. 『Python题库 - 填空题』151道Python笔试填空题

    『Python题库 - 填空题』Python笔试填空题 part 1. Python语言概述和Python开发环境配置 part 2. Python语言基本语法元素(变量,基本数据类型, 基础运算) ...

  6. python垃圾回收机制与小整数池

    python垃圾回收机制 当引用计数为0时,python会删除这个值. 引用计数 x = 10 y = x del x print(y) 10 引用计数+1,引用计数+1,引用计数-1,此时引用计数为 ...

  7. 实现Redis Cluster并实现Python链接集群

    目录 一.Redis Cluster简单介绍 二.背景 三.环境准备 3.1 主机环境 3.2 主机规划 四.部署Redis 4.1 安装Redis软件 4.2 编辑Redis配置文件 4.3 启动R ...

  8. 你不知道的Python容器

    你不知道的Python容器 你不知道的Python容器 散列表 ChainMap MappingProxyType 线性表 堆 参考资料 昨天阅读了<Python Tricks: The Boo ...

  9. 有哪些你不知道的python小工具

    python作为越来越流行的一种编程语言,不仅仅是因为它语言简单,有许多现成的包可以直接调用. python中还有大量的小工具,让你的python工作更有效率. 1.- 快速共享 - HTTP服务器 ...

随机推荐

  1. DataWorks(数据工场)

    一.DataWorks(数据工场) DataWorks系列视频 https://help.aliyun.com/video_list/107549.html?spm=a2c4g.11174359.3. ...

  2. SIP协议 会话发起协议(二)

    SIP - 响应码 SIP响应是由用户代理服务器(UAS)或SIP服务器生成的用于回复客户端生成的请求的消息.这可能是一个正式的确认,以防止UAC转发请求. 响应可能包含UAC所需的一些额外的信息头字 ...

  3. java中将jsonObject字符串转化为Map对象

    java中将jsonObject字符串转化为Map对象 1.我们这里使用json-lib包进行转换,可在http://json-lib.sourceforge.net/下载依赖于下面的jar包: ja ...

  4. 006-Zabbix agent on Zabbix server is unreachable for 5 minutes

    环境描述:        环境介绍:CentOS6.5   zabbix3.2.6(zabbix客户端与服务端在一台主机)   1.在安装完zabbix之后,添加客户端,客户端配置(zabbix_ag ...

  5. dataTable 、dataView、Dataset 区别

    dataTable .dataView.Dataset 区别的经典回答 1.DataView是DataTable的表示,DataTable表里的记录是没有顺序的,但显示可以有不同顺序(DataVIew ...

  6. java集合源码分析几篇文章

    java集合源码解析https://blog.csdn.net/ns_code/article/category/2362915

  7. 【NOIP2017提高组模拟12.10】幻魔皇

    题目 幻魔皇拉比艾尔很喜欢斐波那契树,他想找到神奇的节点对. 所谓斐波那契树,根是一个白色节点,每个白色节点都有一个黑色节点儿子,而每个黑色节点则有一个白色和一个黑色节点儿子.神奇的节点对则是指白色节 ...

  8. C# 、Java数组申明、初始化区别

    一.数组申明   int[] a1 int a2[] C# 支持 不支持 Java 支持 支持 二.数组申明且初始化    int[] a1 = new int[] { 2, 31 } int a1[ ...

  9. 14.django返回展示一张图片

    urlpatterns = [ path('admin/', admin.site.urls), # 使用django返回一张土图片的时候需要间接的访问一个中间接口,是html页面的中的img的src ...

  10. 对MySQL binlog日志解析,统计每张表的DML次数

    想要获取每天数据库每张表的DML的次数,统计热度表,可以使用该脚本 # coding:utf-8 # 解析binlog,统计热度表,表的DML个数 import sys import os # mys ...