1. 内存基本介绍

1.计算机基本结构:

电脑之父——冯·诺伊曼提出了计算机的五大部件:输入设备、输出设备、存储器、运算器和控制器

如图:

输入设备:键盘鼠标等

CPU:是计算机的运算核心和控制核心,让电脑的各个部件顺利工作,起到协调和控制作用。

存储器:一系列的存储设备,硬盘,内存等

输出设备:如打印机,扬声器等

2.存储器:

我们看一下系统中存储器的层次结构:

图中L0-L5分别表示系统中所有存储器的层次结构,其中包括高速缓存,主存,磁盘等。 越上层的存储器造价越高,速度也越快,也更加靠近cpu。 正常情况下,我们在开发应用程序时,使用的是主存(L3)。

在开发应用程序时,我们接触最多的应该是内存和磁盘文件,也知道访问磁盘存储器的时候,需要进行I/O操作,相比内存十分耗时间,那两者具体相差多少,我们可以看一下下面这一段描述(DRAM为主存):

也就是说,在这个例子里面,磁盘访问时间是内存的10万倍,当然,数据不是绝对的,在不同情况下,数据应该会存在偏差,我们大概有个概念就可以。

3.内存和磁盘的主要作用:

硬盘:存储资料和软件等数据的设备,有容量大,断电数据不丢失的特点。也被人们称之为“数据仓库”。

内存:1. cpu无法直接访问硬盘,必须通过内存,因此内存一个作用是负责硬盘等硬件上的数据与CPU之间数据交换处理;2. 缓存系统中的临时数据。3. 断电后数据会丢失。

2. Linux 系统内存管理

一. 物理寻址与虚拟寻址

计算机系统的主存(内存)被组织成一个由M个连续的字节大小的单元组成的数组。每个字节都拥有唯一的物理地址,cpu直接对物理地址进行寻址称为物理寻址,很早期的pc使用的是物理寻址,示意图如下:

为通用计算设计的现代处理器使用的是虚拟寻址。根据虚拟寻址,cpu在访问主存之前,需将虚拟地址转换成物理地址(通过地址翻译MMU)。示意图如下:

也就是说,在虚拟寻址的系统中,一个数据对象拥有两个地址空间,关于地址空间,我们看一下下面这一段话:

那这两个地址空间多大呢? 首先,我们知道一个32位的系统,每一个地址对应的数据空间为32位,也就是4个字节。一个地址用32位二进制表示,那么所有地址的可能性就是为2的32次方,大小为4G。因此,虚拟地址的地址空间和物理地址的地址空间取决于虚拟地址和物理地址的位数。

二. 系统引入虚拟地址的原因

我们以Linux系统为例,来解释一下为什么要引入虚拟地址,直接用物理地址不是更快吗? 最根本的原因是因为Linux系统是一个多任务系统,而虚拟地址可以很好的保证系统进程的并发性,独立性。

Linux 进程内存分配结构图(原因中有涉及):

原因:

1. 简化存储器管理。每个进程一个独立页表,独立虚拟地址空间

1.1. 简化链接。因为进程虚拟地址空间独立,以32位系统为例,每个进程分配的虚拟内存均为4G,其中堆段,栈,数据段,代码段各自所在的位置是一致的,这样可以简化链接器的设计与实现。如图:10.10

1.2. 简化共享。一般而言,每个进程都有自己私有代码,数据,堆以及栈区域,是不和其他进程共享的,那这时候就需要多个物理页面来进行存储,但是在一些情况下,还是会需要进程之间来共享代码和数据。例如:操作系统的内核代码,c程序中的标准库代码,比如printf。操作系统将不同进程中适当的虚拟页面映射到相同的物理页面,从而达到多个进程共享这部分代码的一个拷贝。而不是在每个进程中都包括单独的内核和c标准库拷贝。

1.3. 简化存储器分配。分配的物理页面可以不连续。

1.4. 简化加载。 和链接差不多,进程加载elf文件到存储器的虚拟地址是相同的。

2. 保护存储器。控制用户进程对存储器的访问,对某些特殊区段,用户进程禁止访问修改,保证安全性和独立性

三. 虚拟存储系统如何工作

同任何缓存一样,虚拟存储系统必须有某种方法来判定一个虚拟页是否存在于DRAM中,如果存在,还需要确定这个虚拟页存放在哪个物理页。如果没用命中,系统必须判断这个虚拟页存放在磁盘哪个位置,在物理页中选择一个牺牲页,并将虚拟页拷贝到DRAM,替换这个牺牲页。要完成这部分工作,需要哪些角色参与进来呢? 看下面介绍:

看上图,可以清楚到看到,虚拟内存是如何映射到物理地址和磁盘的。下面我们来介绍一个概念页命中,当cpu从虚拟内存中读取一个字节,如果通过页表可以成功映射到物理存储器,则称为页命中,具体见下图:

如果虚拟页没有映射到物理内存,而是映射到磁盘,那这种现象就叫做缺页。这时候,地址翻译硬件,判断虚拟页未缓存到DRAM中,然后会触发一个缺页异常(也叫缺页中断)。将虚拟页重新映射到DRAM。 在磁盘与存储器之间传送页的活动叫做页面调度,涉及的算法叫页面置换算法(如:OPT,FIFO,LRU) 。 缺页中断过程如下。

缺页前:

缺页后:

Linux系统层面的内存管理调度大概就介绍到这里,下面我们进入进程层面的内存分析!

3. Linux 进程级内存管理

首先,我们再次把进程的空间结构图附上:

一. 内核态和用户态

我们知道程序访问的地址都是虚拟地址,用32位操作系统来讲,系统访问的地址空间为4G,linux会将4G分为两部分,如上图所示,其中从0x00000000 到 0xbfffffff的线性地址为用户空间,0xc0000000 到 0xffffffff为内核空间

进程在用户态只能访问0~3G,只有进入内核态才能访问3G~4G 。

用户空间:在Linux中,每个用户进程都可以访问4GB的线性虚拟内存空间。其中从0到3GB的虚存地址是用户空间,通过每个进程自己的页目录、页表,用户进程可以直接访问。

内核空间:从3GB到4GB的虚存地址为内核态空间,存放供内核访问的代码和数据,用户态进程不能访问,也就是说对于用户代码来说是不可见的,只有内核态进程才能寻址。所有进程从3GB到4GB的虚拟空间都是一样的,linux以此方式让内核态进程共享代码段和数据段。(页表就存放在内核虚拟空间)

二. 进程用户态空间

如果不是做内核开发,在写代码的过程中,我们主要涉及到的是用户态空间,在代码层面可以进行优化和分析的也是用户态空间,内核空间主要由系统进行管理,因此我们着重介绍一下用户态空间,至于内核空间,其中可能涉及到一些比较好的算法思路(伙伴,slab等),如果有时间可以单独去学习其思想。

程序空间:

1. 堆段

对于堆段,程序层面我们平常会使用new,delete,malloc,free方式来申请内存。而Linux内核会为进程分配一段内存地址,随着进程申请内存增加,进程会通过系统调用brk,让内核来拓展这段内存空间;当进程释放内存时,进程又通过系统调用brk,来告诉内核缩减这段内存,内核将其一部分物理地址进行回收。当程序调用内存申请接口(malloc)时,具体分配流程如下:

1.1. 小块内存分配

对于堆段的内存分配,如果是小块内存分配,为了减少内存碎片,glibc库对于某些相邻的内存肯进行合并,但是为了节省cpu和内存,对于过小的内存并不会进行合并,具体阈值可以通过接口进行设置,如下接口:

1.2. 大块内存分配

如果是大块内存分配,当申请内存数量大于一个阈值,glibc会采用mmaps为进程分配一块虚拟空间,而不是采用brk,来拓展栈顶指针。如下接口:

1.3. 内存释放

至于内存释放,当我们调用free时,系统并不会立即将内存回收,而是将其cache,保留到下次使用。原因是频繁申请释放会造成大量的系统调用,会影响进程效率。对于free后,是否系统回收,也可以通过接口设置。如下接口:

1.4. 内存空洞

还有一个概念我们需要知道,就是内存空洞,就是一段内存,中间的释放了,但是堆顶没用释放,导致所有的内存无法被系统回收。 对于内存空洞,见下面这段文字描述:

注:如何区分内存空洞和内存泄漏

从上面描述知道,对于内存空洞,我们只需了解即可,按照就近原则释放即可。当然对于内存空洞,其实是有另外的内存管理机制可以解决的,如果感兴趣,可以另外了解一下。

2. 栈段

用于维护函数调用的上下文空间,一般为 8M ,可通过 ulimit –s 查看(函数堆栈打印就是基于此实现) 。 那在使用的过程中,我们需注意,1. 尽量避免在栈空间申请大量内存;2. 尽量避免递归使用

3. 数据段

也就是我们进程空间中的.bss和.data,主要用来保存全局变量、静态变量,两者区别:

4. 代码段

代码段是整个系统共享的,位于进程只读段。

5. 共享映射

我们看进程的空间结构图可以知道,还有一个文件映射区域,这里只要是动态库、共享内存等映射物理空间的内存,一般是 mmap 函数所分配的虚拟地址空间。

四. 总结

文章中出现的图片和相关文字描述截图主要出自书籍>, >,两本书都非常不错!

文章主要是对内存做了一个整体介绍,自底向上,从系统层面,进程层面,到用户代码层面,进行了详细的分析和总结,使得我们对Linux内存管理有了一个系统的认识!

2018年9月15日12:33:02

Linux 系统内存分析的更多相关文章

  1. linux系统瓶颈分析(精)

    linux系统瓶颈分析(精) (2013-09-17 14:22:00)   分类: linux服务器瓶颈分析 1.0 性能监控介绍 性能优化就是找到系统处理中的瓶颈以及去除这些的过程,多数管理员相信 ...

  2. linux系统瓶颈分析(精) CPU Memory IO Network

    linux系统瓶颈分析(精) linux系统瓶颈分析(精) (2013-09-17 14:22:00)   分类: linux服务器瓶颈分析 1.0 性能监控介绍性能优化就是找到系统处理中的瓶颈以及去 ...

  3. Linux系统内存占用90%以上 ?

    问题: [root@dbserver01 zx_epp_db]# free -m total used free shared buffers cached Mem: 15953 14706 1246 ...

  4. Linux系统内存占用90%以上——解决方法

    Linux系统内存占用90%以上--解决方法   首先要明确一个问题:Linux系统内存占用90%以上,是否属于正常范围?网上有详细的解释,这属于正常现象~~~    www.2cto.com   L ...

  5. Linux系统IO分析工具之iotstat常用参数介绍

    Linux系统IO分析工具之iotstat常用参数介绍 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 1>.安装iostat [root@flume115 ~]# yum - ...

  6. Linux系统IO分析工具之iotop常用参数介绍

      Linux系统IO分析工具之iotop常用参数介绍 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 在一般运维工作中经常会遇到这么一个场景,服务器的IO负载很高(iostat中的 ...

  7. Windows系统内存分析工具的介绍

      Windows系统内存分析工具的介绍(进程管理器,资源管理器,性能监视器, VMMap, RamMap,PoolMon) 微软官方提供多种工具来分析Windows 的内存使用情况,除了系统自带的任 ...

  8. Linux系统下分析内存使用情况的管理工具

    有许多办法可以获得Linux系统上所安装内存的信息,并查看其中有多少内存正在使用中.有的命令会展示大量的细节,而有的命令则提供了简洁(但不一定容易理解)的结果.在这篇文章中将介绍一些更有用的工具,帮助 ...

  9. Eclipse CDT Linux下内存分析 补记

    常用工具汇总 http://www.ibm.com/developerworks/cn/linux/l-cn-memleak/ 常用的内存分析工具 http://en.wikipedia.org/wi ...

随机推荐

  1. Gradle系列之三 Gradle概述以及生命周期

    1 Gradle是一种编程框架 gradle主要由以下三部分组成 1 groovy核心语法 2 build script block 3 gradle api 注:本章所有的代码都在 https:// ...

  2. BFS+PRIM

    转载请注明出处:優YoU http://user.qzone.qq.com/289065406/blog/1299324104 在一个y行 x列的迷宫中,有可行走的通路空格' ',不可行走的墙'#', ...

  3. 最小生成树Prim算法和Kruskal算法(转)

    (转自这位大佬的博客 http://www.cnblogs.com/biyeymyhjob/archive/2012/07/30/2615542.html ) Prim算法 1.概览 普里姆算法(Pr ...

  4. 洛谷 P3480 [POI2009]KAM-Pebbles

    https://www.luogu.org/problemnew/solution/P3480 讲不清楚... 首先对原序列做差分:设原序列为a,差分序列为d 那么,每一次按题意在原序列位置i处取走石 ...

  5. pscp多线程传输文件

    前面说过pscp不支持多线程,所以在此特地实现了一个 程序分三个部分: 1.初始化各种参数,涉及getopt函数的使用 2.重新定义scp,实现传递IP然后远程拷贝 3.启动多线程调用scp,涉及多线 ...

  6. Spark网络通信分析

    之前分析过spark RPC的基本流程(spark RPC详解),其实无论是RPC还是Spark内部的数据(Block)传输,都依赖更底层的网络通信,本文将对spark的网络通信做一下剖析. 1,概要 ...

  7. nodejs的mysql模块学习笔记(结合业务)

    1. 包官网地址 https://www.npmjs.com/package/mysql#install https://www.oschina.net/translate/node-mysql-tu ...

  8. mybatis javaConfig实现

    @Bean public SqlSessionFactory sqlSessionFactory(DataSource dataSource) throws Exception { SqlSessio ...

  9. AJPFX浅谈关于Java程序员缺乏面向对象的基本功的问题

    为什么很多 Java 程序员会缺乏面向对象基本功?这得怪那些 Java 框架.现在 Java 的各种框架太发达.太傻瓜化了,导致很多程序员只需要按部就班.照着框架进行代码填空,基本已经丧失了 OOA ...

  10. Mysql多表联合更新、删除

    UPDATE snyts_user u INNER JOIN snyts_order o ON u.user_id = o.user_id INNER JOIN snyts_refund_order ...