这是什么

想要进行性能优化,Go本身自带的工具链就包含了性能分析工具,而且也非常棒,pprof就是Go性能分析的利器,它是Go语言自带的包,有如下两种:

  1. runtime/pprof:采集程序(非 Server)的运行数据进行分析
  2. net/http/pprof:采集 HTTP Server 的运行时数据进行分析,这个其实在上面的功能中包了一层提供了http接口。

pprof用于可视化和性能分析的工具,pprof 以 profile.proto 读取分析样本的集合,并生成报告以可视化并帮助分析数据(支持文本和图形报告)

这个文件是一个ProtocolBuffer v3的描述文件,它描述了一组callstack和 symbolization信息,作用是表示统计分析的一组采样的调用栈,是很常见的 stacktrace 配置文件格式

使用方式

Report generation:报告生成,直接生成一个文件,解析这个文件得到结果

Interactive terminal use:交互式终端使用,实时反馈,监控,需要开发人员输入指令,根据输入的指令返回想要的信息。

Web interface:Web 界面,实时反馈,监控,对开发人员友好。很方便,直观的获取和统计需要的数据。

能做什么

CPU Profiling: CPU分析,按照一定的频率采集所监听的应用程序的CPU使用情况,可确定应用程序在主动消耗 CPU 周期时花费时间的位置。

Memory Profiling:内存分析,在应用程序堆栈分配时记录跟踪,用于监视当前和历史内存使用情况,检查内存泄漏情况。

Block Profiling:阻塞分析,记录goroutine阻塞等待同步的位置

Mutex Profiling:互斥锁分析,报告互斥锁的竞争情况

一个小Demo来解释

import (
"net/http"
_ "net/http/pprof"
)
func PprofWeb() {
err := http.ListenAndServe(":9909", nil)
if err != nil {
panic(err)
}
}
web界面使用

启动这段代码后,访问 http://localhost:9909/debug/pprof/ ,就可以看到监控页面了,截图信息如下,我们对这些进行一下解释。

allocs:所有过去内存分配的采样

block:导致同步原语阻塞的堆栈跟踪

cmdline:当前程序的命令行调用

goroutine:所有当前goroutine的堆栈跟踪

heap:活动对象的内存分配的采样。在获取堆样本之前,可以指定gc GET参数来运行gc。

metux:争用互斥锁持有者的堆栈跟踪

profile:CPU配置文件。您可以在seconds GET参数中指定持续时间。获取配置文件后,使用go tool pprof命令调查配置文件

threadcreate:导致创建新操作系统线程的堆栈跟踪

trace:当前程序的执行轨迹。您可以在seconds GET参数中指定持续时间。获取跟踪文件后,使用go tool trace命令调查跟踪

交互式终端使用

控制台输入如下命令,这个命令的作用是追踪上面代码60秒内CPU的消耗情况,执行该命令后,需要等待60秒(这个时间可自己调整),60秒到达后默认进入pprof交互式命令行中,可输入help命令查看pprof的使用帮助

go tool pprof http://localhost:9909/debug/pprof/profile?seconds=60

我们看下面图片,命令执行后,过了10秒钟进入交互式控制台,我输入了top10,代表意思是显示前10个消耗CPU较多的方法,图中的flat,sum,cum是什么含义呢,接下来解释一下。

flat:给定函数上的运行耗时

flat% :给定函数上的CPU运行耗时占比

sum% :给定函数累积使用CPU总比例

cum :当前函数加上它之前的调用运行总耗时

cum% :当前函数加上他之前的调用CPU运行耗时占比

还有其它很多的命令比如 list,使用 list 函数名 命令查看具体的函数分析,同样的,下面的命令行可以查看堆内存,阻塞,锁的使用情况

go tool pprof http://localhost:9099/debug/pprof/heap
go tool pprof http://localhost:9099/debug/pprof/block
go tool pprof http://localhost:9099/debug/pprof/mutex

可视化界面使用

在上面的web界面中我们可以看到一行profile文字,点击这个文字可以下载一个profile文件,下载完成之后。我们在这个文件所在目录运行如下命令,有两种方式

go tool pprof profile文件名, 此时会进入一个交互式控制台,输入命令 web会产生一个svg文件,程序回启动浏览器自动打开这个文件,即可进入可视化界面。我们也可以在上面CPU分析中的控制台中以同样的方式进入可视化界面。

go tool pprof -http=:8080 profile文件名 ,此时浏览器会默认打开localhost:8080访问 ,建议使用这种方式,获取更好体验。

如果出现下面错误,你需要安装一个软件Graphviz,安装地址如下,这是一个图形可视化软件,安装完成之后配置环境变量

https://graphviz.gitlab.io/_pages/Download/Download_windows.html

Failed to execute dot. Is Graphviz installed? Error: exec: "dot": executable file not found in %PATH%

如下图,展示CPU的在各个方法上的运行时间,关于图形的说明: 每个框代表一个函数,理论上框的越大表示占用的CPU资源越多。 方框之间的线条代表函数之间的调用关系。 线条上的数字表示cpu执行时间。 方框中的第一行数字表示当前函数占用CPU的百分比,第二行数字表示当前函数累计占用CPU的百分比。

火焰图

使用火焰图需要手动安装Pprof原生工具,这是google提供的一个工具,记住google和Go官方不是一个概念。

go get -u github.com/google/pprof

启动火焰图可视化工具

pprof -http=:8080 profile文件名

访问web地址 localhost:8080,如果上面的命令不加-http=:8080,则默认进入交互式控制台,输入web命令,生成一个文件自动启动浏览器自动打开,火焰图明显比上面Go官方的可视化界面要精致许多。

如何观察下面的火焰图呢?Y轴表示调用栈,每一层都是一个函数,调用栈越深火焰就越高,最底部是正在执行的函数,上面是它的父函数,X轴表示这个函数的抽样数,如果一个函数在X轴占的越宽,代表抽样数越高,执行CPU的时间越长,注意,X轴不代表时间,而是所有的调用栈合并后,按字母顺序排列的.

火焰图就是看顶层的哪个函数占据的宽度最大。只要有"平顶"(plateaus),就表示该函数可能存在性能问题

uber 也开源了一个火焰图工具,github地址如下,教程很多,大家可以了解了解。

github.com/uber/go-torch,

对非web程序的性能分析

截至目前,上面我们都是对一个web应用程序进行性能检测分析,用到的都是http接口形式访问,那么一个非web程序应该监测性能呢?如果你仔细观察你会发现性能分析的本质就是对profile文件进行分析,所以我们需要在一个非web应用程序中生成一个profile文件出来,这样就可以通过go tool pprof工具分析这个文件了

在runtime/pprof 提供了很多方法用来统计程序运行过程中CPU和内存的消耗情况,下面我们一起实践一下。

下面这段代码获取CPU的profile文件,会在当前目录下生成一个cpu.prof文件,之后我们可以通过go tool prof -http=:8080 cpu.prof 这个命令用浏览器来查看cpu的使用情况

func PProfCPUApplication() {
f, _ := os.Create("./cpu.prof")
pprof.StartCPUProfile(f) for i := 1; i < 3000; i++ {
time.Sleep(3 * time.Millisecond)
RandomInt(10, 50)
}
pprof.StopCPUProfile()
f.Close()
}

下面这段代码获取内存的profile文件,会在当前目录下生成一个mem.prof文件,之后我们可以通过go tool prof -http=:8080 mem.prof 这个命令用浏览器来查看内存的使用情况

func PProfMemApplication() {
f, _ := os.Create("./mem.prof")
for i := 1; i < 3000; i++ {
time.Sleep(3 * time.Millisecond)
RandomInt(10, 50)
}
pprof.WriteHeapProfile(f)
f.Close()
}

如何用好Go的测试黑科技一文中也说到可以用go test在测试时使用指定参数生成CPU和内存的profile文件。

go test -bench . -cpuprofile= cpu.prof
go test -bench . -memprofile= mem.prof

对Pprof的简单介绍就到这里了,有关更多PProf的性能分析大家可以更深入的研究,一起交流。

Go性能分析大杀器PPROF的更多相关文章

  1. DSP已经英雄迟暮了吗?FPGA才是未来的大杀器?

          DSP技术,在某些人看来,或者已经面临着英雄迟暮的感觉,就我们当前所知道的.Freesacle.ADI.NXP早就停掉了新技术发展,而当前从大的方面说只剩下TI一家扛着Digital Si ...

  2. 使用docker-compose 大杀器来部署服务 上

    使用docker-compose 大杀器来部署服务 上 我们都听过或者用过 docker,然而使用方式却是仅仅用手动的方式,这样去操作 docker 还是很原始. 好吧,可能在小白的眼中噼里啪啦的对着 ...

  3. 使用docker-compose 大杀器来部署服务 上(转)

    使用docker-compose 大杀器来部署服务 上 我们都听过或者用过 docker,然而使用方式却是仅仅用手动的方式,这样去操作 docker 还是很原始. 好吧,可能在小白的眼中噼里啪啦的对着 ...

  4. [NewLife.XCode]反向工程(自动建表建库大杀器)

    NewLife.XCode是一个有10多年历史的开源数据中间件,支持nfx/netstandard,由新生命团队(2002~2019)开发完成并维护至今,以下简称XCode. 整个系列教程会大量结合示 ...

  5. [转]使用docker-compose 大杀器来部署服务 上

    本文转自:https://www.cnblogs.com/neptunemoon/p/6512121.html 使用docker-compose 大杀器来部署服务 上 我们都听过或者用过 docker ...

  6. 离群点检测与序列数据异常检测以及异常检测大杀器-iForest

    1. 异常检测简介 异常检测,它的任务是发现与大部分其他对象不同的对象,我们称为异常对象.异常检测算法已经广泛应用于电信.互联网和信用卡的诈骗检测.贷款审批.电子商务.网络入侵和天气预报等领域.这些异 ...

  7. 使用docker-compose 大杀器来部署服务

    使用docker-compose 大杀器来部署服务 上 我们都听过或者用过 docker,然而使用方式却是仅仅用手动的方式,这样去操作 docker 还是很原始. 好吧,可能在小白的眼中噼里啪啦的对着 ...

  8. Postgresql-模糊匹配大杀器

    # Postgresql-模糊匹配大杀器 ## 问题背景 随着pg越来越强大,abase目前已经升级到5.0(postgresql10.4),目前abase5.0继承了全文检索插件(zhparser) ...

  9. 一文读懂机器学习大杀器XGBoost原理

    http://blog.itpub.net/31542119/viewspace-2199549/ XGBoost是boosting算法的其中一种.Boosting算法的思想是将许多弱分类器集成在一起 ...

随机推荐

  1. Docker系列三:Dockerfile

    Dockerfile是由一系列命令和参数构成的脚本,这些命令应用于基础镜像并最终创建一个新的镜像 Dockerfile由一行行命令语句组成,支持#开头的注释 Dockerfile分为四部分:基础镜像信 ...

  2. vim模式及基础命令

    VIM基本介绍vi和在修改vim命令是linux中强大的文本编辑器,由于linux系统一切皆文件,而配置一个服务就是在修改其配置文件的参数vim其实是vi的升级版yum install -y vim ...

  3. python学习笔记(18)字典和json 的区别 和转换

    字典和json 的区别 和转换 前言:字典和json非常像.接下来比较一下两者的异同 先看一下字典的写法: a = {'a':'1', 'b':'2', 'c':'3' } 再看一下json的写法: ...

  4. surprise库使用

    自动交叉使用法 #-*- coding:utf-8 -*- from surprise import SVD from surprise import Dataset from surprise.mo ...

  5. 查找openssl内存泄漏(代码)

    #include <stdio.h> #include <string.h> #include <openssl/bio.h> #include <opens ...

  6. Tmux 速成教程:技巧和调整

    本文转自:http://blog.jobbole.com/87584/ 简介 有些开发者经常要使用终端控制台工作,导致最终打开了过多的标签页.如果你也是他们当中的一员,或者你正在实践结对编程,那么我推 ...

  7. 吴裕雄--天生自然HTML学习笔记:HTML 表格

    <!DOCTYPE html> <html> <head> <meta charset="utf-8"> <title> ...

  8. Navicat远程连接服务器Mysql

    使用NAVICAT远程访问MYSQL的步骤 1.修改远程访问权限 //进入MySQL服务器或使用其它工具 xxxx@ubuntu:/$ mysql -h localhost -u root -p xx ...

  9. Hibernate之cascade属性和inverse属性

    1.cascade属性 cascade属性的作用是描述关联对象进行操作时的级联特性,只有涉及关系的元素才有cascade属性.具有cascade属性的标记包括<many-to-one/>. ...

  10. 吴裕雄--天生自然 R语言开发学习:时间序列(续三)

    #-----------------------------------------# # R in Action (2nd ed): Chapter 15 # # Time series # # r ...