一步步教你用Prometheus搭建实时监控系统系列(二)——详细分析拉取和推送两种不同模式
前言
本系列着重介绍Prometheus
以及如何用它和其周边的生态来搭建一套属于自己的实时监控告警平台。
本系列受众对象为初次接触Prometheus
的用户,大神勿喷,偏重于操作和实战,但是重要的概念也会精炼出提及下。系列主要分为以下几块
Prometheus
各个概念介绍和搭建,如何抓取数据- 如何推送数据至
Prometheus
,推送和拉取分别用于什么样的场景(本次分享内容) Prometheus
数据的结构以及查询语言PromQL
的使用- Java应用如何和
Prometheus
集成,如何启用服务发现,如果自定义业务指标 Prometheus
如何和Grafana
可视化套件进行集成和设置告警- 教你如何手写一个集成了监控Dubbo各个指标的java套件
- 实际案例分享,如何做各个业务端和系统端的监控大盘
抓取和推送
拉取模式:
Prometheus
获取数据的方式只有拉取(PULL),即Prometheus
会以固定频率去请求每个target
所提供的http url
来获取数据。这就需要每个服务端点提供http
的接口来获取实时的数据。
推送模式:
Prometheus
也变相的实现了推送数据的方式。
为什么说是变相呢。因为Prometheus
获取数据的方式一直是拉取方式,官方并没有提供推送数据的功能。但是官方为了兼容推送这种方式,增加了一个PushGateway
组件。
这个组件相当于一个代理服务,独立部署。它没有数据抓取功能,只能被动的等待数据推送。应用把数据推送到PushGateway
后,Prometheus
再从PushGateway
抓取。
推送模式要注意的点
即便客户端推了全量的数据到了PushGateway
,Prometheus
也不是每次拉取这个期间用户推上来的所有数据。
事实上Prometheus
只拉取用户最后一次push上来的数据。
在这个系列一的时候,曾经提到过Prometheus
其实并不需要每一个精确的数据,长期保存的是中等或者低精度的数据。它每次只抓取一个数据,在固定的频率下。也能形成某种数据的趋势。
如果客户端一直没有推送新的指标到PushGateway
,那么Prometheus
将始终拉取最后推送上的数据,直到指标消失,默认是5分钟。
Pushgateway
本意是不会存储指标的,但是为了让pushgateway
意外重启一类的故障之后能够重新读取到原来的指标,添加了一个将指标暂时存储到本地的功能,参数--persistence.interval=5m
就是默认保持5分钟,5分钟后,本地存储的指标会删除。可以通过调节这个值来修正发现异常的时间。
通过单个Pushgateway
监控多个实例时,Pushgateway
有可能成为单点故障和潜在瓶颈
如果要用Pushgateway
的话,建议多点部署。然后前面通过nginx
进行反向代理多个节点,进行负载均衡。
推送模式适用的场景
Prometheus
采用定时拉取模式,可能由于子网络或者防火墙的原因,不能直接拉取各个Target
的指标数据,此时可以采用各个Target
往PushGateway
上推送数据,然后Prometheus
去PushGateway
上定时拉取- 在监控各个业务数据时,需要将各个不同的业务数据进行统一汇总,此时也可以采用
PushGateway
来统一收集,然后Prometheus
来统一拉取
搭建
Pushgateway
分docker
安装和普通安装两种,这里才用普通安装
先上prometheus
的github release主页
按照需要下载对应的包,我这里是需要部署在linux服务器上,所以下载这个
下载好,解压。运行:
nohup ./pushgateway &
启动起来后,默认端口为9091
在浏览器上根据ip+port可以访问到如下页面,就算启动成功了:
除此之外还要在Prometheus
的配置文件里设置Target
:
- job_name: 'pushgateway'
scrape_interval: 10s # 每过10秒拉取一次
honor_labels: true
static_configs:
- targets: ['localhost:9091']
labels:
instance: pushgateway
设置完毕后重启Prometheus
,然后会在Target
选项卡里看到状态为UP
的Pushgateway
。
设置阶段就完成了。
URL推送测试
我这里用postman
软件进行推送测试,推送url
的格式为:/metrics/job/<JOBNAME>{/<LABEL_NAME>/<LABEL_VALUE>}
这个测试用例为意思是,推送一个指标aaa,标签为bbb=BBB,ccc=CCC
,值为111.1到一个组上,这个组为job=pushgateway,instance=demo
。
其实你可以简单的理解为这个指标aaa带有4个标签:job,instance,bbb,ccc。只是job和instance是属于组上的标签。
同一个组里的相同的指标,Prometheus
每次只取最新的,不同组内可以有相同的指标。
关于数据结构和标签结构系列的下一篇文章会详细介绍。
总之,你提交这个POST
请求后,可以在http://ip:9091
上看到如下数据:
可以看到,aaa这个标签已经成功的被提交到Pushgateway
里了。
接下来,我们在Prometheus
里查询这个指标:
可以看到,Prometheus
也成功的拉取到了这个指标。
Java端利用SDK进行推送
虽然我们在java服务端也能利用httpclient
等工具进行提交,但是需要自行组装很多请求体。Prometheus
官方提供了一个SDK。
首先在Maven
中引入依赖包:
<dependency>
<groupId>io.prometheus</groupId>
<artifactId>simpleclient_pushgateway</artifactId>
<version>0.9.0</version>
</dependency>
对Gauge
,Timer
,Counter
,Summary
四种常见的指标进行推送示例:
public void run(String... args) throws Exception {
Gauge guage = Gauge.build("my_custom_metric", "This is my custom metric.")
.labelNames("aaa","bbb").register();
Gauge.Child child = guage.labels("AAA","BBB");
child.set(334.5);
Gauge timerGauge = Gauge.build("my_timer_metric","this is my timer metric.").register();
Gauge.Timer timer = timerGauge.startTimer();
Thread.sleep(3000L);
Counter counter = Counter.build("my_count_metric","this is my count metric.").register();
counter.inc();
counter.inc();
Summary summary = Summary.build("my_summary_metric","this is my summary metric.").register();
summary.observe(45.6);
summary.observe(54.5);
String url = "xxx.xxx.xxx.xxx:9091";
PushGateway pg = new PushGateway(url);
Map<String, String> groupingKey = new HashMap<>();
groupingKey.put("instance", "my_instance");
pg.pushAdd(CollectorRegistry.defaultRegistry, "my_job", groupingKey);
}
这段代码演示了4个指标批量提交的场景。通过注册到CollectorRegistry.defaultRegistry
里,最后一起pushAdd
。
我们可以在Pushgateway
里查询到提交的指标:
同样在Prometheus
里也能查询到这4个指标,具体图示就不贴了。可以自己尝试下。
最后
这个系列旨在利用实战操作教你一步步搭建自己系统和业务监控大盘。后面会继续更新。下一个章节将分析:Prometheus
中的数据格式分析以及PromQL
的使用。
关注作者
如果你喜欢作者的文章,欢迎微信公众号关注 「元人部落」,一个只做原创的技术科技分享号
关注后回复“资料”获取50G的技术资料
一步步教你用Prometheus搭建实时监控系统系列(二)——详细分析拉取和推送两种不同模式的更多相关文章
- 一步步教你用Prometheus搭建实时监控系统系列(一)——上帝之火,普罗米修斯的崛起
上帝之火 本系列讲述的是开源实时监控告警解决方案Prometheus,这个单词很牛逼.每次我都能联想到带来上帝之火的希腊之神,普罗米修斯.而这个开源的logo也是火,个人挺喜欢这个logo的设计. 本 ...
- Telegraf+InfluxDB+Grafana快速搭建实时监控系统 监控postgresql
Telegraf+InfluxDB+Grafana快速搭建实时监控系统 监控postgresql
- 搭建前端监控系统(二)JS错误监控篇
===================================================================== 前端性能监控系统: DEMO地址 GIT代码仓库地址 ...
- 搭建前端监控系统(三)NodeJs服务器部署篇
===================================================================== 监控系统预览地址: DEMO地址 GIT代码仓库地址 ...
- 从零开始搭建前端监控系统(三)——实现控制iframe前进后退
前言 本系列文章旨在讲解如何从零开始搭建前端监控系统. 项目已经开源 项目地址: https://github.com/bombayjs/bombayjs (web sdk) https://gith ...
- 转: 透过CAT,来看分布式实时监控系统的设计与实现
评注: 开源的分布式监控系统 转:http://www.infoq.com/cn/articles/distributed-real-time-monitoring-and-control-syste ...
- 搭建前端监控系统(四)Js截图上报篇
===================================================================== 前端监控系统: DEMO地址 GIT代码仓库地址 ==== ...
- 透过CAT,来看分布式实时监控系统的设计与实现
2011年底,我加入大众点评网,出于很偶然的机会,决定开发CAT,为各个业务线打造分布式实时监控系统,CAT的核心概念源自eBay闭源系统CAL----eBay的几大法宝之一. 在当今互联网时代,业务 ...
- 搭建前端监控系统(六)JS截屏和录屏篇
怎样定位前端线上问题,一直以来,都是很头疼的问题,因为它发生于用户的一系列操作之后.错误的原因可能源于机型,网络环境,接口请求,复杂的操作行为等等,在我们想要去解决的时候很难复现出来,自然也就无法解决 ...
随机推荐
- 【部分】ASP.NET MVC的Controller接收输入详解
原文:https://blog.csdn.net/lxrj2008/article/details/79455360 ASP.NET mvc的Controller要正确的响应用户发出的请求就要获取到用 ...
- Java 线程基础,从这篇开始
线程作为操作系统中最少调度单位,在当前系统的运行环境中,一般都拥有多核处理器,为了更好的充分利用 CPU,掌握其正确使用方式,能更高效的使程序运行.同时,在 Java 面试中,也是极其重要的一个模块. ...
- nginx使用热部署添加新模块
简介 当初次编译安装nginx时,http_ssl_module 模块默认是不编译进nginx的二进制文件当中,如果需要添加 ssl 证书.也就是使用 https协议.那么则需要添加 http_ssl ...
- C#数据结构与算法系列(二十一):希尔排序算法(ShellSort)
1.介绍 希尔排序是希尔(Donald Shell)于1959年提出的一种排序算法.希尔排序也是一种插入排序,它是简单插入排序经过改进之后的一个更高效的版本,也称为缩小增量排序. 2.基本思想 希尔排 ...
- css input checkbox复选框控件 样式美化的多种方案
checkbox复选框可能是网站中常用的html元素,但大多数人并不满意它的默认样式,这篇文章就讲讲如何实现input checkbox复选框控件 样式美化效果. 资源网站大全 https://55w ...
- CSS3样式_实现字体发光效果
text-shadow 属性仅仅是用来设置文本阴影的,似乎并不能实现字体发光效果.其实不然,这正是 text-shadow 属性的精妙之处.当阴影的水平偏移量和垂直偏移量都为0时,阴影就和文本重合了. ...
- 多种CSS变量技术 带入进入老司机行业
CSS 变量技术 具体用法 使用 -- 声明变量,使用 var() 函数获取变量. :root{ --header-height: 70px; } body { --color: white; } . ...
- linux新用户(组)的那些事
linux新用户(组)的那些事 创建新用户 groupadd bigdata //添加新用户组bigdata useradd -g bigdata es //-g:为用户组添加新用户 passwd ...
- P1220 关路灯——区间dp
P1220 关路灯 题目描述 某一村庄在一条路线上安装了 \(n\) 盏路灯,每盏灯的功率有大有小(即同一段时间内消耗的电量有多有少).老张就住在这条路中间某一路灯旁,他有一项工作就是每天早上天亮时一 ...
- sql语句-如何在SQL以一个表中的数据为条件据查询另一个表中的数据
select *from 表2where 姓名 in (select 姓名from 表1where 条件) 这个就是用一个表的查询结果当作条件去查询另一个表的数据