转载请说明出处:http://blog.csdn.net/cywosp/article/details/39701245

注:本文涉及到的代码都在centos 6.5 64bit系统上通过验证,Ganglia版本号为3.1。通过yum安装详细步骤请參考:

1. 概述
    Ganglia 项目是由加州大学发起的,如今已经成为一个应用非常广泛集群监控软件。能够监视和显示集群中的节点的各种状态信息,比方如:cpu 、mem、硬盘利用率, I/O负载、网络流量情况等。同一时候能够将历史数据以曲线方式通过php页面呈现。

同一时候具有非常好的扩展性。同意用户增加自己所要监控的状态信息。依据可视化的相关数据,非常easy知道集群的健康状态。而且也能够分析出集群的可优化的地方。


    全部这些数据收集会多次影响节点性能。

网络中的“ 抖动( Jitter ) ” 发生在大量小消息同一时候出现,通过ntp服务将节点的时钟保持一致,就能够避免这个问题。


    Ganglia的工作原理例如以下图
                   
    很多其它关于Ganglia工作原理请參考http://flyerlee.diandian.com/post/2013-06-03/40051002657,本文重点是讲述怎样使用Ganglia提供的Python接口开发自己想要的metric。

2. Ganglia的Metrics
    何为metric。在字典中其翻译为标准,度量之意。在ganglia的Web界面中我们看得最多的是例如以下这些图:
     
这些图还不能算是真正的metric,其仅仅是各个种类的metric的汇总后通过rrdtool画出来的图,便于整体观察。以下这些才是本文要讲述的metric(CPU的metrics):
       
每个小图表代表着cpu相关信息的一个数据类型。这些数据都是通过相应的部署在各个集群节点的程序模块搜集,而这个搜集模块的开发就是本文要重点解说的。

3. 自己定义metrics开发
    向ganglia增加自己定义metric有两种方法,一种是通过命令行的方式执行gmetric,还有一种是通过ganglia提供的面向c和python的扩展模块。增加自己定义的模块支持。

以下使用Python开发一个简单的metric实例:

    在/usr/lib64/ganglia/python_modules/中创建random_number.py并加入例如以下代码
#!/usr/bin/env python
# -*- coding: utf-8 -*-
import random
import time
descriptors = list()
def random_number_1(name):
return int(random.uniform(5, 100)) + 10
def random_number_2(name):
return int(random.randrange(50, 500))
def metric_init(params):
global descriptors
random.seed()
print params
d1 = {
'name': 'random_number_1',
'call_back': random_number_1,
'time_max': 90,
'value_type': 'uint',
'units': 'C',
'slope': 'both',
'format': '%u',
'description': 'Random a number',
'groups': 'example random'
}
d2 = {
'name': 'random_number_2',
'call_back': random_number_2,
'time_max': 90,
'value_type': 'uint',
'units': 'C',
'slope': 'both',
'format': '%u',
'description': 'Random a number',
'groups': 'example random'
}
descriptors = [d1, d2]
return descriptors
def metric_cleanup():
pass #This code is for debugging and unit testing
if __name__ == '__main__':
metric_init({})
while True:
for d in descriptors:
v = d['call_back'](d['name'])
print ('value for %s is '+d['format']) % (d['name'], v)
time.sleep(5)

    在上面的代码中Ganglia执行的时候会调用metric_init和metric_cleanup两个函数,从这两个函数的名字我们就能得知前一个是做初始化工作,后面一个是做结束资源清理工作的。在Ganglia载入相关模块来执行时,仅仅会调用这两个函数。这里的main函数入口仅仅是为了做调试而写在这里的。

    在/etc/ganglia/conf.d/中创建random_number.conf文件,并加入例如以下代码
modules {
  module {
    #这里的name值一定要与/usr/lib64/ganglia/python_modules/random_number.py的文件名称保持一致,否则将无法正确执行
    name = "random_number"
    language = "python"
  }
}

collection_group {
  collect_every = 2
  time_threshold = 90

  metric {
    #这里的name值要与random_number.py中的d1里的name保持一致
    name = "random_number_1"
    title = "random number 1"
    value_threshold = 0
  }

  metric {
    #这里的name值要与random_number.py中的d2里的name保持一致
    name = "random_number_2"
    title = "random number 2"
    value_threshold = 0
  }
}

   配置好文件后重新启动服务
service gmond restart
service gmetad restart
service httpd restart

4. 效果
   在浏览器中输入127.0.0.1/ganglia就可以看到监控效果。假设不出问题,则在Metric下拉框中会有例如以下两个选项:
      
选择当中一项则在当前页面的最下端显演示样例如以下信息:
     
5. 总结
   本文仅仅是讲述了最为简单的Ganglia metric开发,假设想深入了解能够參考Ganglia的官方文档,或者去https://github.com/ganglia上直接查看源代码,当中gmond_python_modules项目里提供了大量常见项目的metrics演示样例。

   Ganglia为集群提供了高可视化的监控,不仅能让运维人员高速的清楚集群当前的状态,并且还能让开发者清楚系统的相关执行状态,从而针对性的做出更好的优化。

每天进步一点点——Ganglia的Python扩展模块开发的更多相关文章

  1. Windows下安装Python扩展模块提示Unable to find vcvarsall.bat的问题

    本文内容 Unable to find vcvarsall.bat的问题描述 问题分析 总结 提示: 如果你只是想知道自己需要安装哪个版本的Visual Studio请直接查看本文最后一个小节的内容. ...

  2. Windows下安装Python扩展模块提示“Unable to find vcvarsall.bat”的问题

    本文内容 Unable to find vcvarsall.bat的问题描述 问题分析 总结 提示: 如果你只是想知道自己需要安装哪个版本的Visual Studio请直接查看本文最后一个小节的内容. ...

  3. 【转】linux和windows下安装python集成开发环境及其python包

    本系列分为两篇: 1.[转]windows和linux中搭建python集成开发环境IDE 2.[转]linux和windows下安装python集成开发环境及其python包 3.windows和l ...

  4. 使用 Python 开始游戏开发

    使用 Python 开始游戏开发 这是一篇由教程团队成员Julian Meyer发表的文章,一个12岁的python开发人员.你可以在Google+和Twitter上找到他. 你可曾想过如何创建视频游 ...

  5. Java Web开发和Python Web开发之间的区别

    今天的文章讨论了Java Web开发和Python Web开发之间的区别.我不鼓励我们在这里从Java Web迁移到Python Web开发.我只是想谈谈我的感受.它不一定适合所有情况,仅供我们参考. ...

  6. Python Web开发中的WSGI协议简介

    在Python Web开发中,我们一般使用Flask.Django等web框架来开发应用程序,生产环境中将应用部署到Apache.Nginx等web服务器时,还需要uWSGI或者Gunicorn.一个 ...

  7. 《Python测试开发技术栈—巴哥职场进化记》—前言

    写在前面 今年从4月份开始写一本讲Python测试开发技术栈的书,主要有两个目的,第一是将自己掌握的一些内容分享给大家,第二是希望自己能系统的梳理和学习Python相关的技术栈.当时我本来打算以故事体 ...

  8. Redis的Python实践,以及四中常用应用场景详解——学习董伟明老师的《Python Web开发实践》

    首先,简单介绍:Redis是一个基于内存的键值对存储系统,常用作数据库.缓存和消息代理. 支持:字符串,字典,列表,集合,有序集合,位图(bitmaps),地理位置,HyperLogLog等多种数据结 ...

  9. windows和linux中搭建python集成开发环境IDE——如何设置多个python环境

    本系列分为两篇: 1.[转]windows和linux中搭建python集成开发环境IDE 2.[转]linux和windows下安装python集成开发环境及其python包 3.windows和l ...

随机推荐

  1. Error attempting to get column 'xxx' from result set. Cause: java.sql.SQLException: 无法转换为内部表示

    因为<resultMap>中映射的实体类属性类型与数据库字段类型不一致造成的.

  2. [转]servlet配置中init-param

    需要初始化的参数比如你的servlet里面有个属性为int total=0默认是0,你想让他初始时50则用init-param 给他赋值 init-param面对应的参数名和值,是给servlet在初 ...

  3. Educational Codeforces Round 6 D. Professor GukiZ and Two Arrays 二分

    D. Professor GukiZ and Two Arrays 题目连接: http://www.codeforces.com/contest/620/problem/D Description ...

  4. spring boot application.properties乱码问题

    1. 在application.properties 中增加 spring.http.encoding.force=true spring.http.encoding.charset=UTF- spr ...

  5. Trie 图

    时间限制:20000ms 单点时限:1000ms 内存限制:512MB 描述 前情回顾 上回说到,小Hi和小Ho接受到了河蟹先生伟大而光荣的任务:河蟹先生将要给与他们一篇从互联网上收集来的文章,和一本 ...

  6. dns问题,QQ打得开,网页打不开

    dns问题,QQ打得开,网页打不开 ip4 dns 改为114.114.114.114. 原因有可能是路由出错之类的.114是默认的通用ip

  7. Linux系统/etc/sysconfig目录下没有iptables文件

    在新安装的linux系统中,防火墙默认是被禁掉的,一般也没有配置过任何防火墙的策略,所有不存在/etc/sysconfig/iptables文件. 解决办法: 1.键入以下命令,新建文件 2.复制以下 ...

  8. 未能加载文件或程序集“System.Web.Razor 2.0.0 or system.web.webpages.razor 2.0.0

    出现这种问题,有两种情况: 一.bin目录下没有相应的dll,可以将相应dll拷贝至bin目录或者设置相关dll的属性“复制到本地”:true 二.如果是高于Visual Studio2013版本的开 ...

  9. synchronized 线程同步

    synchronized  通常用来形容一次方法的调用,调用一旦开始,调用者必须等到方法调用返回后,才能继续执行后续的操作. 1.demo package demo1; public class My ...

  10. C语言大总结

    C语言大总结 一. C语言基本常识 1.语言由函数组成 2.main是程序入口 3.C语言中不能出现中文或中文字符 (凝视和字符串除外) keyword : C语言提供表示特殊含义的单词 特点 : 1 ...