一.Prometheus介绍之前已经详细介绍了Kubernetes集群部署篇,今天这里重点说下Kubernetes监控方案-Prometheus+Grafana.Prometheus(普罗米修斯)是一个开源系统监控和警报工具,最初是在SoundCloud建立的.自2012年成立以来,许多公司和组织都采用了普罗米修斯,该项目拥有一个非常活跃的开发者和用户社区.它现在是一个独立的开放源码项目,并且独立于任何公司,为了强调该点并澄清项目的治理结构,Prometheus在2016年加入了云计算基金会,成…
1.概述 本文档主要介绍如何在k8s集群中部署prometheus server用来作为监控的数据采集服务器,这样做可以很方便的对k8s集群中的指标.pod的.节点的指标进行采集和监控. 2.下载镜像并且上传到本地的habor 可以先将prometheus server的镜像下载并且导入到本地的镜像仓库中. 镜像版本信息 docker pull prom/prometheus:v2.33.1 3.节点添加标签 为了保证prometheus的数据可以在重启或者重新调度之后依然在一个主机上,可以考虑…
11月4日,在腾讯数字生态大会上,腾讯宣布了云原生领域一项重磅开源进展-- K8s 多集群管理项目 Clusternet 正式开源. Clusternet 由腾讯联合多点生活.QQ音乐.富途证券.微众银行.酷狗音乐.三七互娱等共同发起,专注 K8s 多集群管理和应用治理方向,希望让管理多集群就像上网一样简单. 作为未来分布式云的技术基石,Clusternet 通过组件化方式扩展 K8s,将 K8s 强大的集群.应用和服务能力扩展至分布式云,能够兼容所有 K8s 生态资源和软件,帮助企业应用零成本…
记录了Spark,Hadoop集群的开启,关闭,以及Spark应用提交到Hadoop集群的过程,通过web端监控运行状态. 1.绝对路径开启集群 (每次集群重启,默认配置的hadoop集群中tmp文件被清空所以需要重新format) 我的集群安装位置是/opt/hadoop下,可以根据自己路径修改. /opt/hadoop/bin/hdfs namenode -format /opt/hadoop/sbin/start-all.sh /opt/spark/sbin/start-all.sh 使用…
      前天有个同事说有套AIX RAC的其中一台服务器重启了操作系统以后,集群资源CSSD的资源一直都在START的状态,检查日志输出有如下内容: [    CSSD][1286]clssnmvDiskVerify: Successful discovery of 0 disks [    CSSD][1286]clssnmCompleteInitVFDiscovery: Completing initial voting file discovery [    CSSD][1286]cl…
Docker最核心的特性之一,就是能够将任何应用包括Hadoop打包到Docker镜像中.这篇教程介绍了利用Docker在单机上快速搭建多节点 Hadoop集群的详细步骤.作者在发现目前的Hadoop on Docker项目所存在的问题之后,开发了接近最小化的Hadoop镜像,并且支持快速搭建任意节点数的Hadoop集群. 一. 项目简介 GitHub: kiwanlau/hadoop-cluster-docker 直接用机器搭建Hadoop集群是一个相当痛苦的过程,尤其对初学者来说.他们还没开…
cockroachdb 官方提供的是一个直接使用docker 运行的方式,但是使用docker-compose 会比较方便,可以快速搭建一个集群 同时官方也提供了prometheus 的metrics,我们可以快速的通过grafana 提供一个dashboard docker-compose 运行 docker-compose 文件   version: "3" services: grafana: image: grafana/grafana ports: - "3000:…
前提 zookeeper安装参考:https://www.cnblogs.com/JustinLau/p/11372782.html 其他安装参考:https://www.cnblogs.com/luotianshuai/p/5206662.html 安装Kafka前需要先安装zookeeper集群,集体安装方法请参照我的另一篇文档.Kafka安装下载 wget https://archive.apache.org/dist/kafka/0.8.0/kafka_2.8.0-0.8.0.tar.g…
1 在虚拟机安装 Ubuntu 2 安装网络工具 Ubuntu最小化安装没有 ifconfig命令 sudo apt-get install net-tools 3 Ubuntu修改网卡名字 修改网卡名字为eth0 sudo vim /etc/network/interfaces reboot 4 修改主机名 sudo vim /etc/hosts 最后还要分别修改  /etc/hostname reboot 5 修改IP地址 在虚拟机的虚拟机编辑选项->虚拟网络网络编辑器->nat模式-&g…
AlertManager下载 https://prometheus.io/download/ 解压 添加配置文件test.yml,配置收发邮件邮箱 Prometheus下载配置参考我的另一篇: https://www.cnblogs.com/caizhenghui/p/9132414.html 参考配置: global: smtp_smarthost: 'smtp.163.com:25' #163服务器 smtp_from: 'XXX@163.com' #发邮件的邮箱 smtp_auth_use…