Docker从狭义上来讲就是一个进程,从广义上来讲是一个虚拟容器,专业叫法为 Application Container(应用容器).Docker进程和普通的进程没有任何区别,它就是一个普通的应用进程,不过是用来操作镜像文件的.所以Docker进程+构建的应用镜像文件就等于Docker容器.作为时下最热门的技术,docker轻量.便捷,极大的简化了后端开发/后期运维工作.同时,ELK+Filebeat的集中式日志解决方案也是大热.开发环境,Ubuntu 16.04 1.Docker安装 1.校验

Docker部署Hadoop集群 2016-09-27 杜亦舒 前几天写了文章"Hadoop 集群搭建"之后,一个朋友留言说希望介绍下如何使用Docker部署,这个建议很好,Docker不仅在生产环境威力巨大,对于我们在自己电脑中搭建学习实验环境更是非常便利 搭建一个集群环境时需要多台服务器,对于我们个人,这通常是个门槛,需要使用虚拟机,安装操作系统,然后运行起来多个虚机 安装操作系统是个不太轻松的任务,并且运行多个虚机对个人电脑性能也有一定要求,这些门槛影响了很多小伙伴的实践积极性

http://blog.sina.com.cn/s/blog_8ea8e9d50102wwik.html Docker部署Elasticsearch集群 参考文档: https://hub.docker.com/r/library/elasticsearch/ https://hub.tenxcloud.com/repos/tenxcloud/elasticsearch https://hub.alauda.cn/repos/library/elasticsearch       环境: Cen

基于Docker部署ETCD集群 关于ETCD要不要使用TLS? 首先TLS的目的是为了鉴权为了防止别人任意的连接上你的etcd集群.其实意思就是说如果你要放到公网上的ETCD集群,并开放端口,我建议你一定要用TLS.如果你的ETCD集群跑在一个内网环境比如(VPC环境),而且你也不会开放ETCD端口,你的ETCD跑在防火墙之后,一个安全的局域网中,那么你用不用TLS,都行. 优化参数 --auto-compaction-retention 由于ETCD数据存储多版本数据,随着写入的主键增加历史

本文介绍在单机上通过docker部署zookeeper集群和kafka集群的可操作方案. 0.准备工作 创建zk目录,在该目录下创建生成zookeeper集群和kafka集群的yml文件,以及用于在该目录下挂载zookeeper和kafka的主要目录. 1.创建docker网络,用于zookeeper和kafka互联 docker network create --driver bridge --subnet 172.168.0.0/16 --gateway 172.168.0.1 zk_net

ELK部署 部署ElasticSearch集群 1.拉取镜像及批量生成配置文件 # 拉取镜像 [root@VM-24-9-centos ~]# docker pull elasticsearch:7.14.2 # 生成配置文件及目录 for port in $(seq 1 4); \ do \ mkdir -p /data/elk/es/node-${port}/conf mkdir -p /data/elk/es/node-${port}/data mkdir -p /data/elk/es/

概述 本文重点介绍的Docker的使用,以及如何部署RabbitMQ集群,最基础的Docker安装,本文不做过多的描述,读者可以自行度娘. Windows10上Docker的安装 因为本人用的是Windows系统,所有推荐一个不错的安装文章,详见:https://blog.csdn.net/xiaoping0915/article/details/75094857 注意:设置阿里云Docker Hub加速,配置Registry mirrors地址"https://j0andt2p.mirror.

服务介绍 Consul是一种分布式.高可用.支持水平扩展的服务注册与发现工具.包含的特性有:服务发现.健康检查.键值存储.多数据中心和服务管理页面等. 官方架构设计图: 图中包含两个Consul数据中心(即两个Consul集群).数据中心1由多个SERVER和CLIENT组成,数据中心2由多个CLIENT组成.对于Consul集群而言,SERVER或CLIENT都是集群的一个节点,服务可注册到任意节点上,从而实现注册信息共享. # CLIENT 表示consul的client模式,所有注册到当前

下载RabbitMQ镜像 镜像地址RabbitMQ Docker官方认证镜像地址:https://hub.docker.com/_/rabbitmq 安装命令安装之前,切记把Docker Hub设置为阿里云的加速,方便安装. docker pull rabbitmq:-management 注意使用后缀为"-management"的镜像版本,是包含网页控制台的. 查看安装 使用命令:docker images查看下载的镜像,如下图所示: 启动RabbitMQ docker run -d

单机ELK,另外两台服务器分别有一个elasticsearch节点,这样形成一个3节点的ES集群. 可以先尝试单独搭建es集群或单机ELK https://www.cnblogs.com/lz0925/p/12018209.html // 单机ELK https://www.cnblogs.com/lz0925/p/12011026.html // 三节点es集群 注意点 服务器内存:要求不低于8G,如果4G,没有跑其他程序的话,应该也可以,低于4G基本不用考虑. 我的系统:阿里云centOS7

最近要在公司里搭建一个hadoop测试集群,于是采用docker来快速部署hadoop集群. 0. 写在前面 网上也已经有很多教程了,但是其中都有不少坑,在此记录一下自己安装的过程. 目标:使用docker搭建一个一主两从三台机器的hadoop2.7.7版本的集群 准备: 首先要有一台内存8G以上的centos7机器,我用的是阿里云主机. 其次将jdk和hadoop包上传到服务器中. 我安装的是hadoop2.7.7.包给大家准备好了,链接:https://pan.baidu.com/s/15n

部署Broketrmq集群 通过docker-compose形式部署 首先创建 broker 配置文件,配置文件如下: brokerClusterName = DefaultCluster #集群名 brokerName = broker-a #node名,集群内唯一 brokerId = 0 #配置节点是主还是从,0为主,1为从 deleteWhen = 04 fileReservedTime = 48 brokerRole = ASYNC_MASTER flushDiskType = SYN

一.介绍 总共4台机器,分别为 192.168.1.99 192.168.1.100 192.168.1.210 192.168.1.211 服务所在机器为: redis:192.168.1.211 logstash: 192.168.210 192.168.1.211 elasticsearch: 分别布置在四台(211不为主.不存储数据) kibana:192.168.1.211 nginx:192.168.1.211 二.elk集群架构图 三.为每一个软件或集群创建一个单独的角色. cd

docker版本:18.09.6 或以上 rabbitmq镜像版本:rabbitmq:3.9.5-management 一.拉镜像: docker pull rabbitmq:3.9.5-management 二.查看镜像erlang cookie: docker run --rm rabbitmq:3.9.5-management ctrl - c 结束运行(自动删除容器,不用关心这个临时容器)   三.输出的日志中找到"cookie hash": sFDpr2/hTjqLDpdtO

graylog 相比elk 有比较简单的方面,使用简单,配置简单,可视化工具是一体化的,比较方便 搭建使用docker,多主机部分,结合docker-compose 进行管理 具体docker 配置文件参考 http://docs.graylog.org/en/latest/pages/installation/docker.html 参考架构图 部署说明 mongodb 是复制集,对于es 是1master多data node graylog 使用master node 模型(容器部署使用网络

一 环境准备 ntp配置:略 #建议配置ntp服务,保证时间一致性 etcd版本:v3.3.9 防火墙及SELinux:关闭防火墙和SELinux 名称 地址 主机名 备注 etcd1 172.24.8.71 etcd1.example.com   etcd2 172.24.8.72 etcd2.example.com   etcd3 172.24.8.73 etcd3.example.com   # hostnamectl set-hostname etcd1.example.com # ho

目录 一.首先配置redis.conf文件,... 1 1.获取配置文件... 1 2.修改各配置文件的参数... 2 二.下载redis镜像.启动容器... 2 1.创建网络... 2 2.拉取镜像并启动容器... 2 三.设置redis集群... 3 1.安装ruby. 3 2.安装redis-cluster的ruby接口,并启动集群... 3 3.测试... 3 redis集群的安装:版本至少是3.2.8及其以上,这里以3.2.8版本为例说明 本次在本地主机启动6个redis容器,相当于6

ceph集群docker部署 通过docker可以快速部署小规模Ceph集群的流程,可用于开发测试. 以下的安装流程是通过linux shell来执行的:假设你只有一台机器,装了linux(如Ubuntu)系统和docker环境,那么可以参考以下步骤安装Ceph: # 要用root用户创建, 或有sudo权限 # 注: 建议使用这个docker镜像源:https://registry.docker-cn.com # 1. 修改docker镜像源 cat > /etc/docker/daemon.

前言 本篇文章主要介绍在两台机器上使用 Docker 搭建 ELK. 正文 环境 CentOS 7.7 系统 Docker version 19.03.8 docker-compose version 1.23.2 系统设置 vim 编辑 /etc/security/limits.conf,在末尾加上: * soft nofile 65536 * hard nofile 65536 * soft nproc 4096 * hard nproc 4096 vim 编辑 /etc/sysctl.co

此处采用docker-compose部署 rockermq主主集群模式 创建相关文件夹 此处创建的文件一一对应docker-compose.yml文件中的映射文件夹,酌情创建,主要需要创建配置文件夹. cd /opt mkdir rockermq && cd rockermq mkdir -p /home/rocketmq/broker-b && mdkir -p /home/rocketmq/broker-b 创建配置文件 注意:此处创建broker配置文件,不配置无法启

利用docker可以很方便的在一台机子上搭建kafka集群并进行测试.为了简化配置流程,采用docker-compose进行进行搭建. kafka搭建过程如下: 编写docker-compose.yml文件,内容如下: version: '3.3' services: zookeeper: image: wurstmeister/zookeeper ports: - 2181:2181 container_name: zookeeper networks: default: ipv4_addre