zookeeper集群及kafka集群搭建
1.zookeeper集群搭建
1.1 上传安装包
官网推荐至少3个节点,我们这里也用三个节点192.169.2.18 192.169.1.82 192.169.1.95
准备好安装包,zookeeper的默认端口为2181
将安装包分别上传到3个节点的指定目录中 这里以/home/admin作为说明
运行命令 tar -zxvf apache-zookeeper-3.7.0-bin.tar.gz
然后进入到 解压后的目录 目录结构如图
1.2 编辑配置文件
进到conf 目录下 运行 cp zoo_sample.cfg zoo.cfg 如图
运行 vi zoo.cfg 修改如图
然后保存
说明一下
dataDir是存储内存中数据库快照的位置,除非另有说明,否则指向数据库更新的事务日志。注意:应该谨慎的选择日志存放的位置,使用专用的日志存储设备能够大大提高系统的性能,如果将日志存储在比较繁忙的存储设备上,那么将会很大程度上影像系统性能
2888是集群的通信端口 3888是集群的选举端口
1.3创建 myid文件
在上一步的 dataDir指定的目录下 创建 myid文件 然后写入指定的数字
数字是对应配置文件中的server.0 server.1 server.2
server.0的ip是192.169.1.95,那么在 192.169.1.95机器上的dataDir指定的目录下创建myid文件 写入0 保存 依次类推 server.1 写入1 server.2写入2
1.4启动zookeeper集群
运行bin目录下的sh bin/zkServer.sh start 启动zookeeper
每个节点都要运行
然后运行 sh bin/zkServer.sh status 查询节点状态如图 三个节点的状态如图
出现如图代表集群搭建成功 mode:follower代表从节点 mode:leader代表主节点
1.5命令补充
sh bin/zkServer.sh stop 停止命令
sh bin/zkServer.sh restart 重启命令
2.Kafka集群搭建
2.1 上传安装包
官网推荐3个节点, 我们这里也用三个节点192.169.2.18 192.169.1.82 192.169.1.95
准备好安装包, 默认端口是9092
上传到服务器的指定目录,以/home/admin做为说明
运行命令 tar -zxvf kafka_2.12-2.8.0.tgz 解压后的目录结构为
2.2 编辑配置文件
编辑config目录下的server.properties vi config/server.properties
然后保存配置文件,每个节点的配置文件都要修改
2.3启动kafka集群
在每个节点 运行命令 sh bin/kafka-server-start.sh -daemon config/server.properties
会在kafka的解压目录出现logs的目录 tail -f logs/server.log
出现这个即为启动成功
运行下面的查看topic详情的命令 有出现信息即可 kafka集群搭建完成
2.4命令补充
停止命令 sh bin/kafka-server-stop.sh
查看topic详情 sh bin/kafka-topics.sh --describe --zookeeper ip:port,ip:port,ip:port
zookeeper集群及kafka集群搭建的更多相关文章
- Docker部署zookeeper集群和kafka集群,实现互联
本文介绍在单机上通过docker部署zookeeper集群和kafka集群的可操作方案. 0.准备工作 创建zk目录,在该目录下创建生成zookeeper集群和kafka集群的yml文件,以及用于在该 ...
- docker 搭建zookeeper集群和kafka集群
docker 搭建zookeeper集群 安装docker-compose容器编排工具 Compose介绍 Docker Compose 是 Docker 官方编排(Orchestration)项目之 ...
- 【拆分版】Docker-compose构建Zookeeper集群管理Kafka集群
写在前边 在搭建Logstash多节点之前,想到就算先搭好Logstash启动会因为日志无法连接到Kafka Brokers而无限重试,所以这里先构建下Zookeeper集群管理的Kafka集群. 众 ...
- docker-compose部署zk集群、kafka集群以及kafka-manager,及其遇到的问题和解决
zk集群docker-compose.yml 1.新建网络 docker network create --driver bridge --subnet --gateway 172.23.0.1 zo ...
- zoookeeper集群和kafka集群启动快速启动脚本
kafka.sh port=9092 # 根据端口号去查询对应的PID pid=$(netstat -nlp | grep :$port | awk '{print $7}' | awk -F&quo ...
- docker容器中搭建kafka集群环境
Kafka集群管理.状态保存是通过zookeeper实现,所以先要搭建zookeeper集群 zookeeper集群搭建 一.软件环境: zookeeper集群需要超过半数的的node存活才能对外服务 ...
- 【Kafka】Kafka集群环境搭建
目录 一.初始环境准备 二.下载安装包并上传解压 三.修改配置文件 四.启动ZooKeeper 五.启动Kafka集群 一.初始环境准备 必须安装了JDK和ZooKeeper,并保证Zookeeper ...
- 数据源管理 | Kafka集群环境搭建,消息存储机制详解
本文源码:GitHub·点这里 || GitEE·点这里 一.Kafka集群环境 1.环境版本 版本:kafka2.11,zookeeper3.4 注意:这里zookeeper3.4也是基于集群模式部 ...
- 在kubernetes上部署zookeeper,kafka集群
本文采用网上镜像:mirrorgooglecontainers/kubernetes-zookeeper:1.0-3.4.10 准备共享存储:nfs,glusterfs,seaweed或其他,并在no ...
随机推荐
- Java容器 | 基于源码分析List集合体系
一.容器之List集合 List集合体系应该是日常开发中最常用的API,而且通常是作为面试压轴问题(JVM.集合.并发),集合这块代码的整体设计也是融合很多编程思想,对于程序员来说具有很高的参考和借鉴 ...
- Jsp授课
2.1 JSP基础 2.1.1 JSP简介 JSP全称是Java Server Page,是一种动态网页技术标准.它和Servlet一样,也是sun公司推出的一套开发动态web资源的技术,称为JSP/ ...
- iUploader 2.0 七牛云上传工具
iUploader 软件介绍: iUploader主要功能将文件上传至七牛云,返回 Markdown 格式的链接到剪贴板 功能介绍: 图片本地压缩 图片右键上传 图片截取上传 图片复制上传 图片拖拽上 ...
- Linux系统(控制节点)部署环境
环境部署 重点说明:安装ansible时去控制Windows机器,由于需要在Linux系统上安装pywinrm插件,而使用yum安装锝ansible是无法调用pywinrm插件,所以整体使用pip工具 ...
- 007.Ansible变量Fact,魔法变量和lookup生成变量
一 fact变量 1.1 fact简介 ansible有一个模块叫setup,用于获取远程主机的相关信息,并可以将这些信息作为变量在playbook里进行调用.而setup模块获取这些信息的方法就是 ...
- python基础之流程控制(if判断和while、for循环)
程序执行有三种方式:顺序执行.选择执行.循环执行 一.if条件判断 1.语句 (1)简单的 if 语句 (2)if-else 语句 (3)if-elif-else 结构 (4)使用多个 elif 代码 ...
- Spring 是什么?
概述 Spring 是最受欢迎的企业级 Java 应用程序开发框架,数以百万的来自世界各地的开发人员使用 Spring 框架来创建性能好.易于测试.可重用的代码. Spring 框架是一个开源的 Ja ...
- libevent中的事件机制
libevent是事件驱动的网络库,事件驱动是他的核心,所以理解事件驱动对于理解整个网络库有很重要的意义. 本着从简入繁,今天分析下单线程最简单的事件触发.通过sample下的event- ...
- 使用shell脚本循环处理文本
公司是使用puppet来进行配置管理, 某天修改完puppet后领导回复: 我们有一个文档cabinet.txt记录了物理机器所在的机柜, 除了文档里的其他机器都是虚拟机或云服务器, 对虚拟机的pup ...
- 多目标跟踪:CVPR2019论文阅读
多目标跟踪:CVPR2019论文阅读 Robust Multi-Modality Multi-Object Tracking 论文链接:https://arxiv.org/abs/1909.0385 ...