安装部署Kafka集群
kafka是一个开源的分布式消息订阅系统(消息中间件)
安装过程
1.下载kafka_2.11-0.10.1.0.gz(ps:千万不要下错了,博主就是下到了src文件上去了,kafka中的zookeeper起不起来)
2.上传至/usr/local/src
3.解压缩,并且移动到上级目录
4.进入主目录的config子目录,
5.修改server.properties配置文件
vim server.properties
内容如下:
6.保存并退出
7.主节点配置完毕,远程复制到另外两个节点
scp -r /usr/local/kafka_2.-0.10.1.0 guoyansi129:/usr/local
scp -r /usr/local/kafka_2.-0.10.1.0 guoyansi130:/usr/local
8.修改另外两个节点的server.properties 配置文件
修改内容分别如下:
主机:guoyansi129
############################# Server Basics #############################
broker.id=
host.name=guoyansi129
主机guoyansi130
############################# Server Basics #############################
broker.id=
host.name=guoyansi130
9.启动kafka的zookeeper服务
bin/zookeeper-server-start.sh config/zookeeper.properties
显示一些信息后;界面进入停顿状态;表示zookeeper启动成功;此时不要关闭窗口;
10.启动主节点的kafka服务
新开一个guoyansi128终端;
启动方式一:退出后,kafka就自动关闭了。
bin/kafka-server-start.sh config/server.properties
由于Kafka是作为守护进程加载的,执行上述命令后终端显示停顿状态,这表示系统已经处于后台运行状态,
所以不要关闭该终端,只要保持当前状态即可。
启动方式二:退出后,kafka照常运行,提供服务。
nohup bin/kafka-server-start.sh config/server.properties >> /tmp/out.log &
上面是进程守护模式启动kafka
还可以另外开一个终端,执行jps查看当前系统的进程列表
这里的QuorumPeerMain就是Kafka自带的zookeeper服务进程;
而kafka自然就是Kafka服务进程。
11.启动另外两个节点的Kafka服务;执行同样的命令:
bin/kafka-server-start.sh config/server.properties
12.主节点创建主题:
使用kafka,一定需要创建消息主题;
创建test主题
bin/kafka-topics.sh --create -zookeeper guoyansi128: --replication-factor --partitions --topic test
查看主题消息:
bin/kafka-topics.sh --list --zookeeper guoyansi128:
13.另起终端创建消息生产者
bin/kafka-console-producer.sh --broker-list guoyansi128: --topic test
界面处于等待状态
14.另起终端创建消息接收者
bin/kafka-console-consumer.sh --zookeeper guoyansi128: --topic test --from-beginning
此时界面同样处于等待状态
15.从13步的界面(生产者界面)输入信息,就会从14步(接收者界面)看到生产者界面输入的信息。
16.查看主题中的信息:
bin/kafka-topics.sh --describe --zookeeper guoyansi128 --topic test
17.因为是集群部署,所以可以在任何节点接收消息和创建消息。
安装部署Kafka集群的更多相关文章
- 【kafka】安装部署kafka集群(kafka版本:kafka_2.12-2.3.0)
3.2.1 下载kafka并安装kafka_2.12-2.3.0.tgz tar -zxvf kafka_2.12-2.3.0.tgz 3.2.2 配置kafka集群 在config/server.p ...
- 使用docker安装部署Spark集群来训练CNN(含Python实例)
使用docker安装部署Spark集群来训练CNN(含Python实例) http://blog.csdn.net/cyh_24/article/details/49683221 实验室有4台神服务器 ...
- kubernetes系列03—kubeadm安装部署K8S集群
本文收录在容器技术学习系列文章总目录 1.kubernetes安装介绍 1.1 K8S架构图 1.2 K8S搭建安装示意图 1.3 安装kubernetes方法 1.3.1 方法1:使用kubeadm ...
- supervisor的安装部署及集群管理
supervisor的安装部署及集群管理 supervisor官网:http://www.supervisord.org/ 参考链接: http://blog.csdn.net/xyang81/art ...
- 安装部署 Kubernetes 集群
安装部署 Kubernetes 集群 阅读目录: 准备工作 部署 Master 管理节点 部署 Minion 工作节点 部署 Hello World 应用 安装 Dashboard 插件 安装 Hea ...
- 【大数据之数据仓库】安装部署GreenPlum集群
本篇将向大家介绍如何快捷的安装部署GreenPlum测试集群,大家可以跟着我一块儿实践一把^_^ 1.主机资源 申请2台网易云主机,操作系统必须是RedHat或者CentOS,配置尽量高一点.如果是s ...
- Docker安装部署es集群
Docker安装部署es集群:环境准备:已安装docker的centos服务器一台1. 拉取es版本docker pull elasticsearch:5.6.82. 新建文件夹 数据挂载目录 和 配 ...
- centos7.8 安装部署 k8s 集群
centos7.8 安装部署 k8s 集群 目录 centos7.8 安装部署 k8s 集群 环境说明 Docker 安装 k8s 安装准备工作 Master 节点安装 k8s 版本查看 安装 kub ...
- 4. 利用MySQL Shell安装部署MGR集群 | 深入浅出MGR
GreatSQL社区原创内容未经授权不得随意使用,转载请联系小编并注明来源. 目录 1. 安装准备 2. 利用MySQL Shell构建MGR集群 3. MySQL Shell接管现存的MGR集群 4 ...
随机推荐
- 42.输入一个递增排序的数组和一个数字S,在数组中查找两个数,使得他们的和正好是S, 如果有多对数字的和等于S,输出两个数的乘积最小的。
输入一个递增排序的数组和一个数字S,在数组中查找两个数,使得他们的和正好是S, 如果有多对数字的和等于S,输出两个数的乘积最小的. 这道题有很多烟雾弹: 首先如果有多对,最前面的两个数就是乘积最小的, ...
- i3wm菜单
抛弃i3-dmenu-desktop吧,投入到 j4-demu-desktop 速度超快
- s21day22 python笔记
s21day22 python笔记 一.内容回顾及补充 模块补充 importlib.import_module:通过字符串的形式导入模块 #示例一: import importlib # 用字符串的 ...
- 请给Array本地对象增加一个原型方法,它用于删除数组条目中重复的条目(可能有多个),返回值是一个包含被删除的重复条目的新数组。
这是牛客网上的一道题~ 题意:遇到重复元素就删除(留下第一个不重复的即可). 解题思路:双循环一遍数组,arr[i] == arr[j] 成立时,删除 arr[j],并将 arr[j] 直接push到 ...
- oracle 11g log archive mode flashback
修改需要在mount状态下 shutdown immediate; startup mount; alter database archivelog; alter database flashback ...
- mysql执行sql脚本文件
mysql执行sql脚本文件 方法一:使用cmd命令执行(windows下,unix或Linux在的其控制台下) [MySQL的bin目录]\mysql –u用户名 –p密码 –D数据库<[sq ...
- Java面试题2
类加载机制 Java虚拟机把描述类的数据从Class文件加载到内存,并对数据进行校验.转换解析和初始化,最终形成可以被虚拟机直接使用的Java类型,这就是虚拟机的加载机制. 类从被加载到虚拟机内存中开 ...
- javascript 创建节点和新增节点
createElement(tabName) 创建一个为tagName的新元素节点 ANode.appendChild(BNode)把B节点追加至A节点的末尾 insertBefore(ANode,B ...
- Collections.sort排序
默认是升序,即Collections.sort(list),对list进行升序排列,如果想降序则需要通过compare这些参数来实现了
- mysql error 1067 invalid default timestamp
问题 MySQL 5.7版本,在创建数据表时,使用以下语句定义一个字段: `update_time` timestamp DEFAULT '0000-00-00 00:00:00' ON UPDATE ...