本文记录搭建kafka搭建过程。

一、硬件机器介绍

192.168.183.195 master-node

192.168.183.194 data-node1

192.168.183.196 data-node2

二、集群搭建

master-node操作如下:

下载kafka包

wget http://mirror.bit.edu.cn/apache/kafka/2.2.0/kafka_2.11-2.2.0.tgz

解压

tar -zxvf  kafka_2.11-2.2.0.tgz  -C /usr/local

配置:

进入 /usr/local/kafka_2.11_2.2.0

vim config/server.properties

修改:

broker.id = 1      //分布式的部署,每个broker的id不能相同;

listeners=PLAINTEXT://master-node:9092 //这里的配置规范是listeners = listener_name://host_name:port,因此你要确定你的host_name,可以vim /etc/hostname看到

zookeeper.connect=master-node:2181,data-node1:2181,data-node2:2181 //zookeeper的连接地址,关于zookeeper集群的搭建可以查看https://www.cnblogs.com/ldsggv/p/11006184.html

到这里master-node机器配置完成,下面可以通过scp命令把/usr/local/kafka_2.11_2.2.0传输到其他俩台机器,如果当前用户没有足够权限,可以scp kafka的按照包,然后安装上面的步骤再一次操作。

启动:

在三台机器上,进入kafka安装目录,执行

bin/kafka-server-start.sh config/server.properties

此时集群已经启动;

验证:

一、打开zkCli.sh;

执行 ls /

可以看到:

可以进入到/brokers/ids查看brokers的id

二、官网例子

1、创建topic

bin/kafka-topics.sh --create --bootstrap-server master-node:9092 --replication-factor 3 --partitions 1 --topic my-replicated-topic

2、bin/kafka-topics.sh --describe --bootstrap-server master-node:9092 --topic my-replicated-topic   查看topic信息

3、启动生产者

bin/kafka-console-producer.sh --broker-list master-node:9092 --topic my-replicated-topic

可以输入一些测试信息

4、启动消费者

bin/kafka-console-consumer.sh --bootstrap-server master-node:9092 --from-beginning --topic my-replicated-topic

这里的--from-begining代表从最开始消息消费。

如果上面四个步骤顺利完成,那么kafka集群搭建完成,后续的配置,优化可以参考官网的配置说明。

kafka集群搭建记录的更多相关文章

  1. Linux下kafka集群搭建过程记录

    环境准备 zookeeper集群环境kafka是依赖于zookeeper注册中心的一款分布式消息对列,所以需要有zookeeper单机或者集群环境. 三台服务器: 172.16.18.198 k8s- ...

  2. kafka集群搭建及结合springboot使用

    1.场景描述 因kafka以前用的不多,只往topic中写入和读取过数据,这次刚好又要用到,记录下kafka集群搭建及结合springboot使用. 2. 解决方案 2.1 简单介绍 (一)关于kaf ...

  3. kafka集群搭建和使用Java写kafka生产者消费者

    1 kafka集群搭建 1.zookeeper集群  搭建在110, 111,112 2.kafka使用3个节点110, 111,112 修改配置文件config/server.properties ...

  4. Kafka【第一篇】Kafka集群搭建

    Kafka初识 1.Kafka使用背景 在我们大量使用分布式数据库.分布式计算集群的时候,是否会遇到这样的一些问题: 我们想分析下用户行为(pageviews),以便我们设计出更好的广告位 我想对用户 ...

  5. kafka学习(三)-kafka集群搭建

    kafka集群搭建 下面简单的介绍一下kafka的集群搭建,单个kafka的安装更简单,下面以集群搭建为例子. 我们设置并部署有三个节点的 kafka 集合体,必须在每个节点上遵循下面的步骤来启动 k ...

  6. Zookeeper + Kafka 集群搭建

    第一步:准备 1. 操作系统 CentOS-7-x86_64-Everything-1511 2. 安装包 kafka_2.12-0.10.2.0.tgz zookeeper-3.4.9.tar.gz ...

  7. 大数据 --> Kafka集群搭建

    Kafka集群搭建 下面是以三台机器搭建为例,(扩展到4台以上一样,修改下配置文件即可) 1.下载kafka http://apache.fayea.com/kafka/0.9.0.1/ ,拷贝到三台 ...

  8. 消息队列kafka集群搭建

    linux系统kafka集群搭建(3个节点192.168.204.128.192.168.204.129.192.168.204.130)    本篇文章kafka集群采用外部zookeeper,没采 ...

  9. [Golang] kafka集群搭建和golang版生产者和消费者

    一.kafka集群搭建 至于kafka是什么我都不多做介绍了,网上写的已经非常详尽了. 1. 下载zookeeper  https://zookeeper.apache.org/releases.ht ...

随机推荐

  1. spring boot MySQL Public Key Retrieval is not allowed

    建议在链接url处添加对应的属性 jdbc:mysql://localhost:3306/book?allowPublicKeyRetrieval=true&useSSL=false 

  2. linux - redis-trib.rb 命令详解

    参考网站 http://www.cnblogs.com/ivictor/p/9768010.html 简介 redis-trib.rb是官方提供的Redis Cluster的管理工具,无需额外下载,默 ...

  3. flaskapp

    前置知识 https://blog.csdn.net/u013457794/article/details/88997699?depth_1-utm_source=distribute.pc_rele ...

  4. Javascript数组与字符串常用api

    目录 javaScript(api学习) 数组有关的api 创建数组 数组的增删改查 indexOf(); push(),pop(),unshift(),shift() forEach() map() ...

  5. 高通量计算框架HTCondor(六)——拾遗

    目录 1. 正文 1.1. 一些问题 1.2. 使用建议 2. 相关 1. 正文 1.1. 一些问题 如果真正要将HTCondor高通量计算产品化还需要很多工作要做,HTCondor并没有GUI界面, ...

  6. C++-POJ2234-Matches Game[Nim][SG函数]

    #include <set> #include <map> #include <cmath> #include <queue> #include < ...

  7. 在GPU上训练数据

    在GPU上训练数据 模型搬到GPU上 数据搬到GPU上 损失函数计算搬到GPU上

  8. 【算法】状态压缩DP

    状态压缩DP是什么? 答:利用位运算(位运算比加减乘除都快!)来记录状态,并实现动态规划. 适用于什么问题? 答:数据规模较小:不能使用简单的算法解决. 例题: 题目描述 糖果店的老板一共有M 种口味 ...

  9. 原来window 也可以使用pthreads

    https://blog.csdn.net/clever101/article/details/101029850

  10. jvm 结构分析

    jvm区域总体分两类,heap区和非heap区.heap区又分: Eden Space(伊甸园).Survivor Space(幸存者区).Tenured Gen(老年代-养老区). 非heap区又分 ...