【Apache Kafka】Kafka学习笔记
0x00 基本信息
1、Kafka架构图
2、环境信息
- 服务器IP:xx.xx.xx.xx
- 操作系统:CentOS7.2_x64
- Kafka版本:kafka_2.12-1.1.0
- Zookeeper版本:zookeeper-3.4.12
0x01 让Kafka运行起来
1、先启动Zookeeper
$ cd /opt/kafka/zookeeper-3.4./bin
$ zkServer.sh start
确认zookeeper是否成功启动:
$ netstat -an | grep
tcp6 ::: :::* LISTEN
返回以上结果说明成功启动,接下来就可以启动kafka服务并使用具体的kafka命令来进行相应操作了。
2、启动kafka服务
$ cd /opt/kafka/kafka_2.-1.1./bin
$ ./kafka-server-start.sh -daemon /opt/kafka/kafka_2.-1.1./config/server.properties
确认kafka服务是否正常启动:
$ ps -ef | grep kafka
返回以上结果说明成功启动。
0x02 Kafka指令
利用kafka指令进行具体的操作。
1、查看当前已有的topic
$ cd /opt/kafka/kafka_2.-1.1./bin
$ ./kafka-topics.sh --list --zookeeper localhost:
2、创建topic test-topic的生产者
$ ./kafka-console-producer.sh --broker-list PLAINTEXT://xx.xx.xx.xx:9092 --topic test-topic
3、创建topic test-topic的消费者
./kafka-console-consumer.sh --zookeeper localhost: --topic test-topic --from-beginning
这样,在2中创建的生产者命令行中发送的消息,3中创建的消费者就可以及时接收到。
注意:上面截图中提示旧的消费者创建方式将会废弃,建议使用bootstrap-server这种新的方式,如下:
./kafka-console-consumer.sh --bootstrap-server xx.xx.xx.xx: --topic test-topic --from-beginning
4、创建新topic
./kafka-topics.sh --create --zookeeper localhost: --replication-factor --partitions --topic my-test-topic
5、查看某个topic的详细信息
./kafka-topics.sh --describe --zookeeper localhost: --topic test-topic
6、修改已有topic
# 已经存在topic my-test-topic,且该topic之前分区数为1,现在我们将该topic的分区数修改成2
./kafka-topics.sh --zookeeper localhost: --alter --topic my-test-topic --partitions
7、删除某个topic
./kafka-topics.sh --zookeeper localhost: --delete --topic my-test-topic
本文到此结束。
【Apache Kafka】Kafka学习笔记的更多相关文章
- Apache Calcite 论文学习笔记
特别声明:本文来源于掘金,"预留"发表的[Apache Calcite 论文学习笔记](https://juejin.im/post/5d2ed6a96fb9a07eea32a6f ...
- Apache Commons Math3学习笔记(2) - 多项式曲线拟合(转)
多项式曲线拟合:org.apache.commons.math3.fitting.PolynomialCurveFitter类. 用法示例代码: // ... 创建并初始化输入数据: double[] ...
- Flink学习笔记:Connectors之kafka
本文为<Flink大数据项目实战>学习笔记,想通过视频系统学习Flink这个最火爆的大数据计算框架的同学,推荐学习课程: Flink大数据项目实战:http://t.cn/EJtKhaz ...
- kafka学习笔记(一)消息队列和kafka入门
概述 学习和使用kafka不知不觉已经将近5年了,觉得应该总结整理一下之前的知识更好,所以决定写一系列kafka学习笔记,在总结的基础上希望自己的知识更上一层楼.写的不对的地方请大家不吝指正,感激万分 ...
- Flume-ng+Kafka+storm的学习笔记
Flume-ng Flume是一个分布式.可靠.和高可用的海量日志采集.聚合和传输的系统. Flume的文档可以看http://flume.apache.org/FlumeUserGuide.html ...
- kafka学习笔记1:测试环境搭建
最近因为架构中引入了kafka,一些之前在代码中通过RPC调用强耦合但是适合异步处理的内容可以用kafka重构一下. 考虑从头学一下kafka了解其特性和使用场景. 环境选择 首先是测试环境的搭建,平 ...
- Kafka 学习笔记之 Kafka0.11之console-producer/console-consumer
Kafka 学习笔记之 Kafka0.11之console-producer/console-consumer: 启动Zookeeper 启动Kafka0.11 创建一个新的Topic: ./kafk ...
- 大数据 -- kafka学习笔记:知识点整理(部分转载)
一 为什么需要消息系统 1.解耦 允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束. 2.冗余 消息队列把数据进行持久化直到它们已经被完全处理,通过这一方式规避了数据丢失风险.许多 ...
- kafka学习笔记(二)——基础入门
1.集群规划 从官网下载jar包 http://kafka.apache.org/downloads.html,我选择的是kafka_2.11-0.11.0.0.tgz版本 规划一下集群环境先~ ha ...
- Kafka学习笔记之为什么使用Kafka
在介绍为什么使用kafka之前,我们有必要来了解一下什么是kafka? 0x00 什么是kafka Kafka是由LinkedIn开发的一个分布式的消息系统,使用Scala编写,它以可水平扩展和高吞吐 ...
随机推荐
- 2019.03.29 bzoj5463: [APIO2018] 铁人两项(圆方树+树形dp)
传送门 题意简述:给你一张无向图,问你满足存在从a−>b−>ca->b->ca−>b−>c且不经过重复节点的路径的有序点对(a,b,c)(a,b,c)(a,b,c) ...
- WPF一组Radio与enum绑定
工作中用到了一组RadioButton对应一组数据的情况,这个时候最好能将一组RadioButton绑定Enum. 步骤 1.MyControl库中Type.cs中定义Enum namespace M ...
- sjms-4 行为型模式
行为型模式 责任链模式 内容:使多个对象都有机会处理请求,从而避免请求的发送者和接收者之间的耦合关系.将这些对象连成一条链,并沿着这条链传递该请求,直到有一个对象处理它为止.角色:抽象处理者(Hand ...
- iBtais 多重嵌套循环
iBatis支持集合循环, 但是如何做到双重循环, 请见下例子 例子描述: 需要去三张结构相同的表中获取信息, 需要将信息拼合去重后返回 入参数据类型: Map<String,Object> ...
- template模板的使用方法
模板 WXML提供模板(template),可以在模板中定义代码片段,然后在不同的地方调用. 定义模板 使用name属性,作为模板的名字.然后在<template/>内定义代码片段 使用模 ...
- python_flask 基础巩固 (URL_FOR 详解)
URL_FOR 详解 url_for 通过 视图函数能够返回对应的url,url_for 有两个参数,endpoint(视图 函数)和关键字参数 url_for('my_list',page=2),多 ...
- <笔记>更新某条数据库记录必须更新所有字段
今天用TP更新数据库数据时,用id得到模型对象,再通过该对象更新其他字段的数据,发现报错
- let,const,var
1.const定义的变量不可以修改,而且必须初始化. 1 const b = 2;//正确 2 // const b;//错误,必须初始化 3 console.log('函数外const定义b:' + ...
- PowerBI
1.官方PowerBI实例:https://docs.microsoft.com/zh-cn/power-bi/sample-tutorial-connect-to-the-samples 2.配置计 ...
- 背水一战 Windows 10 (97) - 选取器: CachedFileUpdater
[源码下载] 背水一战 Windows 10 (97) - 选取器: CachedFileUpdater 作者:webabcd 介绍背水一战 Windows 10 之 选取器 CachedFileUp ...