kafka主题管理

kafka 主题管理

对于 kafka 主题(topic)的管理(增删改查),使用最多的便是kafka自带的脚本. 创建主题 kafka提供了自带的 kafka-topics 脚本,用来帮助用户创建主题(topic). bin/kafka-topics.sh --bootstrap-server broker_host:port --create --topic my_topic_name --partitions 1 --replication-factor 1 create 表明我们要创建主题,而 partiti…

若代理设置了 auto.create.topics.enable=true,这样还未创建topic就往kafka发送消息时, 会自动创建一个 ${num.partitions}个分区和{default.replication.factor}个副本的主题创建主题 1.创建一个名称为“kafka-action”的主题,该主题有两个副本,3个分区: [root@docp-n bin]# ./kafka-topics.sh --create --zookeeper docp-n:2181 --repl…

KAFKA 监控管理界面 KAFKA EAGLE 安装

概述 Kafka Eagle监控系统是一款用来监控Kafka集群的工具,目前更新的版本是v1.2.3,支持管理多个Kafka集群.管理Kafka主题(包含查看.删除.创建等).消费者组合消费者实例监控.消息阻塞告警.Kafka集群健康状态查看等. 安装与使用 1.下载 https://codeload.github.com/smartloli/kafka-eagle-bin/tar.gz/v1.2.7 2.安装解压 tar -zxvf kafka-eagle-web-1.2.7-bin.tar…

Kafka Eagle 管理平台

Kafka-Eagle简介源代码地址:https://github.com/smartloli/kafka-eagle Kafka Eagle是什么 Kafka Eagle是一款用于监控和管理Apache Kafka的完全开源系统,目前托管在Github,由笔者和一些开源爱好者共同维护.它提供了完善的管理页面,很方面的去管理和可视化Kafka集群的一些信息,例如Broker详情.性能指标趋势.Topic集合.消费者信息等. 同时,兼容若干Kafka版本,例如0.8,0.9,...,以及截止到2…

使用Java API创建（create），查看（describe），列举（list），删除（delete）Kafka主题（Topic）

使用Kafka的同学都知道,我们每次创建Kafka主题(Topic)的时候可以指定分区数和副本数等信息,如果将这些属性配置到server.properties文件中,以后调用Java API生成的主题将使用默认值,先改变需要使用命令bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic my-topic --config max.message.bytes=128000显示的修改,我们也希望将此过程在Producer调用之前通…

Apache Kafka主题 - 架构和分区

1.卡夫卡话题在这篇Kafka文章中,我们将学习Kafka主题与Kafka Architecture的整体概念.Kafka中的体系结构包括复制,故障转移以及并行处理.此外,我们还将看到创建Kafka主题的方法以及Apache Kafka主题的示例,以便更好地理解Kafka.此外,我们将看到Kafka分区和Kafka日志分区.那么,让我们从Kafka主题开始吧. Apache Kafka主题 - 架构和分区 2.什么是卡夫卡主题? 简而言之,命名的记录流就是我们所说的Kafka Topic.基本…

Kafka主题体系架构-复制、故障转移和并行处理

本文讨论了Kafka主题的体系架构,讨论了如何将分区用于故障转移和并行处理. Kafka主题,日志和分区 Kafka将主题存储在日志中.主题日志分为多个分区.Kafka将日志的分区分布在多个服务器或磁盘上.将主题视为类别,流名称或提要. 主题本身就是发布和订阅样式的消息传递.一个主题可以有零个或多个名为使用者组的订阅户.为了速度.可伸缩性和大小,主题被划分为多个分区. Kafka主题分区 Kafka将主题日志分解为多个分区.记录存储在一个分区上,如果存在该键,通常按记录键存储:如果缺少该键,则按…

深入理解Kafka核心设计及原理（四）：主题管理

转载请注明出处:https://www.cnblogs.com/zjdxr-up/p/16124354.html 目录: 4.1创建主题 4.2 优先副本的选举 4.3 分区重分配 4.4 如何选择合适的分区 4.5分区数越多吞吐量也越高? 4.1创建主题如果 broker 端配置参数 auto…

kafka主题offset各种需求修改方法

简要:开发中,常常因为需要我们要认为修改消费者实例对kafka某个主题消费的偏移量.具体如何修改?为什么可行?其实很容易,有时候只要我们换一种方式思考,如果我自己实现kafka消费者,我该如何让我们的消费者代码如何控制对某一个主题消费,以及我们该如何实现不同消费者组可以消费同一个主题的同一条消息,一个消费组下不同消费者消费同一个主题的不同消息.如果让你实现该框架该如何实现? 这里我演示实验storm的kafkaspout来进行消费,kafkaspout里面使用的低级api,所以他在zookeep…

关于Kafka producer管理TCP连接的讨论

在Kafka中,TCP连接的管理交由底层的Selector类(org.apache.kafka.common.network)来维护.Selector类定义了很多数据结构,其中最核心的当属java.nio.channels.Selector实例,故所有的IO事件实际上是使用Java的Selector来完成的.本文我们探讨一下producer与Kafka集群进行交互时TCP连接的管理与维护. 一.何时创建TCP连接 Producer端在创建KafkaProducer实例时就会创建与broker的T…

kafka系列十、kafka常用管理命令

一.Topic管理 1.创建topic kafka-topics.sh --zookeeper 47.52.199.52:2181 --create --topic test-15 --replication-factor --partitions 2.新增partition kafka-topics.sh --zookeeper zk.server --alter --topic test --replication-factor --partitions 注:topic一旦创建,partit…

Kafka界面管理工具-kafkamanager

在上一篇文章<Linux安装Kafka>中,已经介绍了如何在Linux安装Kafka,以及Kafka的启动/关闭和创建发话题并产生消息和消费消息.这篇文章就介绍介绍Kafka管理界面(kafka-manager)的安装和使用 kafka-manager 是雅虎开源的apache-kafka管理工具,是用Scala写,所以在web页面进行操作即可. ♛ 1 下载下载地址:https://github.com/yahoo/kafka-manager/releases wget https://g…

Kafka 内存管理类BufferPool

基本上每个成熟的框架或者工具都有一套内存管理机制 BufferPool 是Kafka 用来管理内存的工具类 BufferPool内存管理包含2个部分,已用空间+可用空间(未申请空间+已申请未使用空间) 的总和代表BufferPool的总量,用totalMemory表示(由buffer.memory配置): 可使用的空间,它又包括两个部分:上半部分代表未申请未使用的部分,用availableMemory表示:下半部分代表已经申请但没有使用的部分,用一个ByteBuffer队列(D…

Kafka副本管理—— 为何去掉replica.lag.max.messages参数

今天查看Kafka 0.10.0的官方文档,发现了这样一句话:Configuration parameter replica.lag.max.messages was removed. Partition leaders will no longer consider the number of lagging messages when deciding which replicas are in sync. 即replica.lag.max.messages参数被正式地移除了,现在topic…

kafka server管理

kafka启动以来zookeeper kafka启动之前,首先要启动zookeeper 1.1.kafka启动单个节点 -daemon 表示程序以守护进程的方式后台云心 --override property=value 覆盖kafkaconfig默认配置 property 表示覆盖配置项名称,value为配置项的值 1.2. kafka启东时会加载$KAFKA_HOME/config/log4j.properties文件,记录输入出,异常情况, 如想调整日志输出,修改kafka运行日志切割…

交易准实时预警 kafka topic 主题异常交易主题低延迟 event topic alert topic 内存算法测试

https://www.ibm.com/developerworks/cn/opensource/os-cn-kafka/index.html 周明耀2015 年 6 月 10 日发布示例:网络游戏假设我们正在开发一个在线网络游戏平台,这个平台需要支持大量的在线用户实时操作,玩家在一个虚拟的世界里通过互相协作的方式一起完成每一个任务.由于游戏当中允许玩家互相交易金币.道具,我们必须确保玩家之间的诚信关系,而为了确保玩家之间的诚信及账户安全,我们需要对玩家的 IP 地址进行追踪,当出现一个长…

Kafka 是如何管理消费位点的？

Kafka 是一个高度可扩展的分布式消息系统,在实时事件流和流式处理为中心的架构越来越风靡的今天,它扮演了这个架构中核心存储的角色.从某种角度说,Kafka 可以看成实时版的 Hadoop 系统.Hadoop 可以存储和定期处理大量的数据文件,而 Kafka 可以存储和持续处理大型的数据流. Hadoop 和文件系统提供文件流的读取位点( offset ),并支持通过 seek 方法将文件流移动到特定位置:Kafka 对应的提供了主题下每个分区的消费位点( offset ),并允许消费者设置分区…

关于Kafka java consumer管理TCP连接的讨论

本篇是<关于Kafka producer管理TCP连接的讨论>的续篇,主要讨论Kafka java consumer是如何管理TCP连接.实际上,这两篇大部分的内容是相同的,即consumer也是把TCP连接的管理交由底层的Selector类(org.apache.kafka.common.network)来维护.我们依然以“何时创建/创建多少/何时关闭/潜在问题/总结”的顺序来讨论.和上一篇一样,本文将无差别地混用名词TCP和Socket. 一.何时创建TCP连接首先明确的是,在构建Kaf…

kafka删除主题

hdp集群默认不能删除kafka主题,如果要删除,需要在ambari上进行配置,将enable delete设置为true.…

kafka中的配额管理（限速）机制

kafka支持配额管理,从而可以对Producer和Consumer的produce&fetch操作进行流量限制,防止个别业务压爆服务器.本文主要介绍如何使用kafka的配额管理功能. 1 Kafka Quatas简介 Kafka配额管理所能配置的对象(或者说粒度)有3种: user + clientiduserclientid这3种都是对接入的client的身份进行的认定方式.其中, clientid是每个接入kafka集群的client的一个身份标志,在ProduceRequest和Fetc…