安装Kafka
1.默认安装好zookeeper和scala
2.下载安装包,解压
tar -zxvf kafka_2.11-0.9.0.1.tgz kafka_2.11-0.9.0.1
3.配置环境变量
vim /etc/profile
#kafka
export KAFKA_HOME=/opt/kafka_2.11-0.9.0.1
export PATH=$PATH:$KAFKA_HOME/bin
source /etc/profile
4.修改配置文件
config/server.properties
broker.id=0 //整型 从0开始 高可用是注意修改
host.name=127.0.0.1 //节点IP 高可用时注意修改本机IP 172.16.104.241
log.dirs=/opt/kafka_2.11-0.9.0.1/logs //日志目录
zookeeper.connect=127.0.0.1:2181 //zookeeper 多个时用逗号分隔 高可用时为zookeeper集群 A:9092,B:9092
zookeeper.connection.timeout.ms=600000 //连接超时
config/producer.properties
metadata.broker.list=127.0.0.1:9092 //注意修改IP地址 高可用时为本机Ip A:9092,B:9092
config/consumer.properties
zookeeper.connect=127.0.0.1:2181 //注意修改IP地址 高可用时为zookeeper集群 A:9092,B:9092
5.验证
1.启动zookeeper
zkServer.sh start //高可用时 需每台机子执行一次
2.启动kafka server端
bin/kafka-server-start.sh config/server.properties & //高可用时 需每台机子执行一次
3.启动producer
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test01
4.启动consumer
bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test01 --from-beginning
//注意集群环境时需更改为zookeeper 集群链接 如: A:2181,B:2181,C:2181.....
5.此时在producer中输入内容在consumer中可以显示该内容(需多开几个命令行窗口)
6.示例使用(//注意集群环境时需更改为zookeeper 集群链接 如: A:2181,B:2181,C:2181.....)
1.创建主题
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test
// 高可用时 replication-factor为副本数 不能多于broker节点数 partitions 为分区数
2.查看主题
bin/kafka-topics.sh --list --zookeeper localhost:2181
3.查看主题详情
bin/kafka-topics.sh--describe --zookeeper localhost:2181 --topic test
4.删除主题
bin/kafka-run-class.sh kafka.admin.DeleteTopicCommand --zookeeper localhost:2181 --topic test
5.同步文件内容
bin/connect-standalone.sh config/connect-standalone.properties
config/connect-file-source.properties config/connect-file-sink.properties
//将connect-file-source.properties配置的文件内容同步到connect-file-sink.properties配置的文件中
安装Kafka的更多相关文章
- PHP安装kafka插件
在工作中我们经常遇到需要给php安装插件,今天把php安装kafka的插件的步骤整理下,仅供大家参考 1:需要先安装librdkafka git clone https://github.com/ed ...
- 附录E 安装Kafka
E.1 安装Kafka E.1.1 下载Kafka Kafka是由LinkedIn设计的一个高吞吐量.分布式.基于发布订阅模式的消息系统,使用Scala编写,它以可水平扩展.可靠性.异步通信 ...
- Windows 安装Kafka
Windows 7 安装Apache kafka_2.11-0.9.0.1 下载所需文件 Zookeeper: http://www.apache.org/dyn/closer.cgi/zoo ...
- Redis安装,mongodb安装,hbase安装,cassandra安装,mysql安装,zookeeper安装,kafka安装,storm安装大数据软件安装部署百科全书
伟大的程序员版权所有,转载请注明:http://www.lenggirl.com/bigdata/server-sofeware-install.html 一.安装mongodb 官网下载包mongo ...
- ambari安装集群下安装kafka manager
简介: 不想通过kafka shell来管理kafka已创建的topic信息,想通过管理页面来统一管理和查看kafka集群.所以选择了大部分人使用的kafka manager,我一共有一台主机mast ...
- 安装kafka过程及出现的问题解决
第一步:下载kafka安装包 下载地址:http://kafka.apache.org/downloads 解压 到/usr/local 目录 tar -zxvf kafka_2.12-2.2.0 第 ...
- [转]Windows 安装Kafka
来源:https://www.cnblogs.com/liuyuhua/p/5329926.html https://www.cnblogs.com/xinlingyoulan/p/6054361.h ...
- kubernetes(k8s) helm安装kafka、zookeeper
通过helm在k8s上部署kafka.zookeeper 通过helm方法安装 k8s上安装kafka,可以使用helm,将kafka作为一个应用安装.当然这首先要你的k8s支持使用helm安装.he ...
- window上安装kafka(单机)
1.第一步骤,先安装JDK,请参考:https://www.cnblogs.com/xubao/p/10692861.html 2.第二步骤,安装zookeeper,请参考:https://www.c ...
- linux 安装 kafka&zookeeper
安装kafka 1,下载kafka. #cd /usr/local #wget wget https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.1.1 ...
随机推荐
- bootstrap1
让bootstarp3 支持ie的兼容模式: 支持浏览器的响应式布局: 是指网页既可以用在pc上,也可以用在手机上, 而且不需要修改源文件. bootstrap包括: css文件, 只需要加载: cs ...
- Django 1.7 Tutorial 学习笔记
官方教程在这里 : Here 写在前面的废话:)) 以前学习新东西,第一想到的是找本入门教程,按照书上做一遍.现在看了各种网上的入门教程后,我觉得还是看官方Tutorial靠谱.书的弊端一说一大推 本 ...
- 基于thinkphp的数组分页
function array_page($array,$rows){ import("ORG.Util.Page"); //导入分页类 $count=count($array); ...
- ASP.NET上实现
ASP.NET上实现 fengzhuang.cs: using System;using System.Collections.Generic;using System.Linq;using Syst ...
- 如何让两个div在同一行显示?一个float搞定
最近在学习div和css,遇到了一些问题也解决了很多以前以为很难搞定的问题.比如:如何让两个div显示在同一行呢?(不是用table表格,table对SE不太友好)其实,<div> 是一个 ...
- VMware ubuntu中执行python文件的操作小结
- iOS 强制退出程序APP代码
1.先po代码 UIAlertView* alert = [[UIAlertView alloc] initWithTitle:self.exitapplication message:@" ...
- HTML5复习整理
一.推出的目标 web浏览器兼容性低:文档结构不明确:web应用程序的功能受限 二.语法的改变 内容类型(html或htm):DOCTYPE声明简化:指定字符编码简化:可以省略标记的元素:具有Bool ...
- Windows+Caffe+VS2013+python接口配置过程
前段时间在笔记本上配置了Caffe框架,中间过程曲曲折折,但由于懒没有将详细过程总结下来,这两天又在一台配置较高的台式机上配置了Caffe,配置时便非常后悔当初没有写到博客中去,现已配置好Caffe, ...
- mui学习记录
1.页面间传值 2.mui如何增加自定义icon图标 http://ask.dcloud.net.cn/article/128 3.设计基于HTML5的APP登录功能及安全调用接口的方式(原理篇) h ...