使用版本:kafka_2.10-0.8.1.1 安装: -0.8.1.1.tgz -C ~/app/ 添加环境变量:.bash_profile export KAFKA_HOME=/home/spark/app/kafka_2.-0.8.1.1 export PATH=.:$KAFKA_HOME/bin:...... kafka配置文件: config/server.properties broker.id=0   #唯一,自己指定,不重复即可 host.name=localhost   #ho…

最近在搞kettle整合kafka producer插件,于是自己搭建了一套单机的kafka环境,以便用于测试.现整理如下的笔记,发上来和大家分享.后续还会有kafka的研究笔记,依然会与大家分享! 1 kafka环境搭建 1.1 kafka单机环境搭建 (1).解压kafka_2.11-1.1.0.tgz,得到“kafka_2.11-1.1.0”文件夹. (2).kafka需要安装zookee使用,但kafka集成zookeeper,在单机搭建时可直接使用.使用需配置kafka_2.11-1.…

这篇文章将介绍如何搭建kafka环境,我们会从单机版开始,然后逐渐往分布式扩展.单机版的搭建官网上就有,比较容易实现,这里我就简单介绍下即可,而分布式的搭建官网却没有描述,我们最终的目的还是用分布式来解决问题,所以这部分会是重点. Kafka的中文文档并不多,所以我们尽量详细点儿写.要交会你搭建分布式其实很简单,手把手的教程大不了我录个视频就好了,可我觉得那不是走这条 路的方 式.只有真正了解原理,并且理解的透彻了才能最大限度的发挥一个框架的作用.所以,如果你不了解什么事kafka,请先看:<k…

这篇文章将介绍如何搭建kafka环境,我们会从单机版开始,然后逐渐往分布式扩展.单机版的搭建官网上就有,比较容易实现,这里我就简单介绍下即可,而分布式的搭建官网却没有描述,我们最终的目的还是用分布式来解决问题,所以这部分会是重点. Kafka的中文文档并不多,所以我们尽量详细点儿写.要交会你搭建分布式其实很简单,手把手的教程大不了我录个视频就好了,可我觉得那不是走这条路的方 式.只有真正了解原理,并且理解的透彻了才能最大限度的发挥一个框架的作用.所以,如果你不了解什么事kafka,请先看:<ka…

如果你要利用代码来跑kafka的应用,那你最好先把官网给出的example先在单机环境和分布式环境下跑通,然后再逐步将原有的consumer.producer和broker替换成自己写的代码.所以在阅读这篇文章前你需要具备以下前提: 1.  简单了解kafka功能,理解kafka的分布式原理 2.  能在分布式环境下成功运行—topic test. 如果你还没有完成上述两个前提,请先看: kafka分布式初步      kafka搭建分布式环境 接下来我们就简单介绍下kafka开发环境的搭建.…

1. IDEA中配置Spark运行环境 请参考博文:http://www.cnblogs.com/jackchen-Net/p/6867838.html 3.1.Project Struct查看项目的配置信息 3.2.IDEA中如果没有默认安装Scala,可在本地安装即可 如果需要安装多版本的scala请注意: 如果您在本地已经安装了msi结尾的scala,还需要安装第二个版本,建议下载zip包,优点是直接解压在IDEA中配置即可.如第3步所示. 注意:scala下载地址:http://www.…

kafka是一个高吞吐量的消息系统.隔离消息接收和处理过程(可理解为一个缓存) 1.kafka伪分布的部署 1.1.下载并解压 1.2.启动zk bin/zookeeper-server-start.sh config/zookeeper.properties *发布和订阅通过zk实现,kafka设计就使用了zk 1.3.启动kafka的服务 bin/kafka-server-start.sh conf/server.properties 1.4.创建主题 bin/kafka-topics.sh…

1部署zookeeper ZooKeeper的安装模式分为三种,分别为:单机模式(stand-alone).集群模式和集群伪分布模式. 1.运行环境:ZooKeeper 要求 JAVA 6 以上的环境才能运行,并对JAVA 环境变量进行设置. java安装路径最好不要包含空格 2.下载:从Apache官方网站下载一个ZooKeeper 的最近稳定版本(http://hadoop.apache.org/zookeeper/releases.html ). 作为国内用户来说,选择最近的的源文件服务器…

linux环境下安装单机版redis,主要分为如下几步: 1. 安装gcc 2.下载安装包 3.解压安装包 4.进入解压目录并执行make和make install命令 5.查看默认安装目录 6.更改配置文件 7.启动 8.查看启动是否成功 9.使用客户端连接 10.通过客户端关闭server端,并退出连接 11.如果是多实例,关闭其中某个端口的服务 具体实现如下: 1.  安装gcc yum install gcc 查看gcc版本:gcc –version 2.下载linux版的redis安装…

http://www.cnblogs.com/alvingofast/p/kafka_deployment_on_windows.html 照着例子搭建成功…