storm集群配置 安装 修改配置文件 使用java编写拓扑 storm集群配置 storm配置相当简单 安装 tar -zxvf apache-storm-1.2.2.tar.gz rm apache-storm-1.2.2.tar.gz mv apache-storm-1.2.2 storm sudo vim /etc/profile export STORM_HOME=/usr/local/storm export PATH=$PATH:$STORM_HOME/bin source /et…
kafka 安装 修改配置文件 java操作kafka kafka kafka的操作相对来说简单很多 安装 下载kafka http://kafka.apache.org/downloads tar -zxvf kafka_2.12-2.1.0.tgz rm kafka_2.12-2.1.0.tgz mv kafka_2.12-2.1.0 kafka sudo vim /etc/profile export KAFKA_HOME=/usr/local/kafka export PATH=$PAT…
1.集群部署的基本流程 集群部署的流程:下载安装包.解压安装包.修改配置文件.分发安装包.启动集群 注意: 所有的集群上都需要配置hosts vi  /etc/hosts 192.168.223.201 storm01 zk01 hadoop01 192.168.223.202  storm02 zk02 hadoop02 192.168.223.203 storm03 zk03 hadoop03 2.基础环境准备 2.1准备工作 mkdir /export mkdir /export/serv…
1. vim /etc/hosts ssh免密登录192.168.132.154 c0192.168.132.156 c1192.168.132.155 c2 storm集群:192.168.132.154 c0192.168.132.156 c1192.168.132.155 c2 2. 请在官网下载,并解压.文末有文件下载地址tar -zxvf apache-storm-1.2.3.tar.gz 配置环境变量(c0,c1,c2都要修改) vim /etc/profile# stormexpo…
配置storm集群的过程中出现写问题,记录下来 1.storm是通过zookeeper管理的,先要安装zookeeper,从zk官网上下来,我这里下下来的的3.4.9,下载后移动到/usr/local,并解压. tar -zxvf zookeeper-3.4.9.tar.gz 2.进入conf目录,复制zoo_sample.cfg且改名未zoo.cfg,修改zoo.cfg配置文件 cp zoo_sample.cfg /usr/local/zookeeper-3.4.9/conf/zoo.cfg…
spark 安装 配置 使用java来操作spark spark 安装 tar -zxvf spark-2.4.0-bin-hadoop2.7.tgz rm spark-2.4.0-bin-hadoop2.7.tgz mv spark-2.4.0-bin-hadoop2.7 spark sudo vim /etc/profile export SPARK_HOME=/usr/local/storm export PATH=$PATH:$SPARK_HOME/bin source /etc/pro…
Zookeeper是Apache下的项目之一,倾向于对大型应用的协同维护管理工作.IBM则给出了IBM对ZooKeeper的认知: Zookeeper 分布式服务框架是 Apache Hadoop 的一个子项目,它主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务.状态同步服务.集群管理.分布式应用配置项的管理等.总之,可以用“协调”这个核心的词来形容它的作用.关于它能干吗,你可以看看 “Zookeeper能干什么?”. 特征 我们可以把Zookeeper理解为一个精简的文件…
概述 Zookeeper是Apache下的项目之一,倾向于对大型应用的协同维护管理工作.IBM则给出了IBM对ZooKeeper的认知: Zookeeper 分布式服务框架是 Apache Hadoop 的一个子项目,它主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务.状态同步服务.集群管理.分布式应用配置项的管理等.总之,可以用“协调”这个核心的词来形容它的作用.关于它能干吗,你可以看看 “Zookeeper能干什么?”. 特征 我们可以把Zookeeper理解为一个精简…
环境:centos6.4软件:jzmq-master-----java与c++通讯的桥梁,有了它,就可以使用zeromp了storm-0.8.2zeromq-2.1.7-----号称史上最牛逼的消息队列(用c++写的)zookeeper-3.4.5 主机配置: 1.修改主机名: vim /etc/sysconfig/network NETWORKING=yes HOSTNAME=MASTER 2.修改IP: vim /etc/sysconfig/network-scripts/ifcfg-eth…
参考博客 http://blog.csdn.net/catoop/article/details/50848555 http://blog.csdn.net/randompeople/article/details/70500076…