一:Storm集群环境搭建
第一:storm集群环境准备及部署
【1】硬件环境准备
--->机器数量>=3
--->网卡>=1
--->内存:尽可能大
--->硬盘:无额外需求
【2】软件环境准备
--->CentOS-6.0-x86_64系统环境
--->三台地址
--->zookeeper和storm公用物理环境
第二:节点环境查看
第三:节点之间用ip-->别名绑定/etc/hosts,然后用ping 别名 进行测试
第四:zookeeper集群环境搭建
第五:Storm集群环境搭建
【1】storm集群搭建的基本流程
【2】storm常用配置的讲解
第六:Storm安装包下载
第七:安装Storm
【1】将压缩包解压,并移动到创建的storm目录下
【2】storm.yaml配置文件的配置(配置文件不要空行,前边不要加空格)
#storm节点和zooKeeper集群建立链接的配置(zookeeper的节点名字用的是其所在机器的hostname)
storm.zookeeper.servers:
- "sjm6-qatest10-30.75"
- "sjm6-qatest11-30.76"
- "sjm6-qatest12-30.77"
#storm集群中的nimbus节点的配置
nimbus.host: "sjm6-qatest10-30.75"
#storm记录临时状态的配置(:后加一个空格,会自动创建)
storm.local.dir: "/var/storm/status"
#storm工作节点的进程端口。每配置一个端口,则工作节点就可以多启动一个worker
supervisor.slots.ports:
- 6700
- 6701
- 6702
- 6703
【3】storm环境变量的配置
#jdk
export JAVA_HOME=/apps/jdk1.6.0_19
export JAVA_BIN=/apps/jdk1.6.0_19/bin
export PATH=$PATH:$JAVA_HOME/bin
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export JAVA_HOME JAVA_BIN PATH CLASSPATH
#zookeeper
export ZOOKEEPER_HOME= /opt/zookeeper
export PATH=$ZOOKEEPER_HOME/bin:$PATH
#storm
export STORM_HOME=/opt/storm/apache-storm-0.9.2-incubating
export PATH=$STORM_HOME/bin:$PATH
【4】storm的启动
#storm ui >/dev/null 2>&1 &
==>启动storm的ui,将输出指向/dev/null设备中
==>2>&1 错误指向正常输出
==>& 表示后台运行
# storm nimbus>/dev/null 2>&1 &
==>启动nimbus节点
# storm supervisor>/dev/null 2>&1 &
==>启动supervisor节点
【5】storm的ui界面
一:Storm集群环境搭建的更多相关文章
- Storm —— 集群环境搭建
一.集群规划 这里搭建一个3节点的Storm集群:三台主机上均部署Supervisor和LogViewer服务.同时为了保证高可用,除了在hadoop001上部署主Nimbus服务外,还在hadoop ...
- Storm 学习之路(四)—— Storm集群环境搭建
一.集群规划 这里搭建一个3节点的Storm集群:三台主机上均部署Supervisor和LogViewer服务.同时为了保证高可用,除了在hadoop001上部署主Nimbus服务外,还在hadoop ...
- Storm 系列(四)—— Storm 集群环境搭建
一.集群规划 这里搭建一个 3 节点的 Storm 集群:三台主机上均部署 Supervisor 和 LogViewer 服务.同时为了保证高可用,除了在 hadoop001 上部署主 Nimbus ...
- 大数据处理框架之Strom:Storm集群环境搭建
搭建环境 Red Hat Enterprise Linux Server release 7.3 (Maipo) zookeeper-3.4.11 jdk1.7.0_80 Pyth ...
- storm集群环境搭建
1.环境 Java环境 卸载虚机环境中自带的openJdk,安装sun的jdk,配置环境变量 2.安装storm 下载storm安装包 解压到安装目录,配置环境变量 vi /etc/profile # ...
- centos7:storm集群环境搭建
1.安装storm 下载storm安装包 在线下载 wget http://apache.fayea.com/storm/apache-storm-1.1.1/apache-storm-1.1.1.t ...
- 大数据 -- Hadoop集群环境搭建
首先我们来认识一下HDFS, HDFS(Hadoop Distributed File System )Hadoop分布式文件系统.它其实是将一个大文件分成若干块保存在不同服务器的多个节点中.通过联网 ...
- Hadoop+Spark:集群环境搭建
环境准备: 在虚拟机下,大家三台Linux ubuntu 14.04 server x64 系统(下载地址:http://releases.ubuntu.com/14.04.2/ubuntu-14.0 ...
- 项目进阶 之 集群环境搭建(三)多管理节点MySQL集群
上次的博文项目进阶 之 集群环境搭建(二)MySQL集群中,我们搭建了一个基础的MySQL集群,这篇博客咱们继续讲解MySQL集群的相关内容,同时针对上一篇遗留的问题提出一个解决方案. 1.单管理节点 ...
随机推荐
- poj3177 BZOJ1718 Redundant Paths
Description: 有F个牧场,1<=F<=5000,现在一个牧群经常需要从一个牧场迁移到另一个牧场.奶牛们已经厌烦老是走同一条路,所以有必要再新修几条路,这样它们从一个牧场迁移到另 ...
- TYVJ1423 GF和猫咪的玩具
Description: GF同学和猫咪得到了一个特别的玩具,这个玩具由n个金属环(编号为1---n),和m条绳索组成,每条绳索连接两个不同的金属环,并且长度相同.GF左手拿起金属环L,猫咪右手(或者 ...
- 【单调队列】【P2627】 修剪草坪
传送门 Wa这次竟然不是Uva的题 Description 在一年前赢得了小镇的最佳草坪比赛后,Farm John变得很懒,再也没有修剪过草坪.现在,新一轮的最佳草坪比赛又开始了,Farm John希 ...
- eclipse中支持python
1. 启动eclipse,help-> Install New Software; 2. 点击add 3. 设置Repository name: pydev Location: http://p ...
- 细谈select函数(C语言)
Select在Socket编程中还是比较重要的,可是对于初学Socket的人来说都不太爱用Select写程序,他们只是习惯写诸如connect.accept.recv或recvfrom这样的阻塞程序( ...
- 本地更新代码同步至github仓库
昨晚在家里写了一个demo放到github上,然后今天晚上来公司准备搞一下,但是git pull下来在本地修改之后push不到github上,然后发现公司电脑上并没有access权限,然后想起来还没配 ...
- mysql连接时权限问题 用户问题
启动工程时会连接mysql数据库,此时报错: ERROR 1044 (42000): Access denied for user 'pay'@'localhost' to database 'pay ...
- maven插件理解
maven插件的主要功能是对用到的jar包进行管理,jar包先从本地仓库中获取,如果没有找到,则从远处中央仓库下载(需要联外网).本地仓库中的jar包可供所有maven工程使用,属于公共模块. mav ...
- [LeetCode] 17. Letter Combinations of a Phone Number ☆☆
Given a digit string, return all possible letter combinations that the number could represent. A map ...
- 基于http的追加协议、构建web内容的技术、web的攻击技术(9,10,11)
第九章 基于http的追加协议 用来提升http的瓶颈,比如Ajax技术,spdy等 第十章 构建web内容的技术 html.css.js等 第十一章 web的攻击技术 比如sql注入攻击.xss等.