三台集群机器：

master   192.168.168.200

slave1     192.168.168.201

slave2     192.168.168.202

1、start-master.sh



  1. #!bin/sh
    2. 

  2. echo "==============================================="
    3. 

  3. echo "================启动 Hadoop==================="
    4. 

  4. echo "==============================================="
    5. 

  5. start-all.sh;
    6. 

  6. echo "==============================================="
    7. 

  7. echo "================启动 Spark===================="
    8. 

  8. echo "==============================================="
    9. 

  9. /usr/local/spark/spark-2.1.1-bin-hadoop2.7/sbin/start-all.sh;
    10. 

  10. echo "==============================================="
    11. 

  11. echo "================启动master Zookeeper==========="
    12. 

  12. echo "==============================================="
    13. 

  13. zkServer.sh start;
    14. 

  14. echo "==============================================="
    15. 

  15. echo "================启动slave1 Zookeeper==========="
    16. 

  16. echo "==============================================="
    17. 

  17. ssh slave1 "/usr/local/zookeeper/zookeeper-3.4.6/bin/zkServer.sh start;exit;";
    18. 

  18. echo "==============================================="
    19. 

  19. echo "================启动slave2 Zookeeper==========="
    20. 

  20. echo "==============================================="
    21. 

  21. ssh slave2 "/usr/local/zookeeper/zookeeper-3.4.6/bin/zkServer.sh start;exit;";
    22. 

  22. echo "==============================================="
    23. 

  23. echo "================启动master Kafka==============="
    24. 

  24. echo "==============================================="
    25. 

  25. cd /usr/local/kafka/kafka_2.11-0.8.2.1;
    26. 

  26. bin/kafka-server-start.sh config/server.properties;
    27. 

  27. echo "==============================================="
    28. 

  28. echo "============Master启动服务成功！！！==========="
    29. 

  29. echo "==============================================="


由于kafka-server-start.sh启动的是一个后台服务，所以只能分开启动kafka后台服务。


2、start-slave1.sh




  1. #!bin/sh
    2. 

  2. echo "==============================================="
    3. 

  3. echo "================启动slave1 Kafka==============="
    4. 

  4. echo "==============================================="
    5. 

  5. ssh slave1 "cd /usr/local/kafka/kafka_2.11-0.8.2.1;bin/kafka-server-start.sh config/server.properties;";
    6. 

  6. echo "==============================================="
    7. 

  7. echo "============slave1启动服务成功！！！==========="
    8. 

  8. echo "==============================================="


3、start-slave2.sh




  1. #!bin/sh
    2. 

  2. echo "==============================================="
    3. 

  3. echo "================启动slave2 Kafka==============="
    4. 

  4. echo "==============================================="
    5. 

  5. ssh slave2 "cd /usr/local/kafka/kafka_2.11-0.8.2.1;bin/kafka-server-start.sh config/server.properties;";
    6. 

  6. echo "==============================================="
    7. 

  7. echo "============slave2启动服务成功！！！==========="
    8. 

  8. echo "==============================================="


4、stop.sh




  1. #!bin/sh
    2. 

  2. echo "==============================================="
    3. 

  3. echo "================停止 Hadoop==================="
    4. 

  4. echo "==============================================="
    5. 

  5. stop-all.sh;
    6. 

  6. echo "==============================================="
    7. 

  7. echo "================停止 Spark===================="
    8. 

  8. echo "==============================================="
    9. 

  9. /usr/local/spark/spark-2.1.1-bin-hadoop2.7/sbin/stop-all.sh;
    10. 

  10. echo "==============================================="
    11. 

  11. echo "================停止master Zookeeper==========="
    12. 

  12. echo "==============================================="
    13. 

  13. zkServer.sh stop;
    14. 

  14. echo "==============================================="
    15. 

  15. echo "================停止slave1 Zookeeper==========="
    16. 

  16. echo "==============================================="
    17. 

  17. ssh slave1 "/usr/local/zookeeper/zookeeper-3.4.6/bin/zkServer.sh stop;exit;";
    18. 

  18. echo "==============================================="
    19. 

  19. echo "================停止slave2 Zookeeper==========="
    20. 

  20. echo "==============================================="
    21. 

  21. ssh slave2 "/usr/local/zookeeper/zookeeper-3.4.6/bin/zkServer.sh stop;exit;";
    22. 

  22. echo "==============================================="
    23. 

  23. echo "================停止master Kafka==============="
    24. 

  24. echo "==============================================="
    25. 

  25. cd /usr/local/kafka/kafka_2.11-0.8.2.1;
    26. 

  26. bin/kafka-server-stop.sh config/server.properties;
    27. 

  27. echo "==============================================="
    28. 

  28. echo "================停止slave1 Kafka==============="
    29. 

  29. echo "==============================================="
    30. 

  30. ssh slave1 "cd /usr/local/kafka/kafka_2.11-0.8.2.1;bin/kafka-server-stop.sh config/server.properties;exit;";
    31. 

  31. echo "==============================================="
    32. 

  32. echo "================停止slave2 Kafka==============="
    33. 

  33. echo "==============================================="
    34. 

  34. ssh slave2 "cd /usr/local/kafka/kafka_2.11-0.8.2.1;bin/kafka-server-stop.sh config/server.properties;exit;";
    35. 

  35. echo "==============================================="
    36. 

  36. echo "================停止服务成功！！！============="
    37. 

  37. echo "===============================================" ​


5、producer.sh




  1. #!bin/sh
    2. 

  2. echo "==============================================="
    3. 

  3. echo "================启动test主题生产者=============="
    4. 

  4. echo "==============================================="
    5. 

  5. kafka-console-producer.sh --broker-list 192.168.168.200:9092 --sync --topic test


6、consumer.sh




  1. #!bin/sh
    2. 

  2. echo "==============================================="
    3. 

  3. echo "================启动test主题消费者=============="
    4. 

  4. echo "==============================================="
    5. 

  5. kafka-console-consumer.sh --zookeeper 192.168.168.200:2181 --topic test


7、启动运行


打开第一个终端执行sh start-master.sh




打开第二个终端，执行sh start-slave1.sh




打开第三个终端，执行sh start-slave2.sh






其他的同上。


												


											
使用shell脚本批处理控制大数据环境服务启动停止的更多相关文章
	

    
								
  1. Dubbo入门到精通学习笔记（二）：Dubbo管理控制台、使用Maven构建Dubbo的jar包、在Linux上部署Dubbo privider服务（shell脚本）、部署consumer服务
		
    文章目录 Dubbo管理控制台 1.Dubbo管理控制台的主要作用: 2.管理控制台主要包含: 3.管理控制台版本: 安装 Dubbo 管理控制台 使用Maven构建Dubbo服务的可执行jar包 D ...
    
		
    2. 
						
  2. Linux Oracle服务启动&停止脚本与开机自启动
		
    在CentOS 6.3下安装完Oracle 10g R2,重开机之后,你会发现Oracle没有自行启动,这是正常的,因为在Linux下安装Oracle的确不会自行启动,必须要自行设定相关参数,首先先介 ...
    
		
    3. 
						
  3. Linux Oracle服务启动&停止脚本与开机自启动[转]
		
    在CentOS 6.3下安装完Oracle 10g R2,重开机之后,你会发现Oracle没有自行启动,这是正常的,因为在Linux下安装Oracle的确不会自行启动,必须要自行设定相关参数,首先先介 ...
    
		
    4. 
						
  4. 【转】Linux Oracle服务启动&停止脚本与开机自启动
		
    在CentOS 6.3下安装完Oracle 10g R2,重开机之后,你会发现Oracle没有自行启动,这是正常的,因为在Linux下安装Oracle的确不会自行启动,必须要自行设置相关参数,首先先介 ...
    
		
    5. 
						
  5. (转)Linux Oracle服务启动&停止脚本与开机自启动
		
    在CentOS 6.3下安装完Oracle 10g R2,重开机之后,你会发现Oracle没有自行启动,这是正常的,因为在Linux下安装Oracle的确不会自行启动,必须要自行设定相关参数,首先先介 ...
    
		
    6. 
						
  6. 在linux上oracle服务启动停止详细
		
    转至:https://www.cnblogs.com/baihuitestsoftware/articles/6365431.html 在CentOS 6.3下安装完Oracle 10g R2,重开机 ...
    
		
    7. 
						
  7. linux shell脚本守护进程监控svn服务
		
    最近搭建的svn服务不知道什么原因服务总是被关闭(如果你不知道怎么搭建svn可以参考linux下搭建svn版本控制软件),因此用shell脚本实现一个守护进程.用于监控svn服务是否启动,如果服务不在 ...
    
		
    8. 
						
  8. 钻牛角尖还是走进死胡同--shell脚本根据名称获得 dubbo 服务的 pid
		
    到了下午,突然觉得坐立不安,可能是因为中午没有休息好.老大不小了还在做页面整合的事情,这是参加工作时就干的工作了.然后突然想去挑战高级一点的缺陷排查,结果一不小心就钻了一个牛角尖.启动 dubbo 服 ...
    
		
    9. 
						
  9. 【shell脚本】自动监控tomcat服务===autoCheck.sh
		
    自动监控tomcat服务,当tommcat服务挂掉时自动重启 一.脚本内容 [root@localhost ]# cat /root/autoCheck.sh #!/bin/bash startTom ...
    
		
    10. 
		

	


随机推荐
	

    
									
  1. Metasploit的射频收发器功能 | Metasploit’s RF Transceiver Capabilities
			
    https://community.rapid7.com/community/metasploit/blog/2017/03/21/metasploits-rf-transceiver-capabil ...
    
			
    2. 
						
  2. Day13作业及默写
			
    1. 整理今天的博客,写课上代码,整理流程图. 博客链接--博客园 2. 写一个函数完成三次登陆功能: 用户的用户名密码从一个文件register中取出. register文件包含多个用户名,密码,用 ...
    
			
    3. 
						
  3. springboot默认创建的bean是单实还是多例
			
    转:https://blog.csdn.net/q1512451239/article/details/53122687 springboot默认创建的bean是单实还是多例 曾经面试的时候有面试官问 ...
    
			
    4. 
						
  4. batch normalization在测试时的问题
			
    验证: 在测试时可以一张图,但设置use_global_stats:true,已经验证,第一台4gpu上,路径:/home/guangcong/projects/unlabeled-video/tra ...
    
			
    5. 
						
  5. [LeetCode&Python] Problem 404. Sum of Left Leaves
			
    Find the sum of all left leaves in a given binary tree. Example: 3 / \ 9 20 / \ 15 7 There are two l ...
    
			
    6. 
						
  6. 阿里druid数据库连接池配置
			
    <?xml version="1.0" encoding="UTF-8"?> <beans xmlns="http://www.sp ...
    
			
    7. 
						
  7. 数据库设计画图工具powerdesigner
			
    powerdesigner 教程:http://jingyan.baidu.com/article/bea41d43684fa4b4c51be6cf.html
    
			
    8. 
						
  8. HDU2023：求平均成绩
			
    Problem Description 假设一个班有n(n<=50)个学生,每人考m(m<=5)门课,求每个学生的平均成绩和每门课的平均成绩,并输出各科成绩均大于等于平均成绩的学生数量.  ...
    
			
    9. 
						
  9. BFS广度优先搜索 poj1915
			
    Knight Moves Time Limit: 1000MS Memory Limit: 30000K Total Submissions: 25909 Accepted: 12244 Descri ...
    
			
    10. 
						
  10. GinKgoCTF-Crypto
			
    一:古典密码 一只小羊跳过了栅栏,密码如下: GpKlCeT_FC{rAy_pStiym} 栅栏解密——>11栏 二:滴滴滴 --./-.-/-.-./-/..-./----.--/-../.. ...
    
			
    11.