CentOS7 搭建Kafka(一)zookeeper篇 近几年当红小生Kafka备受各路英雄好汉追捧,一点不比老前辈RabbitMQ和ActiveMQ差,因为流行,所以你就得学啊:我这么懒,肯定是不愿意学的,流行也跟我没啥关系,人工智能那么火我去学了么?好吧,我学了一点放弃了,学渣伤不起.我们部门和各个业务部都有对接,但每个业务部各自为政,还很强势,各种技术都用,稍微有点要求满足不了,那就要到领导去哭诉,所以用RabbitMQ的有.用Kafka的有,用RestfulAPI的有,走FileQue…

1.配置ssh免密登录 (本人使用的是centOS7虚拟机) (本人未在root用户下安装,建议使用root用户,不然很麻烦!!) ① 本机无密钥登录 1.进入~/.ssh目录(若无,则执行一次ssh localhost), 2.执行ssh-keygen -t rsa命令(回车即可), 我弄过了所以已经有啦! 3.再执行cat ./id_rsa.pub >> ./authorized_keys命令,把id_rsa.pub追加到授权的key里面, 4.给authorized_keys授权chmo…

摘要: 本文主要介绍搭建Hadoop.HBase.Zookeeper集群环境的搭建 一.基础环境准备 1.下载安装包(均使用当前最新的稳定版本,截止至2017年05月24日) 1)jdk-8u131 下载地址:Java SE Development Kit 8 2)hadoop-2.7.3 下载地址:Index of /apache/hadoop/common/hadoop-2.7.3 3)hbase-1.2.5 下载地址:Index of /apache/hbase/1.2.5 4)zooke…

 一.前言 开始学习数据处理相关的知识了,第一步是搭建一个Hadoop集群.搭建一个分布式集群需要多台电脑,在此我选择采用VMWare+CentOS7搭建一个三台虚拟机组成的Hadoop集群. 注:1.本次搭建环境中操作系统的用户名为hadoop,请自行替换/home/hadoop为本机对应路径. 2.本次用到的软件版本为: VMware Workstation 14 Pro 14.1.3 build-9474260 CentOS 7.5.1804 Java 1.8.0_181 Apache H…

参考文档:http://blog.csdn.net/xiaoxiangzi222/article/details/52757168 https://waylau.com/centos-7-installation-and-configuration/ 采用虚拟机搭建: 工具:centos7 ,jdk1.7 ,hadoop2.8; 安装虚拟机,创建centos7后,注意下手动修改下网络设置: 1.1 这里主要是通过查看[虚拟机]-->[虚拟网络编辑器]-->查看虚拟机的[网关ip]-->设…

虽然说是完全分布式,但三个节点也都是在一台机器上.拿来练手也只能这样咯,将就下.效果是一样滴.这个我自己都忘了步骤,一起来回顾下吧. 必备知识: Linux基本命令 vim基本命令 准备软件: VMware Workstation Pro Xshell(方便操作) 下载文件: Centos7(我不是最小的镜像文件CentOS-7-x86_64-DVD-1708.iso) hadoop2.7.6(版本自己看着下吧,看个人需求) JDK1.8 总体思路先说下: 安装三个Centos7系统 配置三台服…

Centos7搭建hadoop完全分布式 虽然说是完全分布式,但三个节点也都是在一台机器上.拿来练手也只能这样咯,将就下.效果是一样滴.这个我自己都忘了步骤,一起来回顾下吧. 必备知识: Linux基本命令 vim基本命令 准备软件: VMware Workstation Pro Xshell(方便操作) 下载文件: Centos7(我不是最小的镜像文件CentOS-7-x86_64-DVD-1708.iso) hadoop2.7.6(版本自己看着下吧,看个人需求) JDK1.8 总体思路先说下…

安装包 Hadoop 3.1.3 Zookeeper 3.5.7 Hbase 2.2.2 所需工具链接: 链接:https://pan.baidu.com/s/1jcenv7SeGX1gjPT9RnBsIQ 提取码:rkca 伪分布式并无用处,只作为课堂测试环境使用,配置所做笔记. 配置 Hadoop core-site.xml 填加配置项 <!-- 指定HDFS中NameNode的地址 --> <property> <name>fs.defaultFS</nam…

1. 所需软件下载链接(建议直接复制链接到迅雷下载更快): ①hadoop-2.7.6.tar.gz: wget http://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-2.7.6/hadoop-2.7.6.tar.gz ②zookeeper-3.4.12.tar.gz: wget https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/stable/zookeeper-3…

从字面上来看,ZooKeeper表示动物园管理员,这是一个十分奇妙的名字,我们又想起了Hadoop生态系统中,许多项目的Logo都采用了动物,比如Hadoop采用了大象的形象,所以我们可以猜测ZooKeeper就是对这些动物进行一些管理工作的. 一.ZooKeeper基础介绍 1.1 动物园也要保障安全 zookeeper是hadoop下面的一个子项目,用来协调跟hadoop相关的一些分布式的框架,如hadoop, hive, pig等, 其实他们都是动物,所以叫zookeeper ——“动物园…