目录 目录 前言 什么是Flume? Flume的特点 Flume的可靠性 Flume的可恢复性 Flume的一些核心概念 Flume的官方网站在哪里? Flume在哪里下载以及如何安装? 设置环境变量 验证是否安装成功 Flume的案例 案例1:Avro 案例2:Spool 案例3:Exec 案例4:Syslogtcp 案例5:JSONHandler 案例6:Hadoop sink 案例7:File Roll Sink 案例8:Replicating Channel Selector 案例9:…
可以带着下面问题来阅读本文章: 1.Storm只支持什么传输 2.通过什么配置,可以更改Zookeeper默认端口 3.Storm UI必须和Storm Nimbus部署在同一台机器上,UI无法正常工作为什么 2.Storm-0.9.0.1大概经过几个步骤 Twitter Storm更新0.9.0.1之后,安装部署变得容易得多了,比起Storm0.8.x的版本,Storm少了zeromq和jzmq的安装,也省去了很多编译这些插件时出现的bug. 1.Storm-0.9.0.1 版本的亮点: 1.…
参考博文:kafka 配置文件参数详解 参考博文:Kafka[第一篇]Kafka集群搭建 参考博文:如何为Kafka集群选择合适的Partitions数量 参考博文:Kafka Server.properties 参考博文:kafka常用配置[重要] 参考博文:kafka常用配置 1. 主机规划 主机名称 IP信息 内网IP 操作系统 安装软件 备注:运行程序 mini01 10.0.0.11 172.16.1.11 CentOS 7.4 jdk.zookeeper.kafka QuorumPe…
大数据篇:DolphinScheduler-1.2.0.release安装部署 1 配置jdk #查看命令 rpm -qa | grep java #删除命令 rpm -e --nodeps xxx 将oracle-j2sdk1.8-1.8.0+update181-1.x86_64.rpm上传至每个节点安装 rpm -ivh oracle-j2sdk1.8-1.8.0+update181-1.x86_64.rpm 修改配置文件 vim /etc/profile #添加 export JAVA_H…
目录: 一.什么是Flume? 1)flume的特点 2)flume的可靠性 3)flume的可恢复性 4)flume 的 一些核心概念 二.flume的官方网站在哪里? 三.在哪里下载? 四.如何安装? 五.flume的案例 1)案例1:Avro 2)案例2:Spool 3)案例3:Exec 4)案例4:Syslogtcp 5)案例5:JSONHandler 6)案例6:Hadoop sink 7)案例7:File Roll Sink 8)案例8:Replicating Channel Sel…
这个不多说,直接上干货,部署很简单! 步骤一:flume的下载 当然,这里也可以使用wget命令在线下载,很简单,不多说. 步骤二:flume的上传 [hadoop@djt002 flume]$ lsapache-flume-1.6.0-bin apache-flume-1.6.0-bin.tar.gz[hadoop@djt002 flume]$ rm apache-flume-1.6.0-bin.tar.gz [hadoop@djt002 flume]$ lsapache-flume-1.6.…
suricata 很值得借鉴.但是首先还是要安装使用,作为第一步的熟悉. 安装文档:https://redmine.openinfosecfoundation.org/projects/suricata/wiki/CentOS_Installation 1. 先做个虚拟机: ┬─[tong@T7:~/VM/suricata-centos7]─[:: AM] ╰─>$ cat start.sh #! /usr/bin/bash sudo qemu-system-x86_64 -enable-kvm…
zabbix安装部署 目录 一.环境准备... 3 1.1.版本:... 3 1.2.部署环境... 3 二.安装部署... 3 2.1.zabbix安装... 3 2.1.1.下载zabbix的rpm仓库包... 3 2.1.2.更新yum.. 3 2.1.3.安装zabbix-server和zabbix-web-mysql 3 2.2.安装并且启动mysql5.6及初始化数据库信息... 4 2.2.1.下载mysql的rpm包... 4 2.2.2.安装mysql 4 2.2.3.启动my…
之前已经完成了Hadoop集群.Hbase集群.Hive的搭建, 这次来安装一下flume-1.9.0 安装过程 将tar包上传并解压到指定目录, 并修改名称 tar -zxvf apache-flume-1.9.0-bin.tar.gz -C /opt/ronnie cd /opt/ronnie/ mv apache-flume-1.9.0-bin/ flume-1.9.0 进入flume配置文件目录, 拷贝一份环境配置文件并修改 cd flume-1.9.0/conf/ cp flume-e…
系统:linux java:jdk 8,64-bit Connector:hive 分布式,node1-3 node1:Coordinator . Discovery service node2-3:Worker 开始安装部署 除了标红的需要在node2-3上特殊处理,其他设置和node1一样,下面以node1为例 Presto Server配置 解压缩presto-server-0.166.tar.gz tar zxvf presto-server-0.166.tar.gz 在presto-s…