1. Hadoop介绍 Hadoop是一个能够对海量数据进行分布式处理的系统架构. Hadoop框架的核心是:HDFS和MapReduce. HDFS分布式文件系统为海量的数据提供了存储, MapReduce分布式处理框架为海量的数据提供了计算. 2. Hadoop安装 2.1 安装java Hadoop是使用JAVA写的,所以需要先安装JAVA环境. 本次安装的是hadoop-2.7.0,需要JDK 7以上版本. # yum install java-1.7.0-openjdk # yum i…

单机部署实施-linux 单机部署实施-linux author :James,jimingsong@vip.qq.com since :2015-03-02 系统环境需求 软件来源 底层依赖 1. 系统环境需求 名称 版本信息 CentOS 6.4(64位) Nginx >=1.2.4 PHP >=5.3.17 MySQL >=5.5.28 Mongodb >=2.2 Memcached >=1.4.15 2. 软件来源 软件名称 下载地址 Nginx http://ngi…

单机部署,实际上就是将EM节点和一个Server节点安装到同一个地方.EM节点是TASKCTL服务端的最顶层,主要负责客户端与服务端之间的通信.Server节点是TASKCTL的调度服务控制层,也有Agent节点的部分功能,能够直接执行任务.下面我们来看看单机部署的过程. 先释放tar包的文件 tar vxf taskctlforlinux32_4.1.3.tar1 在安装之前,我们需要先设置好环境变量,请注意,这里是分别安装到同一台服务器的不同账户下,所以只需要在root账户下设置一次环境变量…

使用yum源的方式单机部署MySQL8.0.13 作者:尹正杰  版权声明:原创作品,谢绝转载!否则将追究法律责任. 基本上开源的软件都支持三种安装方式,即rmp方式安装,源码安装和二进制方式安装.在实际生成环境中用到最多的方式莫过于二进制方式安装或者rmp方式安装.其中rmp方式安装是最常见的,比如Linux的Redhat/CentOS法相版本的yum管理工具,其实就是基于rpm方式安装,只不过它能帮我们解决rpm包的依赖关系即可.我在之前的笔记中介绍过MySQL5.7版本的以上三种安装方式.…

使用二进制安装包的方式单机部署MySQL8.0.13 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 关于MySQL的介绍我这里就不多做赘述了,如何下载MySQL详情请参考:MySQL入门介绍(mysql-8.0.13).本篇博客默认你已经将MySQL二进制tar包下载好并上传到服务器上了. 一.使用默认的安装路径部署MySQL服务 1>.安装上传工具 [root@node101 ~]# yum -y install lrzsz 2>.上传MySQL的二进制安装包到服务器上…

所需软件:solr4.8.1.Tomcat7 下载完相应软件后开始单机部署(windows下) 在F盘根目录创建solr文件夹,并解压solr4.8和tomcat7到该文件夹 在F盘根目录创建solrhome文件夹,将F:\solr\solr-4.8.1\example\solr下的所有文件复制到solrhome文件夹中 将F:\solr\solr-4.8.1\dist下的solr-4.8.1.war复制到tomcat7的webapps下并更名为solr.war 在F:\solr\apache-…

Hadoop生态圈-CentOs7.5单机部署ClickHouse 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 到了新的公司,认识了新的同事,生产环境也得你去适应新的集群环境,我新入职的公司的大数据开发同时并不看好hbase,而是对clickhouse青睐有加,听他们口头把ClickHouse吹的那么的出神入化,听的我是有种迫不及待想要对它一探究竟. 最新的一手资料请参考官网:https://clickhouse.yandex/ 一.ClickHouse的独特功能 1>.真…

1.Kafka简介 kafka-分布式发布-订阅消息系统,开发语言-Scala,协议-仿AMQP,不支持事务,支持集群,支持负载均衡,支持zk动态扩容 2.Kafka的架构组件 1.话题(Topic):是特定类型的消息流.消息是字节的有效负载(Payload),话题是消息的分类名或种子(Feed)名: 2.生产者(Producer):是能够发布消息到话题的任何对象: 3.服务代理(Broker):已发布的消息保存在一组服务器中,它们被称为代理(Broker)或Kafka集群,broker的作用类…

centos6.5环境下Zookeeper-3.4.6集群环境部署 [系统]Centos 6.5 集群部署 [软件]准备好jdk环境,此次我们的环境是open_jdk1.8.0_101 zookeeper-3.4.6.tar.gz [步骤] 1. 准备条件 如果有内部dns或者外网有域名,则直接使用域名 如果没有需要修改/etc/hosts文件,或者直接使用IP 集群规划 主机类型IP地址 域名 zookeeper1192.168.1.1zookeeper1.chinasoft.com zook…

前言 因近期要做 hadoop 有关的项目,需配置 hadoop 环境,简单起见就准备进行单机部署,方便开发调试.顺便记录下采坑步骤,方便碰到同样问题的朋友们. 安装步骤 一.下载 hadoop-XXX.tar.gz 下载地址:http://archive.apache.org/dist/hadoop/core/ 将文件解压至无空格目录下,好像时间有那么点点久..... 注:解压需管理员权限!!! 添加环境变量 添加HADOOP_HOME配置 在 path 中添加 bin 目录 C:\hadoo…