一.系统环境:  Hadoop 0.20.2.JDK 1.6.Linux操作系统 二.使用背景  网上关于Hadoop的集群配置,很多情况下,都是把namenode和secondnamenode部署在同一服务器上.为了降低风险,一个大的集群环境,最好是把这两个配置到不同的服务器上. 三.操作  要达到这要求,需要对conf/master.conf/hdfs-site.xml和conf/core-site.xml这三个配置文件进行设置. 1.conf/master文件:  Hadoop的官网和大多…
1)集群规划:主机名        IP      安装的软件                     运行的进程master    192.168.199.130   jdk.hadoop                     NameNode.DFSZKFailoverController(zkfc)slaver1    192.168.199.131    jdk.hadoop                       NameNode.DFSZKFailoverController(…
HDFS前言: 1) 设计思想 分而治之:将大文件.大批量文件,分布式存放在大量服务器上,以便于采取分而治之的方式对海量数据进行运算分析: 2)在大数据系统中作用: 为各类分布式运算框架(如:mapreduce,spark,tez,……)提供数据存储服务 3)重点概念:文件切块,副本存放,元数据 4).NameNode节点:由core-site.xml配置指定(name=fs.defaultFS,value=hdfs://slaver1:8020).   DataNode/NodeManager…
Apache Hadoop 2.9.2 完全分布式部署(HDFS) 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.环境准备 1>.操作平台 [root@node101.yinzhengjie.org.cn ~]# cat /etc/redhat-release CentOS Linux release (Core) [root@node101.yinzhengjie.org.cn ~]# [root@node101.yinzhengjie.org.cn ~]# uname…
Hadoop集群完全分布式配置部署 下面的部署步骤,除非说明是在哪个服务器上操作,否则默认为在所有服务器上都要操作.为了方便,使用root用户. 1.准备工作 1.1 centOS6服务器3台 手动指定3服务器台以下信息: hostname IP mask gateway DNS 备注 master 172.17.138.82 255.255.255.0 172.17.138.1 202.203.85.88 服务器1 slave1 172.17.138.83 255.255.255.0 172.…
非HA的安装步骤 https://www.cnblogs.com/live41/p/15467263.html 一.部署设定 1.服务器 c1   192.168.100.105    zk.namenode.zkfc.datanode.nodemanagerc2   192.168.100.110    zk.namenode.zkfc.datanode.nodemanager.resourcemanager.journalnodec3   192.168.100.115    zk.data…
实验系统:CentOS 6.6_x86_64 实验前提:提前准备好编译环境,防火墙和selinux都关闭 实验说明:本实验共有4台主机,IP及角色分配如拓扑 下载地址:试验中用到mariadb软件的下载地址,http://pan.baidu.com/s/1bnnYiMr 实验拓扑: 一.准备工作 1.修改hostname和hosts文件为如下表格中内容: 说明:mysql是zabbix数据存放主机,server是zabbix主服务主机,web是zabbix前端展示主机,agent是被监控主机.通…
hadoop出现namenode running as process 18472. Stop it first.等等,类别似几个的出现. namenode running as process 32972. Stop it first. 127.0.0.1: ssh: connect to host 127.0.0.1 port 22: No error 127.0.0.1: ssh: connect to host 127.0.0.1 port 22: No error jobtracker…
hadoop启动namenode日志报这个错,首先说怎么看日志, 启动namenode会有这个,ubuntu: starting namenode, logging to /home/xiaoye/hadoop/logs/hadoop-xiaoye-namenode-ubuntu.out 这是hadoop启动时会自动帮助写日志,并告诉我们日志的目录,我直接tail -200 /home/xiaoye/hadoop/logs/hadoop-xiaoye-namenode-ubuntu.out 看日…
1.安装php 7.2 2.php配置 3.nginx配置 4.测试 5.报错与解决 6.利用upstream实现负载均衡 1.安装php 7.2 启动容器: liwangdeMacBook-Air:~ liwang$ docker run -i -t --name php --net mynetwork --ip : centos /bin/bash 复制php至容器 liwangdeMacBook-Air:~ liwang$ docker .tar.gz php:/soft 安装插件 [ro…