马士兵hadoop第一课:虚拟机搭建和安装hadoop及启动 马士兵hadoop第二课:hdfs集群集中管理和hadoop文件操作 马士兵hadoop第三课:java开发hdfs 马士兵hadoop第四课:Yarn和Map/Reduce配置启动和原理讲解 马士兵hadoop第五课:java开发Map/Reduce (一) 需要用到的软件 virtualbox redhat64(centos7) hadoop-2.7.3.jar jdk8 xshell ftp(我用的是FlashFXP) 所需要的…
马士兵hadoop第一课:虚拟机搭建和安装hadoop及启动 马士兵hadoop第二课:hdfs集群集中管理和hadoop文件操作 马士兵hadoop第三课:java开发hdfs 马士兵hadoop第四课:Yarn和Map/Reduce配置启动和原理讲解 马士兵hadoop第五课:java开发Map/Reduce 马士兵hadoop第一课:虚拟机搭建和安装hadoop及启动 (一) 需要用到的软件 virtualbox redhat64(centos7) hadoop-2.7.3.jar jdk…
Linux系统初学第一课 虚拟机安装CentOS6.5以及Root密码找回 虚拟机安装CentOS6.5 一.安装虚拟机 1-1.安装虚拟机VMware Station,新建虚拟机,选择典型配置. 1-2.选择稍后安装操作系统. 1-3.客户机操作系统选择linux,版本选择CentOS 6.5 64位.  1-4.设置虚拟机名称及位置. 1-5.指定磁盘容量,建议选择存储为单个文件. 1-6.自定义硬件. 1-7.点击编辑虚拟机设置. 1-8.选择CD/DVD,使用ISO映像文件,选择下载好的…
第一课 环境搭建 1.说明: ThinkPHP是一个开源的国产PHP框架,是为了简化企业级应用开发和敏捷WEB应用开发而诞生的. 最早诞生于2006年初.原名FCS.2007年元旦正式更名为ThinkPHP,而且遵循Apache2开源协议公布. 早期的思想架构来源于Struts,后来经过不断改进和完好,同一时候也借鉴了国外非常多优秀的框架和模式,使用面向对象的开发结构和MVC模式,融合了Struts的Action和Dao思想和JSP的TagLib(标签库).RoR的ORM映射和ActiveRec…
要想深入的学习hadoop数据分析技术,首要的任务是必须要将hadoop集群环境搭建起来,可以将hadoop简化地想象成一个小软件,通过在各个物理节点上安装这个小软件,然后将其运行起来,就是一个hadoop分布式集群了. 说来简单,但是应该怎么做呢?不急,本文的主要目的就是让新手看了之后也能够亲自动手实施这些过程.由于本人资金不充裕,只能通过虚拟机来实施模拟集群环境,虽然说是虚机模拟,但是在虚机上的hadoop的集群搭建过程也可以使用在实际的物理节点中,思想是一样的.也如果你有充裕的资金,自己不…
接上篇:Hadoop3集群搭建之——虚拟机安装 下篇:Hadoop3集群搭建之——配置ntp服务 Hadoop3集群搭建之——hive安装 Hadoop3集群搭建之——hbase安装及简单操作 上篇已经安装好了虚拟机了,现在开始配置环境,安装hadoop 注:hadoop集群最少需要三台机,因为hdfs副本数最少为3,单机不算 我搭了三台机 1.创建hadoop用户,hadoopgroup组 groupadd -g hadoopgroup # 创建用户组 useradd -d /opt/hado…
 前言 Hadoop是基于Java语言开发的,具有很好跨平台的特性.Hadoop的所要求系统环境适用于Windows,Linux,Mac系统,我们推荐选择使用Linux或Mac系统.而Linux系统则可以在Windows上使用虚拟机或双系统安装使用.如果选择Linux,我们需要首先安装好Linux系统,然后在Linux系统的基础上,安装Hadoop. 在这里我选用的虚拟机中安装.由于UBuntu界面化较好,再加上自己是新手,所以我采用UBuntu操作系统. ubuntu在虚拟机下的安装 一.系统…
在安装hadoop集群之前,需要先进行zookeeper的安装,请参照hadoop集群环境搭建之zookeeper集群的安装部署 1 将hadoop安装包解压到 /itcast/  (如果没有这个目录可以先自行创建之) tar -zxvf hadoop-2.6.4.tar.gz -C /itcast 2 配置HDFS(hadoop2所有的配置文件都在$HADOOP_HOME/etc/hadoop目录下) 2.1将hadoop添加到环境变量中,可以在一台机器上添加,然后发送给其他节点 vim /e…
一. 检查列表 1.1.网络访问 设置电脑IP以及可以访问网络设置:进入etc/sysconfig/network-scripts/,使用命令“ls -all” 查看文件.会看到ifcfg-lo文件然后使用命令修改IP和DNS. 1.2.防火墙 关闭防火墙,我是用的系统是CentOS7,命令如何下: 查看防火墙状态的命令:systemctl status firewalld 关闭防火墙的命令:systemctl stop firewalld 关闭防火墙开机启动:systemctl disable…
Hadoop基本概念 在当下的IT领域,大数据很"热",实现大数据场 景的Hadoop系列产品更"热". Hadoop是一个开源的分布式系统基础架构,由 Apache基金会开发. 此架构可以帮助用户可以在不了解分布式底层细 节的情况下,开发分布式程序. 目前,主要的发展版本有Hadoop1.0和Hadoop2.0 . 名字来源于创始人--Doug Cutting儿子的一个黄 色的玩具大象 雏形:Doug Cutting用java代码编写,实现与 Google类似的全…