最近想要学习一下hadoop,现在想边学习边记录下,方便以后自己或别人查看.(注意最好ubantu,jdk及其他软件选择32bit的,jdk最好7以上) 首先配置下jdk,下载下jdk的包,把jdk-7u79-linux-i586.tar.gz解压到一个新建的目录/home/mysoft/下,然后sudo gedit /etc/profile,在打开的文件末尾添加 export JAVA_HOME=/home/mysoft/jdk1.7.0_79export PATH=$JAVA_HOME/bi…

Hadoop 存档 每个文件均按块存储,每个块的元数据存储在namenode的内存中,因此hadoop存储小文件会非常低效.因为大量的小文件会耗尽namenode中的大部分内存.但注意,存储小文件所需要的磁盘容量和存储这些文件原始内容所需要的磁盘空间相比也不会增多.例如,一个1MB的文件以大小为128MB的块存储,使用的是1MB的磁盘空间,而不是128MB. Hadoop存档文件或HAR文件,是一个更高效的文件存档工具,它将文件存入HDFS块,在减少namenode内存使用的同时,允许对文件进行…

一.Hadoop原理介绍 1.请参考原理篇:Hadoop1-认识Hadoop大数据处理架构 二.centos7单机部署hadoop 前期准备 1.创建用户 [root@web3 ~]# useradd -m hadoop -s /bin/bash #---创建hadoop用户 [root@web3 ~]# passwd hadoop #---创建密码 Changing password for user hadoop. New password: BAD PASSWORD: The passwo…

Hadoop集群搭建-05安装配置YARN Hadoop集群搭建-04安装配置HDFS  Hadoop集群搭建-03编译安装hadoop Hadoop集群搭建-02安装配置Zookeeper Hadoop集群搭建-01前期准备 整个搭建hadoop集群的流程,包括 前期准备 安装zookeeper并配置环境 编译安装hadoop并启动 安装HDFS管理namenode和dataname管理集群硬盘资源 安装启动yarn建立MapReduce管理cpu和内存资源 01前期准备: 1.部署环境 VM…

那玩大数据,想做个大数据的从业者,必须了解在生产环境下搭建集群哇?由于hadoop是apache上的开源项目,所以版本有些混乱,听说都在用Cloudera的cdh5来弄?后续研究这个吧,就算这样搭建不适合真实环境,也算是了解hadoop的一些基本东西了. 搭建之前要做一些前期的准备,如果买不起服务器那就装虚拟机吧,看了一种用最少的服务器模拟真是环境的搭建方式,需要四台,好吧,整四个虚拟机,事实证明我的坑爹电脑撑得住. 使用vm建立几台虚拟机,首先要知道自己处在什么样的网络环境下,其实直接用nat…

这个hadoop的搭建是以比赛前的练习为目的的,所以我直接以root用户来搭建hadoop,主要也是方便我自己以后复习用的 需要的软件:vmware15.5,xshell6,xftp6,jdk Linux:centos7.4 1,创建主机 在虚拟机中用centos镜像创建3台主机,用于模拟之后的实验.具体的创建方式就不说了 2,设置静态IP vi /etc/sysconfig/network-scripts/ifcfg-ens33 修改ifcfg-ens33文件的内容,把“dhcp"修改成”st…

前期准备: jdkhostnamehostsdate安全机制firewallwindows 域名映射 具体的操作见下面 1.看看自己是否已经配置了别名了(linux别名的配置可以参考博文:自己centos7成功的修改了主机名(记录了该改哪些文件)) 2.看看防火墙是否关闭了 CentOS 7.0默认使用的是firewall作为防火墙:若没有启用iptables 作为防火墙,则使用以下方式关闭.开启.禁用防火墙: 查看防火墙状态具体的命令 (1) firewall-cmd --state #查看防…

由于从各光伏电站采集的数据量较大,必须解决海量数据的查询.分析的问题.目前主要考虑两种方式:1.  Hadoop大数据技术:2.  Oracle(数据仓库)+BI:    本文仅介绍hadoop的技术要应用特征. Hadoop 基本介绍 hadoop是一个平台,是一个适合大数据的分布式存储和计算的平台.什么是分布式存储?这就是后边我们要讲的hadoop核心之一HDFS(Hadoop Distributed File System):什么是分布式计算?这是我们后边要讲的hadoop另外一个重要的核…

配置IP,修改主机名,关闭防火墙,配置SSH免密码登录…

博主最近学习Hadoop 1.2.1,从多个搜索引擎的搜索结果当中汇合得出本文Hadoop 1.2.1 Eclipse-plugin安装过程介绍,如果你是从网上下载hadoop-eclipse-plugin-1.2.1.jar放进eclipse的plugins目录后发现并未被成功加载时,可以尝试本文内的编译安装方法. 一.软件环境准备 JDK版本:jdk-6u45-windows-x64.exe Hadoop版本:hadoop-1.2.1.tar.gz IDE版本:eclipse-java-lu…