hdfs笔记

HDFS笔记——技术点汇总

目录 · 概况 · 原理 · HDFS 架构 · 块 · NameNode · SecondaryNameNode · fsimage与edits合并 · DataNode · 数据读写 · 容错机制 · 数据完整性 · NameNode HA · NameNode Federation · HDFS Snapshots · 操作 · API 概况 1. 文件系统抽象类FileSystem a) 源码 public abstract class FileSystem extends Config…

HDFS笔记（一）

1. HDFS 是什么? Hadoop分布式文件系统(Distributed File System)-HDFS(Hadoop Distributed File System) 2. HDFS 架构首先HDFS是一个分布式文件系统,就是说在一个集群上做了一个文件系统.一般的集群都是主从结构.namenode是主,datenode是从. 我们来看一下这几个概念 Client:就是客户端. 1.文件切分.文件上传 HDFS 的时候,Client 将文件切分成一个一个的Block,然后进行存储.…

Distributed File System 数据量越来越多,在一个操作系统管辖的范围存不下了,那么就分配到更多的操作系统管理的磁盘中,但是不方便管理和维护,因此迫切需要一种系统来管理多台机器上的文件,这就是分布式文件管理系统 . 是一种允许文件通过网络在多台主机上分享的文件系统,可让多机器上的多用户分享文件和存储空间. 通透性.让实际上是通过网络来访问文件的动作,由程序与用户看来,就像是访问本地的磁盘一般. 容错.即使系统中有某些节点脱机,整体来说系统仍然可以持续运作而不会有数据损失. 分布…

【Hadoop】HDFS笔记（三）：HDFS的Shell操作

HDFS处理文件的命令和Linux命令差不多,但注意区分大小写. (Linux区分大小写,Windows不区分大小写) 一.fs命令键入命令"./bin/hadoop fs"将输出能够支持的命令列表. Usage: java FsShell [-ls <path>] [-lsr <path>] [-df <path>] [-du [-s] [-h] <path>] [-dus <path>] [-count [-q] <…

【Hadoop】HDFS笔记（二）：HDFS的HA机制和Federation机制

HA解决了HDFS的NameNode的单点问题: Federation解决了整个HDFS集群中只有一个名字空间,并且只有单独的一个NameNode管理所有DataNode的问题. 一.HA机制(High Availability) 1.HA集群 HDFS 的高可用性(HA, High Availability)是为了解决集群不可用的问题引入的,集群不可用主要是宕机. NameNode 软硬件升级等导致的. HA 机制通过提供选择运行在同一集群中的一个热备用的"主/备"两个冗余 Name…

【Hadoop】HDFS笔记（一）：Hadoop的RPC机制

RPC(Remote Procedure Call, 远程过程调用)主要面对两个问题: 1.对象调用方式: 2.序列/反序列化机制. Hadoop实现的RPC组件依赖于Hadoop Writable类型支持.Writable接口要求每个实现类能将本类正确序列化与反序列化. Hadoop RPC使用java动态代理和反射机制,来实现对象调用.Client到Server的数据序列化与反序列化由Hadoop框架或用户自定制. 一.RPC实现流程 RPC简单说明就是:Hadoop = 动态代理 +定制二…

HDFS笔记（二）

fsimage : NameNode启动时,对文件系统的快照 eidt logs : NameNode启动后,对文件系统的改动序列 namenode在全局里就一个进程,所以存在单点问题 DataNode有变化时,报告给 NameNode ,NameNode需要重写元数据信息,NameNode更新完毕后,会将变化记录在editlogs中. SecondNameNode 注:不是NameNode的备份是为了考虑持久化到磁盘 SecondNameNode会设置检查点,发现NameNode的editl…

学习笔记—MapReduce

MapReduce是什么 MapReduce是一种分布式计算编程框架,是Hadoop主要组成部分之一,可以让用户专注于编写核心逻辑代码,最后以高可靠.高容错的方式在大型集群上并行处理大量数据. MapReduce的存储 MapReduce的数据是存储在HDFS上的,HDFS也是Hadoop的主要组成部分之一.下边是MapReduce在HDFS上的存储的图解 HDFS主要有Namenode和Datanode两部分组成,整个集群有一个Namenode和多个DataNode,通常每一个节点一个Data…

Hadoop1.x HDFS系统架构

1. HDFS中的一些概念1.1 数据块1.2 NameNode和DataNode1.2.1 管理者:Namenode1.2.1 工作者:Datanode1.3 Secondary Namenode1.4 HDFS的优缺点2. HDFS的架构2.1 HDFS架构之NameNode和DataNode2.2 Namenode和Secondary Namenode运行关系3. HDFS文件的读写流程3.1 HDFS文件的读取3.2 HDFS文件的写入 1. HDFS中的一些概念 HDFS(Hadoop…

HDFS Federation (读书笔记)

HDFS Federation (读书笔记) HDFS的架构 HDFS包含两个层次:命名空间管理(Namespace) 和块/存储管理(Block Storage). 命名空间管理(Namespace) HDFS的命名空间包含目录.文件和块.命名空间管理是指命名空间支持对HDFS中的目录.文件和块做类似文件系统的创建.修改.删除.列表文件和目录等基本操作. 块/存储管理(Block Storage) 在块存储服务中包含两部分工作:块管理和物理存储.这是一个更通用的存储服务.其他的应用可以直接建…

29.Hadoop之HDFS集群搭建笔记

0.修改IP,主机名,hosts文件 setup 修改网卡IP service network restart 重启网络服务使IP生效 vim /etc/sysconfig/network修改主机名 vim /etc/hosts/修改hosts文件 192.168.126.128 hadoop001 192.168.126.129 hadoop002 192.168.126.130 hadoop003 192.168.126.131…

Hadoop读书笔记（二）HDFS的shell操作

Hadoop读书笔记(一)Hadoop介绍:http://blog.csdn.net/caicongyang/article/details/39898629 1.shell操作 1.1全部的HDFS shell操作命名能够通过hadoop fs获取: [root@hadoop ~]# hadoop fs Usage: java FsShell [-ls <path>] [-lsr <path>] [-du <…

hadoop之HDFS学习笔记（二）

主要内容:hdfs的核心工作原理:namenode元数据管理机制,checkpoint机制:数据上传下载流程 1.hdfs的核心工作原理 1.1.namenode元数据管理要点 1.什么是元数据? hdfs的目录结构及每一个文件的块信息(块的id,块的副本数量,块的存放位置<datanode>) 2.元数据由谁负责管理? namenode 3.namenode把元数据记录在哪里? 试想一下,如果元数据是以文件的形式存在和管理的,会很不方便,因为文件是一个顺序的结构,当用户新上传或者,移动,删除…

Hadoop读书笔记（四）HDFS体系结构

Hadoop读书笔记(一)Hadoop介绍:http://blog.csdn.net/caicongyang/article/details/39898629 Hadoop读书笔记(二)HDFS的shell操作:http://blog.csdn.net/caicongyang/article/details/41253927 Hadoop读书笔记(三)Java API操作HDFS:http://blog.csdn.net/caicongyang/article/details/41290955…

hadoop学习笔记（四）：HDFS文件权限，安全模式，以及整体注意点总结

本文原创,转载注明作者和原文链接! 一:总结注意点: 到现在为止学习到的角色:三个NameNode.SecondaryNameNode.DataNode 1.存储的是每一个文件分割存储之后的元数据信息.具体的信息有: 2.而且NameNode的存储是内存存储的,不会有和磁盘的数据交换的过程,这样的话提高了整体的集群的效率,但是这个数据都是需要持久化的,因为不持久化的话,数据是不安全的,加假如哪一天hadoop集群中的NameNode那台服务器挂了的话,里面的元数据如果只是存储在内存中的就全部的丢…

Hadoop学习笔记—HDFS

目录搭建安装三个核心组件安装配置环境变量配置各上述三组件守护进程的相关属性启停监控和性能 Hadoop Rack Awareness yarn的NodeManagers监控命令 hdfs的命令 appendToFile cat checksum chgrp chmod chown copyFromLocal copyToLocal count cp df du find get getfacl getfattr head tail help usage truncate touc…

Hadoop学习笔记—2.不怕故障的海量存储：HDFS基础入门

一.HDFS出现的背景随着社会的进步,需要处理数据量越来越多,在一个操作系统管辖的范围存不下了,那么就分配到更多的操作系统管理的磁盘中,但是却不方便管理和维护—>因此,迫切需要一种系统来管理多台机器上的文件,于是就产生了分布式文件管理系统,英文名成为DFS(Distributed File System). 那么,什么是分布式文件系统?简而言之,就是一种允许文件通过网络在多台主机上分享的文件系统,可以让多个机器上的多个用户分享文件和存储空间.它最大的特点是“通透性”,DFS让实际上是通过网络来…

读写hdfs文件（工作笔记）

import java.io.IOException; import java.io.InputStream; import java.util.List; import java.util.Map; import org.apache.commons.io.IOUtils; import org.apache.commons.lang3.StringUtils; import org.apache.hadoop.conf.Configuration; import org.apache.had…

2、HDFS和Yarn的基础学习笔记

日志 --排错 .log:通过log4j记录的,记录大部分应用程序的日志信息 .out:记录标准输出和标准错误日志,少量记录 hdfs 常用shell -ls -put <localsrc> ... <dst> 上传 -cat -text 查看文件内容 -mkdir [-p] -mv -cp -du -chmod 认识一些重要的配置选项: namenode 元数据?? datanode 数…

Hadoop笔记HDFS(2)

高级Hadoop MapReduce管理 1 调试部署好的Hadoop的配置 2 运行基准测试检验Hadoop的安装 3 重新利用JVM提升性能 4 容错性 5 调试脚本-分析失败任务原因 6 设置失败比例以及忽略无效的记录 7 共享型用户Hadoop集群 8 Hadoop的安全性 9 使用Hadoop工具interface 内容目录一调整参数 1.首先需要关掉正在运行的Hadoop集群(stop-dfs.sh以及stop-yarn.sh) 存放Hadoop参数的主要是下面4个文件: core…

Hadoop笔记HDFS(1)

环境:Hadoop2.7.3 1.Benchmarking HDFS 1.1测试集群的写入运行基准测试是检测HDFS集群是否正确安装以及表现是否符合预期的好方法.DFSIO是Hadoop自带的一个基准测试程序,可以用来分析HDFS集群的I/O能力脚本: $HADOOP_HOME/bin/hadoop jar hadoop-mapreduce-client-jobclient-2.7.3-tests.jar TestDFSIO -write -nrFiles 10 -size 50MB nrF…

hive 使用笔记（partition; HDFS乱码）

6. insert 语句 1) 因为目标表有partition, 所以刚开始我使用的语句是 insert overwrite table sa_r_item_sales_day_week_month partition(part=FROM_UNIXTIME(UNIX_TIMESTAMP(),'yyyy-MM-dd'))select ... 然而报错: Error while compiling statement: FAILED: ParseException cannot recognize…

Hadoop学习笔记： HDFS

注:该文内容部分来源于ChinaHadoop.cn上的hadoop视频教程. 一. HDFS概述 HDFS即Hadoop Distributed File System, 源于Google发表于2003年的论文,是一种分布式的文件系统. HDFS优点: 高容错性(数据自动保存多个副本) 适合批处理适合大数据处理流式文件访问(一次性写入,多次读取) 建立在廉价机器上 HDFS缺点: 不善于处理低延迟数据访问不善于处理小文件存取(元数据存放在namenode内存中,消耗大量内存) 不支持并发写…

Hadoop 学习笔记（十） hadoop2.2.0 生产环境部署 HDFS HA Federation 含Yarn部署

其他的配置跟HDFS-HA部署方式完全一样.但JournalNOde的配置不一样>hadoop-cluster1中的nn1和nn2和hadoop-cluster2中的nn3和nn4可以公用同样的journalnode但dfs.namenode.shared.edits.dir配置不能相同.hadoop-cluster1中的nn1和nn2配置如下: hdfs ha federation启动/关闭流程在nn1,nn2两个节点上如下操作step1:在各个journalnode上,启动journalno…

Hadoop 学习笔记（九） hadoop2.2.0 生产环境部署 HDFS HA部署方法

step1:将安装包hadoop-2.2.0.tar.gz存放到某一个目录下,并解压 step2:修改解压后的目录中的文件夹/etc/hadoop下的xml配置文件(如果文件不存在,则自己创建) 包括hadoop-env.sh mapred-site.xml core-site.xml hdfs-site.xml yarn-site.xml step3:格式化并启动hdfs step4:启动yarn注意事项:1,主备NameNode有多种配置方法,本课程使用JournalNode方式.为此需要至…

Hadoop 学习笔记（二） HDFS API

4.删除HDFS上的文件 package proj; import java.io.IOException; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; public class DeleteFile { public static void main(String[] args) throws IOEx…

Hadoop 学习笔记（一） HDFS API

http://www.cnblogs.com/liuling/p/2013-6-17-01.html 这个也不错http://www.teamwiki.cn/hadoop/thrift thrift编程 1.上传本地文件到HDFS package proj; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileStatus; import org.apache.hadoop.fs.FileSys…

【hdfs笔记】的更多相关文章