HDFS的shell操作
bin/hadoop命令操作:
namenode -format | 格式化文件系统 |
fs(缩写:FileSystem) | 运行一个文件系统的用户客户端 |
bin/hadoop fs常用命令操作:
-ls hdfs路径:查看hdfs结构信息.
-lsr hdfs路径 递归显示(list status recursive)
hdfs中第一位表示类型,d:文件夹也是个目录,后边9位是它的访问目录权限
-:在linux下是一个数值,在hdfs表示的是副本数,目录是一个虚的东西,不需要备份,
root:在后边是创建者和创建者所在组,
0:然后是大小,目录本身是虚的东西,所以没大小,
215-03-22 10:21:在之后是最新的修改时间,
/dir1:最后表示的是目录的名称
-mkdir:创建文件夹
-touchz:创建文件
文件是有副本数的,大小是0,这里副本数是3
在hdfs中不能无中生有的创建一个有内容的文件,只能通过外部的客户端把有内容的给上传上去.
touchz创建的文件是没有内容的,但是在我们的hdfs中有一种文件,只要存在就表达某一种含义,有没有内容已经是两说了.标记文件.
-put 源目录 hdfs目录
如果目的地是一个已经存在的文件夹时,新文件上传到文件夹内,文件名是原来的文件名;
如果目的地是一个已经存在的文件夹时,假设原文件已经存在,再次上传报错;
如果目的地是一个不存在的路径时,新文件上传成功,文件名是目录路径名称.
-text hdfs路径:查看文件内容
-text hdfs路径 | grep,-text hdfs路径 | more:文件很大的情况下,加管道过滤,也可以下载到本地查看,文件很大也没有查看的必要
mapredce最后是把结果放在hdfs中,主要作用是计算不是上传.
-get hdfs路径 本地路径
. :表示linux当前路径
-rmr hdfs路径:递归删除
hadoop fs : 查看更多命令
hadoop fs -help 具体命令 :查看具体某一条命令的用法
du hdfs路径:显示路径中所有文件的大小,当只指定一个文件时,显示此文件的大小.
-dus hdfs路径:显示文件的大小
"hdfs://hadoop1:9000/",前缀可省略,直接写成"/",两种写法表达的含义是一样的,如果不写的话,hadoop客户端在运行的时候去本地找配置文件conf/core-site.xml中的"fs.default.name"的值,自动添加到我们的"/"前边
如果我们在上传的过程中不写"/",则会上传到当前用户的目录中去
参阅Hadoop FS Shell命令大全;
HDFS的shell操作的更多相关文章
- Hadoop开发第6期---HDFS的shell操作
一.HDFS的shell命令简介 我们都知道HDFS 是存取数据的分布式文件系统,那么对HDFS 的操作,就是文件系统的基本操作,比如文件的创建.修改.删除.修改权限等,文件夹的创建.删除.重命名等. ...
- 大数据:Hadoop(JDK安装、HDFS伪分布式环境搭建、HDFS 的shell操作)
所有的内容都来源与 Hadoop 官方文档 一.Hadoop 伪分布式安装步骤 1)JDK安装 解压:tar -zxvf jdk-7u79-linux-x64.tar.gz -C ~/app 添加到系 ...
- HDFS02 HDFS的Shell操作
HDFS的Shell操作(开发重点) 目录 HDFS的Shell操作(开发重点) 基本语法 常用命令 准备工作 上传 -moveFromLocal 剪切 -copyFromLocal 拷贝 -put ...
- Hadoop读书笔记(二)HDFS的shell操作
Hadoop读书笔记(一)Hadoop介绍:http://blog.csdn.net/caicongyang/article/details/39898629 1.shell操作 1.1全部的HDFS ...
- HDFS基本shell操作
在客户端输入Hadoop fs,可以查看所有的,hadoop shell # -help [cmd] //显示命令的帮助信息,如: hadoop fs -help ls # -ls(r) <pa ...
- [HDFS_2] HDFS 的 Shell 操作
0. 说明 在 Shell 下完成对 HDFS 的增删改查操作 1. 在 Shell 下完成对 HDFS 的增删改查操作 [1.0 查看帮助] [centos@s101 ~]$ hdfs dfs -h ...
- Hadoop框架之HDFS的shell操作
既然HDFS是存取数据的分布式文件系统,那么对HDFS的操作,就是文件系统的基本操作,比如文件的创建.修改.删除.修改权限等,文件夹的创建.删除.重命名等.对HDFS的操作命令类似于Linux的she ...
- Hadoop HDFS的Shell操作实例
本文发表于本人博客. 我们知道HDFS是Hadoop的分布式文件系统,那既然是文件系统那最起码会有管理文件.文件夹之类的功能吧,这个类似我们的Windows操作系统一样的吧,创建.修改.删除.移动.复 ...
- 4 weekend110的hdfs&mapreduce测试 + hdfs的实现机制初始 + hdfs的shell操作 + 无密登陆配置
Hdfs是根/目录,windows是每一个盘符, 1 从Linux里传一个到,hdfs里去 2 从hdfs里下一个到,linux里去 想从hdfs里,下载到linux, 涨知识,记住,hdfs是建 ...
随机推荐
- PAT-乙级-1035. 插入与归并(25)
1035. 插入与归并(25) 时间限制 200 ms 内存限制 65536 kB 代码长度限制 8000 B 判题程序 Standard 作者 CHEN, Yue 根据维基百科的定义: 插入排序是迭 ...
- PAT-乙级-1014. 福尔摩斯的约会 (20)
1014. 福尔摩斯的约会 (20) 时间限制 100 ms 内存限制 65536 kB 代码长度限制 8000 B 判题程序 Standard 作者 CHEN, Yue 大侦探福尔摩斯接到一张奇怪的 ...
- 解决win8 64位提示MSVCP71.DLL等组件缺失
把压缩包里面的DLL解压,只需要把其实缺失DLL复制到C:\Windows\SysWOW64即可.压缩包包含MSVCP70.DLL.MSVCP71.DLL.MSVCR70.DLL.MSVCR71.DL ...
- zoj 3725
题意: n个格子排成一条直线,可以选择涂成红色或蓝色,问最少 m 个连续为红色的方案数. 解题思路: 应该是这次 ZOJ 月赛最水的一题,可惜还是没想到... dp[i] 表示前 i 个最少 m 个连 ...
- ActivePython2.7 +Firefly1.2.2+WIN7服务器搭建过程(已通过)
原地址:http://www.9miao.com/question-15-54027.html 1.ActivePython2.7 版本(内部已经包含easy_install,pywin32)2.所需 ...
- 打车APP可能的盈利模式
贺滨,蓄力的芦苇 竺宇祺.郑子威.党培兵 等人赞同 按现在国内几十家类似start-ups的竞争态势看,嘀嘀现阶段应该还处于烧钱培育市场期. 斗胆想象一下可能的盈利模式: 前向收费(面向用户): 特权 ...
- [itint5]三数和为0
http://www.itint5.com/oj/#20 其实是3sum的变种,有重复数字,但是一开始还是写错了.其实是选定一个后,在右边剩余数组里找2sum,找到一组后继续找. #include & ...
- Java Web开发 之小张老师总结中文乱码解决方案
中文乱码:在以后学习过程中全部采用UTF-8 1.文件的乱码 1.1.项目文本文件默认编码: [右击项目]->[Properties]->[Resource]->[Te ...
- Java读写Windows共享文件夹 .
版权声明:本文为博主原创文章,未经博主允许不得转载. 项目常常需要有访问共享文件夹的需求,例如共享文件夹存储照片.文件等.那么如何使用Java读写Windows共享文件夹呢? Java可以使用JCIF ...
- libevent安装
libevent : 名气最大,应用最广泛,历史悠久的跨平台事件库:libev : 较libevent而言,设计更简练,性能更好,但对Windows支持不够好:libuv : 开发node的过程中需要 ...