HDFS 为我们提供了垃圾箱的功能,也就是当我们执行 hadoop fs -rmr xxx 命令之后,文件并不是马上被删除,而是会被移动到执行这个操作用户的 .Trash 目录下,等到一定的时间后才会执行真正的删除操作. 如下所示: $ sudo -uiteblog hadoop fs -rmr /user/iteblog/test.txt Moved: 'hdfs://iteblogcluster/user/iteblog/test.txt' to trash at: hdfs://itebl…

问题说明:IDC里的一台服务器的/分区使用率爆满了!已达到100%!经查看发现有个文件过大(80G),于是在跟有关同事确认后rm -f果断删除该文件.但是发现删除该文件后,/分区的磁盘空间压根没有释放出来,使用率还是100%!这是为什么呢?? [root@linux-node1 ~]# df -h Filesystem Size Used Avail Use% Mounted on /dev/mapper/VolGroup00-LogVol00 58G 7.8G 47G 100% / tmpfs…

有一个数据库硬盘空间满了,查看发现一个dbf超大,并且不在规定的路径下,知道是一个非重要数据文件,于是删除. 后来重启数据库时, SQL> startupORACLE instance started. Total System Global Area  285212672 bytesFixed Size            1218992 bytesVariable Size           96470608 bytesDatabase Buffers      184549376 by…

之前有文章介绍过HDFS租约带来的问题,导致spark应用无法正常读取文件,只能将异常文件找出并且删除后,任务才能继续执行. 但是删除文件实在是下下策,而且文件本身其实并未损坏,只是因为已经close的客户端没有及时的释放租约导致. 按照Hadoop官网的说法,HDFS会启动一个单独的线程,专门处理未及时释放的租约,自动释放超过"硬超时"(默认1小时)仍未释放的租约,但是从问题的现象上来看,这个线程并没有正常的工作,甚至怀疑这个线程是否没有启动,我使用的是CDH集群,可能与相关的设置有…

HDFS是大数据领域比较知名的分布式存储系统,作为大数据相关从业人员,每天处理HDFS上的文件数据是常规操作.这就容易带来一个问题,实际操作中对重要数据文件的误删,那么如何恢复这些文件,就显得尤为重要. 本文针对误删HDFS文件的问题,通过利用HDFS的内部机制,提供了以下几种方法: 1. 回收站机制恢复 HDFS提供了回收站功能,当我们执行hdfs dfs -rm -r some_file命令后,文件不会被立即删除.而是先将要删除的数据移动到当前用户的.Trash目录下,待超过一定时间(可通过…

前言: 我前几天手贱,整个FileRepository删除掉了,之后重启就出现了让人蛋疼的这个问题,因为出于各种原因不想重装系统,百度轮番换搜索词无果,虽然驱动装上了但新设备依然无法自动安装驱动等“一堆瑕疵”,重启无数次折腾3天之后才在百度一个帖子的一个字眼里发现了解决办法(说此方法的人自己说删了INFCACHE.1后也无效,所以没有引起注意),也因此有了这个随笔: 1.首先你要恢复FileRepository文件夹,至于方法嘛,可以下载完整的WIN7系统镜像后提取出来,如果是原版则用GImag…

git学习(3) 撤销编辑 如果我们在编辑版本a的时候,如果在没有add之前,发现需要重新编辑版本a怎么办呢,可以通过git reset --hard comm_id, commit_id是版本a的提交号码,也可以通过git checkout --file命令来撤销工作区的修改,这里--很重要的,如果取消,就变成了创建新分支了. $ git checkout --readme.txt 如果已经git add到暂存区了怎么办呢? 用git status查看一下可以看到 On branch mast…

一.hdfs文件读取过程 hdfs有一个FileSystem实例,客户端通过调用这个实例的open()方法就可以打开系统中希望读取的文件,hdfs通过rpc协议调用Nadmenode获取block的位置信息,对于文件的每一块,Namenode会返回含有该block副本的Datanode的节点地址:客户端还会根据网络拓扑来确定它与每一个DataNode的位置信息,从离它最近的哪个DataNode获取block的副本(所谓的就近原则),最理想的情况是该block就存储在客户端所在的节点上. hdfs…

最近在进行系统压测,由于服务器节点太多,便写了个简单的脚本,在执行过程中发现,日志文件删除后,磁盘空间只释放了一小部分,任有大部分磁盘空间未释放. 使用lsof | grep delete命令,发现已经删除的文件仍然被应用程序占用. 解决方法: 1.杀掉进程kill -9 pid,重启应用服务 2.重启服务器 http://blog.51cto.com/ixdba/1435781…

13.1 恢复密码文件 密码文件(linux 为例)在$ORACLE_HOME/dbs目录下,文件名的前缀是orapw,后接数据库实例名. [oracle@DSI backup]$ cd /u01/app/oracle/product/11.2.0/db_1/dbs/ -rw-r----- 1 oracle oinstall     1536 Jul 25 10:15 orapworcl 该文件只为两个权限服务:SYSDBA和SYSOPER 密码文件的丢失或损坏导致需要访问该文件的相关操作都失败…