在使用rm删除大批量文件时,有可能会遭遇"参数列太长"(Argument list too long)的问题.如下所示 [oracle@DB-Server bdump]$ rm -v epps_q001_* -bash: /bin/rm: Argument list too long 查看总共有多少个这类文件,如下所示,总共有8348个文件 [oracle@DB-Server bdump]$ ls -lrt epps_q001_* | wc -l -bash: /bin/ls: Arg

http://dreamway.blog.51cto.com/1281816/1151886 linux传输大文件

一.环境说明 某次项目需求中,在Linux上有批文本文件,文件文件都有几个G大,几千万行的数据.无论在Linux和Windows打开这么大的文件,基本上打开要卡半天,更别说编辑. 因此想到使用split命令对大文件进行切割,再分隔取其中的字段,最后导出文件(保留有用的字段). 二.split常用命令参数 -a. --后缀长度=N生成长度为N的后缀(默认值2) --附加后缀=后缀向文件名附加附加后缀 -b. --bytes=大小每个输出文件放置大小字节 -C. --line bytes=每个输出文

问题描述: 在自己的虚拟机上做实验时出现空间不足情况,检查发现之前的kafka集群测试日志在几天写了 25G,于是进入 /data/kafka01/logs 目录执行 “rm -rf *” 删除所有测试日志,但发现如下图空间并未完全释放. 问题分析: 1. rm 删除文件其实是清除了文件名等信息,并没有释放存储空间,如果有进程调用此文件则空间不会释放. 解决办法:使用  “ lsof -n | grep filename ”找出对应进程,并关闭它. 2. 由于 Linux 内核设计进程在进行文件

Linux 查看大日志文件1.使用 less 命令 less filename 但是使用上述命令的坏处是,默认打开的位置在第一行,并且当切换到实时滚动模式(按 F ,实现效果类似 tail -f 效果 )或者想要滚动到最底部的时候(按 G ),会卡在计算行数一段时间.如果卡的时间比较长的话,可以直接按 Ctrl + c ,取消计算行数.我更推荐打开文件的时候使用 -n :不计算行号(打开大文件的时候很有用).   less  -n file    less  +G -n   file  // 打

linux下采用先分割后合并的策略处理大文件 第一步:分割文件 split split 参数:-a, --suffix-length=N     指定输出文件名的后缀,默认为2个-b, --bytes=SIZE           指定输出文件的字节数-C, --line-bytes=SIZE   每一输出档中,单行的最大 byte 数-d, --numeric-suffixes   使用数字代替字母做后缀-l, --lines=NUMBER      按照行数分割文件 例:[root@10.1

查询大文件du -h --max-depth=1 查询指定目录下面的文件大小du -h --max-depth=1 /path 使用find命令查找大于200M文件 find / -type f -size +200M 查询大于200M且去除不必要的文件的具体大小find / -type f -size +200M 2>/dev/null|xargs du -shm 按照大小排序find / -type f -size +200M 2>/dev/null|xargs du -shm|sort

rm 删除文件rm -f 强制删除-i 提示-r 删除目录的时候-v 可实话 rm -rfv 多目录 不提示 [root@wang whp]# touch .txt [root@wang whp]# rm .txt rm:是否删除普通空文件 "111.txt"?y [root@wang whp]# ls catalog [root@wang whp]# mkdir [root@wang whp]# mkdir -p // [root@wang whp]# tree . ├── │  

测试服务器用久了,如果没有运行自动清除日志的脚本,会导致硬盘空间不足,应用.数据库.环境等启动不了: 如果你对系统不是特别熟悉,就无法知道那些占用空间的日志或缓存文件在哪里,这时,我们就可以利用查找大文件命令来找到可以清除的文件. 查看磁盘命令有: df  -h                                  查看当前磁盘总量.剩余.已用 du -sh                                查看当前文件大小 du -h   或者   du -m     

查看磁盘使用情况:df -h [root@iZwz9gs2zseivevv1k5vnkZ /]# df -h Filesystem Size Used Avail Use% Mounted on /dev/vda1 126G 111G .9G % / devtmpfs .8G .8G % /dev tmpfs .8G .8G % /dev/shm tmpfs .8G 310M .5G % /run tmpfs .8G .8G % /sys/fs/cgroup tmpfs .6G .6G % /r

手太快,肠子都毁清了.本来是删除一个文件 rm path/myfile.txt结果不知为何加了个*,变成了rm path/myfile.txt *赶紧ls,发现所有代码都化为了乌有,还没提交,还没备份.删除时还不确认.一秒钟,世界就清净了. 带着侥幸的心情四处寻找,并无一处压缩包备份.有一些备份的地方也是很早期的工作.欲哭无泪. 所以linux的rm删除时不先备份,真是要不得.难怪很多人rm时左看右看得过个半分钟才敢下手.有人建议直接将root下的rm改成mv的别名.没办法,必须恢复.机器在机房

有时候我们的文件比较大,比如几十G,甚至上百G.这么大的文件怎么查询呢? 有很多种方法都可以实现,这儿选择用 cat 这个命令实现. 先来看看 cat 的介绍 cat 有个对应的命令 tac,cat反着写,cat是从文件开头查找,tac是从文件结尾开始查找. 查询某个字符串在文件中出现的前10次,只匹配该字符串行. 命令: cat -n 文件名 | grep '查询字符串' | head -n 10 查询某个字符串在文件中出现的最后10次,只匹配该字符串行 命令: cat -n 文件名 | gr

使用的命令为: split --bytes 500M --numeric-suffixes --suffix-length=3 foo foo_ 其中 --bytes 为小文件的大小, --suffix-length 为小文件的序号是几位的 , foo 原始文件名,foo_ 为小文件名,他会自动生成foo_001 这样的小文件.这种方法分割的小文件不能保证分割处单行数据的完整性

1.分拆为多个文件的命令: cat workspace_2018.tar.gz | split -b 1G - workspace_2018.tar.gz. 命令解释: workspace_2018.tar.gz     是待下载的10G文件 拆分成1G的小文件 workspace_2018.tar.gz. 是拆分后文件的前缀,默认分拆后文件名称为workspace_2018.tar.gz.ab,ab,ac....类推 2.下载多个小文件 sz workspace_2018.tar.gz.a*

du -h --max-depth=1

使用tar命令进行压缩,使用split进行切割 压缩并分割: tar -zcvf - admin- |split -b 100m -d admin-.tar.gz 解压: 先合并成tar包在解压 cat admin-.tar.gza* > admin.tar.gz tar xvf admin.tar.gz

在我的生活当中遇到磁盘快满了,这时候准备去删除一些大文件 于是我使用ncdu 查看了一下当前系统占用资源比较多的是那些文件,结果一看是elasticsearch的日志文件,好吧,竟然找到源头了,那就把它给删除了吧, 来到相应的路径下之后,然后粗暴一点,执行  rm   -rf   * 很高兴,终于把这些占用系统资源的坏东西给杀死了.满心欢喜的去查看磁盘情况. 给我当头一棒,磁盘并没有多大的变化,之后释放了100多M,但是我明明删除了30G的文件啊,这是怎么回事. 有问题不可怕,干净找baidu/

在Windows系统中,我们可以使用TreeSize工具查找一些大文件或文件夹,非常的方便高效,在Linux系统中,如何去搜索一些比较大的文件呢?下面我整理了一下在Linux系统中如何查找大文件或文件夹的方法. 1: 如何查找大文件? 其实很多时候,你需要了解当前系统下有哪些大文件,比如文件大小超过100M或1G(阀值视具体情况而定).那么如何把这些大文件搜索出来呢?例如我要搜索当前目录下,超过800M大小的文件 [root@getlnx01 u03]# pwd /u03 [root@getln

Linux下的根分区使用率100%,但是查看/分区下的目录都不大,没有占用满,这该怎么处理? 重启是肯定有效的,目前处理情况:重新restart应用后,空间释放出来 1.lsof | grep deletd 2.reboot 重启 linux下磁盘占用达到100%了,找不到哪些大文件耗尽了磁盘. Linux下使用df -lh 查看磁盘时: /dev/sda1 130G 123G 353M 100% / 磁盘快用尽了, 但我这边就是查找不到具体是哪些大文件占用的. 1.如果是大文件占用了,那么查询

一.问题描述 今日收到zabbix监控报警,发现生产环境一台服务器的磁盘空间不足,需要进行处理,登录后发现可利用率不足20%,进行相关查看和处理工作:但是操作删除了一些备份文件和日志信息后,查看空间仍然不足. 二.具体操作过程 1.检查服务器占用硬盘资源的文件 [root@nc-ftp02 ~]# df -hP Filesystem Size Used Avail Use% Mounted on /dev/xvda2 99G 4.2G 90G 5% / tmpfs 3.9G 228K 3.9G

利用Linux的硬连接删除MySQL大文件 http://blog.csdn.net/wxliu1989/article/details/22895201 原理:硬链接基础当多个文件共同指向同一inode.inode链接数N>1.删除任何一个文件都是巨快因为.此时删除的仅仅是指向inode的指针 而当N=1时.则不一样了.此时删除的文件相关的所有数据块.所以慢 root@ # ln stock.ibd stock.id.hdlk root@ # ls stock.* -l -rw-rw—- 1