在linux中分割大文件,比如一个5gb日志文件,需要把它分成多个小文件,分割后以利于普通的文本编辑器读取。

  有时,需要传输20gb的大文件,Linux培训

教程件到另一台服务器,也需要把它分割成多个文件,这样便于传输数据。

  以下通过五个不同的例子,来讲解Linux下分割大文件的方法,供大家参考。

  例1、以每个文件1000行分割

  split命令分割文件成每个文件1000行,并且文件名依次为 [前缀]aa,[前缀]ab, [前缀]ac等,默认的前缀是X,每个文件的行数为1000行。

  命令:

  复制代码代码如下:

  $ split mylog -l 1000

  $ wc -l *

  4450 mylog

  1000 xaa

  1000 xab

  1000 xac

  1000 xad

  450 xae

  例2、以每个文件20MB分割

  分割文件为多个20MB的文件,附带-b选项。

  命令:

  复制代码代码如下:

  $ split -b 20M logdata

  $ ls -lh | tail -n +2

  -rw------- 1 sathiyasathiya 102M Jul 25 18:47 logdata

  -rw------- 1 sathiyasathiya 20M Jul 25 19:20 xaa

  -rw------- 1 sathiyasathiya 20M Jul 25 19:20 xab

  -rw------- 1 sathiyasathiya 20M Jul 25 19:20 xac

  -rw------- 1 sathiyasathiya 20M Jul 25 19:20 xad

  -rw------- 1 sathiyasathiya 20M Jul 25 19:20 xae

  -rw------- 1 sathiyasathiya 1.6M Jul 25 19:20 xaf

  例3、以每个文件50MB指定前缀分割

  使用–bytes选项把文件分割成多个50MB的文件,–bytes类似-b选项,在第二个参数指定前缀。

  命令:

  复制代码代码如下:

  $ split --bytes=50M logdatamydatafile

  $ ls -lh

  total 204M

  -rw------- 1 sathiyasathiya 102M Jul 25 18:47 logdata

  -rw------- 1 sathiyasathiya 50M Jul 25 19:23 mydatafileaa

  -rw------- 1 sathiyasathiya 50M Jul 25 19:23 mydatafileab

  -rw------- 1 sathiyasathiya 1.6M Jul 25 19:23 mydatafileac

  例4、基于行数分割文件

  使用-l选项指定行数来把文件分割成多个行数相同的文件。

  命令:

  复制代码代码如下:

  $ wc -l testfile

  2591 testfile

  $ split -l 1500 testfileimportantlog

  $ wc -l *

  1500 importantlogaa

  1091 importantlogab

  2591 testfile

  例5、以数字后缀命名分割文件

  使用-d选项可以指定后缀为数字,如00,01,02..,而不是aa,ab,ac。

  命令:

  复制代码代码如下:

  $ split -d testfile

  $ ls

  testfile x00 x01 x02

  可用选项

  复制代码代码如下:

  短选项 长选项 选项描述

  -b –bytes=SIZE SIZE 值为每一输出档案的大小,单位为 byte。

  -C –line-bytes=SIZE 每一输出档中,单行的最大 byte 数。

  -d –numeric-suffixes 使用数字作为后缀。

  -l –lines=NUMBER NUMBER 值为每一输出档的列数大小。</p> <p>短选项 长选项 选项描述

  -b –bytes=SIZE SIZE 值为每一输出档案的大小,单位为 byte。

  -C –line-bytes=SIZE 每一输出档中,单行的最大 byte 数。

  -d –numeric-suffixes 使用数字作为后缀。

  -l –lines=NUMBER NUMBER 值为每一输出档的列数大小。

Linux培训教程 linux系统下分割大文件的方法的更多相关文章

  1. Linux培训教程 linux磁盘分区详解

    在学习 Linux 的过程中,安装 Linux 是每一个初学者的第一个门槛.在这个过程中间,最大的困惑莫过于给硬盘进行分区.虽然,现在各种发行版本的 Linux 已经提供了友好的图形交互界面,但是很多 ...

  2. Linux培训教程 linux下修改用户权限的方法

    一般我们日常碰到要修改用户权限的,往往是要么修改一下用户的gorupid,通过上面命令可以改;要么是把普通用户改成具有超级权限的用户,这个一般自己不能直接改,只能是root或有root权限的用户才能帮 ...

  3. Linux培训教程 linux中nl命令使用介绍

    nl命令在linux系统中用来计算文件中行号.nl 可以将输出的文件内容自动的加上行号!其默认的结果与 cat -n 有点不太一样, nl 可以将行号做比较多的显示设计,包括位数与是否自动补齐 0 等 ...

  4. linux下使用split 来分割大文件

    linux下使用split 来分割大文件 2010-07-27 15:46:27|  分类: 技术文稿 |  标签:split  分割  linux   |字号 订阅   平常都是使用ssh来进行远程 ...

  5. Linux培训教程 Git在linux下的使用

       *初始化git仓库,使用gitinit命令 *添加文件到git仓库分两步: 1.使用git add filename ;可分多次使用,添加多个文件到暂存区 2.使用git commit -m “ ...

  6. Linux系统下查看某文件修改的时间戳

    Linux系统下查看某文件修改的时间戳查看文件时间戳命令:stat awk.txt File: `awk.txt' Size: 20              Blocks: 8          I ...

  7. Linux系统下运行.sh文件

    在Linux系统下运行.sh文件有两种方法,比如我在root目录下有个vip666.sh文件 #chmod +x *.sh的文件名 #./*.sh的文件名 第一种(这种办法需要用chmod使得文件具备 ...

  8. linux下执行.sh文件的方法和语法

    linux下执行.sh文件的方法    .sh文件就是文本文件,如果要执行,需要使用chmod a+x xxx.sh来给可执行权限.       是bash脚本么   可以用touch test.sh ...

  9. [转帖]Linux下批量替换文件内容方法

    Linux下批量替换文件内容方法 https://www.cnblogs.com/fjping0606/p/4428850.html 刚才用到的命令 原作者写的挺好的记录一下 以后 用. 1:查找fi ...

随机推荐

  1. 【VS开发】利用VS2015的工程文件来复制另外一个工程的配置的使用说明

    [VS开发]利用VS2015的工程文件来复制另外一个工程的配置的使用说明 标签:[VS开发] 说明:总是有时候会遇到这样的问题,在一个工程中完成了对某些PKG包的包含,包括头文件和库等都能发现,但是我 ...

  2. 红帽学习笔记[RHCE]OpenLDAP 服务端与客户端配置

    目录 OpenLDAP 服务端与客户端配置 关于LDIF 一个LDIF基本结构一个条目 属性 Object的类型 服务端 安装 生成证书 生成默认数据 修改基本的配置 导入基础数据 关于ldif的格式 ...

  3. amoeba 实现读写分离(借鉴)

    1.准备三台服务器 我的是centos7版本的 做MySQL的主从状态 可以参考 https://www.cnblogs.com/chenxiaodou/articles/11993283.html ...

  4. 洛谷 P3919 可持久化线段树 题解

    题面 这题好水的说~很明显就是主席树的大板子 然而我交了3遍才调完所有的BUG,开好足够的数组,卡掉大大的常数: 针对与每次操作,change()会创建新节点,而ask()虽然也会更新左右儿子的节点编 ...

  5. 09: mysql基础面试题

    1.uuid和id区别 1)uuid类型是varchar(36),而自增长Id则一般是bigInt类型. 2)相对于bigInt类型的自增长Id,varchar(36)类型的uuid消耗的物理空间更为 ...

  6. mysql复制表结构,复制表数据

    MYSQL 复制表 show create table table_name:查看表的建表语句.该语句包含了原数据表的结构,索引等. 使用 SHOW CREATE TABLE 命令获取创建数据表(CR ...

  7. vue-cli常用插件安装教程

    1.安装sass npm i sass-loader node-sass --save-dev 2.安装stylus cnpm install stylus --save-dev cnpm insta ...

  8. 剑指offer-6:数值整数次方

    一.题目描述 给定一个double类型的浮点数base和int类型的整数exponent.求base的exponent次方. 二.解题思想 分类讨论,充分考虑每种可能. exponent :0,1,& ...

  9. php 简单删除提示

    下面是别的网友整理的,大同小异.一般通过弹出确认按钮来判断是否继续进入下面的删除页面. 第一种: <a href="javascript:if(confirm('确认删除吗?'))wi ...

  10. 下载并安装eclipse

    一. 下载eclipse 1. 进入eclipse官网——www.eclipse.org 2. 点击“DOWNLOAD”,进入下载界面 3. 点击“Download Packages”,选择所需ecl ...