第一部分:Sed基本用法

sed是非交互式的编辑器。它不会修改文件,除非使用shell重定向来保存结果。默认情况下,所有的输出行都被打印到屏幕上。

sed编辑器逐行处理文件(或输入),并将结果发送到屏幕。具体过程如下:首先sed把当前正在处理的行保存在一个临时缓存区中(也称为模式空间),然后处理临时缓冲区中的行,完成后把该行发送到屏幕上。sed每处理完一行就将其从临时缓冲区删除,然后将下一行读入,进行处理和显示。处理完输入文件的最后一行后,sed便结束运行。sed把每一行都存在临时缓冲区中,对这个副本进行编辑,所以不会修改原文件。下面先来预览下sed的常用命令及参数。

1. p命令.

p命令用于输出匹配行的内容,比如test.txt文件的内容如下,后续说明均已此文件内容来加以说明:

viidiot@ubuntu:~/Desktop$ cat test.txt

line one

line two

Hi,everybody,i'm linux-code!

Linux-code,to be the best one!


单纯的p命令会输出如下,即含有Hi的行被输出了两次。

viidiot@ubuntu:~/Desktop$ sed '/Hi/p' test.txt

line one

line two

Hi,everybody,i'm linux-code!

Hi,everybody,i'm linux-code!

Linux-code,to be the best one!


如果在p命令的基础上,加上-n选项,可以输出含有特定模式的行,如下命令则输出test.txt文件中含有模式Hi的行。

viidiot@ubuntu:~/Desktop$ sed -n '/Hi/p' test.txt

Hi,everybody,i'm linux-code!

2. d命令

d命令用于删除特定行。

比如要删除test.txt中第一二行,其命令如下:

viidiot@ubuntu:~/Desktop$ sed '1,2d' test.txt

Hi,everybody,i'm linux-code!

Linux-code,to be the best one!


若要删除最后一行,命令如下:

viidiot@ubuntu:~/Desktop$ sed '$d' test.txt

line one

line two

Hi,everybody,i'm linux-code!


同理,删除含有linux-code的行:

viidiot@ubuntu:~/Desktop$ sed '/linux-code/d' test.txt

line one

line two

Linux-code,to be the best one!


3. S命令

s命令用于文本替换。

比如,要将test.txt文件中的Linux-code替换成Viidiot

viidiot@ubuntu:~/Desktop$ sed 's/Linux-code/Viidiot/g' test.txt

line one

line two

Hi,everybody,i'm linux-code!

Viidiot,to be the best one!

注意后面那个g参数。g表示多次匹配,如果不加g参数,若某一行有多个匹配在字符串,只替换掉第一次匹配的。


替换以line开头的行第一个单词替换为linux-code

viidiot@ubuntu:~/Desktop$ sed 's/^line/linux-code/' test.txt

linux-code one

linux-code two

Hi,everybody,i'm linux-code!linux-code!

Linux-code,to be the best one!


替换以line开头的行最后一个单词替换为linux-code

viidiot@ubuntu:~/Desktop$ sed 's/one$/linux-code/' test.txt

line linux-code

line two

Hi,everybody,i'm linux-code!linux-code!

Linux-code,to be the best one!


如果需要将以line开头的行全部替换掉,而不是仅仅替换掉一个单词怎么做呢?后面接.*表示通配的意思,也即^line.*表示以line开头,后接0个或多个任意字符。

viidiot@ubuntu:~/Desktop$ sed 's/^line.*/linux-code/' test.txt

linux-code

linux-code

Hi,everybody,i'm linux-code!linux-code!

Linux-code,to be the best one!


4. e选项

-e即edit的意思,编辑命令,用于sed执行多个编辑任务的情况下。在下一行开始编辑前,所有的编辑动作将应用到模式缓冲区中的行上。

viidiot@ubuntu:~/Desktop$ sed -e '1,2d' -e 's/linux-code/Linux/' test.txt

Hi,everybody,i'm Linux!linux-code!

Linux-code,to be the best one!

上述为sed命令使用选项-e进行多重编辑后得到的结果。第一重编辑删除第1、2行。第二重编辑将出第1、2行外的所有linux-code替换为Linux。因为是逐行进行这两项编辑(即这两个命令都在模式空间的当前行上执行),所以编辑命令的顺序会影响结果。


5. r命令

r命令是读命令。sed使用该命令将一个文本文件中的内容加到当前文件的特定位置上。

viidiot@ubuntu:~/Desktop$ sed '/linux-code/r test1.txt' test.txt

line one

line two

Hi,everybody,i'm linux-code!linux-code!

linux-code

be perfect!

Linux-code,to be the best one!

上述命令的意思是:如果在文件test.txt的某一行匹配到模式linux-code,就在该行后读入文件test1.txt的内容。如果包含linux-code的行不止一行,则在出现linux-code的各行后都读入test1.txt文件的内容。


6. w命令

viidiot@ubuntu:~/Desktop$ sed '/code/w test1.txt' test.txt

上述命令将test.txt文件中包含模式code的行内容写入到test1.txt。

7. a\命令

a\命令将添加新文本到文件中当前行(即读入模式缓冲区中的行)的后面。所追加的文本行位于sed命令的下方另起一行。如果要追加的内容超过一行,则每一行都必须以反斜线结束,最后一行除外。最后一行将以引号和文件名结束。

viidiot@ubuntu:~/Desktop$ cat test1.txt

Hi,everybody,i'm linux-code!linux-code!

Linux-code,to be the best one!

通过a\命令将含有模式everybody的行后面加入一行:why ?

viidiot@ubuntu:~/Desktop$ sed '/everybody/a\ why ?' test1.txt

Hi,everybody,i'm linux-code!linux-code!

why ?

Linux-code,to be the best one!


8.i\命令

i\命令与a\命令相反,它是在匹配行的前面插入一行。

viidiot@ubuntu:~/Desktop$ sed '/everybody/i\ you are beautiful' test1.txt

you are beautiful

Hi,everybody,i'm linux-code!linux-code!

Linux-code,to be the best one!


9. c\命令

c\命令将匹配行修改成我们设定的内容。如下则将test1.txt中含有everybody的行修改为you are beautiful

viidiot@ubuntu:~/Desktop$ sed '/everybody/c\ you are beautiful' test1.txt

you are beautiful

Linux-code,to be the best one!

10. y命令

y命令与UNIX/Linux中的tr命令类似,字符按照一对一的方式从左到右进行转换。例如,y/abc/ABC/将把所有小写的a转换成A,小写的b转换成B,小写的c转换成C。

viidiot@ubuntu:~/Desktop$ sed 'y/code/CODE/' test1.txt

Hi,EvErybODy,i'm linux-CODE!linux-CODE!

Linux-CODE,tO bE thE bEst OnE!

将对应小写字母全部替换成其大写字母。


第二部分:Sed脚本

通过编写脚本我们可以方便的批量执行命令。sed脚本就是写在文件中的一系列sed命令。sed脚本中,要求命令的末尾不能有任何多余的空格或文本。如果在一行中有多个命令,要用分号分隔。执行脚本 时,sed先将输入文件中第一行复制到模式缓冲区,然后对其执行脚本中所有的命令。每一行处理完毕后,sed再复制文件中下一行到模式缓冲区,对其执行脚 本中所有命令。使用sed脚本时,不再用引号来确保sed命令不被shell解释。

举例:我们现在来完成如下任务

在test1.txt中的开头插入一行欢迎词:Welcome to linux-code

在末尾加入一行:good bye!

将文章中所有code替换成CODE。

那么我们可以编写一个名为sedscript脚本,脚本具体内容如下:

viidiot@ubuntu:~/Desktop$ cat sedscript

1i\Welcome to linux-code

s/code/CODE/g

$a\goodbye!

然后再将sed脚本应用到test1.txt文件上

viidiot@ubuntu:~/Desktop$ sed -f sedscript test1.txt

Welcome to linux-code

Hi,everybody,i'm linux-CODE!linux-CODE!

Linux-CODE,to be the best one!

goodbye!

第三部分:练习题

学习了sed的基本知识,现在我们来检验下成果吧!呵呵。。。

1、Sed中如何替换多行中的有规律的数字字符串 

输入:

hello world balabala - . gene_id "240838 "; transcript_id "240838";

hello world balabala again - . gene_id "240838 "; transcript_id "240838";

balaba….

输出:

hello world balabala - . gene_id "zgg240838 "; transcript_id "zgg240838";

hello world balabala again - . gene_id "zgg240838 "; transcript_id "zgg240838";

balaba…

也即,将字符串gene_id“后接数字以及transcript_id "后接数字中的引号与数字之间插入zgg字符串。

脚本编写:

sed  's/gene_id "\([0-9]\+\)"; transcript_id "\([0-9]\+\)";/gene_id "zgg\1"; transcript_id "zgg\2";/g' test.txt

注:1. 数字的匹配[0-9]

2.[0-9]后接\+表示匹配一个或多个数字

3.匹配部分加括号,引用匹配部分用\1,\2,....等等。

4.sed执行多个匹配用分号连接,整个命令用’’引在内部。

2、在文本中每一行添加行头行尾

比如test.txt 内容如下所示:

viidiot@ubuntu:~/Desktop$ cat test.txt

line one

line two

line three

line four

1)在每行文字开头添加文字“Viidiot ”:

viidiot@ubuntu:~/Desktop$ sed '/./s/^/Viidiot /g' test.txt

Viidiot line one

Viidiot line two

Viidiot line three

Viidiot line four

2)末尾添加文字“ Viidiot”:

viidiot@ubuntu:~/Desktop$ sed '/./s/$/ Viidiot/g' test.txt

line one Viidiot

line two Viidiot

line three Viidiot

line four Viidiot

3、利用sed进行格式转换

比如需要将text.txt中如下内容

dn: uid=admin,ou=ITaccounts,dc=tc
   uid: admin
   cn: admin cn
   sn: admin sn

dn: uid=0037,ou=employees,dc=tci
   uid: 0037
   cn: thinker
   sn: zzz


转换成xml格式如下:
   <entity>
   <dn>uid=admin,ou=ITaccounts,dc=tc</dn>
     <uid>admin</uid>
     <cn>admin cn</cn>
   <sn>admin sn</sn>
   </entity>
   <entity>
   <dn>uid=0037,ou=employees,dc=tci</dn>
     <uid>0037</uid>
     <cn>thinker</cn>
     <sn>zzz</sn>
     </entity>


则可以定义下面的sedscript文件:

/^dn:[[:space:]]/i\

<entity>

s/^dn:[[:space:]]\(.*\)$/<dn>\1<\/dn>/g

s/^uid:[[:space:]]\(.*\)$/<uid>\1<\/uid>/g

s/^cn:[[:space:]]\(.*\)$/<cn>\1<\/cn>/g

s/^sn:[[:space:]]\(.*\)$/<sn>\1<\/sn>/g

s/^$/<\/entity>/g

第一行和第二行实现的功能就是在每个dn:开头的行前面加上一行<entity>。最后一行是碰到空行补上</entity>这 个结束标记。

另外,在执行替换的时候可以通过使用\(\)把被替换的字符串分组,在替换的部分里面用\1、\2这种方式引用被替换文字里面的相应的组。

用这种方法把ldif文件里面[:]前的东西删掉并且在两边增加相应的xml标记。
仔细想想,4行替换也许用下面的1行就能实现?
s/^\(.*\):[[:space:]]\(.*\)$/<\1>\2<\/\1>/g

viidiot@ubuntu:~/Desktop$ sed -f sedscript test.txt

<entity>

<dn>uid=admin,ou=ITaccounts,dc=tc</dn>

<uid>admin</uid>

<cn>admin cn</cn>

<sn>admin sn</sn>

<entity>

<dn>uid=0037,ou=employees,dc=tci</dn>

<uid>0037</uid>

<cn>thinker</cn>

<sn>zzz</sn>


4、在匹配的行前面插入一行

viidiot@ubuntu:~/Desktop$ cat test.txt

line one

line two

Hi,everybody,i'm linux-code!

Linux-code,to be the best one!

将以空格开头的行前面插入一行文字:a new paragraph

viidiot@ubuntu:~/Desktop$ sed '/^[[:space:]]/i   a new paragraph'  test.txt

line one

line two

a new paragraph

Hi,everybody,i'm linux-code!

a new paragraph

Linux-code,to be the best one!


5、在文章中每一行前加上行号

此题是由sed引入的题外话。用sed怎么去完成?读者自己开动开动脑筋吧!

在文章中每一行加上行号的方法有很多,比如,我们可以这样:

viidiot@ubuntu:~/Desktop$ nl test.txt

1 line one

2 line two

3 Hi,everybody,i'm linux-code!

4    Linux-code,to be the best one!

也可以这样:

viidiot@ubuntu:~/Desktop$ cat -n test.txt

1 line one

2 line two

3 Hi,everybody,i'm linux-code!

4    Linux-code,to be the best one!

还可以这样:

viidiot@ubuntu:~/Desktop$ awk '{print NR, $0}' test.txt

1 line one

2 line two

3  Hi,everybody,i'm linux-code!

4    Linux-code,to be the best one!

所以,如果需要在文本test.txt中永久的插入行号并存档,你也行可以这样:

viidiot@ubuntu:~/Desktop$ cat -n test.txt >>tmp.txt;mv tmp.txt test.txt

viidiot@ubuntu:~/Desktop$ cat test.txt

1 line one

2 line two

3 Hi,everybody,i'm linux-code!

4    Linux-code,to be the best one!


OK,本文就这么多了,最后留下一个实践内容,编写一个名叫highlightcode.sh程序,将一个原始的c程序,用sed将它进行格式化,使其能够高亮显示关键字。当然,你可以用纯c/c++去完成这个功能,但脚本可能可以更快的编写出来(相对于c程序)。(注:高亮是指其在浏览器中显示的效果。这里牵涉到css样式文件,并据此在原文件的基础上,插入一些样式,使其能高亮显示)

原始的显示效果:

高亮后的显示效果:

作者:Viidiot        微信公众号:linux-code

转载请保留作者及链接

sed命令详解及应用实例的更多相关文章

  1. Linux学习之sed命令详解

    概述 sed是stream editor的简称,也就是流编辑器.它一次处理一行内容,处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区 ...

  2. apt-get 命令详解(中文),以及实例

    apt-get 命令详解(中文),以及实例 一,什么的是apt-get 高级包装工具(英语:Advanced Packaging Tools,简称:APT)是Debian及其衍生发行版(如:ubunt ...

  3. sed命令详解 vim高级技巧 shell编程上

    第1章 sed命令详解 1.1 查找固定的某一行 1.1.1 awk命令方法 [root@znix ~]# awk '!/oldboy/' person.txt 102,zhangyao,CTO 10 ...

  4. route命令详解与使用实例 ,同时访问内外网

    route命令详解与使用实例     2011-10-18 12:19:41|  分类: 其他 |  标签:route   |字号 订阅   1.   使用背景 需要接入两个网络,一个是部署环境所在内 ...

  5. 【转】【Linux】sed命令详解

    sed命令详解 sed是stream editor的简称,也就是流编辑器.它一次处理一行内容,处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令 ...

  6. 转 linux之sed命令详解

    http://jingyan.baidu.com/article/fec4bce2228f60f2618d8bb0.html sed  编辑裁剪文件命令 sed -i "s/\/db\/te ...

  7. sed命令详解 (转载)

    sed是stream editor的简称,也就是流编辑器.它一次处理一行内容,处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内 ...

  8. Linux shell sed 命令详解

    详细的sed命令详解,请参考https://my.oschina.net/u/3908182/blog/1921761 sed命令常见用途 查找关键词做全局替换 查找某行的关键词做替换 查找关键字所在 ...

  9. 【文本处理命令】之sed命令详解

    sed行处理命令详解 一.简介 sed命令是一种在线编辑器.一个面向字符流的非交互式编辑器,也就是说sed不允许用户与它进行交互操作.sed是按行来处理文本内容的,它一次处理一行内容.处理时,把当前处 ...

随机推荐

  1. 快速排序法QuickSort

    /** * * @author Administrator * 功能:交换式排序之快速排序 */ package com.test1; import java.util.Calendar; publi ...

  2. android 与usb 设备通信(二)

    再次遇到android  mUsbManager.getDevicelist() 得不到usb 设备的问题.于是深入去探讨android 与usb 外围设备通信的问题.第一篇文章写的有点乱,本质就是需 ...

  3. 汉字与区位码互转(天天使用的String存储的是内码),几个常见汉字编码,附有读书笔记

    汉=BABA(内码)=-A0A0=2626(区位码)字=D7D6(内码)=-A0A0=5554(区位码) 各种编码查询表:http://bm.kdd.cc/ “啊”字是GB2312之中的第一个汉字,会 ...

  4. 如何才能学到Qt的精髓——信号槽之间的无关性,提供了绝佳的对象间通讯方式,QT的GUI全是自己的一套,并且完全开源,提供了一个绝好机会窥视gui具体实现

    姚冬,中老年程序员 叶韵.KY Xu.赵奋强 等人赞同 被邀请了很久了,一直在思考,今天终于下决心开始写回答. 这个问题的确是够大的,Qt的代码规模在整个开源世界里也是名列前茅的,这么大的项目其中的精 ...

  5. [CF 191C]Fools and Roads[LCA Tarjan算法][LCA 与 RMQ问题的转化][LCA ST算法]

    参考: 1. 郭华阳 - 算法合集之<RMQ与LCA问题>. 讲得很清楚! 2. http://www.cnblogs.com/lazycal/archive/2012/08/11/263 ...

  6. [NYOJ 43] 24 Point game

    24 Point game 时间限制:3000 ms  |  内存限制:65535 KB 难度:5   描述 There is a game which is called 24 Point game ...

  7. c程序设计语言_习题1-9_将输入流复制到输出流,并将多个空格过滤成一个空格

    Write a program to copy its input to its output, replacing each string of one or more blanks by a si ...

  8. XCode中Architecturs配置及常见问题

    http://lanvige.github.io/2014/03/19/architecturs-in-xcode/ XCode 5.1升级后因arm64和CocoaPods的原因,痛了一天,终于解决 ...

  9. 《C#并行编程高级教程》第6章 PLINQ:声明式数据并行 笔记

    PLINQ这个话题好多书都写到过,这本也没有什么特别好的地方. 几个有用和有趣的点记录一下.   顺序的不确定性 用PLINQ就一定要记住并行后会导致顺序不确定的问题.解决方案就是AsOrdered或 ...

  10. 【转】在Xcode中使用Git进行源码版本控制 -- 不错

    原文网址:http://www.cocoachina.com/ios/20140524/8536.html 本文翻译自Understanding Git Source Control in Xcode ...