> 与 < 差在哪?-- Shell十三问<第十一问>

谈到 I/O redirection ,不妨先让我们认识一下 File Descriptor (FD) 。程序的运算,在大部份情况下都是进行数据(data)的处理,这些数据从哪读进?又,送出到哪里呢?这就是 file descriptor (FD) 的功用了。

在 shell 程序中,最常使用的 FD 大概有三个,分别为:

  • 0: Standard Input (STDIN)
  • 1: Standard Output (STDOUT)
  • 2: Standard Error Output (STDERR)

在标准情况下,这些 FD 分别跟如下设备(device)关联:

  • stdin(0): keyboard
  • stdout(1): monitor
  • stderr(2): monitor

我们可以用如下下命令测试一下:

$ mail -s test root
this is a test mail.
please skip.
^d (同时按 crtl 跟 d 键)

很明显,mail 程序所读进的数据,就是从 stdin 也就是 keyboard 读进的。不过,不见得每个程序的 stdin 都跟 mail 一样从 keyboard 读进,因为程序作者可以从档案参数读进 stdin ,如:

$ cat /etc/passwd

但,要是 cat 之后没有档案参数则又如何呢?哦,请您自己玩玩看啰..

$ cat

(请留意数据输出到哪里去了,最后别忘了按 ^d 离开...)

相信,经过上一个练习后,你对 stdin 与 stdout 应该不难理解吧?

然后,让我们继续看 stderr 好了。

事实上,stderr 没甚么难理解的:说穿了就是"错误信息"要往哪边送而已...

比方说,若读进的档案参数是不存在的,那我们在 monitor 上就看到了:

$ ls no.such.file
ls: no.such.file: No such file or directory
若,一个命令同时产生 stdout 与 stderr 呢?那还不简单,都送到 monitor 来就好了:
$ touch my.file
$ ls my.file no.such.file
ls: no.such.file: No such file or directory
my.file
至此,关于 FD 及其名称、还有相关联的设备,相信你已经没问题了吧?

那好,接下来让我们看看如何改变这些 FD 的预设数据信道,

我们可用 < 来改变读进的数据信道(stdin),使之从指定的档案读进。

我们可用 > 来改变送出的数据信道(stdout, stderr),使之输出到指定的档案。

比方说:

$ cat < my.file
就是从 my.file 读进数据 $ mail -s test root < /etc/passwd
则是从 /etc/passwd 读进...
这样一来,stdin 将不再是从 keyboard 读进,而是从档案读进了.严格来说,< 符号之前需要指定一个 FD 的(之间不能有空白),
但因为 0 是 < 的默认值,因此 < 与 0< 是一样的!这个好理解吧?那,要是用两个 << 又是啥呢?
这是所谓的 HERE Document ,它可以让我们输入一段文本,直到读到 << 后指定的字符串。
比方说:
$ cat <<FINISH
first line here
second line there
third line nowhere
FINISH 这样的话,cat 会读进 3 行句子,而无需从 keyboard 读进数据且要等 ^d 结束输入。
至于 > 又如何呢?
当你搞懂了 0< 原来就是改变 stdin 的数据输入信道之后,相信要理解如下两个
redirection 就不难了:
* 1>
* 2>
前者是改变 stdout 的数据输出信道,后者是改变 stderr 的数据输出信道。
两者都是将原本要送出到 monitor 的数据转向输出到指定档案去。
由于 1 是 > 的默认值,因此,1> 与 > 是相同的,都是改 stdout 。
用上次的 ls 例子来说明一下好了: $ ls my.file no.such.file 1>file.out
ls: no.such.file: No such file or directory
这样 monitor 就只剩下 stderr 而已。因为 stdout 给写进 file.out 去了。
$ ls my.file no.such.file 2>file.err
my.file
这样 monitor 就只剩下 stdout ,因为 stderr 写进了 file.err 。 $ ls my.file no.such.file 1>file.out 2>file.err

这样 monitor 就啥也没有,因为 stdout 与 stderr 都给转到档案去了...

呵~~~ 看来要理解 > 一点也不难啦!是不?没骗你吧?

不过,有些地方还是要注意一下的。

首先,是同时写入的问题。比方如下这个例子:

$ ls my.file no.such.file 1>file.both 2>file.both
假如 stdout(1) 与 stderr(2) 都同时在写入 file.both 的话,
则是采取“覆盖”方式:后来写入的覆盖前面的。 让我们假设一个 stdout 与 stderr 同时写入 file.out 的情形好了:
* 首先 stdout 写入 10 个字符
* 然后 stderr 写入 6 个字符
那么,这时候原本 stdout 的前面 6 个字符就被 stderr 覆盖掉了。
那,如何解决呢?所谓山不转路转、路不转人转嘛,我们可以换一个思维:将 stderr 导进 stdout 或将 stdout 导进 sterr ,而不是大家在抢同一份档案,不就行了! bingo﹗就是这样啦:
* 2>&1 就是将 stderr 并进 stdout 作输出
* 1>&2 或 >&2 就是将 stdout 并进 stderr 作输出
于是,前面的错误操作可以改为: $ ls my.file no.such.file 1>file.both 2>&1

$ ls my.file no.such.file 2>file.both >&2

这样,不就皆大欢喜了吗? 呵!

不过,光解决了同时写入的问题还不够,我们还有其它技巧需要了解的。

故事还没结束,别走开!广告后,我们再回来...!

在 Linux 档案系统里,有个设备档位于 /dev/null 。

许多人都问过我那是甚么玩意儿?我跟你说好了:那就是"空"啦!

没错!空空如也的空就是 null 了.... 请问施主是否忽然有所顿误了呢?然则恭喜了.

这个 null 在 I/O Redirection 中可有用得很呢:

  • 若将 FD1 跟 FD2 转到 /dev/null 去,就可将 stdout 与 stderr 弄不见掉。
  • 若将 FD0 接到 /dev/null 来,那就是读进 nothing 。

    比方说,当我们在执行一个程序时,画面会同时送出 stdout 跟 stderr ,假如你不想看到 stderr (也不想存到档案去),那可以:
$ ls my.file no.such.file 2>/dev/null
my.file
若要相反:只想看到 stderr 呢?还不简单!将 stdout 弄到 null 就行: $ ls my.file no.such.file >/dev/null
ls: no.such.file: No such file or directory
那接下来,假如单纯只跑程序,不想看到任何输出结果呢?
哦,这里留了一手上次节目没讲的法子,专门赠予有缘人!.
除了用 >/dev/null 2>&1 之外,你还可以如此: $ ls my.file no.such.file &>/dev/null
(提示:将 &> 换成 >& 也行啦~~! )
okay?讲完佛,接下来,再让我们看看如下情况: $ echo "1" > file.out
$ cat file.out
1
$ echo "2" > file.out
$ cat file.out
2

看来,我们在重导 stdout 或 stderr 进一份档案时,似乎永远只获得最后一次导入的结果。

那,之前的内容呢?

呵~ 要解决这个问提很简单啦,将 > 换成 >> 就好:

$ echo "3" >> file.out
$ cat file.out
2
3

如此一来,被重导的目标档案之内容并不会失去,而新的内容则一直增加在最后面去。但,只要你再一次用回单一的 > 来重导的话,那么,旧的内容还是会被"洗"掉的!

这时,你要如何避免呢?

----备份! yes ,我听到了!不过.... 还有更好的吗?

既然与施主这么有缘份,老纳就送你一个锦囊妙法吧:

$ set -o noclobber
$ echo "4" > file.out
-bash: file: cannot overwrite existing file
那,要如何取消这个"限制"呢?
哦,将 set -o 换成 set +o 就行: $ set +o noclobber
$ echo "5" > file.out
$ cat file.out
5
再问:那... 有办法不取消而又"临时"盖写目标档案吗?
哦,佛曰:不可告也!
啊~~~ 开玩笑的、开玩笑的啦! 唉,早就料到人心是不足的了! $ set -o noclobber
$ echo "6" >| file.out
$ cat file.out
6
留意到没有:在 > 后面再加个" | "就好(注意: > 与 | 之间不能有空白哦)....

再来还有一个难题要你去参透的呢:

$ echo "some text here" > file
$ cat < file
some text here
$ cat < file > file.bak
$ cat < file.bak some text here
$ cat < file > file
$ cat < file
嗯?!注意到没有?!!
---- 怎么最后那个 cat 命令看到的 file 竟是空的?!
why? why? why?

前面提到:$ cat < file > file 之后原本有内容的档案结果却被洗掉了!

要理解这一现像其实不难,这只是 priority 的问题而已:

  • 在 IO Redirection 中,stdout 与 stderr 的管道会先准备好,才会从 stdin 读进资料。也就是说,在上例中,> file 会先将 file 清空,然后才读进 < file , 但这时候档案已经被清空了,因此就变成读不进任何数据了...

    哦~ 原来如此~!

    那. 如下两例又如何呢?
$ cat <> file
$ cat < file >> file

嗯. 同学们,这两个答案就当练习题啰,下节课之前请交作业!

好了,I/O Redirection 也快讲完了,sorry,因为我也只知道这么多而已啦~~~ 嘻~~ 不过,还有一样东东是一定要讲的,各位观众(请自行配乐~!#@!$%) :就是 pipe line 也!

谈到 pipe line ,我相信不少人都不会陌生:我们在很多 command line 上常看到的" | "符号就是 pipe line 了。

不过,究竟 pipe line 是甚么东东呢?别急别急... 先查一下英汉字典,看看 pipe 是甚么意思?没错!它就是"水管"的意思...

那么,你能想象一下水管是怎么一根接着一根的吗?又,每根水管之间的 input 跟 output 又如何呢?灵光一闪:原来 pipe line 的 I/O 跟水管的 I/O 是一模一样的:

  • 上一个命令的 stdout 接到下一个命令的 stdin 去了!

    的确如此... 不管在 command line 上你使用了多少个 pipe line ,前后两个 command 的 I/O 都是彼此连接的!(恭喜:你终于开窍了! )

    若水管漏水怎么办?

    也就是说:在 pipe line 之间,前一个命令的 stderr 是不会接进下一命令的 stdin 的,

    其输出,若不用 2> 导到 file 去的话,它还是送到监视器上面来!

    这点请你在 pipe line 运用上务必要注意的。

    那,或许你又会问:
  • 有办法将 stderr 也喂进下一个命令的 stdin 去吗?

    方法当然是有,而且你早已学过了!

我提示一下就好:

  • 请问你如何将 stderr 合并进 stdout 一同输出呢?

或许,你仍意尤未尽!或许,你曾经碰到过下面的问题:

  • 在 cm1 | cm2 | cm3 ... 这段 pipe line 中,若要将 cm2 的结果存到某一档案呢?

    若你写成 cm1 | cm2 > file | cm3 的话,

    那你肯定会发现 cm3 的 stdin 是空的!(当然啦,你都将水管接到别的水池了!)聪明的你或许会如此解决:
cm1 | cm2 > file ; cm3 < file

是的,你的确可以这样做,但最大的坏处是:这样一来,file I/O 会变双倍!在 command 执行的整个过程中,file I/O 是最常见的最大效能杀手。凡是有经验的 shell 操作者,都会尽量避免或降低 file I/O 的频率。那,上面问题还有更好方法吗?

有的,那就是 tee 命令了。

  • 所谓 tee 命令是在不影响原本 I/O 的情况下,将 stdout 复制一份到档案去。

    因此,上面的命令行可以如此:
cm1 | cm2 | tee file | cm3

在预设上,tee 会改写目标档案,若你要改为增加内容的话,那可用 -a 参数达成。基本上,pipe line 的应用在 shell 操作上是非常广泛的,尤其是在 text filtering 方面, 凡举 cat, more, head, tail, wc, expand, tr, grep, sed, awk, ... 等等文字处理工具, 搭配起 pipe line 来使用,你会惊觉 command line 原来是活得如此精彩的!

常让人有"众里寻他千百度,蓦然回首,那人却在灯火阑珊处!"之感.

> 与 < 差在哪?-- Shell十三问<第十一问>的更多相关文章

  1. && 与 || 差在哪?-- Shell十三问<第十问>

    && 与 || 差在哪?-- Shell十三问<第十问> 好不容易,进入两位数的章节了... 一路走来,很辛苦吧?也很快乐吧? 在解答本章题目之前,先让我们了解一个概念:r ...

  2. $(( )) 与 $( ) 还有${ } 差在哪?-- Shell十三问<第八问>

    $(( )) 与 \(( ) 还有\){ } 差在哪?-- Shell十三问<第八问> 我们上一章介绍了 ( ) 与 { } 的不同,这次让我们扩展一下,看看更多的变化:$( ) 与 \( ...

  3. ( ) 与 { } 差在哪?-- Shell十三问<第七问>

    ( ) 与 { } 差在哪?-- Shell十三问<第七问> 先说一下,为何要用 ( ) 或 { } 好了. 许多时候,我们在 shell 操作上,需要在一定条件下一次执行多个命令,也就是 ...

  4. exec 跟 source 差在哪?-- Shell十三问<第六问>

    exec 跟 source 差在哪?-- Shell十三问<第六问> 这次先让我们从 CU Shell 版的一个实例贴子来谈起吧: 例中的提问是: cd /etc/aa/bb/cc 可以执 ...

  5. var=value?export前后差在哪?-- Shell十三问<第五问>

    var=value?export前后差在哪?-- Shell十三问<第五问> 这次让我们暂时丢开 command line ,先来了解一下 bash 变量(variable)吧.所谓的 变 ...

  6. " "( 双引号) 与 ' '( 单引号) 差在哪?-- Shell十三问<第四问>

    " "( 双引号) 与 ' '( 单引号) 差在哪?-- Shell十三问<第四问> 经过前面两章的学习,应该很清楚当你在 shell prompt 后面敲打键盘.直到 ...

  7. 别人 echo 、你也 echo ,是问 echo 知多少?-- Shell十三问<第三问>

    别人 echo .你也 echo ,是问 echo 知多少?-- Shell十三问<第三问> 承接上一章所介绍的 command line ,这里我们用 echo 这个命令加以进一步说明. ...

  8. [^ ] 跟 [! ] 差在哪?-- Shell十三问<第十四问>

    [^ ] 跟 [! ] 差在哪?-- Shell十三问<第十四问> 这道题目说穿了, 就是要探讨 Wildcard(通配符)与 Regular Expression(正则表达式)的差别的. ...

  9. shell十三问

    1) 为何叫做 shell ?在介绍 shell 是甚幺东西之前,不妨让我们重新检视使用者与计算机系统的关系:图(FIXME)我们知道计算机的运作不能离开硬件,但使用者却无法直接对硬件作驱动,硬件的驱 ...

随机推荐

  1. full stack & front end

    full stack & front end https://github.com/frank-lam/fullstack-tutorial https://github.com/haizli ...

  2. Nodejs 使用 bcrypt 库加密和验证密码

    bcrypt install λ cnpm i bcrypt -S λ cnpm install --save @types/bcrypt example import * as bcrypt fro ...

  3. C++单链表反转、两有序链表合并仍有序

    1 #include<iostream> 2 3 struct Node 4 { 5 int data; 6 Node *next; 7 }; 8 9 typedef struct Nod ...

  4. .NET Core Swagger 的分组使, 以及相同Action能被多个分组公用,同时加载出尚未分组的数据出来

    1.本文章参考 点击链接跳转 改写的 一对多分组模式.需要一对一的可以参考 2.本文主要讲的是 一对多 分组公用, 同时把尚未分组的加载出来 3.效果演示GIF图: 具体操作代码如下: 1.在项目创建 ...

  5. 关于MacBook Air/Pro 外接显示器时,显示器黑屏无反应的解决方法,顺便求助M1芯片的mac 外接显示器如何开启Hidpi

    显示器黑屏,无反应,频繁闪烁的原因 先说结论,直接换type-c转DP的显示器连接线吧,如果显示器不支持dp接口,那自求多福吧. 事情是这样的,m1版本的macbook air 刚发布就马上入手了一台 ...

  6. css选择器,过滤筛选

    $('.required:not(.final_price)').each(function() { if (!$(this).val()) { error_count ++; if ($(this) ...

  7. ForkJoinPool大型图文现场(一阅到底 vs 直接收藏)

    知识回顾 并发工具类我们已经讲了很多,这些工具类的「目标」是让我们只关注任务本身,并且忽视线程间合作细节,简化了并发编程难度的同时,也增加了很多安全性.工具类的对使用者的「目标」虽然一致,但每一个工具 ...

  8. 死磕Spring之IoC篇 - 解析自定义标签(XML 文件)

    该系列文章是本人在学习 Spring 的过程中总结下来的,里面涉及到相关源码,可能对读者不太友好,请结合我的源码注释 Spring 源码分析 GitHub 地址 进行阅读 Spring 版本:5.1. ...

  9. AndroidStudio 中 gradle.properties 的中文值获取乱码问题

    0x01 现象 在gradle.properties中定义了全局变量,然后从 build.gradle 中设置 app_name: resValue "string", " ...

  10. 记录core中GRPC长连接导致负载均衡不均衡问题 二,解决长连接问题

    题外话: 1.这几天收到蔚来的面试邀请,但是自己没做准备,并且远程面试,还在上班时间,再加上老东家对我还不错.没想着换工作,导致在自己工位上做算法题不想被人看见,然后非常紧张.估计over了.不过没事 ...