linux awk,sort,uniq,wc,cut命令详解

1、awk

awk是行处理器: 相比较屏幕处理的优点，在处理庞大文件时不会出现内存溢出或是处理缓慢的问题，通常用来格式化文本信息

$ 表示当前行
$ 表示第一列
NF 表示一共有多少列
$NF 表示最后一列
$(NF-) 表示倒数第二列

打印倒数第三列：
cat file.txt | grep eop.mall..com | awk '{print $(NF-3)}'

加入倒数第三列格式为cost=100.123,要筛选出cost大于100的列：
cat ral-worker.log | grep eop.mall..com | awk '{if(substr($(NF-3),6,length($(NF-3))-5)*1>600){print $(NF-3)}}'

说明：乘以1的目的是将字符串转换为整数，转成整数后就能进行比较了。

打印倒数第三列中的数值：
cat ral-worker.log | grep eop.mall..com | awk '{if(substr($(NF-3),6,length($(NF-3)))*1>600){print substr($(NF-3),6,length($(NF-3))-5)}}'

将倒数第三列中的数值按从低到高排列：
先将文件输出到文件，然后对文件用sort进行排序。

awk中数值比较示例：
echo | awk 'BEGIN{a=7.3;b=5.2}{if(a>b) print "a>b"; else print "a<=b"}'

2、sort

sort 命令对 File 参数指定的文件中的行排序，并将结果写到标准输出。如果 File 参数指定多个文件，那么 sort 命令将这些文件连接起来，并当作一个文件进行排序。

[root@www ~]# sort [-fbMnrtuk] [file or stdin]
选项与参数：
-f  ：忽略大小写的差异，例如 A 与 a 视为编码相同；
-b  ：忽略最前面的空格符部分；
-M  ：以月份的名字来排序，例如 JAN, DEC 等等的排序方法；
-n  ：使用『纯数字』进行排序(默认是以文字型态来排序的)；
-r  ：反向排序；
-u  ：就是 uniq ，相同的数据中，仅出现一行代表；
-t  ：分隔符，默认是用 [tab] 键来分隔；
-k  ：以那个区间 (field) 来进行排序的意思

对/etc/passwd的账号进行排序：
cat /etc/passwd | sort

/etc/passwd 内容是以 : 来分隔的，以第三栏来排序：
cat /etc/passwd | sort -t ':' -k 

默认是以字符串来排序的，如果想要使用数字排序：
cat /etc/passwd | sort -t ':' -k 3n

默认是升序排序，如果要倒序排序：
cat /etc/passwd | sort -t ':' -k 3nr

如果要对/etc/passwd,先以第六个域的第2个字符到第4个字符进行正向排序，再基于第一个域进行反向排序：
cat /etc/passwd |  sort -t':' -k 6.2,6.4 -k 1r   

查看/etc/passwd有多少个shell:对/etc/passwd的第七个域进行排序，然后去重：
cat /etc/passwd |  sort -t':' -k  -u

3、uniq

uniq命令可以去除排序过的文件中的重复行，因此uniq经常和sort合用。也就是说，为了使uniq起作用，所有的重复行必须是相邻的。

[root@www ~]# uniq [-icu]
选项与参数：
-i   ：忽略大小写字符的不同；
-c  ：进行计数
-u  ：只显示唯一的行

排序后删除重复的行：
cat words | sort | uniq

排序之后删除了重复行，同时在行首位置输出该行重复的次数:
sort testfile | uniq -c

仅显示存在重复的行，并在行首显示该行重复的次数:
sort testfile | uniq -dc

仅显示不重复的行:
sort testfile | uniq -u

4、wc

统计文件里面有多少单词，多少行，多少字符。

语法：
[root@www ~]# wc [-lwm]
选项与参数：
-l  ：仅列出行；
-w  ：仅列出多少字(英文单字)；
-m  ：多少字符；

默认使用wc统计/etc/passwd:
#wc /etc/passwd
     /etc/passwd
40是行数，45是单词数，1719是字节数

#wc -l /etc/passwd   #统计行数，在对记录数时，很常用
 /etc/passwd       #表示系统有40个账户

5、cut

cut命令可以从一个文本文件或者文本流中提取文本列。

语法：
[root@www ~]# cut -d'分隔字符' -f fields <==用于有特定分隔字符
[root@www ~]# cut -c 字符区间            <==用于排列整齐的信息
选项与参数：
-d  ：后面接分隔字符。与 -f 一起使用；
-f  ：依据 -d 的分隔字符将一段信息分割成为数段，用 -f 取出第几段的意思；
-c  ：以字符 (characters) 的单位取出固定字符区间；

示例文件：
[root@www ~]# echo $PATH
/bin:/usr/bin:/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games
#  |        |    |        |             |             |

示例：
将 PATH 变量取出，我要找出第五个路径：
#echo $PATH | cut -d ':' -f 

将 PATH 变量取出，我要找出第三和第五个路径：
#echo $PATH | cut -d ':' -f ,

将 PATH 变量取出，我要找出第三到最后一个路径：
echo $PATH | cut -d ':' -f -

将 PATH 变量取出，我要找出第一到第三个路径：
#echo $PATH | cut -d ':' -f -

将 PATH 变量取出，我要找出第一到第三，还有第五个路径：
echo $PATH | cut -d ':' -f -,

实用例子:只显示/etc/passwd的用户和shell：
#cat /etc/passwd | cut -d ':' -f ,

参考：http://www.cnblogs.com/ggjucheng/archive/2013/01/13/2858385.html

http://www.cnblogs.com/xudong-bupt/p/3721210.html