Linux去重命令uniq（转）

注意：需要先排序sort才能使用去重。

Linux uniq命令用于检查及删除文本文件中重复出现的行列。

uniq可检查文本文件中重复出现的行列。

语法

uniq [-cdu][-f<栏位>][-s<字符位置>][-w<字符位置>][--help][--version][输入文件][输出文件]

参数：

-c或--count 在每列旁边显示该行重复出现的次数。
-d或--repeated 仅显示重复出现的行列。
-f<栏位>或--skip-fields=<栏位> 忽略比较指定的栏位。
-s<字符位置>或--skip-chars=<字符位置> 忽略比较指定的字符。
-u或--unique 仅显示出一次的行列。
-w<字符位置>或--check-chars=<字符位置> 指定要比较的字符。
--help 显示帮助。
--version 显示版本信息。
[输入文件] 指定已排序好的文本文件。
[输出文件] 指定输出的文件。

实例

文件testfile中第2 行、第5 行、第9 行为相同的行，使用uniq命令删除重复的行，可使用以下命令：

uniq testfile 

testfile中的原有内容为：

cat testfile
#原有内容
test 30
test 30
test 30
Hello 95
Hello 95
Hello 95
Hello 95
Linux 85
Linux 85

使用uniq命令删除重复的行后，有如下输出结果：

uniq testfile
#删除重复行后的内容
test 30
Hello 95
Linux 85

检查文件并删除文件中重复出现的行，并在行首显示该行重复出现的次数。使用如下命令：

uniq-c testfile 

结果输出如下：

uniq-ctestfile
#删除重复行后的内容
3 test 30             #前面的数字的意义为该行共出现了3次
4 Hello 95            #前面的数字的意义为该行共出现了4次
2 Linux 85            #前面的数字的意义为该行共出现了2次 

转自：http://www.runoob.com/linux/linux-comm-uniq.html

参考：

http://www.jb51.net/article/69277.htm