grep文本过滤工具

grep命令是Linux系统中最重要的命令之一,功能是从文本文件管道数据流中筛选匹配的数据,如果再配合正则表达式,功能十分强大,是Linux运维人员必备的命令

语法:

  1. grep [options] [pattern] [file]
  2. 命令 参数 匹配模式 文件数据

grep命令里的匹配模式就是你想要找的东西,可以是普通的文字符号,也可以是正则表达式

参数选项 解释说明
-v 排除匹配结果
-n 显示匹配行与行号
-i 不区分大小写
-c 只统计匹配的行数
-E 使用egrep命令
--color=auto 为grep过滤结果添加颜色
-w 只匹配过滤的单词
-o 只输出匹配的内容

案例

  1. cat /etc/passwd > /tmp/test_grep.txt
  2. grep "login" /tmp/test_grep.txt -n #找出login有关行
  3. grep "login" /tmp/test_grep.txt -n -v #找出没有login的行
  4. grep "ROOT" /tmp/test_grep.txt -i #忽略大小写,找出root有关行
  5. grep -E "root|sync" /tmp/test_grep.txt --color=auto #同时过滤出root和sync有关行
  6. grep "login" /tmp/test_grep.txt -c #统计匹配结果的行数
  7. grep "login" /tmp/test_grep.txt -n -o #只输出匹配出的内容
  8. grep "oldboy" /tmp/test_grep.txt -w #完整匹配,字符串精确匹配,整个单词
  9. grep -E "^#|^$" /tmp/test_grep.txt #过滤掉空白和注释行

sed字符流编辑器

注意sed和awk使用单引号,双引号有特殊解释

sed是Stream Editor(字符流编辑器)的缩写,简称流编辑器。

sed是操作、过滤和转换文本内容的强大工具。常用功能包括对文件实现快速增删改查,其中查询的功能中最常用的两大功能是过滤(过滤指定字符串)、取行(取出指定行)。

语法:

  1. sed [选项] [sed内置命令字符] [输入文件]

选项:

参数选项 解释
-n 取消默认sed的输出,常与sed内置命令p一起用
-i 直接将修改结果写入文件,不用-i,sed修改的是内存数据

sed的内置命令字符用于对文件进行不同的操作功能,如对文件增删改查

sed常用内置命令字符

sed的内置命令字符 解释
a append,对文本追加,在指定行后面添加一行/多行文本
d Delete,删除匹配行
i insert,表示插入文本,在指定行前添加一行/多行文本
p Print ,打印匹配行的内容,通常p与-n一起用
s/正则/替换内容/g 匹配正则内容,然后替换内容(支持正则),结尾g代表全局匹配

案例:

  1. [root@pylinux tmp]# cat student.txt
  2. 1,oldboy,100
  3. 2,alex,99
  4. 3,wupeiqi,80
  5. 4,yuchao,60
  6. #不加-i参数,以下命令都不会写入如文件,仅修改内存数据
  7. sed 'a heiheihei' student.txt #匹配每一行,在下一行添加heiheihei
  8. sed '2a heiheihei' student.txt #在第二行下面,添加heiheihei
  9. sed '3d' student.txt #删除第三行
  10. sed '2i haha' student.txt #在第二行上面,添加haha
  11. sed '2a heiha\ndadada' student.txt #在第二行下面,添加多行数据
  12. sed '1,2d' student.txt #删除1和2行
  13. sed 's/wupeiqi/WUPEIQI/g' student.txt #吧wupeiqi换成WUPEIQI
  14. sed 's#wupeiqi#WUPEIQI#g' student.txt #效果同上
  15. sed '2p' student.txt -n #打印第二行的内容,sed默认显示所有结果,-n不显示默认输出
  16. sed '1,3p' student.txt -n #显示1到3行的内容
  17. sed '11,$d' student.txt #删除11行一直到文件结尾

awk基础入门

awk是Linux实际工作中最重要的强大工具.

awk不仅是Linux系统一个命令,也是种编程语言,可以处理数据/文件生成Excel。

语法:

  1. awk [option] 'pattern{action}' file ..
  2. 命令 参数 '条件{动作}' 文件..

参数:

参数 解释
-F 指定字段分割
-v 定义或修改awk内部变量

案例:

  • awk的条件 NR表示行号,NR==5表示第五行
  • awk后面内容请使用单引号,双引号有特殊解析
  1. awk 'NR==2,NR==5' test_grep.txt #显示第2到5行之间的内容

  1. awk '{print NR,$0}' test_grep.txt #给所有内容加上行号,如同实现cat -n
  2. 解释:NR 表示行号,$0表示一整行的内容,printawk的命令,打印出结果,{print NR,$0}是awk固定语法
  1. awk 'NR==2||NR==6 {print NR,$0}' test_grep.txt #显示文本的第二行和第六行
  2. awk 'NR==2,NR==6 {print NR,$0}' test_grep.txt #显示文本的第二行到第六行

  1. awk -F ":" '{print NR,$1,$3,$NF}' test_grep.txt
  2. 解释:-F 指定分隔符,以冒号分割
  3. '{print NR,$1,$3,$NF}' 打印出NR行号,$1第一列 $3第三列 $NF最后一列,注意$0表示整行
  • awk的替换查找函数,gsub()
  1. awk '{gsub("bin","BIN",$0);print $0}' test_grep.txt
  2. 解释:gsub("想替换的内容","替换后的内容",在一整行都替换;显示替换后的整行结果)
  • 取出网卡的ip地址,注意每台机器的信息不一样
  1. 方法一:[root@pylinux tmp]# ifconfig eth0
  2. eth0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
  3. inet 10.141.32.137 netmask 255.255.192.0 broadcast 10.141.63.255
  4. ether 52:54:00:4f:ab:36 txqueuelen 1000 (Ethernet)
  5. RX packets 32262057 bytes 4978629753 (4.6 GiB)
  6. RX errors 0 dropped 0 overruns 0 frame 0
  7. TX packets 38885574 bytes 7916319323 (7.3 GiB)
  8. TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0
  9. ifconfig eth0| awk -F "inet|netmask" 'NR==2 {print $2}'
  10. 解释:因为这里信息左右两边是inetnetmask,因此以它俩分割
  11. 显示第二行的结果,第二列的信息
  12. 方法二:
  13. [root@pylinux tmp]# ip addr show eth0
  14. 2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
  15. link/ether 52:54:00:4f:ab:36 brd ff:ff:ff:ff:ff:ff
  16. inet 10.141.32.137/18 brd 10.141.63.255 scope global eth0
  17. valid_lft forever preferred_lft forever
  18. ip addr show eth0 |awk -F "inet|/18" 'NR==3 {print $2}'
  19. 解释:同理
  20. 方法三:用不同的分隔符处理
  21. ifconfig eth0|awk -F " " 'NR==2 {print $2}'
  • 搜狐面试题

处理如下文件内容,将域名取出且根据域名计数排序

  1. https://www.baidu.com/index.html
  2. https://sohu.com/index.html
  3. https://sports.sohu.com/index.html
  4. https://sports.sohu.com/index2.html
  5. https://sports.sohu.com/index3.html
  6. http://it.sohu.com/index.html
  7. http://it.sohu.com/index2.html

解法:

  1. awk -F "/" '{print $3}' test_html.txt |sort|uniq -c

Linux三剑客入门的更多相关文章

  1. Linux实战教学笔记18:linux三剑客之awk精讲

    Linux三剑客之awk精讲(基础与进阶) 标签(空格分隔): Linux实战教学笔记-陈思齐 快捷跳转目录: * 第1章:awk基础入门 * 1.1:awk简介 * 1.2:学完awk你可以掌握: ...

  2. (转)不看绝对后悔的Linux三剑客之awk实战精讲

    原文:http://blog.51cto.com/hujiangtao/1923930 一.Linux三剑客之awk命令精讲 第1章 awk基础入门 1.1 awk简介 awk不仅仅时linux系统中 ...

  3. Linux 三剑客之 awk 实战详解教程

    我们知道 Linux 三剑客,它们分别是:grep.sed.awk.在前边已经讲过 grep 和 sed,没看过的同学可以直接点击阅读,今天要分享的是更为强大的 awk. sed 可以实现非交互式的字 ...

  4. IT技术学习指导之Linux系统入门的4个阶段(纯干货带图)

    IT技术学习指导之Linux系统入门的4个阶段(纯干货带图) 全世界60%的人都在使用Linux.几乎没有人没有受到Linux系统的"恩惠",我们享受的大量服务(包括网页服务.聊天 ...

  5. Linux 基础入门(新版)”实验报告一~十二

    实验报告 日期: 2015年9月15日 一.实验的目的与要求 熟练地使用 Linux,本实验介绍 Linux 基本操作,shell 环境下的常用命令. 二.主要内容 1.Linux 基础入门& ...

  6. Linux基础入门学习笔记20135227黄晓妍

    学习计时:共24小时 读书:1小时 代码:8小时 作业:3小时 博客:12小时 一.学习目标 1. 能够独立安装Linux操作系统   2. 能够熟练使用Linux系统的基本命令   3. 熟练使用L ...

  7. Linux 基础入门 第二周9.21~9.27

    一.学习内容 本周主要学习内容主要贴合: 在进行<深入理解计算机系统>这门课的实验中没有遇到什么大问题,学习内容与上周实验<linux基础入门>有相似之处.本实验中的内容比较贴 ...

  8. 【转载】茶叶蛋干货!《超容易的Linux系统管理入门书》(连载十)进行动态主机配置DHCP

    使用动态主机配置协议DHCP(Dynamic Host Configuration Protocol)则可以避免网络参数变化后一些繁琐的配置,客户端可以从DHCP服务端检索相关信息并完成相关网络配置, ...

  9. 【转载】绝对干货!Linux小白最佳实践:《超容易的Linux系统管理入门书》(连载九)如何通过源代码安装软件

    除了使用Linux的包管理机制进行软件的安装.更新和卸载,从源代码进行软件的安装也是非常常见的,开源软件提供了源代码包,开发者可以方便的通过源代码进行安装.从源码安装软件一般经过软件配置.编译软件.执 ...

随机推荐

  1. centos ftp服务器搭建 vsftpd 匿名访问配置方法 ftp 550 Failed to open file 错误处理

    vsftpd是linux下常用的ftp服务软件,配置起来其实不复杂,只是网上很多文章,配置后都无法成功.我使用它是用于局域网内部分享文件的,所以使用匿名的方式. ftp本身密码是明文传输的,如果需要安 ...

  2. Vue基础框架

    <!DOCTYPE html> <html> <head> <meta charset="utf-8"> <!-- 设置语言为 ...

  3. C# CSV Generic T

    This artice will write the main step to export generic data via csv with complete code and step by s ...

  4. python语法01

    在某.py文件中调用其他.py文件中的内容. 全局变量的使用. 线程的使用. if name == 'main': 的作用 新建两个python脚本文件 f1File.py ""& ...

  5. Asp.Net真分页技术

    最近学校要做课题,闲来没事研究了下Asp.net的分页,我使用Repeater进行数据的绑定,每次从数据库读取到8条数据填充到Repeater中,这样搞可以降低数据库的压力,提高效率. 效果图如下: ...

  6. ABP中文网的一些BUG

    之前一些翻译了的文档没有及时更新.比如 IAsyncCrudAppService接口在很久之前的版本就已经改为了ICrudAppService,如果是在官网下载的最新实例中IAsyncCrudAppS ...

  7. WebApi生成文档

    本文包括两个部分: webapi中使用swagger 修改webapi的路由和默认参数 WebApi中使用swagger 项目打开之后,选择 引用,右键,管理NuGet程序包 浏览,搜索swagger ...

  8. 浅析java线程和OS线程的关系

    探究java线程和OS线程之间的联系 一.准备工作 1.查看linux创建线程的方法    man pthread_create 根据man的配置可知,pthread_create会创建一个线程,这个 ...

  9. xcodeinstruments 内存检测

    http://blog.csdn.net/totogo2010/article/details/8233565

  10. mysql建库,建表,补列

    SET NAMES UTF8;DROP DATABASE IF EXISTS tmooc; CREATE DATABASE tmooc CHARSET=UTF8; USE tmooc;CREATE T ...